llm2 네트워크 구성도 (Mermaid, LLM 자동화, 다이어그램) 인프라를 처음 인수인계받았을 때, 제일 먼저 찾게 되는 게 네트워크 구성도입니다. 그런데 막상 열어보면 현실과 전혀 다른 '화석 문서'가 기다리고 있는 경우가 태반이었습니다. 저도 그 상황을 여러 번 겪었고, 결국 직접 해결책을 찾아 나섰습니다.Mermaid와 LLM 자동화로 구성도를 코드처럼 관리하기팀에 새 사람이 들어올 때마다 반복되는 상황이 있었습니다. 레거시 Visio 파일을 열어두고 "이거 지금도 맞는 거야?"라는 물음이 공중에 떠도는 것입니다. 처음엔 단순히 업데이트를 안 한 사람의 문제라고 생각했는데, 직접 겪어보니 구조적인 문제였습니다. 실제 인프라는 스프린트마다 바뀌는데, 다이어그램을 별도로 유지하는 건 사실상 이중 관리입니다. 어느 순간부터 아무도 건드리지 않게 됩니다. 이건 담당자 개.. 2026. 6. 24. 컨텍스트 엔지니어링 (RAG, 에이전트, 프롬프트) 프롬프트만 다듬었던 제가 틀렸던 이유솔직히 고백하자면, 저는 꽤 오랫동안 프롬프트만 잘 다듬으면 AI가 잘 작동할 거라고 믿었습니다. 시스템 프롬프트에 공을 들이고, 문장을 다듬고, 지시어를 바꿔보고. 그런데 어느 순간 깨달았습니다. 제가 정작 중요한 걸 놓치고 있었다는 것을요. 컨텍스트 엔지니어링은 그 깨달음 이후 제 개발 방식을 완전히 바꿔놓은 개념입니다.혹시 이런 경험 있으신가요? LLM 챗봇을 만들었는데, 프롬프트를 아무리 정교하게 다듬어도 답변 품질이 어느 선에서 더 이상 올라가지 않는 느낌. 저는 내부 문서 검색 챗봇을 개발하면서 정확히 그 벽에 부딪혔습니다.처음에는 시스템 프롬프트에 "친절하게 답변하고, 모르면 모른다고 해라"는 식의 행동 지침을 계속 다듬었습니다. 3주를 그렇게 썼는데, 작.. 2026. 6. 10. 이전 1 다음
