IT적응기95 로컬 LLM 도입기 (Ollama, 하이브리드 라우팅, 데이터 거버넌스) 로컬 LLM이 클라우드 API보다 무조건 안전하다고 생각하십니까? 저도 처음엔 그렇게 믿었습니다. 그런데 실제로 사내 프로젝트에 Ollama를 도입해보고 나서, 그 믿음의 절반은 틀렸다는 걸 알게 됐습니다. GPT-4 API 기반 프로토타입을 다 만들어놓은 시점에 "이 데이터 외부로 나가면 안 됩니다"라는 한마디를 들었을 때, 그 막막함이 오히려 제대로 된 공부의 시작이었습니다.Ollama 설치와 첫인상, 기대와 현실 사이일반적으로 로컬 LLM은 설치부터 복잡하다고 알려져 있지만, Ollama는 달랐습니다. macOS 기준으로 명령어 한 줄 설치 후 모델 실행 명령어 하나로 모델이 로컬에서 바로 구동됐습니다. 처음 터미널에 응답이 뜨는 순간은 솔직히 예상 밖이었습니다. "이게 진짜 내 컴퓨터에서 돌아가는.. 2026. 5. 23. 프롬프트 엔지니어링 (역할 부여, CoT, 팀 적용) "AI한테 그냥 말하면 되는 거 아닌가?" 하고 가볍게 생각했습니다. 그런데 막상 써보니, 같은 질문도 어떻게 구성하느냐에 따라 결과물이 완전히 달랐습니다. 프롬프트 엔지니어링이 단순한 테크닉이 아니라 '명확하게 생각하는 능력'이라는 걸 실감한 건 꽤 시간이 지난 뒤였습니다.역할 부여와 CoT, 실제로 써보니 달랐습니다처음에 변화가 느껴진 건 Role Prompting, 즉 역할 부여 기법을 쓰기 시작했을 때였습니다. Role Prompting이란 AI에게 특정 페르소나를 지정해 응답의 전문성과 일관성을 끌어올리는 방식입니다. "코드 리뷰해줘"라고 했을 때와 "당신은 10년 경력의 Python 시니어 개발자이며, 보안과 성능 최적화에 전문성이 있습니다. 아래 코드의 보안 취약점과 성능 병목을 지적하고 개.. 2026. 5. 22. AI 회의록 자동화 (도구 비교, Notion AI, 액션 아이템) 회의록을 AI에게 맡기면 회의가 효율적으로 바뀔까요? 저는 한동안 그렇게 믿었습니다. 그런데 실제로 써보고 나서 깨달은 건, 문제는 회의록이 아니었다는 사실이었습니다. 회의가 끝난 뒤 아무도 실행하지 않는 것, 그게 진짜 문제였습니다.도구 비교: Otter.ai에서 Notion AI로 갈아탄 이유회의록을 손으로 쓰던 시절을 기억하십니까? 저희 팀에서는 매주 약 3시간 분량의 회의가 있었고, 그 자리에서 누군가는 반드시 노트북을 붙잡고 앉아 있어야 했습니다. 회의 중에는 온전히 집중하지 못한 채 받아 적다가, 끝나고 나면 1~2시간을 추가로 써서 정리했습니다. 기억이 흐릿해진 부분은 자기도 모르게 주관이 개입되기도 했고, 결정적인 내용이 빠지는 일도 한두 번이 아니었습니다.처음 도입한 도구는 Otter.a.. 2026. 5. 20. AI 코딩 툴 비교 (워크플로, 컨텍스트, 팀 도입) "어떤 AI 코딩 툴 쓰세요?" 개발자 커뮤니티에서 요즘 가장 많이 나오는 질문입니다. GitHub Copilot, Cursor, Windsurf 세 가지를 모두 실무에서 써본 입장에서 정직하게 말씀드리겠습니다. 기능 나열이 아니라, 실제로 어떤 상황에서 어떤 툴이 맞는지를 경험 기반으로 풀어봤습니다.워크플로에 가장 빠르게 녹아드는 건 어느 쪽인가처음 GitHub Copilot을 사용했을 때 가장 먼저 든 생각은 "이게 이렇게 자연스러울 수가 있나"였습니다. 기존에 쓰던 VS Code에 확장 프로그램 하나 설치했을 뿐인데, 탭 한 번으로 보일러플레이트 코드가 완성되는 경험은 꽤 인상적이었습니다. 보일러플레이트(Boilerplate)란 매번 반복적으로 작성해야 하는 기본 구조 코드입니다. REST API .. 2026. 5. 19. AI 코드 리뷰 (심리적 저항, 보안, 팀 성장) 솔직히 말하면, AI 코드 리뷰를 도입하기 전까지 저는 "어차피 시니어들이 거부하면 끝"이라고 생각했습니다. 실제로 3개월을 운영해보니 예상과 전혀 다른 지점에서 문제가 생겼고, 또 예상치 못한 곳에서 효과가 났습니다.심리적 저항: 예상했지만, 예상과 달랐던 지점AI 코드 리뷰를 처음 제안했을 때 가장 먼저 부딪힌 건 팀원들의 심리적 거부감이었습니다. 특히 시니어 개발자들은 "AI가 내 코드를 평가한다고?"라는 반응을 보였습니다. 10년 넘게 쌓아온 실력을 알고리즘이 채점한다는 느낌이었겠죠.이 장벽을 넘기 위해 저는 처음에 AI 리뷰 결과를 팀 전체에 공개하지 않는 방식을 선택했습니다. 작성자 본인에게만 먼저 피드백이 가고, 스스로 검토한 뒤 필요하면 수정해서 PR(Pull Request)을 올리는 구조.. 2026. 5. 18. AI 코딩 (프롬프트, 할루시네이션, 프로토타입) AI가 만든 코드의 완성도는 80~90% 수준이라고 알려져 있습니다. 나머지 10~20%는 사람이 검증해야 한다는 뜻인데, 저는 이 숫자를 처음 접했을 때 솔직히 "그 정도면 충분하지 않나?" 싶었습니다. 직접 써보고 나서야 그 10~20%가 얼마나 위험한 영역인지 알게 됐습니다.기획자가 처음 AI 코딩을 마주쳤을 때개발 리소스가 없어서 2주를 기다려야 하는 상황이었습니다. 급하게 필요한 건 간단한 데이터 시각화 대시보드 프로토타입이었고, 반신반의하며 ChatGPT에 "HTML, CSS, JavaScript로 월별 매출 막대 그래프 대시보드를 만들어줘. 하드코딩 데이터로 작동하면 돼"라고 입력했습니다.5분 후 완전히 동작하는 코드가 나왔습니다. 솔직히 이건 예상 밖이었습니다. 처음엔 반응형 레이아웃이 깨.. 2026. 5. 16. 이전 1 ··· 4 5 6 7 8 9 10 ··· 16 다음
