챗봇을 운영하다 보면 가장 답답한 순간이 있습니다. 모델 성능이 부족할 때가 아니라, “무엇이 문제인지 명확히 보이지 않을 때”입니다. 당시 운영에서는 응답 경로를 아래 3개로 구분해 확인했습니다. FAQ(지식 기반 답변) Ticket(문의 접수·이관) Other(미분류) 문제는 늘 Other(미분류)였습니다. 지표가 흔들릴 때도 “Other가 늘었다”는 사실까지만 보이고, 그 안에서 어떤 원인이 늘었는지는 잘 드러나지 않았습니다. 3분류 라벨로는 개선이 막연해집니다. 그래서…
지난해 추석 연휴에 만들었던 현대차 챗봇 데모를 다시 손보았습니다. 겉으로 보면 막바지 안정화 작업처럼 보일 수 있지만, 실제로는 챗봇 서비스에서 중요한 핵심 계층을 다시 점검한 5시간의 밀도 높은 패치 작업이었습니다. 단순히 코드를 고치는 것을 넘어, 불안정한 원인을 좁히고 핵심 엔티티(Entity)의 인식 안정성을 높이며, QA를 통해 일관성을 확보하는 데 집중했습니다. 작업 방식의 변화: Cursor-first 이번에는 ChatGPT와…
IDE, MCP, Agent를 어떻게 이해하고 설계할까 최근 AI 코딩 도구와 모델이 빠르게 좋아지면서 개발 방식도 크게 바뀌고 있습니다. 하지만 여기서 단순히 “모델이 얼마나 똑똑한가”만 보면 핵심을 놓치기 쉽습니다. 실제로 서비스를 만들 때 더 중요한 건, 이 강력한 AI를 어떤 구조로 연결하고 굴릴 것인가입니다. 즉, 이제 AI 개발은 점점 지능의 싸움이 아니라 구조의 싸움에 가까워지고 있습니다….