“챗봇 성능을 올린 건 프롬프트가 아니라, 컨텍스트였다.” 1. 들어가며 “Context Engineering? 어렵다고 생각했지만, 해보니 그렇지 않았다.” 요즘 LLM 관련 커뮤니티나 관련 글에서는 ‘Prompt Engineering은 끝났다. 이제는 Context Engineering의 시대다’라는 이야기가 심심치 않게 들립니다. 하지만 솔직히 말해, 처음에 Context Engineering이라는 말은 꽤 어렵게 느껴졌습니다. ‘컨텍스트’라는 단어 자체가 다소 추상적이고, 마치 개발자들만 다루는 고난도 영역처럼 느껴졌거든요….
1. 서문 앞선 글에서는 Safety 정책과 폴백·쿠션멘트 설계를 다뤘습니다. 이번에는 이 요소들이 RAG 파이프라인 속에서 어떻게 연결되는지를 이야기하려 합니다. 먼저 간단히 복습하자면: LLM (Large Language Model): 대규모 언어 모델. 질문을 이해하고 답변을 생성하는 엔진 RAG (Retrieval-Augmented Generation): LLM이 답변을 생성하기 전, 검색으로 근거 자료를 찾아 활용하는 최신화 프레임워크 → 즉, “검색 기반 + 생성형”을 결합해…
1. 서문 챗봇 기획에서 폴백(Fallback) 과 쿠션멘트(Cushion Message) 는 단순한 보조 장치가 아닙니다. 서비스가 복잡해질수록 이 두 장치는 사용자 경험을 지키는 안전망이 됩니다. 저는 CS 챗봇 시절부터 AI 챗봇까지 이어지는 과정에서 이 두 요소를 어떻게 설계·운영했는지를 경험했고, 그 과정에서 얻은 시행착오와 교훈을 공유하고자 합니다. 2. 타임라인: Rule 기반 → AI 기반 CS 챗봇 (Rule-Based) 매칭…