[AI 품질 개선 시리즈 1/3] Safety와 UX 충돌: 욕설은 막아도, 버그 제보는 놓치면 안 됩니다 [AI 품질 개선 시리즈 2/3] fallback_idk 분석: 챗봇의 “모르겠습니다”를 품질 개선으로 바꾸는 법 [AI 품질 개선 시리즈 3/3] OOD 기준: 챗봇의 책임 범위를 정하는 법 AI 챗봇에서 Safety는 중요합니다. 다만 실무에서는 다른 문제가 생기기도 합니다. 욕설이나 강한 표현을 막는 데…
1. 서문 앞선 글에서는 Safety 정책과 폴백·쿠션멘트 설계를 다뤘습니다. 이번에는 이 요소들이 RAG 파이프라인 속에서 어떻게 연결되는지를 이야기하려 합니다. 먼저 간단히 복습하자면: LLM (Large Language Model): 대규모 언어 모델. 질문을 이해하고 답변을 생성하는 엔진 RAG (Retrieval-Augmented Generation): LLM이 답변을 생성하기 전, 검색으로 근거 자료를 찾아 활용하는 최신화 프레임워크 → 즉, “검색 기반 + 생성형”을 결합해…
1. 서문 챗봇 기획에서 폴백(Fallback) 과 쿠션멘트(Cushion Message) 는 단순한 보조 장치가 아닙니다. 서비스가 복잡해질수록 이 두 장치는 사용자 경험을 지키는 안전망이 됩니다. 저는 CS 챗봇 시절부터 AI 챗봇까지 이어지는 과정에서 이 두 요소를 어떻게 설계·운영했는지를 경험했고, 그 과정에서 얻은 시행착오와 교훈을 공유하고자 합니다. 2. 타임라인: Rule 기반 → AI 기반 CS 챗봇 (Rule-Based) 매칭…