📘 1부: 프롬프트는 질문, 엔지니어링은 설계입니다
부제: 더 좋은 응답을 쉽게 얻는 법 LLM을 쓰다 보면 누구나 한 번쯤 이런 경험을 합니다. “어제는 잘하더니 오늘은 왜 이렇게 엉뚱하게 답하지?” “GPT가 작업 중간에 뭔가 잃어버린 것 같은데?” “이렇게 스펙을 정리했는데 왜 다른 걸 이해하지…?” 이 차이를 만드는 핵심 원인은 프롬프트를 어떻게 입력 혹은 설계했느냐입니다. 같은 모델에게 요청해도 결과가 다르게 나오는 이유죠….
AI 챗봇, RAG 파이프라인 속 기획자의 역할
1. 서문 앞선 글에서는 Safety 정책과 폴백·쿠션멘트 설계를 다뤘습니다. 이번에는 이 요소들이 RAG 파이프라인 속에서 어떻게 연결되는지를 이야기하려 합니다. 먼저 간단히 복습하자면: LLM (Large Language Model): 대규모 언어 모델. 질문을 이해하고 답변을 생성하는 엔진 RAG (Retrieval-Augmented Generation): LLM이 답변을 생성하기 전, 검색으로 근거 자료를 찾아 활용하는 최신화 프레임워크 → 즉, “검색 기반 + 생성형”을 결합해…
AI 챗봇 기획, 폴백·쿠션멘트 제대로 설계하는 법
1. 서문 챗봇 기획에서 폴백(Fallback) 과 쿠션멘트(Cushion Message) 는 단순한 보조 장치가 아닙니다. 서비스가 복잡해질수록 이 두 장치는 사용자 경험을 지키는 안전망이 됩니다. 저는 CS 챗봇 시절부터 AI 챗봇까지 이어지는 과정에서 이 두 요소를 어떻게 설계·운영했는지를 경험했고, 그 과정에서 얻은 시행착오와 교훈을 공유하고자 합니다. 2. 타임라인: Rule 기반 → AI 기반 CS 챗봇 (Rule-Based) 매칭…
