서문 이전 글에서 Safety 정책을 개념 수준으로 다뤘지만,실제 서비스 도입 시에는 정책의 깊이와 디테일이 서비스 품질에 직접적인 영향을 줍니다. 제가 처음 Safety 정책을 접한 건 CS 챗봇 구축 시 Fallback 시나리오 설계 단계였습니다.그 당시, 비윤리 발화나 악성 발화를 걸러내는 기본 카테고리를 Fallback으로 제공했고,이것이 나중에 LLM 챗봇에서 말하는 Safety 정책과 동일하다는 것을 뒤늦게 알게 됐죠. 이러한…
서문 LLM 기반 챗봇을 처음 기획하면서 가장 어려웠던 점은, 핵심 개념들이 전혀 익숙하지 않다는 점이었습니다. 예를 들어, 처음 들었던 ‘RAG’, ‘폴백 시나리오’, ‘쿠션멘트’ 같은 용어들은 그 의미조차 가늠이 되지 않아 막막했던 기억이 납니다. RAG, LLM, 프롬프트 등의 용어부터 구조, 그리고 대응 방식까지 모두 새로운 세계였습니다. 무엇보다도 제가 가장 먼저 가졌던 생각은… “AI니까 방향만 입력해주면 알아서…
글을 쓰는 사람으로 남고 싶어서 다시 글을 쓰기로 했습니다.마지막으로 블로그에 무언가를 올린 게 벌써 4년 전쯤이더군요.그 사이 많은 게 바뀌었습니다.일도, 관심사도, 그리고 글을 대하는 마음도요. 예전엔 좋은 내용을 찾아 퍼나르고, 예쁘게 다듬는 데에 집중했습니다.트래픽도 생기고, 관심도 받았지만…어딘가 허전했습니다.‘나만의 콘텐츠를 써보고 싶다’는 마음이 쌓였고,그 결심의 기한은 어느새 한참 지나버렸네요. 잘하고 싶은 마음,좀 더 멋져 보이고 싶은…