AI 챗봇 프로젝트에서 배운 배포 환경의 중요성
1. 들어가며 앞선 글에서는 “컨텍스트를 어떻게 설계했는가”를 다뤘습니다.하지만 프로젝트를 진행하며 다시 깨달은 건, 아무리 컨텍스트를 잘 짜도 배포 환경이 받쳐주지 않으면 안 된다는 사실이었습니다. 실제 경험을 예로 들어보겠습니다.2차 테스트에서 정확도가 79%까지 수직 상승하며 “드디어 안정권이다”라고 안심했습니다. 그런데 3차 테스트에서는 빌드와 데이터가 동일했음에도 불구하고, 정확도가 67%로 급락했습니다. 당시 팀 분위기는 충격 그 자체였습니다. 2. 문제 발견…
