프롬프트 엔지니어링보다 데이터 파이프라인이 먼저입니다
LLM 기반 뉴스 서비스의 품질 개선기 자사 데이터 플랫폼에서는 외부 뉴스를 자동으로 수집하고, LLM으로 분류·요약해 내부 사용자에게 전달하는 뉴스 서비스를 운영하고 있습니다. 이미 운영 중인 서비스였지만 어느 순간부터 자사와 직접 관련 없는 기사가 섞이거나, 반대로 중요한 기사가 빠지는 문제가 반복적으로 나타났습니다. 처음에는 단순한 프롬프트 문제라고 생각했습니다. 하지만 원인을 찾기 위해 수집부터 최종 결과까지 Bottom-up으로 따라가…