근거가 있는 AI 요약도 틀릴 수 있습니다
커뮤니티 LLM QA에서 ID 검증과 의미 검증을 나눈 이유 근거가 존재하는 것과, 그 근거가 요약을 뒷받침하는 것은 다릅니다. 커뮤니티 게시글을 분석하고 종합 요약하는 서비스를 검증하면서 가장 선명하게 배운 점입니다. 문장은 자연스러웠고 대표 게시글도 연결돼 있었습니다. 그런데 근거를 열어 보면 요약과 반대되는 의견이 담겨 있었습니다. 예를 들어, 요약에는 ‘장비 교체가 빠르다’고 적혀 있는데 대표 글은 ‘교체가…