Safety와 UX 충돌: 욕설은 막아도, 버그 제보는 놓치면 안 됩니다
[AI 품질 개선 시리즈 1/3] Safety와 UX 충돌: 욕설은 막아도, 버그 제보는 놓치면 안 됩니다 AI 챗봇에서 Safety는 중요합니다. 다만 실무에서는 다른 문제가 생기기도 합니다. 욕설이나 강한 표현을 막는 데 집중하다 보면, 그 문장 안에 있던 실제 사용자 의도까지 함께 잘려나가는 경우가 있기 때문입니다. 예를 들어 감정이 섞인 버그 제보나 문의 접수 요청이 단순한 위험…