[AI 품질 개선 시리즈 1/3] Safety와 UX 충돌: 욕설은 막아도, 버그 제보는 놓치면 안 됩니다 AI 챗봇에서 Safety는 중요합니다. 다만 실무에서는 다른 문제가 생기기도 합니다. 욕설이나 강한 표현을 막는 데 집중하다 보면, 그 문장 안에 있던 실제 사용자 의도까지 함께 잘려나가는 경우가 있기 때문입니다. 예를 들어 감정이 섞인 버그 제보나 문의 접수 요청이 단순한 위험…
Antigravity + NotebookLM으로 시도한 블로그 QA 실험 회고 요즘 AI 흐름을 보면 OpenClaw, Claude Computer Use처럼 강한 실행권을 가진 에이전트 도구가 빠르게 늘어나고 있습니다. 이 흐름을 보다 보면 PM 입장에서는 자연스럽게 이런 질문이 생깁니다. “지금 당장 멀티 에이전트 팀을 꾸려봐야 하나?” “트렌드를 따라가려면 일단 화려한 데모부터 만들어야 하는 것 아닐까?” 저도 비슷한 고민을 했으나, 결론은…
1. 들어가며 앞선 글에서는 “컨텍스트를 어떻게 설계했는가”를 다뤘습니다.하지만 프로젝트를 진행하며 다시 깨달은 건, 아무리 컨텍스트를 잘 짜도 배포 환경이 받쳐주지 않으면 안 된다는 사실이었습니다. 실제 경험을 예로 들어보겠습니다.2차 테스트에서 정확도가 79%까지 수직 상승하며 “드디어 안정권이다”라고 안심했습니다. 그런데 3차 테스트에서는 빌드와 데이터가 동일했음에도 불구하고, 정확도가 67%로 급락했습니다. 당시 팀 분위기는 충격 그 자체였습니다. 2. 문제 발견…