AI가 틀린 답을 줄 때, 오작동 처리 설계가 제품 신뢰성을 결정한다 AI 제품의 신뢰성은 정답률이 아니라 오답 처리 방식에서 결정됩니다. AI 기능이 들어간 제품을 기획하는 창업자에게 가장 자주 듣는 표현이 있습니다. 정확도 95퍼센트라는 표현입니다. 정확도가 높을수록 좋은 제품이라는 가정이 자연스럽게 깔립니다. 그러나 실제 사용자 경험을 결정하는 것은 정답률이 아니라 나머지 5퍼센트, 즉 AI가 틀렸을 때 제품이 어떻게 반응하는가입니다. AI 모델은 통계적 추론이고, 100퍼센트 정답을 내는 모델은 사실상 존재하지 않습니다. 학습 데이터에 없는 패턴, 노이즈가 섞인 입력, 사용자의 비정형 행동이 들어오면 모델은 자기 확신을 가지고 틀린 답을 내놓을 수 있습니다. 시제품 단계에서..
