산업 현장에서 AI를 어떻게 감시하고 있어?

우리 공장에 AI 비전 검수 시스템 도입한지 3개월 됐는데, 사고는 안 나지만 이상하게 자꾸 오탐만 늘어가고 있어. 개발팀에서는 모델 성능은 좋다 하는데, 현장에서는 매일 틀린 불량을 직접 다시 확인해야 해서 피로도만 쌓이고 있거든. MLOps 대시보드에서는 재현율 95%라고 뜨던데, 실제 현장에서는 사람 손이 계속 들어가는 이유는 뭘까?

우리처럼 AI 시스템 감시하면서 실제 운영 효율 챙기는 노하우가 있는지 궁금해. 기술적 성능 수치보다 사람이 얼마나 편안하게 일할 수 있냐가 더 중요한 것 같아서 고민된다.