AI는 확신이 낮을 때 언제 사람에게 넘겨야 할까?

그림에서 무엇을 볼까요?

정답 가능성 70퍼센트와 오류 비용 10점에서 자동 처리 예상 비용 3점이 사람 검토 2점보다 커 검토로 보내는 흐름

정답 가능성이 70%인 자동 분류를 생각해 보자. 오류 한 번의 영향이 10점이면 자동 처리의 교육용 예상 비용은 0.3×10=3점이다. 사람 검토 비용이 2점이라면 이 모형은 검토 경로를 고른다.

NIST AI RMF Playbook의 Manage 영역은 영향과 가능성, 자원, 조직의 위험 허용도를 고려해 위험을 우선순위화하고 대응 결정을 문서화하도록 안내한다. 확신 하나만으로 모든 사용 맥락의 결정을 대신할 수 없다.