AI는 낯선 입력도 아는 분류로 억지로 넣어야 할까?

가장 가까움은 충분히 가까움과 다르다

아는 범주가 토기와 금속뿐인 분류기는 낯선 유리 조각도 둘 중 하나에 더 가깝다고 말할 수 있다. 그러나 가장 가까운 후보라는 사실이 그 범주에 속한다는 보장은 아니다.

Scheirer와 동료들은 학습 때 보지 못한 클래스가 시험에 나타나는 open set 문제를 다룬다. 모든 시험 범주가 알려졌다고 가정하는 closed set과 조건이 다르다.

참고 · Walter J. Scheirer · Anderson de Rezende Rocha · Archana Sapkota · Terrance E. Boult — 알지 못하는 범주를 만나는 분류 ↗

거절 문턱을 직접 움직인다

활동의 A 중심은 25, B 중심은 75다. 입력에서 가까운 중심까지 거리가 반경 안이면 그 범주를 내고, 반경 밖이면 ‘알 수 없음’으로 보낸다.

반경을 넓히면 알 수 없음은 줄지만 낯선 입력을 억지 분류할 수 있다. 좁히면 잘못 수용은 줄지만 아는 입력도 거절할 수 있다.

거절 뒤의 절차까지 설계한다

‘알 수 없음’은 실패 표시가 아니라 사람 검토, 추가 측정, 새 범주 수집으로 이어지는 선택이 될 수 있다. 고위험 영역일수록 이 경로가 중요하다.

실제 분류는 여러 차원의 특징과 학습된 거리, 보정된 점수를 사용한다. 이 선 위 모형으로 실제 오분류율이나 안전성을 예측할 수 없다.