논리적 사고

온도를 바꾸면 인공지능(AI)의 1위 답은 그대로인데 확신만 달라질까?

로짓과 온도를 바꾸어 확률 간격을 직접 계산하고, 양의 온도 조정이 확신 표현은 바꾸지만 같은 로짓의 1위 답은 바꾸지 않는 이유를 확인합니다.

그림에서 무엇을 볼까요?

세 로짓을 양의 온도로 나눈 뒤 소프트맥스 확률로 바꾸며 확률 간격은 달라져도 1위 순서는 유지되는 흐름도

가상 분류기가 답 A·B·C에 2.4, 1.4, 0.4의 로짓을 냈다고 합시다. 온도 T가 1이면 소프트맥스 확률은 대략 66.5%, 24.5%, 9.0%가 됩니다. T를 2로 높이면 간격은 줄지만 양의 수로 모두 나누므로 A>B>C의 순서는 유지됩니다.

아래 활동에서는 로짓과 T를 직접 바꿉니다. 이는 실제 AI 호출이나 특정 제품의 현재 성능이 아니라 소프트맥스 계산을 눈으로 확인하는 교육용 모형입니다.

Guo 등의 실험은 당시의 신경망과 자료에 관한 결과입니다. 이 페이지의 세 로짓은 LTCT가 만든 가상 값이며 최신 상용 AI의 신뢰도를 나타내지 않습니다.

온도 조정은 단일 스칼라를 쓰는 보정법입니다. 집단별 오류, 분포 변화, 클래스별 보정 문제를 자동으로 해결하지 않습니다.

확률이 잘 보정되어도 각 답의 사실성이나 윤리적 적합성이 자동으로 보장되지 않습니다.

온도를 높여 확신을 낮췄는데 정답률도 자동으로 좋아질까요?