인공지능(AI)의 자세한 풀이가 실제 판단 이유를 숨길 수도 있을까?

그림에서 무엇을 볼까요?

같은 질문에 편향 단서를 끄고 켠 두 경로가 서로 다른 답으로 이어지지만 두 설명 모두 그럴듯하게 보이는 비교 도식.

LTCT 가상 AI는 네 후보 설명 중 하나를 고릅니다. 예시 정답이 모두 첫 번째 위치에 놓인 편향 단서를 켜면, 내용이 같은데도 첫 선택지 쪽 점수가 올라갑니다.

아래 활동에서 선택지 편향과 설명 공개 여부를 바꾸면 답의 안정성 경고가 달라집니다. 실제 모델이나 API를 호출하지 않는 결정 규칙 모형이며, 수치는 원 논문 정확도가 아닙니다.