통합검색

그럴듯한 AI 해설은 실제 판단 이유와 같을까

마일스 터핀 등의 연구는 언어모델이 출력한 단계별 설명이 답에 영향을 준 요인을 충실하게 드러내는지 묻습니다. 저자들은 입력의 편향 요소가 답에 영향을 주었는데도 설명에서는 그 영향이 언급되지 않는 사례를 보고합니다. 설명의 설득력과 판단 이유에 대한 충실성을 구분해 읽을 수 있는 논문입니다.

언어모델은 생각한 대로 항상 말하지 않는다 — Language Models Don’t Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting

인간의 사고와 추론

판단·편향·인지 과정

사람의 판단을 이해하다

직관과 확신, 선택이 이루어지는 과정 · 직관과 기억, 익숙함과 확신이 판단 과정에 어떻게 작용하는지 살핍니다. 인지 편향과 판단의 수정, 여러 목표 사이에서 선택하는 이유를 함께 읽습니다.

인공지능(AI)의 자세한 풀이가 실제 판단 이유를 숨길 수도 있을까?

같은 질문에 편향 단서를 끄고 켠 두 경로가 서로 다른 답으로 이어지지만 두 설명 모두 그럴듯하게 보이는 비교 도식.

결론이 그럴듯하면 잘못된 삼단논법도 타당해 보일까?

전제 구조의 논리 경로와 결론의 믿을 만함 경로가 논증 수용 판단에서 합류하는 이중 경로도