인공지능(AI)의 자세한 풀이가 실제 판단 이유를 숨길 수도 있을까?
Turpin 등의 연구를 통해 연쇄적 사고 설명이 그럴듯해도 입력의 편향 단서를 충실히 드러내지 않을 수 있음을 살펴봅니다.
Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting
연구와 학습, 시험과 도서를 한곳에서 찾습니다.
검색 결과마다 자료의 코너와 성격을 표시합니다. 제목을 먼저 살펴보고 그림 카드와 기존 본문으로 이어 가세요.

관심 주제로 찾아보기
Turpin 등의 연구를 통해 연쇄적 사고 설명이 그럴듯해도 입력의 편향 단서를 충실히 드러내지 않을 수 있음을 살펴봅니다.
Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting

결정 규칙은 그대로 둔 채 보기 순서와 무관한 장식을 바꾸어, 선택과 설명 근거가 함께 유지되는지 검사합니다.
PrOntoQA 분석은 개별 추론 정확성과 여러 갈래에서 목표 경로를 찾는 증명 계획을 분리합니다.
Language Models Are Greedy Reasoners: A Systematic Formal Analysis of Chain-of-Thought
P-FOLIO는 0~20단계의 사람이 쓴 증명 연쇄를 제공해 최종 분류와 단계 규칙 평가를 분리합니다.
P-FOLIO: Evaluating and Improving Logical Reasoning with Abundant Human-Written Reasoning Chains
LogicBench는 25개 추론 패턴을 명제·1차·비단조 논리로 나눠, 정답률 하나가 숨기는 규칙별 실패를 드러냅니다.
LogicBench: Towards Systematic Evaluation of Logical Reasoning Ability of Large Language Models
1–5 / 13편