인공지능(AI)의 자세한 풀이가 실제 판단 이유를 숨길 수도 있을까?
Turpin 등의 연구를 통해 연쇄적 사고 설명이 그럴듯해도 입력의 편향 단서를 충실히 드러내지 않을 수 있음을 살펴봅니다.
Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting
연구와 학습, 시험과 도서를 한곳에서 찾습니다.
검색 결과마다 자료의 코너와 성격을 표시합니다. 제목을 먼저 살펴보고 그림 카드와 기존 본문으로 이어 가세요.

관심 주제로 찾아보기
Turpin 등의 연구를 통해 연쇄적 사고 설명이 그럴듯해도 입력의 편향 단서를 충실히 드러내지 않을 수 있음을 살펴봅니다.
Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting
Wei 등의 연쇄 사고 촉진 연구를 모델 규모별로 읽고, 풀이 형식과 실제 추론 능력을 구분합니다.
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
SelfCheckGPT가 검은상자 생성 모델의 여러 표본 사이 불일치를 이용해 환각을 탐지한 방법을 읽고, 일관성과 사실성을 구분합니다.
SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models
TruthfulQA가 모방된 오정보를 겨냥해 구성한 817개 질문과 당시 모델 결과를 읽고, 진실성과 정보성을 따로 평가합니다.
TruthfulQA: Measuring How Models Mimic Human Falsehoods
Program of Thoughts는 언어모델이 계산까지 문장으로 이어 쓰는 대신, 추론을 실행 가능한 프로그램으로 표현하고 계산은 외부 실행기에 맡깁니다.
Program of Thoughts Prompting: Disentangling Computation from Reasoning for Numerical Reasoning Tasks
1–5 / 27편