AI가 한 번은 24, 다른 때에는 28이라고 답합니다. 다섯 번 물어 세 번 나온 답을 고르면 믿을 만할까요? 반복 생성에는 실제로 성능을 높이는 활용법이 있습니다. 동시에 같은 모델의 같은 오해가 여러 답변에 반복될 수도 있습니다. 어떤 방식으로 풀이를 만들고 무엇을 모으는지 살펴야 반복의 의미를 정확히 이해할 수 있습니다.
연구를 읽는 두 가지 질문
연구는 어떻게 답을 모았는가?
왕과 동료들의 자기일관성 연구는 하나의 단계별 풀이만 택하는 방식 대신 여러 풀이 경로를 표집하고 최종 답을 집계하는 방식을 제안했습니다. 확인한 자료는 2023년 3월 7일 arXiv v4, ICLR 2023 확정 원고의 공개 HTML입니다. 최초 공개는 2022년입니다. 당시 산술·상식 추론 등의 벤치마크에서 탐욕적 생성 등과 비교해 성능을 평가했으며 여러 과제에서 개선을 보고했습니다. [1]
무엇이 개선되고 무엇이 남는가?
핵심은 문장을 똑같이 복사해 반복하는 것이 아니라 다양한 경로를 생성하고 답 수준에서 모으는 데 있습니다. 별도의 채점 모델을 학습하는 접근과도 구별됩니다. 다만 반복 생성에는 추가 계산 비용이 들고, 많이 나온 답이라는 사실이 각 풀이의 모든 단계를 증명하지는 않습니다. 보고된 개선은 당시 모델·데이터·설정에서 얻은 결과이며, 오늘의 모든 모델과 모든 논리 문항에 동일하게 적용되는 보장이 아닙니다. [1]
다섯 풀이의 표를 보고 무엇을 알 수 있을까?
LTCT 가상 예시에서 다섯 풀이의 답은 24, 24, 28, 24, 28입니다. 답만 세면 24가 세 번으로 가장 많습니다. 하지만 첫째·둘째·넷째 풀이가 모두 “마지막 구간은 이동 시간에서 뺀다”는 같은 잘못된 전제를 사용했다면 세 표는 세 개의 독립된 확인과 다릅니다.
그림은 풀이 번호와 답, 확인할 전제를 나란히 보여 줍니다. 이 예시는 실제 논문 실험의 관측값이 아니며 어느 답이 정답인지도 주어진 수치만으로는 알 수 없습니다. 원문 문제와 규칙을 제시하지 않았기 때문입니다. 가장 많은 답과 검증된 정답을 구분하는 연습에 초점을 둡니다.
서로 다른 답 표기를 정규화하는 일도 필요합니다. 0.5와 1/2을 다른 답으로 세면 같은 결과가 갈라집니다. 반대로 단위나 조건이 다른 두 값을 숫자가 같다는 이유로 합치면 잘못 집계할 수 있습니다. 답을 모으기 전에 동치 기준을 정해야 합니다.
어디까지 말할 수 있을까요?
- 반복 생성된 풀이들은 동일한 학습 자료와 모델을 공유하므로 독립적인 전문가 투표로 취급할 수 없습니다. 표 수에서 진실일 확률을 바로 계산하지 않습니다.
- 여러 경로를 얻어 고르는 성능과 한 번 생성한 성능은 계산 예산이 다릅니다. 모델 비교에서는 생성 횟수와 토큰·시간 비용을 함께 공개해야 합니다.
원문에 근거한 한계와 LTCT의 적용 범위 검토입니다. [1]
교육 현장과 연결해 보면
문항 검수에서 여러 AI 답변은 오류 후보를 찾는 보조 자료로 사용할 수 있습니다. 답이 갈린 문항은 조건의 모호함과 단위 처리를 점검하고, 답이 일치한 문항도 반례 검토와 독립 계산을 거치게 합니다.
학습 활동에서는 같은 정답에 도달한 두 풀이의 전제를 비교하게 할 수 있습니다. 학생은 정답의 일치와 근거의 타당성을 따로 설명합니다.
다섯 답변 중 세 개가 같은 답이면 그 답이 참일 확률은 60%일까요?
생각을 비교할 해설 펼치기
그렇게 해석할 근거는 없습니다. 3/5는 이번에 표집한 답변에서 그 답이 나온 비율입니다. 정답 확률로 해석하려면 생성 과정과 오류 의존성, 보정 성능에 관한 추가 근거가 필요합니다. 같은 잘못된 전제가 여러 경로에 반복될 수 있으므로 문제의 조건을 직접 대조하는 검증을 별도로 수행해야 합니다.
원문과 출처 정보
한국어 제목은 이해를 돕기 위한 LTCT 번역입니다. 한글 제목 뒤 괄호에 원제를 함께 표기했습니다. 저자·학술지·원문 버전은 원문 서지정보를 기준으로 확인할 수 있습니다.
자기일관성을 활용한 언어모델 단계별 추론 개선 (Self-Consistency Improves Chain of Thought Reasoning in Language Models)
Xuezhi Wang; Jason Wei; Dale Schuurmans; Quoc Le; Ed H. Chi; Sharan Narang; Aakanksha Chowdhery; Denny Zhou (2023). ICLR 2023 · Google Research.
- 자료 성격
- 학술 논문·전문 학술자료
- 읽은 버전
- arXiv v4 · 2023-03-07 카메라레디; 최초 공개 2022-03-21
- 확인 범위
- 공개 v4 HTML의 2절 알고리즘, 3절 실험·비교 및 5절 한계 확인; 실험 재실행 없음
- 원문 확인일
이 글은 한국어 해설이며 원문 전문 번역이 아닙니다. 도식과 활동의 제작·재구성 범위는 각 그림과 본문에 표시했습니다. 자료 선정과 출처 기준