합의는 완료 신호가 아닐 수 있다

그림에서 무엇을 볼까요?

하나의 추론 경로에서 세 차례 A라는 답이 반복된 뒤 추가 검토를 거쳐 B로 수정되는 시간선과, 반복 관찰이 독립 증거 세 개가 아님을 보여 주는 표시

모·자오·겅은 진행 중인 하나의 추론을 일정 간격으로 물어 현재 답을 뽑고, 같은 답이 반복되면 계산을 멈추는 ‘자기 합의’ 규칙이 안전한지 물었습니다. 두 모델·세 수학 벤치마크의 고정된 풀이 궤적에서 사전 등록한 3,520개 규칙을 시험하고, 보류 집합과 처음 보지 않은 두 모델에서도 경향을 확인했습니다.

세 개의 안전·절약 기준을 모두 통과한 자기 합의 규칙은 없었습니다. 토큰을 32% 절약하는 설정에서는 정지 9번 중 약 1번이 모델이 뒤에서 버릴 답을 확정했고, 그런 216건 가운데 155건은 뒤이어 일어날 정정을 잘라 냈습니다. 긴 합의 창을 쓰면 비종결 정지는 약 7%에서 더 줄지 않았고 절약은 8%까지 떨어졌습니다.