논리적 사고

인공지능(AI)에게 “다시 검토해”라고 하면 정답을 오답으로 바꿀 수도 있을까?

외부 정답 정보가 있는 교정과 AI의 내적 자기교정은 다른 조건입니다. 답이 바뀐 횟수보다 어떤 방향으로 바뀌었는지를 확인해 봅니다.

가상20문제에서 정답유지9 정답에서오답3 오답에서정답2 오답유지6으로 최종정답11개.
LTCT 제작 교육용 도식·표. 개념 출처: [1]. 예시·수치·배치는 LTCT가 새로 구성했으며 원문 도표나 사진을 복제하지 않았습니다.
그림 크게 열기 ↗SVG 저장

그림에서 무엇을 볼까요?

가상20문제에서 정답유지9 정답에서오답3 오답에서정답2 오답유지6으로 최종정답11개.

LTCT의 가상 평가에는 문제 20개가 있습니다. 첫 답에서 정답 12개, 오답 8개였다고 합시다. 재검토 뒤 정답 12개 중 9개는 유지되고 3개는 오답으로 바뀝니다. 오답 8개 중 2개는 정답이 되고 6개는 여전히 오답입니다. 최종 정답은 9+2=11개로, 정확도는 60%에서 55%로 내려갑니다.

그림의 네 칸은 정답 유지 9, 정답→오답 3, 오답→정답 2, 오답 유지 6입니다. 이는 원논문의 수치를 전재한 것이 아니라 개념을 보여 주는 가상 전이표입니다. ‘두 문제를 고쳤다’는 보고만 하면 세 문제를 새로 틀린 손실이 가려집니다.

함께 확인할 점

확인한 자료는 2023년 v1이며 후속 v2 및 최신 추론 모델을 실험한 결과가 아닙니다. 현재 모든 서비스에 동일한 결론을 적용하지 않습니다.

피드백의 품질과 비용, 비교 프롬프트, 중단 규칙이 중요합니다. 반복 수가 다르면 같은 계산 자원을 사용한 비교인지도 살펴야 합니다.

생각해 볼 질문

가상 평가에서 오답 두 개를 고쳤는데도 정확도가 낮아진 이유는 무엇일까요?

← 논리적 사고 그림 더 보기