AI가 “자료를 찾아 확인하겠습니다”라고 말했습니다. 이 문장은 계획입니다. “검색을 요청했습니다”는 행동 기록이고, “검색 결과에서 문서를 찾았습니다”는 관찰에 관한 보고입니다. 세 문장을 같은 것으로 읽으면 실행하지 않은 계획이 확인된 사실처럼 바뀔 수 있습니다. 연구에서 말하는 추론과 행동의 결합을 이 구분부터 살펴봅니다.
연구를 읽는 두 가지 질문
추론과 행동 사이에 외부 관찰이 들어갑니다
Yao와 동료들의 ReAct는 언어로 된 추론 기록과 과제별 행동을 번갈아 생성하는 접근입니다. 외부 지식 검색이나 환경과의 상호작용으로 얻은 관찰을 다음 판단에 사용합니다. 질의응답·사실 검증·텍스트 환경·웹 탐색 과제를 비교했고, 행동만 생성하는 방식과 추론만 사용하는 방식에 대한 장단점을 분석했습니다. [1]
외부 정보를 얻어도 성공은 과제와 조합에 의존합니다
논문은 추론과 행동의 결합이 유용한 결과를 보였지만, 지식 과제에서는 내부 지식에 의존하는 추론과 상보적인 면도 보고합니다. 검색 실패나 잘못된 추론은 여전히 남습니다. 확인본은 2023년 3월 10일의 arXiv v3이며 ICLR 최종 원고에 해당합니다. 최초 공개는 2022년 10월 6일입니다. 당시 모델 비교를 현재 모든 에이전트의 성능으로 일반화하지 않습니다. [1]
수장고 온도 기록을 찾는 가상 에이전트
LTCT 자체 예시에서 목표는 “지난달 수장고 온도가 관리 범위를 벗어난 날을 확인하기”입니다. 1단계 계획은 ‘관측 파일을 찾아야 한다’입니다. 행동은 ‘온도 기록 검색 요청’이고, 관찰은 ‘9월 파일만 검색됨’입니다. 목표는 지난달 자료였으므로 이 관찰만으로 답을 완성할 수 없습니다. 다음 계획은 파일의 측정 기간을 확인하고 8월 기록을 찾는 것입니다.
행동 요청이 오류를 돌려주었다면 ‘자료가 없다’와 구분해야 합니다. 검색 실패는 존재하지 않음의 증명이 아닙니다. 또한 검색 결과의 제목만 보고 실제 측정값을 읽었다고 할 수 없습니다. 문서 열기, 기간 확인, 값 확인을 별도 단계로 두면 무엇이 근거이고 무엇이 미확인인지 추적하기 쉽습니다.
그림은 목표·계획·요청·관찰·다음 점검의 구분표입니다. 실제 AI를 실행한 화면이나 내부 계산을 관찰한 도식이 아닙니다. ReAct에 나타나는 언어 추론 기록도 모델 내부의 모든 원인을 그대로 보여 준다고 단정할 수 없습니다. 외부 관찰을 분리해 기록하는 장점과 내부 설명의 충실성 문제는 서로 다른 검증 항목입니다.
어디까지 말할 수 있을까요?
- 검색으로 얻은 외부 자료가 항상 정확하지는 않습니다. 출처의 신뢰도·시점·질문 적합성을 추가로 확인해야 합니다.
- 벤치마크에서 허용된 행동과 실제 운영 권한은 다릅니다. 이 논문은 외부 시스템의 쓰기 권한이나 사용자 승인 없이 행동해도 된다는 근거가 아닙니다.
원문에 근거한 한계와 LTCT의 적용 범위 검토입니다. [1]
교육 현장과 연결해 보면
수업에서는 작업 로그를 읽고 ‘계획만 있음’, ‘요청했으나 실패’, ‘자료를 열어 확인’이라는 상태를 구분하는 문항을 만들 수 있습니다. 최종 답변의 유창함보다 관찰 근거와 결론의 연결을 평가하는 제안입니다.
후속 활동에서는 오류 관찰 하나를 추가하고 다음에 해야 할 합리적인 점검을 고르게 할 수 있습니다. 되풀이 요청보다 실패 원인과 빠진 정보를 찾도록 구성합니다.
에이전트가 “파일을 확인했다”고 썼다면 어떤 기록을 더 보아야 할까요?
생각을 비교할 해설 펼치기
어떤 파일을 열었는지, 실제 응답이 성공했는지, 확인한 기간과 값이 질문에 맞는지 봐야 합니다. 계획이나 도구 요청 문장만으로 검증 완료를 판단하지 않습니다. 최종 결론을 지지하는 관찰이 남아 있어야 합니다.
원문과 출처 정보
한국어 제목은 이해를 돕기 위한 LTCT 번역입니다. 한글 제목 뒤 괄호에 원제를 함께 표기했습니다. 저자·학술지·원문 버전은 원문 서지정보를 기준으로 확인할 수 있습니다.
리액트: 언어모델의 추론과 행동 결합 (ReAct: Synergizing Reasoning and Acting in Language Models)
Shunyu Yao, Jeffrey Zhao, Dian Yu, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao (2023). ICLR 2023; Princeton University·Google Research.
- 자료 성격
- 학술 논문 공개본
- 읽은 버전
- v1 2022-10-06; 확인본 v3 2023-03-10, ICLR 최종 공개 원고
- 확인 범위
- 2~4절의 방법·과제·비교 및 결과, 결론과 실패 유형 개요 확인. 모델·환경·코드는 재실행하지 않음
- 원문 확인일
이 글은 한국어 해설이며 원문 전문 번역이 아닙니다. 도식과 활동의 제작·재구성 범위는 각 그림과 본문에 표시했습니다. 자료 선정과 출처 기준
같은 연구 흐름에서 이어 읽기
같은 원문, 저자·연구 흐름, 공통 개념 태그를 기준으로 연결한 관련 해설입니다.