인공지능(AI)가 행동을 계획했다면 실제로 한 일도 확인된 걸까?
ReAct는 추론과 외부 행동을 엮는 방식을 제안했습니다. 계획 문장, 실행 요청, 실제 관찰을 나누면 긴 작업에서 어디까지 확인되었는지 읽을 수 있습니다.
그림에서 무엇을 볼까요?
목표 지난달 온도, 계획 관측 파일 찾기, 행동 검색 요청, 관찰 9월 파일, 다음 점검 8월 파일 확인을 구분한 기록표.
LTCT 자체 예시에서 목표는 “지난달 수장고 온도가 관리 범위를 벗어난 날을 확인하기”입니다. 1단계 계획은 ‘관측 파일을 찾아야 한다’입니다. 행동은 ‘온도 기록 검색 요청’이고, 관찰은 ‘9월 파일만 검색됨’입니다. 목표는 지난달 자료였으므로 이 관찰만으로 답을 완성할 수 없습니다. 다음 계획은 파일의 측정 기간을 확인하고 8월 기록을 찾는 것입니다.
행동 요청이 오류를 돌려주었다면 ‘자료가 없다’와 구분해야 합니다. 검색 실패는 존재하지 않음의 증명이 아닙니다. 또한 검색 결과의 제목만 보고 실제 측정값을 읽었다고 할 수 없습니다. 문서 열기, 기간 확인, 값 확인을 별도 단계로 두면 무엇이 근거이고 무엇이 미확인인지 추적하기 쉽습니다.
함께 확인할 점
검색으로 얻은 외부 자료가 항상 정확하지는 않습니다. 출처의 신뢰도·시점·질문 적합성을 추가로 확인해야 합니다.
벤치마크에서 허용된 행동과 실제 운영 권한은 다릅니다. 이 논문은 외부 시스템의 쓰기 권한이나 사용자 승인 없이 행동해도 된다는 근거가 아닙니다.
생각해 볼 질문
에이전트가 “파일을 확인했다”고 썼다면 어떤 기록을 더 보아야 할까요?
익숙한 내용이면 논리도 더 잘 보일까?
정답을 잘 고르는 인공지능(AI)는 반례도 잘 만들까?
필요 없는 숫자 하나가 인공지능(AI)의 답을 흔들까?