AI는 어느 검색 길에서 근거를 놓칠까?

그림에서 무엇을 볼까요?

질문에서 넓은 검색·좁은 검색·원문 검증으로 갈라졌다가 근거 판정으로 합류하는 흐름도

시청 기록관의 질문은 ‘지난해 야간 열람 시간이 두 시간 늘었는가?’이다. 검색기는 ‘야간’, ‘열람’, ‘시간’과 겹치는 문서를 모은다. 생성기는 그 문서를 바탕으로 답을 구성한다. 검색 증강 생성은 모델의 매개변수 바깥에 있는 문서를 찾아 답변에 활용하는 구조다. 그러나 검색되었다는 사실만으로 문서가 질문의 기간과 수치를 직접 지지하는 것은 아니다.

가상 문서 네 장 가운데 공지 A는 올해 시간을, 회의록 B는 지난해 연장 제안을, 확정표 C는 지난해 실제 운영 시간을, 블로그 D는 이용자의 인상을 담는다. 모두 주제와 관련 있지만 ‘지난해 두 시간 늘었다’는 결론을 직접 확인할 수 있는 자료는 기준 시간과 변경 시간을 함께 적은 확정표 C다.