관련 문서를 찾으면 AI 답도 근거가 충분할까?

그림에서 무엇을 볼까요?

검색된 문서에서 생성된 주장을 거쳐 관련성, 직접 지지, 인용 완전성을 검사하는 세 단계 그림

검색 증강 생성은 질문과 관련 있어 보이는 문서를 먼저 찾고, 생성 모델이 그 문맥을 참고해 답을 만드는 방식입니다. 모델 매개변수 안의 기억만 쓰는 것보다 근거의 출발점을 드러낼 수 있지만, 검색되었다는 사실과 생성된 각 주장이 지지된다는 사실은 구분해야 합니다.

Lewis와 동료들의 RAG 연구는 신경망 검색기가 외부 문서 색인을 찾고 생성기가 검색된 내용을 조건으로 답을 만드는 구조를 제안했습니다. 논문은 여러 지식 집약 과제에서의 성능을 비교합니다. 그러나 검색 문서가 화면에 보인다는 이유만으로 이후 문장 전체가 논리적으로 따라온다는 보편 보증을 제시한 것은 아닙니다.