새로운 사실을 배운 인공지능(AI)는 거꾸로 물어도 답할까?

그림에서 무엇을 볼까요?

책과 저자의 관계를 반대로 읽는 것, 작가 부류 전체를 한 사람과 동일시하는 것, 유일한 저서를 단정하는 것을 구별한 표.

LTCT의 가상 자료에서 「별빛정원」이라는 제목은 책 한 권을 가리키며, 단독 저자가 서린이라고 명시합니다. 질문을 ‘누가 그 책을 썼는가?’에서 ‘서린이 쓴 책 가운데 지금 말한 책은 무엇인가?’로 바꾸어도 같은 사실을 사용할 수 있습니다. 서린이 다른 책도 썼을 가능성은 남아 있으므로 ‘서린의 유일한 책’이라고 바꾸면 원래 정보에 없는 조건을 더하게 됩니다.

반면 ‘서린은 작가다’라는 문장에서 ‘작가는 모두 서린이다’를 끌어내는 것은 다른 문제입니다. 한 사람이 어떤 부류에 속한다는 사실은 그 부류 전체가 그 사람과 같다는 뜻이 아닙니다. 논문의 이름·설명 실험을 읽을 때도 대상 식별과 일반 조건문의 역을 섞지 않아야 합니다. 잘못된 역추론을 못 한다는 사실은 모델의 결함을 보여 주는 시험이 아닙니다.