논리적 사고

AI의 다음 말은 왜 달라질까?

작은 후보 확률표를 조작하며 문맥, 선택, 사실 확인을 구분합니다.

그림에서 무엇을 볼까요?

문맥에 따른 다음 표현 세 후보의 확률 분포

언어모델은 문맥을 바탕으로 다음 토큰의 후보를 계산합니다. 토큰은 글자나 단어의 일부 등 모델이 다루는 텍스트 조각입니다. 여기서는 이해하기 쉽게 세 개의 완성된 표현을 후보로 놓은 작은 모형을 사용합니다. 실제 모델의 어휘와 토큰 분할은 훨씬 복잡합니다.

문맥을 ‘비가 내려서’와 ‘햇볕이 강해서’ 사이에서 바꾸어 보세요. 이 교육용 표에서는 우산, 양산, 장갑 후보의 기본 비중이 달라집니다. 후보들의 비중을 합하면 100퍼센트가 됩니다. 문맥이 바뀌었을 때 어느 후보가 유리해졌는지 살펴보세요.

교육용 확률 계산 · 후보와 기본 확률은 자체 제작했습니다. 실제 언어모델 호출이나 모델 내부 확률의 실측이 아닙니다.

‘자연스럽게 들린다’와 ‘근거가 있다’를 구분해야 하는 AI 답변의 예를 하나 적어 보세요.