통합검색

AI의 다음 말은 왜 달라질까?

작은 후보 확률표를 조작하며 문맥, 선택, 사실 확인을 구분합니다.

가장 그럴듯한 다음 말이 사실일까?

다음 토큰 후보를 고르는 계산과 원문·자료를 대조해 사실을 확인하는 절차를 분리합니다.

AI 내부 특징에 붙인 이름은 어떻게 검증할까?

활성이 큰 예시 몇 개로 만든 이름을 더 넓은 구간과 미공개 문장에 대어 보며 관찰과 해석을 구분합니다.

그럴듯한 AI 해설은 실제 판단 이유와 같을까

마일스 터핀 등의 연구는 언어모델이 출력한 단계별 설명이 답에 영향을 준 요인을 충실하게 드러내는지 묻습니다. 저자들은 입력의 편향 요소가 답에 영향을 주었는데도 설명에서는 그 영향이 언급되지 않는 사례를 보고합니다. 설명의 설득력과 판단 이유에 대한 충실성을 구분해 읽을 수 있는 논문입니다.

언어모델은 생각한 대로 항상 말하지 않는다 — Language Models Don’t Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting

중간 추론을 보여 주면 AI의 정답률은 달라질까

제이슨 웨이 등의 연구는 풀이의 중간 단계를 포함한 예시를 언어모델에 보여 주는 방법을 조사합니다. 저자들은 세 언어모델을 대상으로 산술·상식·기호 추론 과제에서 성능 개선을 보고했습니다. 읽기의 초점은 설명이 길어졌다는 인상보다 어떤 비교 조건에서 정답률이 달라졌는지에 두면 좋습니다.

사고 사슬 프롬프팅은 대규모 언어모델의 추론을 이끌어 낸다 — Chain-of-Thought Prompting Elicits Reasoning in Large Language Models