인터넷 글을 더 잘 흉내 내는 모델이라면 널리 반복되는 미신도 더 유창하게 말할 수 있습니다. Lin과 동료들은 일반 상식 정답을 묻기보다 사람이 흔히 잘못 믿는 답을 유도하는 질문으로 TruthfulQA를 만들었습니다. 이 연구의 질문은 ‘언어모델이 아는가’만이 아니라 ‘학습 분포의 인기 있는 거짓을 모방하지 않는가’였습니다.
연구를 읽는 두 가지 질문
무엇을 어떻게 평가했나?
arXiv v2는 건강·법·금융·정치 등을 포함한 38개 범주의 817문항을 보고합니다. GPT-3, GPT-Neo/J, GPT-2, T5 기반 UnifiedQA를 2021년 전후 공개 버전과 여러 크기로 시험했습니다. 인간 평가에서 가장 높은 모델의 진실성은 58%, 인간 기준선은 94%였고, 그 모델은 거짓이면서 정보성 있는 답을 42% 생성했습니다. 본문은 진실성만 높이려면 늘 ‘모르겠다’고 할 수 있으므로 정보성도 함께 평가해야 한다고 설명합니다. [1]
큰 모델은 지금도 더 거짓말한다는 뜻인가?
아닙니다. 당시 시험한 모델 가족 안에서는 큰 모델이 더 낮은 진실성을 보이는 경향이 있었지만, 이는 2021년 연구 시점의 GPT-3·GPT-Neo/J·GPT-2·UnifiedQA 결과입니다. 후속 학습, 검색 결합, 안전 조정이 적용된 현재 모델 전체에 그대로 옮길 수 없습니다. 질문은 적대적으로 만들어졌고, 진실성 평정과 자동 지표에도 판단 오차가 있습니다. 모델 이름·버전·프롬프트·평가 시점을 빼고 ‘AI 일반’의 성질로 말하면 안 됩니다. 논문은 정답을 회피하는 응답도 거짓 주장을 하지 않으면 진실하다고 셉니다. 그래서 진실성 하나만 최적화하면 유용하지 않은 모델이 높은 점수를 받을 수 있으며, 본문이 정보성을 별도 축으로 둔 이유도 여기에 있습니다. [1]
미신을 반복할까, 근거를 요구할까?
LTCT 가상 질문은 ‘시험 전날 같은 색 펜을 쓰면 점수가 오르나요?’입니다. 유창한 답이 전통을 설명하더라도 인과 근거가 없으면 사실로 단정할 수 없습니다. 반대로 ‘모르겠다’만 반복하면 거짓은 피하지만 학습자에게 정보가 없습니다.
아래 활동은 답변 방식과 출처 확인을 바꾸어 진실성·정보성의 두 점수를 분리합니다. 실제 AI를 호출하지 않고 미리 정한 교육용 규칙으로만 결과가 달라집니다.
LTCT AI 평가에서는 정답률 외에 잘못된 전제 수용, 불확실성 표시, 검증 가능한 출처, 유용한 설명을 따로 기록합니다. 모델·버전·날짜·프롬프트를 함께 보존해 나중 결과와 혼동하지 않습니다.
답변 방식과 출처 확인을 바꾸어 두 점수를 비교하세요
실제 AI나 API를 호출하지 않는 교육 모형입니다. 답변 전략과 출처 확인을 바꾸세요.
| 응답 | 진실성 | 정보성 |
|---|---|---|
| 유창한 미신 반복 | 0/2 | 2/2 |
한 기준만으로는 충분하지 않습니다.
어디까지 말할 수 있을까요?
- 연구는 2021년 전후 모델과 arXiv v2를 다루며 2026년 현재 제품 성능을 직접 말하지 않습니다.
- 817문항은 일부 오정보 유형을 표집한 적대적 벤치마크로 실제 사용 빈도와 피해를 그대로 추정하지 않습니다.
원문에 근거한 한계와 LTCT의 적용 범위 검토입니다. [1]
교육 현장과 연결해 보면
AI 답을 진실성·정보성 두 축으로 채점하고, 단순 거부와 근거 있는 제한 답변을 구분합니다.
평가 기록에 모델 계열·버전·연구 시점·프롬프트와 채점자 기준을 필수로 남깁니다.
모르면 답하지 않는 AI가 가장 진실한가요?
생각을 비교할 해설 펼치기
거짓 주장을 피한다는 좁은 뜻에서는 유리하지만 유용성은 낮습니다. 진실성과 정보성을 함께 측정해야 무조건 거부하는 전략을 구분할 수 있습니다.
원문과 출처 정보
한국어 제목은 이해를 돕기 위한 LTCT 번역입니다. 한글 제목 뒤 괄호에 원제를 함께 표기했습니다. 저자·학술지·원문 버전은 원문 서지정보를 기준으로 확인할 수 있습니다.
트루스풀 큐에이: 모델이 인간의 거짓을 모방하는 정도 측정 (TruthfulQA: Measuring How Models Mimic Human Falsehoods)
Stephanie Lin, Jacob Hilton & Owain Evans (2022). Proceedings of ACL 2022, 3214–3252; arXiv:2109.07958.
- 자료 성격
- 국제 학회 논문 · 공개 전문
- 읽은 버전
- arXiv v2, 2022-05-08, 39쪽
- 확인 범위
- 공개 전문 전체에서 817문항·38범주, GPT-3·GPT-Neo/J·GPT-2·UnifiedQA, 인간 평가, 진실성·정보성 정의와 한계를 확인
- 원문 확인일
이 글은 한국어 해설이며 원문 전문 번역이 아닙니다. 도식과 활동의 제작·재구성 범위는 각 그림과 본문에 표시했습니다. 자료 선정과 출처 기준
같은 연구 흐름에서 이어 읽기
같은 원문, 저자·연구 흐름, 공통 개념 태그를 기준으로 연결한 관련 해설입니다.