AI 보이는 추론 실험실 · 후보와 샘플링

같은 질문을 다시 하면 AI도 같은 답을 고를까?

후보 점수가 같아도 선택 규칙의 무작위성에 따라 실행 결과가 달라질 수 있습니다. 온도·시드·횟수를 바꿔 분포와 재현성을 확인합니다.

입문게시 2026-10-04읽기·실험 약 13분확인 문제 2개교육용 계산한국논리학협회 자체 제작제작·검수 LTCT 편집부

밝은 작업실에서 성인 두 명이 여러 갈래의 답 후보 카드를 비교하고 작은 공식 갈색 안경 올빼미가 선택 바퀴를 돌리는 장면
주제 이해를 돕기 위한 AI 생성 이미지 · LTCT 자체 제작
오늘의 질문

입력 문장이 완전히 같다면 생성형 AI의 출력도 언제나 글자 하나까지 같아야 할까요?

하나의 질문에서 점수가 다른 세 답 후보가 갈라지고 낮은 온도에서는 최고 후보에 모이지만 높은 온도에서는 여러 후보가 선택되는 관계 그림입니다.
하나의 질문에서 점수가 다른 세 답 후보가 갈라지고 낮은 온도에서는 최고 후보에 모이지만 높은 온도에서는 여러 후보가 선택되는 관계 그림입니다. · 한국논리학협회 자체 제작
그림 크게 보기 ↗
01

모델은 다음 답 후보에 서로 다른 점수를 줄 수 있습니다

생성 과정에서는 가능한 다음 토큰이나 답 후보마다 점수가 생깁니다. 최고 점수만 고르면 출력이 안정적이지만, 확률에 따라 뽑으면 낮은 후보도 선택될 수 있습니다.

활동에서는 ‘근거 먼저·요약 먼저·질문 먼저’ 세 구성만 두어 선택 규칙을 눈에 보이게 줄였습니다.

02

온도와 시드는 서로 다른 역할을 합니다

온도가 낮으면 높은 점수 후보에 확률이 더 몰리고, 높으면 분포가 평평해집니다. 명세도 temperature를 무작위성 정도의 힌트로 설명합니다.

참고 · Model Context Protocol — 모델 샘플링의 temperature 매개변수 ↗

03

반복 가능성은 전체 실행 조건을 기록해야 합니다

같은 시드를 쓰더라도 모델 버전·시스템 지시·도구 결과·서버 구현이 달라지면 출력이 달라질 수 있습니다. 온도 0도 모든 서비스에서 절대적 동일성을 보장한다는 뜻은 아닙니다.

감사나 평가에서는 입력, 모델 버전, 주요 매개변수, 도구 응답, 실행 시각을 함께 남깁니다.

직접 확인하기 · 교육용 계산

온도·시드·반복 횟수를 바꾸며 후보 선택 결과 비교하기

고정 점수 [2.4, 1.7, 0.8]에 softmax(score÷temperature)를 적용한 LTCT 교육 모형입니다. temperature 0은 최고 후보만 고릅니다. 실제 AI·특정 제품의 동작이나 품질을 측정하지 않습니다.

근거 먼저9회 · 확률 64%
요약 먼저2회 · 확률 27%
질문 먼저1회 · 확률 9%
3개 후보가 실제로 선택됐습니다.

같은 시드와 설정에서는 이 모형의 결과가 재현됩니다. 실제 서비스는 모델·구현·도구 결과까지 같아야 동일 출력을 기대할 수 있습니다.

관계를 읽고, 다른 상황에 적용하기

두 문제로 생각 확인

1이 활동에서 temperature를 0으로 두면 무엇을 선택하나?
2AI 출력을 재현하려 할 때 함께 기록할 정보는?

두 문제의 답을 모두 선택하면 해설을 볼 수 있습니다.

나의 설명으로 마무리

오늘 발견한 관계

0 / 4,000자

메모는 현재 기기의 브라우저에만 보관됩니다. 계정이나 다른 기기에는 동기화되지 않습니다.

출처와 제작 안내

원문을 참고해 설명·도표·문항·실험을 새로 작성했습니다. 별도 표시가 없는 사례와 수치는 학습을 위한 가상 예시입니다. 원문 번역이나 실제 모델의 성능 평가 자료가 아닙니다.

  1. 모델 샘플링의 temperature 매개변수 ↗Model Context ProtocolModel Context Protocol Specification — Sampling

    2026-07-28 명세에서 temperature가 무작위성의 정도를 제어하되 클라이언트가 힌트를 무시할 수도 있음을 확인했습니다. 활동은 고정된 세 후보와 시드 난수로 만든 교육용 모형이며 실제 AI를 호출하지 않습니다.