독서 모임을 준비하며 AI에게 두 가지를 부탁해 봅시다. ‘첫 모임의 안내문을 써 주세요.’ ‘이번 모임은 몇 시에 시작하나요?’ 첫 부탁에는 인사말과 문장의 구성을 만들어 주는 능력이 필요합니다. 두 번째 부탁에는 실제로 정해진 시간을 알아낼 정보가 필요합니다. 안내문을 잘 쓰는 능력만으로 우리 모임의 시간을 알아낼 수 있을까요? 시간을 알려 주거나, 그 시간이 적힌 공지를 찾아볼 수 있어야 합니다. 이 차이를 따라가면 AI의 답변이 만들어지는 과정이 조금씩 보입니다. 이 글에서는 ‘토요일 14시, 라온도서관 2층, 60분, 정원 12명’이라는 가상의 독서 모임 공지를 사용합니다. 앞으로 나오는 공지와 답변은 작동 원리를 살펴보기 위한 교육용 예시입니다.
생각그림 01같은 대화창, 서로 다른 두 부탁
교육용 사례
문장을 만들어 달라는 요청
처음 오는 사람을 위한 독서 모임 안내문을 써 주세요.
반갑게 맞는 말 쉽게 읽히는 문장 필요한 정보를 전하는 구성
어떤 글을 만들 것인가
정해진 사실을 묻는 요청
이번 독서 모임은 몇 시에 시작하나요?
모임은 토요일 ?에 시작합니다.이 칸을 채울 정보가 필요합니다.
어떤 정보로 답할 것인가
이 글에서 함께 사용할 가상 공지
일시토요일 14시장소라온도서관 2층소요 시간60분정원12명
두 요청을 읽고, 문장을 구성하는 능력과 사실을 정할 정보가 각각 어디에 필요한지 살펴봅니다. 이 공지에는 회비가 적혀 있지 않습니다.
02모델과 서비스
대화창 안에는 여러 역할이 모여 있습니다
LLM은 대규모 언어 모델을 뜻합니다. 많은 언어 자료 등을 학습해, 주어진 문맥을 바탕으로 문장을 만들고 여러 언어 과제를 수행하는 모델입니다. 우리가 만나는 대화 서비스는 여기에 화면, 대화 기록 관리, 파일 읽기, 검색, 계산 같은 기능을 더할 수 있습니다. 사용자가 공지를 올리면 서비스가 그 내용을 모델이 사용할 입력에 포함하고, 검색이 필요한 요청이라면 도구로 자료를 찾아 전달하는 식입니다. 모델은 이렇게 주어진 정보를 활용해 답변을 만듭니다. 어떤 자료와 도구를 사용할 수 있는지는 서비스와 설정에 따라 달라집니다. 그러므로 답을 이해하려면 ‘어떤 모델인가?’와 함께 ‘이번 요청에 어떤 정보와 기능이 연결되었는가?’도 살펴야 합니다.[1][4][5]
생각그림 02서비스를 펼치면, 모델과 도구의 자리가 보입니다
개념도
우리가 사용하는 대화 서비스역할을 나누어 본 개념도
이번 입력
나의 요청제공한 공지관련 대화
→
언어 모델문맥을 처리하고 답변을 생성
→
완성된 답변“토요일 14시에 라온도서관에서 만나요.”
필요할 때 연결되는 기능⌕ 자료 검색▤ 파일 읽기× 계산
그림의 연결망은 계산의 역할을 단순화한 표현입니다. 실제 내부 회로를 측정한 그림이 아닙니다. 모든 요청이 모든 도구를 거치는 것도 아닙니다.
03학습과 지금의 문맥
배워 둔 능력에, 지금 알려 준 내용을 더합니다
모델을 학습시킬 때는 많은 예를 바탕으로 계산에 쓰는 수치들을 조정합니다. 이 수치들을 ‘매개변수’라고 하며, 학습을 거치면서 표현의 관계를 활용하고 여러 과제를 수행하는 능력이 형성됩니다. 실제 대화에서는 학습된 모델에 지금의 요청과 대화 내용, 제공된 자료 등이 문맥으로 주어집니다. 우리 공지의 ‘토요일 14시’는 이 문맥을 통해 이번 답변에 쓰일 수 있습니다. 일반적인 답변 생성에서는 학습된 매개변수로 새 문맥을 처리합니다. 서비스가 별도로 저장한 정보와 학습된 내용도 구분해야 합니다. 새 모임의 안내문을 부탁할 때는, 이번에 적용할 시간과 장소가 현재 입력에 충분히 들어 있는지 확인하면 좋습니다.[1]
생각그림 03시간을 바꾸는 곳은 지금의 문맥입니다
문맥 비교 모형
A 모델을 학습시킬 때
많은 예를 바탕으로 계산에 쓰는 수치를 조정
0.120.480.310.720.530.260.640.15
숫자는 학습을 설명하기 위한 예시입니다.
계산에 쓰는 매개변수가 바뀝니다.
B 학습된 모델로 답할 때
학습된 매개변수로 새 입력을 처리
이번에 제공한 공지 모임은 토요일 14시에 시작합니다.
토요일 14시에 라온도서관 2층에서 만나요.
14시·16시 버튼으로 문맥에 들어가는 자료를 바꿔 보세요. 문맥과 답변의 관계를 보여 주는 준비된 예시이며, 실제 모델의 재학습이나 응답 생성은 실행하지 않습니다.
04토큰과 생성
문장을 작은 조각으로 읽고, 이어 갈 조각을 고릅니다
대화형 LLM에서 널리 쓰이는 생성 방식을 간단히 들여다봅시다. 먼저 글을 ‘토큰’이라는 조각으로 나누고, 각 조각에 대응하는 번호를 사용합니다. 토큰 하나가 반드시 단어 하나와 일치하는 것은 아니며, 한국어 문장이 나뉘는 방식도 사용하는 토크나이저에 따라 달라집니다. 모델은 이 입력을 수치 표현으로 처리하고 여러 계산을 거쳐, 다음에 이어질 토큰들의 점수를 구합니다. 선택한 토큰을 지금까지의 문맥에 덧붙이고 다시 계산하면 문장이 이어집니다. 이 반복에는 학습해 둔 표현의 관계와 현재 문맥을 함께 반영하는 복잡한 계산이 들어 있습니다. 긴 글을 맡길 때도 모델이 실제로 받은 문맥과 생성할 수 있는 분량의 범위를 고려해야 하는 이유가 여기에 있습니다.[2][3]
위 분할은 티크토큰(tiktoken) 0.14.0의 o200k_base로 실제 확인했습니다. 예문을 선택하면 기록된 분할 결과가 바뀝니다. 모든 모델이 같은 방식으로 나누지는 않습니다. 아래의 생성 흐름은 개념도입니다.
05후보와 선택
가능한 다음 표현은 하나만 있는 것이 아닙니다
‘모임은 토요일’ 뒤에는 ‘에’, 시간 표현, 문장 부호 등 여러 조각이 이어질 수 있습니다. 모델은 지금까지의 문맥을 바탕으로 후보들의 분포를 계산하고, 생성 설정에 따라 그중 하나를 선택합니다. 선택된 조각이 다음 계산의 문맥에도 들어가므로, 초반의 선택이 달라지면 뒤의 문장도 달라질 수 있습니다. 아래 분포는 이 원리를 살펴보도록 만든 교육용 예시입니다. 여기서 후보의 확률이 높다는 것은 그 문맥에서 이어질 토큰으로 높게 평가되었다는 뜻입니다. 문장 속 사실이 참일 확률과는 구분해야 합니다. 안내 문구의 여러 표현을 받아 비교하는 데에는 이런 다양성이 유용합니다. 일정과 정원처럼 고정된 사실은 공지와 대응시켜 따로 확인하면 됩니다.[2]
생각그림 05선택한 조각이 다음 계산의 문맥에 더해집니다
생성 과정의 교육용 모형
현재까지 이어진 문맥
모임은 토요일
설명용 경로에서는 첫째 후보를 이어 붙입니다.
다음 토큰 후보 · 교육용 수치
␠오후
60%
에
25%
,
15%
1 / 4 단계
모임은 토요일
토큰 조각은 실제 분할 규칙에 맞춰 골랐고, 확률은 원리 설명을 위해 만든 값입니다. 이 막대는 문장 속 사실이 참일 확률을 나타내지 않습니다. 다른 선택 방식과 더 긴 생성 과정은 후속편에서 다룹니다.
06이용하기 · 요청 구성
누구에게, 어떤 자료로, 무엇을 만들까요?
모델에게 일을 부탁하는 입력을 흔히 ‘프롬프트’라고 부릅니다. 요청을 만들 때는 대상, 자료, 해야 할 일, 결과의 형식을 차례로 적어 보면 좋습니다. 가령 ‘처음 참석하는 성인을 위한 안내문을 써 주세요. 아래 공지의 시간·장소·정원은 그대로 반영하고, 세 문장으로 정리해 주세요. 공지에 없는 회비는 확인할 항목으로 남겨 주세요’라고 요청할 수 있습니다. 이 문장은 독자와 목표를 알려 주고, 어떤 정보를 유지해야 하는지 지정합니다. 결과를 읽을 기준도 함께 마련해 줍니다. 요청이 구체적이어도 답변의 정확성이 자동으로 보장되지는 않으므로, 완성된 글에서 지정한 조건이 지켜졌는지 확인합니다. 작은 안내문부터 이 순서로 연습하면 다른 글쓰기 과제에도 적용하기 쉽습니다.[1]
생각그림 06요청의 각 부분은 서로 다른 일을 정합니다
프롬프트 주석도
처음 참석하는 성인을 위한 독서 모임 안내문을 써 주세요. 아래 공지의 시간·장소·정원은 그대로 반영하고, 세 문장으로 정리해 주세요. 공지에 없는 회비는 확인할 항목으로 남겨 주세요.
대상사용할 자료와 사실해야 할 일결과의 형식
검토할 기준도 함께 생깁니다. 처음 오는 사람이 읽기 쉬운가? 공지의 사실을 유지했는가? 세 문장인가? 회비를 확인할 항목으로 남겼는가?
색칠된 구절을 따라가면 요청의 역할이 보입니다. 이 네 항목은 요청을 구성하는 한 가지 실용적인 방법이며, 특정한 문구 자체가 정확성을 보장하는 공식은 아닙니다.
07이용하기 · 자료 검색
자료가 많아지면 필요한 구절부터 찾습니다
한 장짜리 공지는 요청에 통째로 붙여 넣어도 살펴보기 쉽습니다. 도서관의 공지가 수백 건이라면 질문에 맞는 자료부터 찾아 전달하는 방식을 쓸 수 있습니다. 검색 증강 생성, 줄여서 RAG는 외부 자료에서 관련 내용을 검색해 모델의 답변 생성에 활용하는 방식입니다. 예를 들어 ‘이번 독서 모임은 몇 시에 시작하나요?’라는 질문에 맞춰 관련 공지를 찾고, 그 안의 구절을 모델이 사용할 문맥에 넣습니다. 모델은 주어진 구절을 이용해 ‘토요일 14시에 시작합니다’라는 답을 구성할 수 있습니다. 이 방식의 결과는 자료가 잘 준비되어 있는지, 적절한 구절이 검색되었는지, 그 구절을 답변에 정확히 반영했는지에 영향을 받습니다. 문서를 연결한 서비스에서도 먼저 해당 모임의 공지가 선택되었는지 살펴야 합니다.[4]
생각그림 07찾아온 문서가 바뀌면 답변의 근거도 달라집니다
검색 증강 생성 개념도
이번 질문 “이번 독서 모임은 몇 시에 시작하나요?”
선택되어 들어오는 자료
이번 독서 모임 안내
일시: 토요일 14시
장소: 라온도서관 2층
소요 시간: 60분
정원: 12명
이 자료를 읽으며 확인할 것
이번 모임의 시작 시간은 토요일 14시입니다.
현재 질문과 대상이 맞는 공지입니다. 선택된 구절을 답변의 근거로 사용할 수 있습니다.
문서 하나를 눌러 비교하세요. 검색 결과 선택의 영향을 살펴보는 모형입니다. 실제 검색기나 LLM을 실행하지 않으며, 문서를 직접 붙여 넣는 과정과 검색해서 제공하는 과정은 구분됩니다.
08이용하기 · 근거 확인
‘무료’라는 말은 원문의 어디에서 왔을까요?
답변에 ‘토요일 14시, 라온도서관 2층에서 열리는 무료 독서 모임입니다’라고 적혀 있다고 합시다. 시간과 장소는 공지에서 찾을 수 있지만, 우리 공지에는 회비가 적혀 있지 않습니다. 이 경우 회비는 별도로 확인할 항목으로 남겨야 합니다. 출처를 검토할 때는 답변 전체를 한꺼번에 믿을지 결정하기보다, 사실을 말하는 구절마다 ‘이 표현을 뒷받침하는 원문은 어디인가?’를 물어보면 도움이 됩니다. 자료에 적힌 내용, 그 내용에서 도출한 판단, 추가로 확인해야 할 내용을 구별하는 것입니다. 안내문 작성에서는 이 확인이 운영상의 혼선을 줄여 줍니다. 여러 자료를 요약하거나 회의 내용을 정리할 때도, 숫자·날짜·조건처럼 결과에 영향을 주는 표현부터 같은 방법으로 살펴볼 수 있습니다.
생각그림 08답의 한 구절씩, 원문과 맞대어 봅니다
근거 확인 실습
원문 공지
독서 모임 안내
일시토요일 14시
장소라온도서관 2층
시간60분
정원12명
확인할 구절을 눌러 보세요
“, 에서 열리는 독서 모임입니다.”
“토요일 14시”는 공지의 시작 시간에서 확인할 수 있습니다.
‘무료’에 대응하는 구절은 없습니다. 회비가 없다는 뜻도, 회비가 있다는 뜻도 이 공지만으로는 정할 수 없습니다. 확인할 항목으로 남기는 것이 이 사례에 맞는 처리입니다.
09이용하기 · 도구
계산기를 연결하면 계산을 맡길 수 있습니다
정원 12명이 모두 참석하고 한 사람에게 자료를 4장씩 준다면, 준비할 자료는 48장입니다. 도구를 사용할 수 있는 서비스에서는 모델이 필요한 계산을 정리하고, 계산기에 ‘12 × 4’를 전달하고, 돌아온 결과를 활용해 안내할 수 있습니다. 여기에는 모델이 도구에 보낸 요청, 도구가 실제로 실행한 계산, 그 결과를 담은 최종 문장이라는 서로 다른 단계가 있습니다. 따라서 정확한 계산 결과를 얻어도, 정원을 실제 참석 인원으로 잘못 간주했거나 한 사람당 장수를 잘못 읽었다면 준비 수량은 맞지 않을 수 있습니다. 계산 업무를 맡길 때는 입력값과 단위를 분명히 주고, 어떤 계산을 실행했는지도 확인합니다. 언어로 일을 설명하는 능력과 도구의 실행 능력을 이렇게 연결할 수 있습니다.[5]
생각그림 09입력 조건과 계산 결과를 함께 확인합니다
실제 산술 계산
1~12명 · 기본 예시는 정원 전원 참석
1~20장 · 인쇄 매수 기준
실제로 실행하는 곱셈
12 × 4
12명에게 4장씩 주려면 자료 48장이 필요합니다.
요청의 수량 확인→계산 실행→결과와 단위를 답에 반영
인원이나 장수를 바꾸면 브라우저가 곱셈을 실제로 실행합니다. 이 부분은 LLM 실행이 아닙니다. 계산이 정확해도 입력값을 잘못 정하면 준비 수량은 달라질 수 있습니다.
10이용하기 · 여러 단계의 작업
한 번의 답을 여러 단계의 작업으로 이어 갑니다
독서 모임 준비는 안내문 한 번으로 끝나지 않을 수 있습니다. 공지를 읽고, 빠진 정보를 찾고, 인쇄 수량을 계산하고, 안내문 파일을 만드는 일들이 이어집니다. 모델이 도구를 사용하며 작업의 결과를 확인하고 다음 행동을 선택하도록 구성한 시스템을 흔히 에이전트라고 부릅니다. 설계 방식은 다양하지만, 한 행동의 결과가 다음 판단에 입력된다는 점을 살펴보면 흐름을 이해하기 쉽습니다. 이때 ‘파일을 만들겠습니다’라는 문장은 작업 계획이고, 실제로 열리는 파일은 실행 결과입니다. 회비 정보가 빠져 있다면 그 상태를 기록하고 확인을 기다리는 단계도 필요합니다. 이런 작업을 맡길 때는 완료의 기준을 정해 두면 좋습니다. 예를 들어 ‘시간과 장소를 원문과 대조하고, 확인할 회비를 표시한 안내문 파일’처럼 결과물의 조건을 적는 것입니다.[6]
생각그림 10계획한 말과 확인된 결과는 다른 칸에 기록합니다
에이전트 작업 개념도
1
이번 모임 공지를 찾는다확인한 것: 시간·장소·소요 시간·정원
?
회비 정보가 있는지 살핀다현재 공지에는 없음 → 확인 항목으로 남김
2
인쇄할 수량을 계산한다전원 참석·1인 4장이라는 조건에서 48장
3
결과물의 조건을 점검한다시간과 장소의 일치 · 회비 확인 표시 · 수량
목표로 정한 결과물의 예시
안내문 초안 + 준비 메모
토요일 14시, 라온도서관 2층에서 만나요.
모임 시간: 60분
정원: 12명
자료 준비: 48장 12명 참석·1인 4장 조건
열어 둔 확인 항목: 회비
에이전트의 한 가지 작업 흐름을 기록으로 표현한 예시입니다. “파일을 만들겠다”는 계획만으로 파일 생성이 완료된 것은 아닙니다. 실제 작업에서는 만들어진 결과물과 완료 조건을 함께 확인합니다.
11직접 설계해 보기
같은 공지로 두 가지 결과물을 설계해 봅시다
이제 독서 모임의 같은 공지를 이용해 요청을 직접 구성해 봅시다. 처음 오는 참가자에게는 시간과 장소를 쉽게 찾을 수 있는 안내문이 필요합니다. 준비 담당자에게는 인원, 소요 시간, 준비할 자료와 확인할 사항을 모은 점검표가 더 유용할 수 있습니다. 자료는 같아도 대상과 해야 할 일이 달라지면 결과의 구성이 달라집니다. 아래 실습에서는 요청의 조건을 바꾸며 두 결과물을 비교할 수 있습니다. 이 실습은 원리를 살펴보도록 준비한 예시를 사용하며, 실제 LLM에 질문을 보내지는 않습니다. 화면을 살펴본 뒤 자신이 사용하는 AI 서비스에 요청을 옮겨 시험해 보세요. 결과가 마음에 들었는지와 함께, 공지의 사실을 유지했는지, 빠진 정보는 어떻게 처리했는지까지 점검하면 요청을 더 구체적으로 다듬을 수 있습니다.
생각그림 11같은 자료에서, 다른 목적의 요청을 만들어 봅니다
요청 설계 실습
기본 공지로 미리 작성한 예시
참가자를 위한 세 문장
독서 모임은 토요일 14시, 라온도서관 2층에서 시작합니다.
모임은 60분 동안 진행되며 정원은 12명입니다.
회비는 공지에 적혀 있지 않아 확인이 필요합니다.
예시는 대상·형식 선택에 맞춰 바뀝니다. 원문을 수정하면 아래 요청문에 반영됩니다. 이 예시 답변을 실제 LLM이 새로 생성하는 것은 아닙니다.
대상·자료·형식을 바꿔 요청을 설계해 보세요. 복사한 요청문은 자신이 사용하는 AI 서비스에서 시험할 수 있습니다. 입력은 가능한 경우 이 브라우저에 저장되며, 텍스트 파일로도 내려받을 수 있습니다.
12읽는 사람의 질문
이제 답변에서 세 가지를 살펴볼 수 있습니다
처음의 대화창으로 돌아가 봅시다. 답변을 읽으며 세 가지를 물을 수 있게 되었습니다. ‘이번 답에 쓸 정보는 어디에서 왔을까?’ ‘이 구절은 어떤 자료나 이유로 뒷받침될까?’ ‘도구를 썼다면 어떤 결과가 실제로 나왔을까?’ 언어 모델이 문장을 만드는 과정, 정보를 제공하거나 찾는 과정, 도구로 작업을 실행하는 과정을 구별하면 AI에게 일을 맡기고 결과를 살펴보는 기준이 생깁니다. 독서 모임 안내문에서 연습한 방법은 수업 자료, 회의 기록, 문서 요약에도 이어 갈 수 있습니다. 다음 글에서는 이 과정의 안쪽으로 한 걸음 더 들어가겠습니다. 우리가 익숙하게 읽는 한국어 문장이 어떤 토큰으로 나뉘고, 그 경계가 왜 글자나 단어의 경계와 달라질 수 있는지 실제 예를 놓고 살펴봅니다.
이 글의 다이어그램과 실습에 대하여 글과 생각그림은 이 연재를 위해 새로 구성했습니다. 기본 생성 설명은 토큰을 차례로 생성하는 트랜스포머 계열의 대표적인 원리를 다루며, 개별 최신 모델의 모든 구조를 재현하지 않습니다. 신경망 그림·후보 수치·공지·답변·작업 기록은 설명을 위한 모형입니다. 공개된 풀이 역시 내부 계산을 그대로 촬영한 기록으로 해석하지 않습니다.[7]
토큰 그림은 티크토큰 0.14.0 / o200k_base 실행 결과를 사용했습니다. 예문 전체를 토큰으로 바꾼 후 다시 원문으로 복원할 수 있음을 확인했습니다. 페이지의 곱셈과 요청문 조립은 브라우저에서 동작합니다. 검색 비교와 준비된 답변은 LLM 호출 없이 원리를 살펴보는 실습입니다.