언어모델은 긴 문장을 쓰면서도 간단한 산술이나 최신 사실에서 틀릴 수 있습니다. 모든 질문마다 도구를 부르면 느리고 불필요하며, 도구를 전혀 부르지 않으면 약점을 그대로 둡니다. Schick 등은 2023년 arXiv v1에서 소수의 시범만으로 호출 후보를 대량 생성하고, 도구 결과가 다음 토큰 예측을 얼마나 개선하는지로 후보를 걸러 학습 자료를 만드는 Toolformer를 제안했습니다.
연구를 읽는 두 가지 질문
모델은 어떤 절차로 도구 사용을 배웠나?
연구는 67억 매개변수 GPT-J를 기반으로 했습니다. 질문응답, 위키백과 검색, 계산기, 번역, 달력의 호출 예시를 몇 개씩 프롬프트에 넣어 CCNet 텍스트의 여러 위치에 API 호출 후보를 생성했습니다. 후보를 실제 실행한 뒤 결과를 넣었을 때의 다음 토큰 손실과 호출이 없거나 결과가 없는 경우의 손실을 비교해, 정한 문턱 이상 손실을 줄인 호출만 남겼습니다. 남은 호출을 원문 텍스트에 끼운 자료로 모델을 미세조정했습니다. [1]
어떤 결과와 한계가 있었나?
논문은 LAMA 사실 완성, 수학 문제, 질문응답, 다국어·시간 과제의 제로샷 성능을 비교했습니다. 예를 들어 세 수학 벤치마크에서 도구 허용 시 성능이 도구 비활성 조건보다 크게 높아졌고 계산기 호출 비율은 97.9%였습니다. 하지만 GPT-J와 2023년 초의 도구 집합에 대한 결과이며, 최대 한 번의 API 호출만 허용한 설정이 많습니다. 도구 오류, 호출 비용, 장기 계획, 악의적 결과, 최신 모델의 행태까지 해결한 것은 아닙니다. [1]
호출 후보가 학습 자료에 남을 조건
아래 활동은 계산, 날짜, 사실 확인 중 과제를 고르고 도구 사용 가능 여부와 유용성 문턱을 바꿉니다. LTCT 교육 모형은 과제별 가상 손실 감소값을 계산 1.4, 날짜 0.9, 사실 0.6으로 놓고, 값이 문턱 이상이면 호출을 남깁니다.
이는 Toolformer나 실제 AI를 실행하지 않으며 외부 API도 호출하지 않습니다. 원 논문의 필터 원리인 ‘도구 결과가 다음 예측을 충분히 개선했는가’를 작은 숫자로 보여 줄 뿐입니다. 문턱을 높이면 호출 수는 줄지만 필요한 호출도 버릴 수 있고, 낮추면 불필요한 호출이 섞일 수 있습니다.
교육에서는 AI의 최종 답만 보지 않고 호출 이름, 입력, 반환값, 반환값을 사용한 문장을 분리해 검토할 수 있습니다. 계산기가 정확해도 잘못된 식을 보냈다면 답은 틀릴 수 있습니다. 검색 결과가 최신이어도 출처 선택과 인용 연결이 잘못되면 근거가 되지 않습니다.
과제와 필터 문턱을 바꾸어 호출 보존 여부를 확인하세요
실제 AI나 API를 호출하지 않는 교육 모형입니다. 가상 손실 감소와 필터 문턱을 비교합니다.
가상 손실 감소 1.4 · 가상 손실 감소가 문턱 이상이라 호출을 남깁니다.
어디까지 말할 수 있을까요?
- 확인한 공개본은 arXiv v1(2023-02-09)이며 이후 모델·API 생태계를 반영하지 않습니다. 논문 결과를 현재 모든 언어모델에 일반화할 수 없습니다.
- 손실 감소 필터는 유용성의 대리 지표입니다. 사실성·안전성·비용·개인정보 보호를 직접 보증하지 않으며, 도구가 틀린 응답을 주는 경우도 별도 검증이 필요합니다.
원문에 근거한 한계와 LTCT의 적용 범위 검토입니다. [1]
교육 현장과 연결해 보면
AI 보조 논리 활동에서는 도구 호출 전 ‘무엇을 확인하려는가’를 쓰고, 호출 결과와 결론 사이의 추론 규칙을 따로 표시하게 할 수 있습니다.
평가에서는 도구 사용 여부 자체보다 문제 해석, 적절한 도구 선택, 입력 구성, 결과 검산, 인용 가능성을 분리해 채점할 수 있습니다.
손실을 가장 많이 줄인 호출은 항상 가장 믿을 만한 호출인가요?
생각을 비교할 해설 펼치기
아닙니다. 다음 단어를 쉽게 예측하게 하는 정보가 사실이거나 안전하다는 보장은 없습니다. 도구의 출처, 최신성, 오류 가능성, 입력 해석을 별도로 확인해야 합니다.
원문과 출처 정보
한국어 제목은 이해를 돕기 위한 LTCT 번역입니다. 한글 제목 뒤 괄호에 원제를 함께 표기했습니다. 저자·학술지·원문 버전은 원문 서지정보를 기준으로 확인할 수 있습니다.
툴포머: 언어모델은 도구 사용을 스스로 배울 수 있다 (Toolformer: Language Models Can Teach Themselves to Use Tools)
Timo Schick, Jane Dwivedi-Yu, Roberto Dessì, Roberta Raileanu, Maria Lomeli, Luke Zettlemoyer, Nicola Cancedda & Thomas Scialom (2023). arXiv:2302.04761 [cs.CL].
- 자료 성격
- 공개 AI 연구 사전출판본
- 읽은 버전
- arXiv v1, 2023-02-09; 확인 시 단일 버전
- 확인 범위
- v1 공개 HTML 전체의 방법, 다섯 도구, GPT-J 6.7B 설정, 제로샷 표, 분석, 한계와 부록 확인
- 원문 확인일
이 글은 한국어 해설이며 원문 전문 번역이 아닙니다. 도식과 활동의 제작·재구성 범위는 각 그림과 본문에 표시했습니다. 자료 선정과 출처 기준
같은 연구 흐름에서 이어 읽기
같은 원문, 저자·연구 흐름, 공통 개념 태그를 기준으로 연결한 관련 해설입니다.