인공지능(AI)에게 원칙을 주면 안전한 답이 자동으로 보장될까?
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
그림으로 이해하고, 원문으로 깊이 읽습니다.
관심 주제와 난이도로 필요한 글을 찾아보세요. 개념을 익히는 학습과 원문에 근거한 연구 해설을 구분했습니다.

해외 학술 연구의 7개 분야
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
Program of Thoughts는 언어모델이 계산까지 문장으로 이어 쓰는 대신, 추론을 실행 가능한 프로그램으로 표현하고 계산은 외부 실행기에 맡깁니다.
Program of Thoughts Prompting: Disentangling Computation from Reasoning for Numerical Reasoning Tasks
Toolformer는 소수의 사용 예시에서 API 호출 후보를 만들고, 다음 단어 예측 손실을 실제로 줄인 호출만 남겨 언어모델을 미세조정했습니다.
Toolformer: Language Models Can Teach Themselves to Use Tools
언어모델이 추론 흔적과 외부 행동·관찰을 번갈아 생성하는 ReAct 연구를 살펴봅니다. 전략과 환경 변화를 바꾸어 검증 가능한 경로를 비교하세요.
ReAct: Synergizing Reasoning and Acting in Language Models
언어모델의 P(True)와 P(IK) 연구를 통해 자신감, 판별력, 보정, 새 과제 일반화를 구분합니다. 답변 임계값을 움직여 선택적 응답의 대가를 살펴보세요.
Language Models (Mostly) Know What They Know
11–15 / 69묶음