인공지능(AI)에게 원칙을 주면 안전한 답이 자동으로 보장될까?
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
게시 2026-09-23 · 약 10분해외 논리학 연구 해설 읽기 →
연구와 학습, 시험과 도서를 한곳에서 찾습니다.
검색 결과마다 자료의 코너와 성격을 표시합니다. 제목을 먼저 살펴보고 그림 카드와 기존 본문으로 이어 가세요.

관심 주제로 찾아보기
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
GSM8K와 학습된 검증기는 풀이 생성과 후보 선택을 분리해 다단계 산술 추론을 개선하는 방법과 그 한계를 보여 줍니다.
Training Verifiers to Solve Math Word Problems
대규모 언어모델의 자동 형식화는 일부 문제를 완전한 Isabelle 명세로 바꾸고 증명 학습을 개선했지만 번역 검증이 병목입니다.
Autoformalization with Large Language Models
PrOntoQA 분석은 개별 추론 정확성과 여러 갈래에서 목표 경로를 찾는 증명 계획을 분리합니다.
Language Models Are Greedy Reasoners: A Systematic Formal Analysis of Chain-of-Thought
Goedel-Prover는 Lean 4 명제와 새 증명을 반복해 학습자료로 늘렸습니다.
Goedel-Prover: A Frontier Model for Open-Source Automated Theorem Proving
1–5 / 27편