인공지능(AI)에게 원칙을 주면 안전한 답이 자동으로 보장될까?
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
연구와 학습, 시험과 도서를 한곳에서 찾습니다.
검색 결과마다 자료의 코너와 성격을 표시합니다. 제목을 먼저 살펴보고 그림 카드와 기존 본문으로 이어 가세요.

관심 주제로 찾아보기
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
대규모 언어모델의 자동 형식화는 일부 문제를 완전한 Isabelle 명세로 바꾸고 증명 학습을 개선했지만 번역 검증이 병목입니다.
Autoformalization with Large Language Models
PrOntoQA 분석은 개별 추론 정확성과 여러 갈래에서 목표 경로를 찾는 증명 계획을 분리합니다.
Language Models Are Greedy Reasoners: A Systematic Formal Analysis of Chain-of-Thought
NaturalProver는 배경 정리와 정의를 조건으로 자연어 증명 단계를 생성해 사람 평가를 개선했지만, 형식 검사기가 없는 자연어 증명은 여전히 인간 검토가 필요했습니다.
NaturalProver: Grounded Mathematical Proof Generation With Language Models
HyperTree Proof Search는 증명 탐색 결과를 온라인 학습에 되돌려 훈련 분포 밖 정리의 탐색 정책을 개선한다.
HyperTree Proof Search for Neural Theorem Proving
1–5 / 17편