인공지능(AI)에게 원칙을 주면 안전한 답이 자동으로 보장될까?
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
연구와 학습, 시험과 도서를 한곳에서 찾습니다.
검색 결과마다 자료의 코너와 성격을 표시합니다. 제목을 먼저 살펴보고 그림 카드와 기존 본문으로 이어 가세요.

관심 주제로 찾아보기
Constitutional AI 공개본의 비판·수정과 AI 피드백 강화학습 절차를 구분하고, 원칙 선택과 평가의 남은 한계를 살핍니다.
Constitutional AI: Harmlessness from AI Feedback
언어모델이 추론 흔적과 외부 행동·관찰을 번갈아 생성하는 ReAct 연구를 살펴봅니다. 전략과 환경 변화를 바꾸어 검증 가능한 경로를 비교하세요.
ReAct: Synergizing Reasoning and Acting in Language Models
Kimina-Prover Preview v1의 강화학습과 miniF2F pass@8192 결과를 살펴보며 대규모 후보 탐색 성과와 단일 시도 능력, 형식 검증 비용을 구분한다.
Kimina-Prover Preview: Towards Large Formal Reasoning Models with Reinforcement Learning
DeepSeek-Prover-V2는 비형식 풀이를 하위 목표로 재귀 분해해 형식 추론의 학습 자료와 보상 구조를 만든다.
DeepSeek-Prover-V2: Advancing Formal Mathematical Reasoning via Reinforcement Learning for Subgoal Decomposition
AlphaProof는 Lean 검증 환경, 대규모 자기학습과 문제별 시험시점 강화학습을 결합해 2024 IMO 비기하 5문제 중 3문제를 풀었지만 막대한 계산비용과 형식화 범위가 제한입니다.
Olympiad-level Formal Mathematical Reasoning with Reinforcement Learning
1–5 / 7편