인공지능(AI)에게 원칙을 주면 안전한 답이 자동으로 보장될까?

그림에서 무엇을 볼까요?

초안에서 원칙 비판과 수정으로 이어지는 지도학습 단계, 응답 비교에서 선호모형과 강화학습으로 이어지는 단계를 나눈 절차도.

가상 상담 답안이 개인 연락처를 자세히 요구하고, 모르는 사실을 확정적으로 말하며, 위험한 절차를 단계별로 적었다고 합시다. 개인정보·정직성·안전 원칙은 서로 다른 문제를 찾아냅니다. 한 원칙을 통과했다고 전체 안전성이 확인된 것은 아닙니다.

아래 활동은 실제 AI나 외부 API를 호출하지 않습니다. 원칙과 초안/수정안을 선택하면 미리 정한 교육용 위험 신호 수가 달라집니다. 원 연구의 모델 점수나 실시간 안전 판정기가 아니라 절차의 각 단계를 구분하려는 모형입니다.