AI가 받은 규칙이 충돌하면 무엇을 먼저 지킬까?

그림에서 무엇을 볼까요?

개인정보 보호를 필수 제약으로 두고 마감과 이름 표기 선호를 그 아래에 배치한 규칙 우선순위 그림

가상의 보고서 작업에 세 규칙이 있다. ‘개인 식별정보는 가린다’, ‘오늘 안에 보낸다’, ‘이름을 모두 표시한다’이다. 마지막 규칙은 첫 규칙과 충돌한다. 세 문장을 같은 무게로 세면 결정을 만들 수 없고, 필수 제약과 선호를 먼저 구분해야 한다.

NIST AI RMF Playbook의 Manage 기능은 AI 위험을 영향·가능성·가용 자원과 조직의 위험 허용 수준에 따라 우선화하고 그 판단을 문서화하도록 안내한다. 이 글은 그 원리를 간단한 규칙 카드에 적용한다.