규칙 수보다 지위가 중요하다
가상의 보고서 작업에 세 규칙이 있다. ‘개인 식별정보는 가린다’, ‘오늘 안에 보낸다’, ‘이름을 모두 표시한다’이다. 마지막 규칙은 첫 규칙과 충돌한다. 세 문장을 같은 무게로 세면 결정을 만들 수 없고, 필수 제약과 선호를 먼저 구분해야 한다.
NIST AI RMF Playbook의 Manage 기능은 AI 위험을 영향·가능성·가용 자원과 조직의 위험 허용 수준에 따라 우선화하고 그 판단을 문서화하도록 안내한다. 이 글은 그 원리를 간단한 규칙 카드에 적용한다.
실행 가능한 선택지 만들기
개인정보 보호를 필수 제약으로 두면 이름 전체 표시는 선택지에서 제외된다. 마감도 필수라면 ‘이름을 가리고 오늘 전송’이 남는다. 마감이 선호라면 ‘이름을 가린 뒤 검토 대기’도 가능하다. 우선순위는 문장 순서가 아니라 명시된 지위에서 나온다.
아래 활동에서 가상 자료에 식별정보가 있는지, 개인정보 보호가 필수인지, 오늘 전송이 필수인지, 표현 선호가 무엇인지 바꿔 보자. 결과는 허용·대기·차단 경로와 어떤 규칙이 충족됐는지를 함께 보여 준다.
충돌을 숨기지 않고 기록하기
AI가 한 규칙을 따랐다고 해서 다른 규칙의 실패가 사라지는 것은 아니다. 어떤 규칙이 충돌했고 누가 필수 지위를 정했는지 남겨야 나중에 판단을 검토할 수 있다. 중요도가 같은 필수 규칙끼리 충돌하면 사람에게 결정을 넘기는 편이 안전하다.
실제 업무에서는 법률·계약·조직 정책과 사용자 요청의 관계를 담당자가 정해야 한다. 이 활동은 가상 규칙의 실행 구조만 보여 준다. 자연어 모델이 스스로 새로운 권한을 만들거나 규칙의 지위를 바꿔서는 안 된다.