논리적 사고

AI 안전 규칙을 바꾸면 한 오류는 줄고 다른 오류는 늘 수 있을까?

위험 요청을 놓치는 오류와 안전한 요청을 잘못 거절하는 오류를 함께 셉니다. 한 지표만 좋아졌을 때 전체 정책을 개선했다고 말할 수 있는지 살펴봅니다.

그림에서 무엇을 볼까요?

정책 변경 전후에 위험 요청 차단과 안전 요청 허용을 같은 시험 묶음으로 비교하는 그림입니다.

AI 안전 규칙을 바꾸고 위험 요청의 차단률만 보면 개선처럼 보일 수 있습니다. 하지만 안전한 요청을 잘못 거절하는 횟수도 함께 바뀔 수 있습니다. 두 오류는 서로 다른 영향을 만듭니다.

이 글의 가상 기본값에서 변경 전 정책은 위험 10건 중 7건을 막고 안전 10건 중 8건을 허용합니다. 변경 후 정책은 위험 9건을 막지만 안전 요청은 6건만 허용합니다.

위험 요청 10건과 안전 요청 10건을 검사하는 가상 모형입니다. 민감도는 위험 요청을 차단하는 비율, 특이도는 안전 요청을 허용하는 비율입니다. 비용 비중은 의사결정 기준을 탐구하기 위한 값이며 실제 안전 기준이 아닙니다.

위험 놓침과 불필요한 거절 중 어떤 오류를 더 무겁게 볼지 한 상황을 정해 이유를 쓰고, 반대 상황에서는 판단이 어떻게 달라질지 적어 보세요.