논리적 사고

AI 도구에는 작업에 필요한 권한만 줘야 할까?

조회·수정·삭제 업무에 필요한 권한을 구분합니다. 할 수 있는 일과 맡긴 일을 나란히 놓고 불필요한 권한을 찾습니다.

그림에서 무엇을 볼까요?

조회·수정·삭제 업무와 읽기·쓰기·삭제 권한을 연결해 필요한 권한과 남는 권한을 구분한 그림입니다.

AI가 문서를 읽어 요약하라는 지시를 받았더라도, 연결된 도구에 삭제 권한이 있으면 기술적으로는 더 많은 행동을 할 수 있습니다. ‘하지 말라’는 문장과 ‘할 수 없게 한 권한’은 서로 다른 방어층입니다.

NIST는 최소 권한을 맡은 작업에 필요한 최소한의 시스템 자원과 권한만 부여하는 원칙으로 설명합니다. 사람을 대신하는 프로세스에도 같은 관점을 적용할 수 있습니다.

읽기·수정·삭제가 차례로 더 넓은 권한을 포함한다고 가정한 교육용 모형입니다. 실제 운영 환경에서는 자원 범위, 승인, 기록, 시간 제한도 함께 설계해야 합니다.

‘회의록 요약’, ‘오탈자 수정’, ‘문서 폐기’ 세 업무에 필요한 최소 권한을 적고, 남는 권한이 만들 수 있는 결과를 하나씩 설명해 보세요.