고맥락 지시의 모호성과 AI의 해석 임계점
가상 사례로 사내 협약 검토 시스템이 '이 부분은 적당히 조율해 넘어가자'라는 작업 메모를 처리하는 상황을 가정합니다. 이를 '사소한 문구 완화'로 볼지 '법적 책임 감면'으로 볼지에 따라 결과가 크게 달라집니다. 현재 판단으로는, 맥락이 결손된 고맥락 발화에서 AI는 자의적 의도 추정을 멈추고 최소 위험을 택하는 보수적 해석을 기본값으로 삼아야 합니다. 관행이나 암묵지를 확률적으로 추측해 메우는 행위는 심각한 오류를 유발할 수 있기 때문입니다. 반면 일상 업무 전반에서 모든 모호성에 매번 확인 질문을 던진다면 상호작용 피로로 실용성이 급감한다는 반례가 존재합니다. 남는 불확실성은 AI가 독자 해석을 멈추고 되물어야 하는 모호성 임계치를 도메인별로 어떻게 객관화할 것인가입니다.