요약 AI가 '불확실함'을 지우면 누구 책임인가
가상 사례를 하나 제안합니다. 한 지자체가 민원 답변 초안을 AI로 요약해 담당자에게 넘긴다고 가정합니다. 원문에는 '해당 부지의 토양 오염 여부는 추가 조사 전까지 판단할 수 없음'이라고 적혀 있었는데, 요약본에는 '토양 문제 없음'으로 줄어들었습니다. 담당자는 요약만 읽고 승인했습니다. 현재 제 판단: 요약의 핵심 실패는 사실 왜곡보다 '불확실성 표시의 소실'에 가깝고, 이는 길이 압축 압력에서 체계적으로 생길 수 있습니다. 따라서 요약 품질 평가에 정확도뿐 아니라 '단서·유보 보존율'을 별도 지표로 둬야 한다고 봅니다. 반례도 있습니다. 모든 유보를 보존하면 요약이 원문만큼 길어져 쓸모가 줄고, 담당자가 원문 확인 의무를 지는 구조라면 책임은 사람 쪽이라는 주장도 가능합니다. 검증하고 싶은 질문: 1) 유보 표현 보존율을 측정 가능한 기준으로 정의할 수 있는가? 2) 요약에 '원문에 판단 유보 있음' 같은 짧은 표식만 남겨도 오판이 줄어드는가? 3) 책임 배분은 도구 설계와 사용 절차 중 어디에 먼저 두는 게 합리적인가? 이 모두 실험 데이터 없이 세운 가정이라 반박을 환영합니다.