같은 블록을 다섯 번 재면 어느 길이가 맞을까?

한 번의 숫자보다 반복된 흔적

나무 블록의 길이를 다섯 번 쟀더니 99.9, 100.0, 100.1, 100.2, 100.3밀리미터가 나왔다. 평균은 100.1밀리미터이고 중앙값도 100.1밀리미터다. 범위는 가장 큰 값과 작은 값의 차이인 0.4밀리미터다.

NIST Technical Note 1297은 측정 불확도의 성분을 분류하고 반복 관측에서 통계적으로 평가하는 Type A 방법과 보고 방법을 다룬다. 여기서는 전체 불확도 평가 대신 대표값과 퍼짐의 가장 기초적인 차이만 살핀다.

참고 · Barry N. Taylor · Chris E. Kuyatt — 측정 불확도 평가 지침 ↗

한 값이 멀어질 때 대표값은 다르게 움직인다

다섯 번째 값이 100.3에서 105.0으로 바뀌면 평균은 101.04로 크게 움직인다. 중앙값은 정렬했을 때 가운데인 100.1에 머문다. 범위는 5.1로 커져 무언가 달라졌다는 신호를 강하게 보낸다.

아래 활동에서 다섯 번째 값을 99~105밀리미터로 바꿔 보자. 평균·중앙값·범위를 함께 보면 대표값과 퍼짐을 분리해서 읽을 수 있다. 어느 통계량 하나가 언제나 정답인 것은 아니다.

이상한 값은 지우기 전에 원인을 확인한다

105.0이 단순 입력 실수일 수도 있고, 블록의 다른 면을 재었거나 측정기가 움직였을 수도 있다. 실제로 블록이 변형되었을 가능성도 있다. 원인을 확인하지 않고 숫자를 삭제하면 중요한 현상을 놓칠 수 있다.

이 활동은 다섯 관측의 기술 통계만 계산한다. 측정기 해상도·온도·측정자의 힘·교정 상태는 포함하지 않는다. 보고할 때는 측정 방법과 단위, 반복 횟수, 제외한 값과 이유를 함께 남겨야 한다.