같은 예측 오차인데 MAE와 RMSE가 고르는 모델은 왜 달라질까?

절댓값은 선형으로, 제곱은 큰 오차를 더 빠르게 키운다

MAE는 각 오차의 절댓값을 더해 사례 수로 나눕니다. 오차 8은 오차 4의 두 배로 반영됩니다. RMSE는 오차를 제곱해 평균한 뒤 제곱근을 취합니다. 제곱 단계에서 8은 64, 4는 16이므로 큰 오차가 평균을 더 강하게 끌어올립니다.[1]

두 값은 모두 원자료와 같은 단위로 돌아오지만 같은 질문을 묻지는 않습니다. 평균적인 절대 빗나감이 중요한지, 드문 큰 빗나감에 더 큰 비용을 줄지에 따라 적합한 지표가 달라집니다.

같은 네 사례에서 큰 오차 하나를 움직여 순위를 바꾼다

기본값에서는 MAE가 A를, RMSE가 B를 고릅니다. A의 마지막 오차를 8에서 4로 낮추거나 B의 네 오차를 키우면 두 지표가 같은 모델을 고를 수 있습니다. 모든 값을 0으로 만들면 두 지표 모두 동률입니다.

비교 기준 선택은 값 자체를 바꾸지 않고 어느 열을 순위에 쓰는지만 바꿉니다. 활동은 네 사례가 같은 단위이고 모두 같은 중요도를 가진다는 단순 가정을 둡니다.

지표의 순위는 실제 손실에 관한 가정까지 포함한다

관계로 추론 문제: A가 세 번 0, 한 번 8이고 B가 네 번 3일 때 MAE와 RMSE가 각각 어느 모델을 고르는지 계산해 보세요. 해설: A의 MAE는 2, RMSE는 4이고 B는 둘 다 3이므로 MAE는 A, RMSE는 B를 고릅니다.

조건·표현 바꾸기 문제: 큰 오차 한 번의 비용이 같은 크기의 작은 오차 여러 번보다 훨씬 크다고 계약서에 명시되어 있다면 어느 지표를 우선 검토해야 할까요? 해설: 제곱 손실이 실제 비용을 합리적으로 근사한다는 추가 근거가 있을 때 RMSE가 맞을 수 있습니다. 단지 순위가 마음에 든다는 이유로 고르면 안 됩니다.

Hyndman과 Koehler는 지표를 자료 집합 사이에서 비교할 때 척도와 분모가 만드는 문제를 비판하고 MASE 같은 척도화 지표를 제안했습니다. 이 글은 MAE와 RMSE의 손실 모양만 다루므로, 서로 다른 단위·계열 사이 비교까지 해결했다고 말하지 않습니다.[1]

지표 하나로 모델의 모든 품질을 대신하지 않는다

실무에서는 MAE와 RMSE를 함께 기록하고, 큰 오차 사례를 원자료로 다시 봅니다. 예측 구간, 편향 방향, 집단별 오류, 시간에 따른 분포 변화도 별도 점검해야 합니다.

오차를 사후에 보고 마음에 드는 지표를 고르면 선택 편향이 생깁니다. 평가 전에 손실의 의미, 주 지표, 보조 지표, 제외 규칙을 적고 두 모델에 같은 규칙을 적용합니다.