증거·확률·인과관계

두 집단의 차이를 ‘유의·비유의’ 대신 가능한 값의 분포로 보면 무엇이 달라질까?

Kruschke의 BEST 방법은 평균·산포·효과크기의 사후분포와 실질적으로 같은 영역을 함께 제시해 이분법적 검정이 숨기는 불확실성을 보여줍니다.

두 집단 평균 차이가 2점이고 p=.06이라면 ‘차이가 없다’고 끝내야 할까요? 같은 p값에서도 가능한 효과의 범위와 작은 차이를 얼마나 중요하게 볼지는 연구 목적에 따라 달라집니다.

학술 자료의 내용

연구를 읽는 두 가지 질문

두 집단 비교를 확률모형 전체로 제시합니다

Kruschke의 2013년 논문은 Student-t 분포를 사용해 두 집단의 평균, 표준편차, 꼬리 두께와 효과크기의 사후분포를 추정하는 BEST를 설명합니다. 이상치에 더 유연하고 관심 모수의 가능한 값을 한꺼번에 보여 줍니다. [1]

점 귀무가설 대신 실질적 동등 영역을 둘 수 있습니다

효과가 정확히 0인지보다 실제로 중요하지 않을 만큼 작은 범위인지를 정해, 사후분포가 그 영역 안이나 밖에 얼마나 놓이는지 봅니다. ‘차이가 없음’을 자동 승인하는 규칙이 아니라, 실질적 기준을 분석 전에 정하고 불확실성을 보고하는 절차입니다. [1]

사후분포는 모형과 사전에 조건부입니다

가능한 효과 범위는 자료만의 산물이 아니라 우도, 사전분포, 모형 가정에 의존합니다. 표본이 작거나 자료가 치우치면 범위가 넓어질 수 있고, 다른 합리적 사전·모형에서 결론이 얼마나 변하는지 확인해야 합니다. [1]

방법 논문은 모든 비교의 단일 정답이 아닙니다

논문은 전통 t검정과 다른 정보 표현과 의사결정 예를 제시하지만, 사후확률이 곧 복제 성공률이나 인과효과를 뜻하지 않습니다. 무작위배정·측정 신뢰도·결측과 연구 설계는 통계 모형 밖에서 별도로 검토해야 합니다. [1]

그림으로 생각하기

차이 2점의 가능한 범위를 읽기

자체 예시에서 평균 차이의 95% 신용구간이 -0.5~4.5점이고 실질적 동등 영역을 -1~1점으로 정했다고 합시다. 분포는 0도 포함하고 의미 있는 양의 효과 영역도 포함하므로 자료가 두 가능성을 충분히 좁히지 못했습니다.

‘p>.05이므로 같다’나 ‘평균이 양수이므로 효과가 있다’ 가운데 어느 결론도 불확실성을 충실히 표현하지 못합니다. 더 큰 표본, 측정 정밀도와 사전 기준이 필요합니다.

LTCT에서는 점추정치·구간·동등 영역을 한 선 위에 놓고, 확정 가능한 주장과 남아 있는 가능성을 문장으로 구분하게 합니다.

평균 차이 축에 95퍼센트 신용구간과 -1에서 1의 실질적 동등 영역을 겹쳐 놓은 개념도
BEST와 실질적 동등 영역을 설명하는 LTCT 자체 수치 예시. 논문 결과를 복제하지 않았습니다. 그림 크게 보기 ↗

어디까지 말할 수 있을까요?

  • BEST의 결과는 선택한 사전분포와 Student-t 모형에 조건부이며 다른 모형과의 민감도 검토가 필요합니다.
  • 사후분포는 표본추출과 측정·배정의 편향을 자동으로 고치지 않으며 인과 해석은 연구 설계에 달려 있습니다.

원문에 근거한 한계와 LTCT의 적용 범위 검토입니다. [1]

배운 내용을 수업에 적용하기

교육 현장과 연결해 보면

두 집단 차이에 관한 가상 사후분포를 주고 가능한 효과값의 범위를 읽게 합니다. 학생은 0보다 큰 값의 영역과 교육적으로 의미 있다고 정한 차이를 넘는 영역을 따로 표시합니다.

실질적 기준을 바꾸었을 때 해석이 어떻게 달라지는지 비교합니다. 교사는 분포가 사용한 자료와 모형 가정에 기대고 있음을 밝히며, 하나의 유의·비유의 판정에서 놓치는 정보를 정리하게 합니다.

한 번 더 생각하기

신용구간이 실질적 동등 영역과 의미 있는 효과 영역을 모두 덮는다면 가장 정직한 결론은 무엇인가요?

생각을 비교할 해설 펼치기

자료가 두 가능성을 충분히 구분하지 못했으며, 동등이나 효과를 확정하기보다 불확실성을 보고해야 합니다.

원문과 출처 정보

한국어 제목은 이해를 돕기 위한 LTCT 번역입니다. 한글 제목 뒤 괄호에 원제를 함께 표기했습니다. 저자·학술지·원문 버전은 원문 서지정보를 기준으로 확인할 수 있습니다.

  1. 베이즈 추정이 t검정을 대체한다 (Bayesian Estimation Supersedes the t Test)

    John K. Kruschke (2013). Journal of Experimental Psychology: General 142(2), 573–603.

    자료 성격
    공개 학술자료
    읽은 버전
    2013 학술지 출판본 저자 공개 PDF
    확인 범위
    공개 PDF 전체 31쪽: 모형, 사전분포, 예제, 비교와 제한
    원문 확인일

이 글은 한국어 해설이며 원문 전문 번역이 아닙니다. 도식과 활동의 제작·재구성 범위는 각 그림과 본문에 표시했습니다. 자료 선정과 출처 기준