논리적 사고

한쪽만 유의하면 두 효과가 서로 다른 걸까?

p .05의 경계 비교는 두 효과의 차이 검정이 아닙니다. 추정치의 차이와 그 불확실성을 직접 계산해야 합니다.

가 반 효과 4 표준오차 1.9와 나 반 효과 2 표준오차 1.9를 각각 영과 비교하고, 차이 2의 표준오차 약 2.69를 직접 비교한 표.
출처: Gelman·Stern의 직접 비교 원리를 바탕으로 LTCT가 만든 수치 예시. 원문 자료가 아니며 두 반 독립을 가정했습니다.
그림 크게 열기 ↗SVG 저장

그림에서 무엇을 볼까요?

가 반 효과 4 표준오차 1.9와 나 반 효과 2 표준오차 1.9를 각각 영과 비교하고, 차이 2의 표준오차 약 2.69를 직접 비교한 표.

가 반의 평균 변화는 4점, 표준오차 1.9점이고 나 반은 2점, 표준오차 1.9점이라고 가정합니다. 영과 비교하면 가의 z값은 약 2.11이라 양측 p값이 .05보다 작고, 나는 약 1.05라 .05보다 큽니다. 여기까지만 보면 ‘가만 효과’라고 말하기 쉽습니다.

하지만 두 반이 독립이라는 단순 가정에서 차이의 표준오차는 √(1.9²+1.9²)≈2.69입니다. 효과 차이 2의 z값은 약 0.74여서 강한 차이 증거가 아닙니다. 이 숫자는 논문의 실제 자료가 아니라 계산 원리를 맞추기 위한 자체 예시입니다. 실제 학급은 독립성, 군집과 사전 점수를 따로 모델링해야 합니다.

함께 확인할 점

가상 계산은 두 추정치가 독립이고 정규 근사를 쓸 수 있다는 단순 조건입니다. 실제 반복 측정·학급 자료에는 공분산과 군집 구조가 필요합니다.

직접 차이가 유의하지 않다는 사실도 효과가 같음을 증명하지 않습니다. 동등성 질문에는 사전 한계와 충분한 검정력이 필요합니다.

생각해 볼 질문

두 조건 모두 유의하지 않으면 차이도 없다고 해도 되나요?

← 논리적 사고 그림 더 보기