유의확률(p값)이 0.05면 ‘이 결론이 틀릴 확률’도 5%일까?
Colquhoun의 계산은 p값과 발견의 사후 오류확률이 다른 양임을 보이며, 사전가능성·검정력·관측 증거를 함께 명시해야 한다고 주장합니다.
그림에서 무엇을 볼까요?
1000개 가설을 실제 효과 100과 없음 900으로 나누고 참 양성 80, 거짓 양성 45를 계산한 빈도 나무
1,000개 가설 중 실제 효과가 100개이고 검정력이 80%라면 참 양성은 약 80개입니다. 나머지 900개에 유의수준 5%를 적용하면 거짓 양성은 약 45개입니다. 양성 125개 중 거짓은 45개로 36%입니다.
이 자체 예시는 독립 검정, 정확한 검정력과 유의수준을 가정합니다. 실제 연구에서는 효과크기 분포, 중도분석, 선택적 보고가 더해질 수 있습니다. p값 하나가 이 분모를 알려 주지 않습니다.
함께 확인할 점
논문의 거짓 양성 위험 수치는 특정 사전확률·검정력·효과 가정에 따른 예시이며 보편 상수가 아닙니다.
베이즈적 보충 수치도 사전분포 선택에 의존하므로 가정 공개와 민감도 검토가 필요합니다.
생각해 볼 질문
p=.05가 P(효과 없음|자료)=.05를 뜻하지 않는 핵심 이유는 무엇인가요?
