증거·확률·인과관계

분석 선택이 많아지면 거짓 양성도 늘어날까?

자료수집·분석의 공개되지 않은 선택 유연성이 명목상 5%보다 훨씬 많은 유의 결과를 만들 수 있음을 모의실험과 실험으로 보였습니다.

자료수집·분석의 공개되지 않은 선택 유연성이 명목상 5%보다 훨씬 많은 유의 결과를 만들 수 있음을 모의실험과 실험으로 보였습니다. 이 글은 공개 원문에서 확인한 연구 질문·방법·결과를 협회의 적용 아이디어와 나누어 읽습니다.

학술 자료의 내용

연구를 읽는 두 가지 질문

연구 질문과 확인한 자료

Joseph P. Simmons, Leif D. Nelson, Uri Simonsohn의 원자료를 공개 전문으로 확인했습니다. 모의실험과 두 실제 실험으로 표본 종료, 종속변수, 공변량과 조건 포함 선택을 결과 확인 뒤 바꾸는 경우를 비교했습니다. [1]

방법과 핵심 결과

각 선택은 그럴듯해 보여도 조합되면 거짓 양성이 크게 늘 수 있음을 보였고, 노래를 들으면 나이가 달라진다는 불가능한 결론도 유의하게 만들었습니다. 수치와 범주는 원문이 보고한 범위에서만 사용했습니다. [1]

해석의 범위와 한계

특정 선택 묶음의 시뮬레이션·시범 실험이며 모든 유의 결과가 부정하거나 거짓이라는 뜻은 아닙니다. 투명한 계획·보고가 핵심입니다. 발표일과 확인한 버전을 구분하고 저자 국적은 추정하지 않았습니다. [1]

그림으로 생각하기

개념을 직접 점검하는 예시

같은 자료에서 분석 계획을 미리 고정한 경로와 여러 분석을 시험한 뒤 하나만 보고한 경로를 나누고 전체 시도 수를 함께 표시합니다.

그림은 분석 선택 → 다중 시도 → 전체 공개 순서로 읽고 마지막 합류점에서 조건·범위·반례를 함께 확인합니다. 원 논문의 표나 그림을 복사하지 않고 LTCT가 개념 관계만 새로 그렸습니다.

분석 선택, 다중 시도, 전체 공개를 연결해 조건과 범위를 확인하는 교육용 도식.
출처: Joseph P. Simmons, Leif D. Nelson, Uri Simonsohn의 연구 개념을 바탕으로 LTCT가 자체 제작·재구성했습니다. 원 논문의 도표나 자료를 재게시하지 않았습니다. 그림 크게 보기 ↗

어디까지 말할 수 있을까요?

  • 특정 선택 묶음의 시뮬레이션·시범 실험이며 모든 유의 결과가 부정하거나 거짓이라는 뜻은 아닙니다. 투명한 계획·보고가 핵심입니다.
  • 이 연구만으로 LTCT 교육·시험의 효과를 확인할 수 없습니다. 적용안은 별도 비교 조건과 측정 계획이 필요한 제안입니다.

원문에 근거한 한계와 LTCT의 적용 범위 검토입니다. [1]

배운 내용을 수업에 적용하기

교육 현장과 연결해 보면

가상 설문 자료를 분석하기 전에 제외 기준과 비교할 집단을 정합니다. 이어 다른 합리적인 기준도 적용해 보고, 각 선택에서 결과가 어떻게 달라지는지 분석 경로를 표로 남깁니다.

학생은 가장 눈에 띄는 결과만 고른 보고서와 모든 시도를 밝힌 보고서를 비교합니다. 교사는 분석을 바꾼 시점과 이유를 확인하여, 미리 정한 검증과 결과를 본 뒤의 탐색을 구분하게 합니다.

한 번 더 생각하기

각 분석의 p값이 0.05 아래면 증거가 강한가요?

생각을 비교할 해설 펼치기

시도한 분석 전체와 선택 규칙을 숨기면 그 숫자만으로는 거짓 양성 위험을 판단하기 어렵습니다.

원문과 출처 정보

한국어 제목은 이해를 돕기 위한 LTCT 번역입니다. 한글 제목 뒤 괄호에 원제를 함께 표기했습니다. 저자·학술지·원문 버전은 원문 서지정보를 기준으로 확인할 수 있습니다.

  1. 거짓 양성 심리학: 공개되지 않은 자료수집·분석 유연성 (False-Positive Psychology: Undisclosed Flexibility in Data Collection and Analysis Allows Presenting Anything as Significant)

    Joseph P. Simmons, Leif D. Nelson, Uri Simonsohn (2011). Psychological Science, 22(11), 1359–1366.

    자료 성격
    국제 학술지 방법론 연구
    읽은 버전
    2011 출판본 및 공개 저자 원고
    확인 범위
    공개 원문 전문에서 연구 질문, 방법, 표본·비교 조건, 핵심 결과와 해석 한계를 확인. 2011 출판본 및 공개 저자 원고
    원문 확인일

이 글은 한국어 해설이며 원문 전문 번역이 아닙니다. 도식과 활동의 제작·재구성 범위는 각 그림과 본문에 표시했습니다. 자료 선정과 출처 기준

출처·개념 네트워크

같은 연구 흐름에서 이어 읽기

같은 원문, 저자·연구 흐름, 공통 개념 태그를 기준으로 연결한 관련 해설입니다.