증거·확률·인과관계

차이가 작다고 말하려면 어느 정도까지 확인해야 할까?

동등성 검정은 사전에 정한 실질적 차이의 범위 안에 효과가 있는지 묻습니다. 유의하지 않다는 결과와 충분히 작은 차이라는 근거를 구분합니다.

채점 프로그램을 바꾸면서 처리 시간이 거의 같다고 말하고 싶습니다. 비교에서 뚜렷한 차이를 발견하지 못했다는 이유만으로 두 프로그램의 속도가 충분히 비슷하다고 결론 내려도 될까요? 자료가 적어 차이를 놓친 경우와 실무에서 중요한 크기의 차이를 배제한 경우를 구분해야 합니다.

학술 자료의 내용

연구를 읽는 두 가지 질문

작다고 볼 기준을 먼저 정합니다

Lakens의 2017년 방법론 논문은 동등성 검정의 두 단측 검정(TOST) 절차를 설명합니다. 연구자가 관심을 가질 가장 작은 효과에 근거해 하한과 상한을 미리 정하고, 그 범위 밖의 효과를 배제할 수 있는지 검사합니다. ‘정확히 0’이라는 증명과 실질적으로 충분히 작다는 판단은 구분됩니다. [1]

구간의 위치와 폭을 함께 봅니다

통상적인 조건에서 각 단측 검정의 유의수준을 5퍼센트로 두면 90퍼센트 신뢰구간이 두 동등성 경계 안에 들어오는지로 같은 판단을 할 수 있습니다. 공개 본문의 TOST 설명과 구간 사례를 확인했습니다. 필요한 표본·가정·경계 설정을 함께 검토해야 하며 유의하지 않다는 사실만으로 동등성을 주장하지 않습니다. [1]

그림으로 생각하기

처리 시간 차이의 세 가지 교육용 결과

아래 수치는 실제 프로그램을 측정한 결과가 아닌 LTCT의 가상 예시입니다. 새 프로그램에서 기존 프로그램을 뺀 평균 처리 시간 차이를 초 단위로 읽습니다. 실무상 허용할 차이를 사전에 -3초보다 크고 +3초보다 작은 범위로 정했다고 가정합니다. 양수이면 새 프로그램이 더 오래 걸린다는 뜻입니다.

결과 A의 90퍼센트 신뢰구간이 -2초부터 +2초라면 두 경계 안에 들어갑니다. 이 예시의 절차와 가정 아래에서는 허용 범위 내의 동등성을 지지합니다. 결과 B의 구간이 -8초부터 +8초라면 0을 포함하지만 허용 범위 밖의 차이도 배제하지 못합니다. ‘차이가 확인되지 않았다’는 말만으로 A와 B를 같은 결론으로 묶으면 정밀도의 차이를 잃습니다.

결과 C의 구간이 +4초부터 +6초라면 이번에 정한 동등성 조건을 만족하지 않습니다. 그림은 세 구간과 -3·+3초의 경계를 함께 보여 줍니다. 구간에 붙인 90퍼센트는 관측 후 고정된 참값에 확률을 직접 붙이는 표현과 구별해야 합니다. 같은 절차를 반복할 때 구간을 만드는 방법의 포괄 성질을 나타내는 빈도주의 용어입니다.

직접 연습에서는 경계를 -3·+3초로 정한 이유를 적어 보세요. 한 건의 소요 시간, 일일 처리량, 사용자가 체감하는 지연에 따라 같은 3초의 의미가 달라질 수 있습니다. 결과 B를 보고 나서 경계를 -9·+9초로 넓혀 동등하다고 꾸미는 방식은 사전의 실무 기준을 바꾸는 일입니다. 기준을 바꾼다면 그 이유와 시점을 공개해야 합니다.

가상 처리 시간 차이의 90퍼센트 신뢰구간 A[-2,2], B[-8,8], C[4,6]과 동등성 경계 -3초·3초를 함께 그린 구간도.
LTCT 자체 제작한 가상 신뢰구간입니다. Lakens의 절차를 설명하기 위한 수치이며 원논문의 그림·실측 결과를 재사용하지 않았습니다. 그림 크게 보기 ↗

어디까지 말할 수 있을까요?

  • 가상 구간은 개념 설명용입니다. 실제 표본으로 계산하거나 특정 프로그램의 성능을 인증한 결과가 아닙니다.
  • TOST에는 추정량과 검정에 맞는 가정이 필요합니다. 경계값을 고르는 근거와 다중 비교·표본 계획도 실제 분석에서 함께 검토해야 합니다.

원문에 근거한 한계와 LTCT의 적용 범위 검토입니다. [1]

배운 내용을 수업에 적용하기

교육 현장과 연결해 보면

수업에서는 두 시험 형식의 차이를 해석할 때 효과 크기, 구간, 실질적 허용 범위를 함께 제시하는 읽기 문항을 만들 수 있습니다. ‘같음’, ‘다름’, ‘자료 부족’의 근거를 구분하게 합니다.

실제 시험 형식의 동등성은 별도 평가 연구가 필요합니다. 내용 난도, 채점 안정성, 기기·연령의 차이 등을 포함한 설계를 정한 뒤 자료를 수집해야 하며 이 예시로 동등성을 선언하지 않습니다.

한 번 더 생각하기

90퍼센트 구간에 0이 있으면 두 프로그램이 동등한가요?

생각을 비교할 해설 펼치기

0의 포함 여부만으로는 부족합니다. 이 예시에서는 구간 전체가 사전에 정한 -3초와 +3초 사이에 들어오는지 확인합니다. 넓은 구간은 중요한 차이도 남겨 두므로 판단을 보류할 수 있습니다.

원문과 출처 정보

한국어 제목은 이해를 돕기 위한 LTCT 번역입니다. 한글 제목 뒤 괄호에 원제를 함께 표기했습니다. 저자·학술지·원문 버전은 원문 서지정보를 기준으로 확인할 수 있습니다.

  1. 티 검정·상관·메타분석을 위한 동등성 검정 입문 (Equivalence Tests: A Practical Primer for t Tests, Correlations, and Meta-Analyses)

    Daniël Lakens (2017). Social Psychological and Personality Science, 8(4), 355–362.

    자료 성격
    국외 학술 논문
    읽은 버전
    2017-05-05 출판 논문 · Europe PMC 공개 본문
    확인 범위
    Europe PMC 공식 본문 API에서 TOST 정의, 최소 관심 효과, 90%·95% 신뢰구간의 구별 및 해석 한계를 확인. 원자료 재분석은 하지 않음.
    원문 확인일

이 글은 한국어 해설이며 원문 전문 번역이 아닙니다. 도식과 활동의 제작·재구성 범위는 각 그림과 본문에 표시했습니다. 자료 선정과 출처 기준

출처·개념 네트워크

같은 연구 흐름에서 이어 읽기

같은 원문, 저자·연구 흐름, 공통 개념 태그를 기준으로 연결한 관련 해설입니다.