문 하나가 열리고 선택지가 둘이 되었다
세 문 가운데 하나 뒤에는 자동차가 있고, 나머지 두 문 뒤에는 염소가 있다. 참가자가 문 하나를 고르자 진행자는 참가자가 고르지 않은 문 가운데 염소가 있는 문 하나를 연다. 그리고 처음 문을 지킬지, 아직 닫힌 다른 문으로 바꿀지 묻는다. 이제 닫힌 문이 둘이니 성공 확률도 반반처럼 보인다. 그러나 이 결론은 진행자가 무엇을 알고 어떤 규칙으로 문을 열었는지를 빠뜨린다. 이 장면은 확률 모형을 설명하기 위한 현대의 상상 삽화이며, 실제 방송의 한 장면을 재현한 것이 아니다.
1975년의 짧은 편지가 긴 논쟁을 열었다
통계학자 스티브 셀빈은 1975년 2월 《The American Statistician》의 독자 편지에서 세 상자 문제를 제시했고, 같은 해 8월 후속 편지에서 진행자의 행동에 관한 가정을 분명히 했다. 1990년에는 마릴린 보스 사반트의 신문 칼럼이 이 문제를 널리 알렸다. 오늘날 “몬티홀 문제”라고 부르는 표준형은 실제 방송 전체의 운영 방식을 그대로 기록한 역사 자료라기보다, 진행자의 지식과 행동 규칙을 명시한 수학 모형이다. 이름의 유래와 모형의 규칙을 구분해야 실제 방송에 없던 고정 절차를 사실처럼 덧붙이지 않는다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
계산을 시작하기 전에 네 규칙을 고정한다
표준형에는 네 조건이 필요하다. 첫째, 자동차는 세 문에 똑같은 확률 1/3로 놓인다. 둘째, 참가자는 먼저 문 하나를 고른다. 셋째, 진행자는 자동차의 위치를 알고 있으며 참가자가 고르지 않은 염소 문을 반드시 하나 연다. 넷째, 진행자는 남은 닫힌 문으로 바꿀 기회를 반드시 준다. 참가자의 첫 선택이 틀렸다면 진행자가 열 수 있는 염소 문은 하나뿐이다. 첫 선택이 맞았다면 염소 문 둘 중 어느 것을 열지 정하는 추가 규칙이 필요하다. 이 조건들 가운데 하나가 바뀌면 같은 숫자를 그대로 가져올 수 없다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
처음 선택은 한 문, 바깥은 두 문짜리 묶음이다
참가자가 1번 문을 골랐다고 하자. 자동차가 1번 문 뒤에 있을 확률은 1/3이다. 자동차가 2번이나 3번 문 뒤에 있을 확률을 합치면, 처음에 고르지 않은 두 문짜리 묶음의 확률은 2/3다. 진행자가 행동하기 전에는 이 분할이 분명하다. 처음 선택을 유지하는 전략은 1번 문 하나의 1/3에 기대고, 바꾸는 전략은 진행자가 염소 문을 제거한 뒤 두 문짜리 묶음에 있던 2/3를 남은 한 문으로 모으는 구조다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
진행자는 빈 문을 우연히 발견한 사람이 아니다
진행자의 공개는 무작위로 문 하나를 열어 운 좋게 염소를 본 사건과 다르다. 표준형 진행자는 자동차가 든 문을 피하고, 참가자가 고른 문도 피하며, 매번 염소 문을 연다. 따라서 열린 문이 염소라는 사실 자체는 참가자의 첫 선택이 맞았든 틀렸든 반드시 일어난다. 정보는 “염소 하나가 사라졌다”는 결과에만 있지 않다. 그 결과를 만들기 위해 자동차 위치에 따라 달라지는 선택 절차에 있다. 확률을 갱신할 때에는 관찰된 장면과 그 장면을 낳은 규칙을 함께 조건으로 삼아야 한다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
세 경우를 쓰면 바꾸기의 성공 조건이 보인다
참가자가 처음 1번 문을 고정해 선택했다고 하자. 자동차가 1번에 있으면 진행자는 2번이나 3번의 염소 문을 열고, 바꾸면 진다. 자동차가 2번에 있으면 진행자는 3번을 열 수밖에 없고, 바꾸면 2번 자동차를 얻는다. 자동차가 3번에 있으면 진행자는 2번을 열 수밖에 없고, 바꾸면 3번 자동차를 얻는다. 세 위치는 처음에 각각 확률 1/3이므로 바꾸기는 세 경우 중 두 경우에서 성공한다. 이 표는 진행자가 선택할 수 있는 문과 참가자의 결과를 한 줄씩 대응시킨다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
유지는 처음 맞힌 경우에만 이긴다
항상 유지하는 전략의 성공 조건은 단순하다. 참가자가 첫 선택에서 자동차를 맞혀야 한다. 그 확률은 1/3이고, 뒤에 진행자가 어떤 염소 문을 열더라도 처음 문 안의 자동차는 옮겨 가지 않는다. 반대로 항상 바꾸는 전략은 첫 선택이 틀렸을 때 이긴다. 첫 선택이 틀릴 확률은 2/3이며, 표준 규칙 아래에서는 진행자가 나머지 염소 문을 제거하므로 아직 닫힌 다른 문이 자동차 문이 된다. 따라서 유지 1/3, 바꾸기 2/3라는 결론은 서로 보완적인 두 사건에서 바로 나온다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
전략은 문 번호가 아니라 행동 규칙이다
“2번 문이 더 좋다”가 결론은 아니다. 참가자가 처음 어느 문을 골랐든, 진행자가 어느 염소 문을 열었든 항상 남은 문으로 바꾸는 규칙이 2/3 전략이다. 자동차 위치와 첫 선택을 함께 적으면 가능한 아홉 쌍 가운데 여섯 쌍에서 첫 선택이 틀리고, 그 여섯 쌍 모두에서 바꾸기가 성공한다. 유지가 성공하는 세 쌍과 정확히 나뉜다. 이렇게 전략 전체의 장기 성공률을 비교하면 특정 문 번호에 의미를 부여하거나 공개된 한 장면만 보고 표본공간을 둘로 줄이는 실수를 피할 수 있다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
“3번 문을 열었다”를 묻는 순간 규칙이 더 필요하다
참가자가 1번을 골랐고 진행자가 실제로 3번을 열었다고 하자. “이 관찰 뒤 2번에 자동차가 있을 확률은 얼마인가”라는 조건부 질문에는, 첫 선택이 맞아 진행자가 2번과 3번을 모두 열 수 있을 때 어느 쪽을 고르는지 알려 주는 규칙이 필요하다. 두 염소 문 가운데 3번을 항상 선호하는 진행자와 동전처럼 반반 고르는 진행자는 같은 장면을 서로 다른 빈도로 만든다. 반면 “매번 바꾸는 전략의 전체 성공률”은 표준 네 조건만으로 2/3다. 전략의 무조건 성공률과 특정 공개 장면 뒤의 조건부 확률을 구별해야 한다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
반반으로 여는 규칙에서는 베이즈 계산도 2/3이다
진행자가 두 염소 문 중 하나를 골라야 할 때 각각 1/2로 연다고 하자. 참가자가 1번을 고른 뒤 3번이 열렸다는 사건을 H₃이라 쓰자. 자동차가 1번이면 H₃의 가능도는 1/2이고, 자동차가 2번이면 3번을 반드시 열므로 가능도는 1이며, 자동차가 3번이면 가능도는 0이다. 사전확률 1/3을 곱한 가중치는 각각 1/6, 1/3, 0이다. H₃과 양립하는 가중치 합 1/2로 나누면 1번은 1/3, 2번은 2/3다. 이 계산의 2/3에는 진행자의 반반 선택 규칙이 포함되어 있다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
닫힌 문 둘이 대칭이라는 느낌은 절차를 지운다
3번 문이 열린 뒤 1번과 2번만 닫혀 있어도 두 문은 같은 경로로 남은 것이 아니다. 1번은 참가자가 정보 없이 먼저 골라 남은 문이다. 2번은 진행자가 자동차의 위치를 아는 상태에서 3번을 열어도 안전한 경우에 남긴 문이다. 결과 화면만 보면 닫힌 문이라는 외형은 같지만, 표본공간에서 걸러져 나온 방식은 다르다. 공정한 동전처럼 두 결과가 같은 확률이 되려면 대칭적인 생성 절차가 있어야 한다. 선택지의 개수가 둘이라는 사실만으로 1/2씩 배분되지는 않는다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
문이 백 개라면 99 대 1이 더 선명해진다
문이 100개이고 자동차가 하나라고 하자. 참가자가 고른 한 문의 성공 확률은 1/100이고, 고르지 않은 99개 문 묶음의 성공 확률은 99/100이다. 자동차 위치를 아는 진행자가 참가자의 문을 건드리지 않은 채 그 묶음에서 염소 문 98개를 열고 닫힌 문 하나만 남긴다. 처음 문을 유지하면 1/100, 남은 문으로 바꾸면 99/100다. 문 수를 늘리는 사고실험은 새로운 증명이 아니라, 세 문 문제에서 진행자의 필터가 묶음의 확률을 한 문에 집중시키는 구조를 눈에 띄게 확대한다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
진행자의 취향은 전체 전략과 특정 관찰에 다르게 작용한다
진행자가 첫 선택이 맞았을 때 3번 문을 더 자주 여는 편향을 갖더라도, 자동차 위치가 처음부터 세 문에 균등하고 진행자가 언제나 염소를 열어 교환을 제안한다면 항상 바꾸기의 전체 성공률은 2/3다. 바꾸기의 성공 사건이 여전히 “첫 선택이 틀림”이기 때문이다. 그러나 1번을 고른 뒤 3번이 열렸다는 특정 관찰에서 2번 자동차의 조건부 확률은 그 편향에 따라 달라진다. 길의 분석처럼 이 값은 표준 조건 아래 1/2 이상이지만 언제나 정확히 2/3이라고 말하려면 반반 선택 규칙이 더 필요하다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
자동차 위치를 모르는 사람이 문을 열면 다른 문제다
이번에는 진행자가 자동차 위치를 모르고 참가자가 고르지 않은 두 문 중 하나를 무작위로 열며, 우연히 염소가 나왔다고 하자. 참가자의 첫 선택이 맞았다면 염소가 나올 가능도는 1이다. 첫 선택이 틀렸다면 고르지 않은 두 문에는 자동차와 염소가 하나씩 있으므로 염소가 나올 가능도는 1/2이다. 가중치는 1/3×1과 2/3×1/2로 같아지고, 염소를 보았다는 조건 아래 처음 문과 남은 문은 각각 1/2가 된다. 열린 장면은 비슷해도 지식과 공개 절차가 달라지면 확률 문제도 달라진다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
모의실험은 정확한 논증을 확인하는 도구다
표준 규칙으로 시행을 많이 반복하면 항상 바꾸기의 승률은 대체로 2/3 근처에 모인다. 예를 들어 자동차 위치와 첫 선택을 각각 균등하게 뽑고, 진행자는 가능한 염소 문을 열며, 참가자는 남은 문으로 바꾸도록 프로그램을 만들 수 있다. 매 시행에서 “첫 선택이 틀렸는가”와 “바꾸어 이겼는가”는 같은 참·거짓 값을 가진다. 모의실험의 빈도는 이 대응을 눈으로 확인하게 하지만, 2/3의 근거 자체는 세 경우 가운데 두 경우라는 정확한 분할에 있다. 유한한 실행 결과가 정확히 2/3일 필요도 없다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.
확률을 묻기 전에 공개 절차부터 묻는다
몬티홀 문제를 풀 때에는 네 가지를 차례로 확인하면 된다. 자동차의 사전 분포는 무엇인가. 진행자는 자동차 위치를 아는가. 어떤 문을 반드시 열거나 피하는가. 교환 제안은 언제 이루어지는가. 표준형에서는 처음 선택이 틀릴 확률 2/3이 곧 항상 바꾸기의 성공 확률이다. 특정 문이 열렸다는 관찰을 조건으로 삼을 때에는 동률을 푸는 선택 규칙까지 확인한다. 핵심은 새 정보가 생겼다는 말만이 아니라, 그 정보가 어떤 절차를 거쳐 공개되었는지를 확률 모형에 넣는 데 있다. 다음 회차에서는 집단을 나누어 보면 앞서던 비율이 합치면 뒤집히는 심슨의 역설을 살핀다.
그림 확대해서 읽기
확대한 그림은 좌우로 밀어 살펴볼 수 있습니다.