몬티 홀 문제

세 문 문제, 흔히 몬티 홀 문제라고 하는 이 문제는 많은 사람을 헷갈리게 하는 확률 문제이다.

문제

문이 세 개 있다. 진행자 몬티 홀은 한 문 뒤에 자동차를, 나머지 문 뒤에 염소를 둔다. 참가자는 자동차가 있는 문을 찾아 골라야 한다. 이때 진행자가 세 문 가운데 하나를 고르라고 한다. 세 문을 A, B, C라고 하자. 참가자는 문 하나, 예를 들어 B를 고른다. 그다음 진행자가 나서서 남은 문 A와 C 가운데 염소가 있는 문을 연다. 즉 자동차가 없는 것이 확실한 문을 알려 준다. 진행자가 문 A를 열었다고 하자.

문제의 핵심은 다음 단계이다. 진행자는 선택을 바꿀 기회를 준다. 참가자는 처음에 문 B를 골랐고, 진행자는 문 A 뒤에 자동차가 없다는 것을 알려 준 다음, 선택을 문 C로 바꿔도 된다고 한다. 물론 처음 선택인 B를 그대로 둘 수도 있다.

어떻게 하겠는가? 자동차는 문 B 뒤에 있을 가능성이 클까, 문 C 뒤에 있을 가능성이 클까? 아니면 상관없을까?

풀이

문이 세 개 있다. 한 문은 이미 빠졌으므로 사실상 문이 두 개만 남았다. 둘 가운데 한 문 뒤에는 분명히 자동차가 있다. 남은 두 문에 대해서는 아무것도 모르고, 다른 단서도 없다. 따라서 확률은 당연히 두 문 모두 50%이다.

많은 사람이 대략 이렇게 생각하므로, 그렇게 생각했더라도 자책할 필요는 없다. 하지만 물론 이 풀이는 틀렸다 :-).

올바른 풀이

진행자가 열지 않은 문으로 선택을 바꾸는 편이 유리하다. 이해하려면 확률을 처음부터 적어 보면 된다. 처음 문을 고를 때 고른 문 뒤에 자동차가 있을 확률은 1/3이다. 다른 단서가 없으므로 확률은 고르게 나뉘어 문마다 1/3이다.

그래서 문 B를 고르면 그 뒤에 자동차가 있을 가능성은 1/3이다. 동시에 자동차가 문 A나 C 뒤에 있을 확률은 2/3이다. 즉 자동차는 고르지 않은 문 뒤에 있을 가능성이 더 크다. 이 점이 중요하다.

다음 단계에서 진행자가 나서서 자동차가 없는 문 하나를 연다. 진행자는 문 A를 연다. 즉 문 A 뒤에는 자동차가 없다. 그러면 확률 2/3는 어떻게 될까? 자동차가 문 A나 C 뒤에 있을 확률이 2/3이고, 문 A 뒤에는 없다는 것을 안다. 그래서 확률 2/3가 모두 문 C로 옮겨 간다. 자동차가 문 C 뒤에 있을 가능성은 2/3이다.

하지만 문 B의 가능성은 그대로이고 전혀 바뀌지 않았다. 따라서 고른 문 B 뒤에 자동차가 있을 가능성은 1/3이고, 바꿀 수 있는 문 C 뒤에 자동차가 있을 가능성은 2/3이다. 그러니 선택을 바꾸는 것이 현명하다.

문이 더 많다면

문의 개수를 늘려 문제를 다음과 같이 바꾸면 더 잘 이해될지도 모른다. 문이 열 개 있다. 처음에 참가자가 문 하나를 고르면, 진행자는 고른 문과 자동차가 있는 문을 뺀 나머지 문을 모두 연다. 문제는 사실상 앞의 예와 같다. 다만 앞에서는 진행자가 나머지 문을 모두 열 때 문을 하나밖에 열 수 없었을 뿐이다.

처음에 문 1을 고른다. 그 뒤에 자동차가 있을 가능성은 1/10이다. 자동차가 다른 문 뒤에 있을 확률은 9/10이다. 그다음 진행자가 자동차가 분명히 없는 문 8개를 치우면 다시 문 두 개만 남는다. 진행자가 남겨 둔 문 뒤에 자동차가 있을 가능성은 9/10이고, 고른 문 뒤에 있을 가능성은 여전히 1/10이다.

더 읽을거리

• 위키백과: 몬티 홀 문제