통계의 기본 개념
통계학은 자료를 조사하고 처리하고 평가하는 학문이다.
모집단
통계의 목표는 어떤 모집단에 대해 흥미로운 사실을 알아내기 위한 실험을 하는 것이다. 모집단은 일반적으로 지금 조사하려는 모든 원소의 모임을 말한다. 한국 주민의 평균 나이를 알고 싶다면 모집단은 한국의 모든 주민이다.
하지만 승용차의 100 km당 평균 휘발유 소비량을 알고 싶다면 모집단은 (그 지역의) 모든 승용차의 집합이다.
표본
모집단의 모든 원소를 다루는 것은 불가능한 경우가 많다. 수능에서 수학을 필수 과목으로 하는 것에 대해 한국 사람들이 어떻게 생각하는지 알고 싶다고 하자. 정말로 알아내려면 집집마다 다니며 모든 국민에게 수학 필수화를 어떻게 생각하는지 물어야 한다. 이런 일은 실제로는 불가능하다. 몇 가지 이유는 다음과 같다.
- 너무 비싸다. 약 5,100만 명의 주민 모두에게 묻는 것은 값싼 일이 아니다. 예를 들어 전국 단위 선거 한 번을 치르는 데에도 수천억 원이 든다.
- 시간이 너무 오래 걸린다. 선거는 분명히 몇 달 동안 준비한다. 통계 결과가 일주일 안에 필요하다면 너무 긴 시간이다.
- 모두가 대답하려고 하지는 않는다. 원칙적으로 질문에 대답하지 않으려는 사람도 있다. 모집단이 기계라면 기계가 고장 날 수도 있다. 자동차의 주행 거리를 조사한다면 계기판이 고장 나거나 누군가 일부러 거리를 되돌려 놓았을 수도 있다.
- 실험이 너무 위험할 수 있다. 수학 필수화에 대한 질문 때문에 심장마비가 오는 사람은 아마 없겠지만, 다른 예를 들어 보자. 새로운 약 “만병통치약”을 시험한다고 하자. 만병통치약을 한국의 모든 사람에게 시험했는데, 시험 도중에 시험받은 사람의 20%가 곧바로 심한 설사를 한다는 것을 알게 되면 어떻게 될까? 글쎄, 먼저 더 작은 집단에서 약을 시험하는 편이 낫지 않을까?
이런 단점을 피하려고 모집단에서 일부, 즉 표본만 고른다. 모집단을 P라고 하면 P의 부분집합, 즉 V ⊆ P인 집합 V는 모두 표본이다. 그다음 실험은 이 표본 V에서만 하고 그 결과를 모집단 전체로 일반화한다. 물론 이 결과는 정확하지 않다. 얼마나 부정확한지는 주로 표본 V의 크기와 V에 넣을 원소를 고르는 방법에 달려 있다.
흔한 오류는 다음과 같다.
- V의 원소가 너무 적다. 수학 필수화에 대해 처음 마주친 일곱 명에게만 묻는다면 의미 있는 결과를 얻을 수 없다.
- 모집단에서 원소를 대표성 없게 고른다. 수학 필수화에 대해 수학과 졸업생 천 명에게 물으면 고등학교 3학년 학생 천 명에게 물을 때와 다른 대답을 얻는다.
변수
실험하는 동안 표본의 원소를 조사한다. 관찰하는 항목을 변수라고 하고, 변수가 가지는 각각의 값을 자료의 값이라고 한다. 변수의 기본 종류는 다음과 같다.
- 질적 변수(범주형 변수): 이런 변수는 보통 측정하는 것이 의미가 없고, 말로 나타내는 평가이다. 전형적인 예는 국적을 묻는 것이다. 이런 변수의 값은 예를 들어 “한국 국적”, “일본 국적” 같은 것이다. 한국 국적과 일본 국적을 측정하거나 비교하는 것은 의미가 없다. 한국인과 일본인의 수는 비교할 수 있지만 국적 자체는 비교할 수 없다.
수학 필수화에 대한 질문도 이 범주에 속한다. 이 질문에 대해서는 “찬성, 수학을 필수로 해야 한다”나 “반대, 수학을 필수로 하면 안 된다” 같은 대답을 기대하고, 이것이 이 변수의 값이다. 이번에도 대답의 수는 비교할 수 있지만 “찬성”과 “반대” 자체를 비교하는 것은 의미가 없다.
- 양적 변수(수치형 변수): 이런 변수는 측정한다. 길이, 무게, 시간, 개수 등이다. 양적 변수는 다시 이산변수와 연속변수로 나눈다.
이산변수
이산변수가 가지는 값은 유한 개이거나 셀 수 있는 무한 개이다(뒤에서 설명한다). 정수인 경우가 꽤 많다. 예를 들어 반의 학생 수이다. 보통의 반이라면 대략 열다섯 명에서 마흔 명 사이일 것이다.
이산변수는 언제나 다음 값과 앞의 값을 말할 수 있다는 특징이 있다. 3반에 학생이 28명이면 앞의 값은 27명, 다음 값은 29명이다. 질적 변수에서는 대개 그럴 수 없다. 한국 국적 다음의 값은 무엇일까?
이산변수는 무한할 수도 있지만 셀 수 있어야 한다. 즉 여전히 앞의 값과 다음 값을 정할 수 있어야 한다. 예를 들어 “1 km 단위로 잰 두 물체 사이의 거리”라는 변수를 생각할 수 있다. 두 물체, 예를 들어 자동차와 창고 사이의 거리가 12 km로 측정되었다면, 이번에도 다음 값과 앞의 값은 각각 13 km와 11 km이다. 그리고 거리에는 아마 상한이 없을 것이다. 1,500,000 km 떨어진 두 물체가 있다면 1,500,001 km 떨어진 물체도 분명히 찾을 수 있다.
단위를 0.1 km(즉 100 m)로 바꾸어도 변수는 이산변수이다. 그러면 거리 15.7 km를 잴 수 있고, 다음 값과 앞의 값은 15.8과 15.6이다.
앞의 값이나 다음 값이 없다고 해서 이산변수가 아닌 것은 아니다. 예를 들어 거리 0 km에는 앞의 값이 없다. 거리 −1 km는 정의하지 않는다. 그래도 1 km 단위로 잰 거리는 이산변수이다.
연속변수
연속변수의 값은 언제나 무한히 많다. 값은 보통 실수이므로, 예를 들어 (단위를 정하지 않은) 거리가 그렇다. 연속변수에서는 앞의 값도 다음 값도 정할 수 없다. 어떤 거리를 3.58745 m로 쟀다면 이 수 바로 다음 수를 찾을 수 없다.
실수에는 소수점 아래가 끝없이 이어지는 무리수도 있다. 물론 그런 정확도로 거리를 잴 수 있는 기기는 없으므로, 현실에서는 이런 변수도 모두 이산변수이다. 모든 기기에는 정밀도의 한계가 있기 때문이다. 자로 재면 정밀도는 1 mm이다. 그래서 책의 너비가 167 mm인지 168 mm인지는 잴 수 있지만 그 사이의 값은 잴 수 없다. 물론 눈대중으로 어림하지 않는다면 말이다.
더 과학적인 기기가 있다면 정밀도가 1마이크로미터일 수 있다. 그래도 물체를 완전히 정확하게 재기에는 아마 부족할 것이다.
그런데도 보통 거리나 무게를 연속변수라고 말한다. 실제로는 이런 단순화가 필요하고, 대개 아무 문제도 없다.
확률변수
확률변수는 실험을 하기 전에는 그 결과 값을 정할 수 없는 이산변수나 연속변수이다. 예를 들어 육면체 주사위를 던진 결과가 확률변수이다. 주사위를 던지기 전에는 어떤 수가 나올지 알 수 없다.
어떤 값이 다른 값보다 나올 가능성이 더 크다고 예측할 수 있어도 상관없다. 다만 어떤 구체적인 값이 나온다고 완전히 확신할 수만 없으면 된다. 예를 들어 한국 주민 한 명을 무작위로 뽑아 어느 도시에 사는지 물으면, 작은 시골 마을보다 서울에 살 가능성이 더 크다. 서울에 사는 사람이 더 많기 때문이다.
다섯 면에 점이 여섯 개, 나머지 한 면에 점이 두 개 있는 주사위가 있다면 던졌을 때 점 여섯 개가 나올 가능성이 훨씬 크다. 그래도 점 여섯 개가 나온다는 것이 확실하지는 않으므로 확률변수이다.
이 주사위의 여섯 면을 모두 점 여섯 개로 바꾸면 주사위를 던진 결과는 확률변수가 아니다. 언제나 점 여섯 개가 나오기 때문이다.