표본추출과 표본분포

대학교 전체 재학생의 평균 학습시간을 알고 싶지만 5,000명을 모두 조사하기는 어렵다고 가정해 보겠습니다. 무작위로 100명을 뽑아 평균을 구할 수 있습니다. 그런데 다른 100명을 다시 뽑으면 똑같은 평균이 나올까요? 일반적으로는 조금 달라집니다.

이처럼 모집단에서 일부를 뽑는 과정이 표본추출(sampling)이고, 표본을 반복해서 뽑을 때 통계량이 어떻게 달라지는지를 설명하는 것이 표본분포(sampling distribution)입니다. 두 개념은 서로 연결되어 있지만 같은 뜻은 아닙니다.

이번 글에서는 대표적인 표본추출 방법을 먼저 살펴보고, 하나의 작은 모집단을 이용해 표본평균의 변화를 직접 계산합니다. 마지막에는 표준오차가 무엇을 의미하는지, 표본 크기가 커지면 무엇이 달라지는지 알아보겠습니다.

모집단 전체를 조사하는 전수조사와 달리, 표본조사는 정해진 대상 중 일부의 자료를 모읍니다. 조사 비용과 시간이 줄어든다는 장점이 있지만, 뽑힌 사람이 누구인지에 따라 결과가 달라질 수 있습니다.

좋은 표본은 단순히 사람이 많이 포함된 표본이 아닙니다. 어떤 모집단을 대표하려는지 먼저 정하고, 그 구성원에게 어떤 방식으로 표본에 포함될 기회를 줄 것인지 설계해야 합니다.

무작위 표본추출(random sampling)은 조사자가 편한 사람을 골라 넣는 대신, 확률적 방법으로 대상자를 선정하는 것입니다. 모든 사람이 반드시 똑같은 확률로 뽑혀야 하는 것은 아니지만, 확률표본추출에서는 각 구성원의 포함확률을 알 수 있도록 표집 설계를 정합니다.

예를 들어 학년별 만족도가 다를 것으로 예상된다면 학년을 층으로 나누어 표본을 확보할 수 있습니다. 반면 학교 전체 학생 가운데 몇 개 학급을 먼저 골라 조사한다면 집락추출입니다. 층화추출과 집락추출은 모두 집단을 이용하지만 추출하는 방식과 목적이 다릅니다.

전체 학생 중 온라인 게시판을 자주 찾는 사람에게만 설문을 배포하면 응답자가 2,000명이어도 게시판을 이용하지 않는 학생의 특성이 빠질 수 있습니다. 반대로 적절한 확률표집으로 뽑은 200명이 더 유용한 정보를 제공할 수도 있습니다.

표본분포를 이해할 때 중요한 것은 매번 표본을 새로 뽑고, 그때마다 같은 통계량을 계산한다는 점입니다. 그렇게 계산한 표본평균들이 어떤 값 주변에 얼마나 퍼지는지를 살펴보는 것이 표본평균의 표본분포입니다.

이를테면 공부시간 데이터의 분포는 학생 개개인의 공부시간을 나타냅니다. 표본평균의 표본분포는 여러 번 뽑은 학생 집단의 평균 공부시간을 나타냅니다. 두 분포는 관측 단위부터 다릅니다.

학생 4명의 점수가 60, 70, 80, 90점인 작은 모집단을 가정하겠습니다. 모집단 평균은 75점입니다. 이 중 2명을 비복원 단순무작위추출하면 가능한 표본 조합은 6개이며 각각 뽑힐 확률은 같습니다.

표본평균은 65점부터 85점까지 달라집니다. 75점은 서로 다른 두 표본에서 나왔으므로 발생확률이 2/6이고, 나머지 평균은 각각 1/6입니다. 여섯 표본평균의 평균은 75점으로 모집단 평균과 같습니다.

이 예제에서는 개별 표본평균이 75점과 다를 수 있지만 가능한 여섯 표본평균을 평균하면 75점입니다. 이는 단순무작위추출에서 표본평균이 모집단 평균의 불편추정량이라는 성질을 보여줍니다. 불편하다는 것은 표본 하나가 언제나 정확하다는 의미가 아니라, 반복 표집에서 추정량의 기대값이 목표 모수와 같다는 뜻입니다.

하지만 실제 조사에서 우리는 보통 가능한 모든 표본을 뽑지 않고 하나의 표본만 얻습니다. 따라서 평균의 추정값뿐 아니라 그 값에 얼마나 큰 표본추출 변동이 예상되는지도 함께 살펴야 합니다.

표준오차(standard error, SE)는 통계량의 표본분포가 얼마나 퍼져 있는지를 나타내는 표준편차입니다. 원자료의 표준편차가 개별 값들의 흩어짐을 나타낸다면, 평균의 표준오차는 표본평균들이 얼마나 흩어지는지를 보여줍니다.

모집단 표준편차가 20점이라고 가정하면, 독립추출 기준 표본 크기 25에서는 표준오차가 20/√25 = 4점이고, 표본 크기 100에서는 20/√100 = 2점입니다. 표본을 네 배로 늘려야 표준오차가 절반으로 줄어듭니다.

다만 비복원추출에서 모집단 크기가 유한하고 표본이 모집단에서 차지하는 비율이 크다면 유한모집단수정 등을 고려해야 합니다. 앞의 4명 중 2명을 뽑는 예제에 단순히 σ/√n을 적용하면 정확하지 않습니다.

또한 층화추출이나 집락추출, 가중치가 있는 표본조사에서는 단순무작위추출을 가정한 표준오차 공식이 맞지 않을 수 있습니다. 분석할 때는 표본이 어떻게 선정되었는지까지 반영해야 합니다.

표본평균의 표본분포가 무엇인지 알았다면 다음에는 한 가지 중요한 질문이 남습니다. 모집단의 원자료가 정규분포가 아닐 때도, 표본 크기가 커지면 표본평균의 분포를 정규분포로 근사할 수 있을까요? 이 질문을 다루는 것이 중심극한정리입니다.

중심극한정리는 일정한 조건에서 표본평균의 분포가 정규분포에 가까워지는 이유를 설명합니다. 이는 표준오차를 활용해 신뢰구간을 구성하고 가설검정을 수행하는 기초가 됩니다.

• 표본추출: 모집단에서 관측 대상을 선정하는 과정이며 대표성이 핵심입니다.
• 무작위추출: 모든 대상이 알려진 확률로 뽑혀야 표본 결과를 일반화할 수 있습니다.
• 표본분포: 표본을 반복해서 뽑았을 때 통계량이 나타내는 분포입니다.
• 표준오차: 표본평균이 표본마다 흔들리는 정도를 나타냅니다.
• 표본 크기와 편향: 표본을 늘리면 표준오차는 줄지만 표집 편향은 그대로 남습니다.

표본추출은 모집단에서 관측 대상을 선정하는 과정이고, 표본분포는 그렇게 표본을 반복해 뽑을 때 계산되는 통계량의 분포입니다. 대표성이 부족한 표본에서는 아무리 정교하게 평균을 계산해도 모집단을 제대로 설명하기 어렵습니다.

표본분포를 이용하면 하나의 표본평균만 보는 것에서 벗어나 그 평균이 다른 표본에서 얼마나 달라질 수 있는지도 생각할 수 있습니다. 이런 변동을 요약하는 표준오차는 뒤에서 배울 중심극한정리와 신뢰구간, 가설검정을 연결하는 중요한 개념입니다.

다음은 08 중심극한정리입니다. 원자료가 정규분포가 아니어도 표본평균이 정규분포에 가까워지는 원리를 배웁니다.