통계적 추정

대학교 전체 학생의 평균 시험 점수를 알고 싶지만 학생 모두를 조사하기는 어렵다고 가정해 보겠습니다. 학생 100명을 표본으로 뽑아 계산한 평균이 74점이라면, 전체 학생의 평균도 정확히 74점일까요?

표본마다 평균이 달라질 수 있으므로 74점은 어디까지나 추정값입니다. 통계적 추정(Statistical Estimation)은 이렇게 표본에서 얻은 정보를 바탕으로 알 수 없는 모집단의 특성을 추정하는 과정입니다. 한 숫자로 추정하기도 하고, 추정의 불확실성을 고려해 구간으로 나타내기도 합니다.

이번 글에서는 점추정과 구간추정의 차이, 표준오차, 신뢰구간 계산과 해석, 신뢰수준과 표본 크기의 관계를 하나의 사례로 살펴보겠습니다.

우리가 알고 싶은 것은 전체 학생의 평균 점수인 모평균 μ입니다. 실제로 계산할 수 있는 것은 표본 100명의 평균인 표본평균 x̄입니다. 통계적 추정에서는 x̄를 이용해 μ를 추정합니다.

모수는 고정되어 있지만 알 수 없는 값으로 생각합니다. 반면 표본을 다시 뽑으면 표본평균과 추정값은 달라질 수 있습니다. 이 변동이 추정의 불확실성을 낳습니다.

점추정(point estimation)은 모수를 하나의 값으로 추정합니다. 학생 100명의 평균이 74점이라면 모평균을 74점으로 추정하는 것입니다. 간단하고 직관적이지만 그 값이 얼마나 불확실한지는 알려주지 않습니다.

구간추정(interval estimation)은 추정값과 자료의 변동성을 바탕으로 모수가 있을 것으로 추론하는 구간을 구합니다. 대표적으로 신뢰구간이 있습니다. 같은 평균 74점이라도 표본의 변동성과 표본 크기에 따라 구간은 달라집니다.

표준편차는 관측값들이 평균 주변에 얼마나 흩어져 있는지 보여줍니다. 반면 표준오차(Standard Error, SE)는 표본을 반복 추출했을 때 추정량이 얼마나 달라지는지를 나타냅니다. 둘 다 변동을 측정하지만 대상으로 삼는 값이 다릅니다.

학생 100명의 평균이 74점이고 표본표준편차가 12점이라고 가정해 보겠습니다. 서로 독립적인 단순무작위 표본이라는 조건에서 모평균 추정에 사용하는 표준오차의 추정값은 다음과 같습니다.

표준오차 1.2점은 개별 학생들의 시험 점수가 평균에서 1.2점 정도 떨어져 있다는 뜻이 아닙니다. 표본평균을 추정할 때 생기는 표본추출 변동을 나타냅니다.

모집단의 표준편차를 모르는 일반적인 평균 추정에서는 표본표준편차를 사용하고, 정규모집단 가정 등 적절한 조건에서 t분포를 이용해 신뢰구간을 구할 수 있습니다. 표본이 충분히 크면 많은 상황에서 정규근사 기반 추론도 활용됩니다.

학습용 사례에서 표본평균 74점, 표본표준편차 12점, 표본 크기 100명이면 자유도는 99이고 t 임계값은 약 1.984입니다.

이 범위는 자료와 모형의 가정하에서 정해진 절차로 계산한 결과입니다. 신뢰구간 계산은 표본추출 방법과 관측값의 독립성 등에 영향을 받으므로 모든 데이터에 같은 공식을 그대로 적용할 수는 없습니다.

95% 신뢰수준은 같은 모집단에서 같은 방식으로 표본을 반복해서 뽑아 매번 신뢰구간을 만들었을 때, 그렇게 만들어진 구간 중 약 95%가 실제 모수를 포함하도록 설계된 절차라는 뜻입니다. 이는 해당 통계모형의 가정이 충족될 때 성립하는 장기적인 성질입니다.

따라서 이미 계산한 “71.62~76.38점 구간에 모평균이 95% 확률로 들어 있다”라고 해석하는 것은 빈도주의 신뢰구간의 엄밀한 의미와 다릅니다. 모평균은 고정된 값이고, 표본을 다시 뽑을 때 바뀌는 것은 구간입니다.

다른 조건이 비슷하다면 표본이 많을수록 표준오차가 줄어듭니다. 같은 평균 74점과 표본표준편차 12점을 가정하더라도 표본 크기가 25명인 경우에는 100명인 경우보다 신뢰구간이 넓습니다.

반면 99%처럼 신뢰수준을 더 높게 설정하면 같은 데이터라도 임계값이 커져 신뢰구간이 넓어집니다. 좁은 구간이 언제나 더 좋은 것은 아니며, 신뢰수준과 추정의 정밀도를 함께 고려해야 합니다.

예를 들어 평균 시험 점수가 70점이라는 주장에 대해 양측 가설검정을 하고자 한다면 95% 신뢰구간이 70점을 포함하는지 살펴볼 수 있습니다. 동일한 가정과 검정·신뢰구간 구성 방식을 사용한다면, 95% 신뢰구간에 70점이 포함되지 않는 경우 통상 5% 유의수준에서 양측 귀무가설을 기각하는 결과와 연결됩니다.

이 사례의 95% 신뢰구간은 71.62~76.38점으로 70점을 포함하지 않습니다. 그러나 모든 종류의 신뢰구간과 검정이 이런 식으로 정확히 대응하는 것은 아닙니다. 다음 장의 가설검정에서 귀무가설, p값, 유의수준을 자세히 배웁니다.

연구에서는 추정 대상이 무엇인지, 표본의 크기가 얼마인지, 어떤 신뢰수준과 방법으로 구간을 계산했는지 밝혀야 합니다. 특히 비율, 두 집단 평균 차이, 회귀계수 등은 추정량에 따라 적절한 표준오차와 신뢰구간 계산 방식이 달라집니다.

• 점추정: 모수를 하나의 값(예: 표본평균)으로 추정합니다.
• 표준편차와 표준오차: 표준편차는 관측값의 흩어짐, 표준오차는 추정값의 흔들림입니다.
• 신뢰구간: 추정값 ± 임계값 × 표준오차로 모수의 범위를 제시합니다.
• 95% 신뢰수준: 같은 절차를 반복하면 약 95%의 구간이 모수를 포함한다는 뜻입니다.
• 구간의 폭: 표본이 클수록 좁아지고, 신뢰수준이 높을수록 넓어집니다.

표본 100명의 평균 점수가 74점이라는 사실만으로 전체 학생의 평균을 정확히 알 수는 없습니다. 점추정은 가장 간단한 추정값을 제공하고, 표준오차는 표본에 따른 변동을 나타내며, 신뢰구간은 일정한 신뢰수준을 갖는 추정 절차에 따라 범위를 제시합니다.

신뢰구간의 숫자뿐 아니라 표본이 어떻게 선정되었는지, 관측값이 독립적인지, 어떤 가정을 사용했는지 살펴야 합니다. 이러한 기초를 이해하면 다음 장의 가설검정에서 관측된 차이가 얼마나 이례적인지 판단하는 원리도 더 쉽게 배울 수 있습니다.

다음은 10 가설검정입니다. 관측한 차이가 우연으로 설명될 수 있는지 판단하는 절차를 배웁니다.