통계적 추론의 가정

두 반 학생의 시험 점수가 각각 평균 75점과 82점이라고 가정하겠습니다. 평균만 보면 두 반 사이에 7점 차이가 있습니다. 그렇다면 이 차이가 통계적으로 유의한지 바로 검정해도 될까요?

그전에 확인해야 할 것이 있습니다. 같은 학생의 점수가 반복 기록된 것은 아닌지, 한쪽 반의 점수만 극단적으로 흩어져 있는지, 몇몇 학생의 점수가 결과에 지나치게 큰 영향을 주는지에 따라 분석방법과 해석이 달라집니다.

통계적 추론의 가정은 분석에 사용한 검정이나 모형이 타당하게 작동하기 위해 필요한 조건입니다. 이번 글에서는 두 반의 시험 점수 사례를 중심으로 정규성, 독립성, 등분산성, 이상치의 의미와 점검 방법을 알아봅니다.

t검정, 분산분석, 회귀분석 등은 저마다 자료의 구조와 오차에 관한 조건을 전제합니다. 이러한 조건이 크게 어긋나면 표준오차가 잘못 추정되거나 p값과 신뢰구간의 신뢰도가 떨어질 수 있습니다. 반대로 어느 정도의 위반에는 비교적 강건한 방법도 있습니다.

따라서 가정 검토는 모든 자료를 완벽한 모양으로 바꾸는 과정이 아닙니다. 해당 분석에서 필요한 가정이 무엇인지, 실제로 얼마나 어긋났는지, 그 위반이 결론에 영향을 미칠 수 있는지 판단하는 과정입니다.

정규성은 분석에서 관심을 두는 값의 분포가 정규분포와 충분히 잘 맞는지에 관한 조건입니다. 하지만 어떤 값의 정규성을 가정하는지는 분석마다 다릅니다. 독립표본 t검정은 각 집단의 오차 분포를, 선형회귀에서의 전통적인 소표본 추론은 조건부 오차 분포를 생각합니다. 회귀분석에 투입한 모든 변수 자체가 정규분포일 필요는 없습니다.

예를 들어 시험 점수가 0~100점으로 제한되고 대부분의 학생이 높은 점수를 받는다면 왼쪽으로 치우친 분포가 나타날 수 있습니다. 표본이 작고 치우침이 심하면 전통적인 정규이론 검정 결과를 신중하게 해석해야 합니다.

독립성은 한 관측값이 다른 관측값과 통계적으로 관련되어 있지 않다는 가정입니다. 두 반에 서로 다른 학생이 한 번씩 참여했다면 독립표본 설계를 생각할 수 있지만, 동일한 학생을 시험 전과 후에 평가했다면 두 점수는 연결되어 있습니다.

독립적이지 않은 자료를 독립적인 표본으로 분석하면 실제보다 많은 정보를 얻은 것처럼 계산할 수 있습니다. 교실별로 묶인 학생, 병원별로 모인 환자, 같은 고객의 월별 기록에도 이러한 문제가 생깁니다. 이때는 대응표본 분석, 반복측정 분석, 혼합효과모형 또는 군집을 고려한 표준오차 등을 검토합니다.

두 반의 평균 차이가 7점으로 같더라도 A반의 대부분이 평균 근처에 있고 B반의 점수가 넓게 퍼져 있다면 집단별 분산은 다릅니다. 일부 전통적인 검정은 집단의 오차 분산이 같다는 등분산성을 전제로 합니다.

예를 들어 일반적인 등분산 독립표본 t검정은 집단 간 공통 분산을 추정하지만, Welch t검정은 두 집단의 분산이 서로 달라도 사용할 수 있도록 표준오차와 자유도를 계산합니다. 분산분석에서도 Welch ANOVA 등을 검토할 수 있습니다.

시험 점수가 대부분 60~90점인데 한 학생의 점수가 5점이라면 해당 관측값은 다른 값들과 크게 떨어져 있습니다. 하지만 5점이라는 이유만으로 오류라고 단정할 수는 없습니다. 실제 점수일 수도 있고, 50점을 잘못 입력했을 수도 있습니다.

상자그림, 산점도, 표준화 잔차 등으로 특이한 관측값을 확인하되, 자료의 출처와 측정 과정을 먼저 살펴야 합니다. 회귀분석에서는 예측값에 큰 영향을 미치는 관측치인지도 확인하며, 단순히 값이 크거나 작다는 이유만으로 제외하지 않습니다.

서로 다른 반 학생 30명씩을 조사했다고 가정하겠습니다. A반 평균은 75점, B반 평균은 82점으로 차이는 7점입니다. 그런데 A반의 표준편차는 6점이고 B반의 표준편차는 14점으로 변동이 크게 다릅니다. 점수는 각 학생에게 한 번씩 측정되었고 B반에 유난히 낮은 점수가 한 개 있다고 가정합니다.

이 자료는 두 집단이 독립된 설계이므로 독립표본 비교를 고려할 수 있습니다. 분산 차이가 뚜렷하므로 Welch t검정을 후보로 삼는 것이 합리적입니다. 단, 정규성이나 이상치로 인한 영향도 함께 검토해야 합니다. 이 숫자만으로 모든 진단을 마쳤다고 판단할 수는 없습니다.

Shapiro–Wilk나 Levene 검정 같은 형식적인 가정 검정을 활용할 수 있지만, 결과를 통과·탈락 판정처럼 사용하지 않는 것이 중요합니다. 그래프와 연구 설계, 표본 크기, 분석의 강건성을 함께 고려해야 합니다.

자료의 특성을 이해한 뒤 적절한 방법을 선택해야 합니다. 검정의 전제를 만족시키기 위해 데이터를 임의로 조작하면 오히려 연구의 타당성을 떨어뜨릴 수 있습니다.

연구 결과에는 분석에 사용한 표본 수, 독립·대응 여부, 주요 진단 결과, 필요한 경우 대체 분석 선택 이유를 밝혀야 합니다. 예를 들어 집단 간 분산이 크게 달라 Welch t검정을 사용했다면 그 선택을 간단히 설명할 수 있습니다.

위 문장은 보고 형식을 설명하는 예시이며 실제 진단을 수행한 결과가 아닙니다. 어떤 검정을 사용했는지뿐 아니라 그 방법을 선택한 이유를 자료와 연결해 제시해야 합니다.

• 정규성: 모형과 추론 방법에 필요한 분포 조건이며, 주로 잔차로 확인합니다.
• 독립성: 관측값 사이의 관계로, 연구 설계와 자료 수집 방식에서 판단합니다.
• 등분산성: 집단이나 예측값에 따라 변동의 크기가 비슷한지 봅니다.
• 이상치: 특이한 관측값이 결과에 주는 영향을 확인합니다.
• 위반 시 대응: 위반 정도와 목적에 따라 Welch 검정, 비모수 방법, 변환 등 대안을 고르고 보고합니다.

정규성, 독립성, 등분산성, 이상치는 서로 다른 문제입니다. 특히 독립성은 자료 수집과 연구 설계에서 비롯되는 경우가 많아, 그래프나 정규성 검정만으로 확인할 수 없습니다. 정규성 역시 모든 변수에 일률적으로 적용되는 조건이 아니라 사용하는 모형과 추론 방법에 따라 달라집니다.

가정에 어긋나는 점을 발견했다면 위반 정도와 분석 목적을 함께 고려해 대안 방법을 선택하세요. 중요한 것은 한 번의 가정 검정 결과보다, 선택한 분석방법이 실제 자료의 구조에 적합한지 설명할 수 있는가입니다.

다음은 13 통계적 결과의 해석입니다. 유의성, 신뢰구간, 효과크기를 함께 읽고 보고하는 방법으로 통계학 기초를 마무리합니다.