비모수통계학의 이해

앞서 회귀분석에서는 변수 사이의 관계를 추정하고, 회귀계수의 유의성과 모형의 적합성을 검토했습니다. 이번에는 데이터를 분석하는 또 다른 접근인 비모수통계학(Nonparametric Statistics)을 살펴보겠습니다. 비모수통계학은 모집단의 분포가 특정한 모양을 따른다고 강하게 가정하기 어려울 때 유용한 방법을 다룹니다. 특히 순위나 부호를 이용해 집단 간 차이, 변수 간 관계 등을 분석합니다. 이 장에서는 기본 개념과 모수통계와의 차이, 그리고 어떤 상황에서 비모수 방법을 고르는지 알아봅니다.

먼저 두 접근법이 데이터를 분석하는 방식부터 비교해 보겠습니다.

• 모수통계학(Parametric Statistics): 모집단이 특정한 분포를 따른다는 가정 등을 바탕으로 평균, 분산, 회귀계수 같은 모수를 추정하고 검정합니다. 대표 방법은 t 검정, 분산분석(ANOVA), 일반적인 선형회귀입니다.
• 비모수통계학(Nonparametric Statistics): 특정한 분포 가정에 덜 의존하고, 관측값의 순위와 부호 등을 활용해 추론합니다. 대표 방법은 Mann–Whitney U 검정, Wilcoxon 부호순위 검정, Kruskal–Wallis 검정입니다.

그림 1의 오른쪽처럼 비모수 방법은 값 8, 24, 40, 56, 96을 1~5위로 바꿔 씁니다. 96이 아무리 커도 그냥 5위라서, 분포 모양을 정해 두지 않아도 비교할 수 있습니다.

핵심은 "모수통계는 언제나 정규분포를 가정하고, 비모수통계는 어떤 가정도 하지 않는다"는 뜻이 아니라는 점입니다. 비모수 방법에도 독립성, 표본 추출 방식, 검정하려는 분포나 효과에 관한 가정이 필요합니다.

다음과 같은 상황에서는 비모수 방법이 유용한 선택지가 될 수 있습니다.

예시: 고객 만족도 비교. 두 서비스의 만족도를 5점 척도로 측정했다고 가정하겠습니다.

이 데이터는 1~5점이라는 좁은 척도로 측정되었습니다. 1점과 2점 사이, 4점과 5점 사이가 정말 같은 간격인지 말하기 어렵거나 순서 자체가 더 중요하다면 순위 기반 분석을 고려할 수 있습니다. 순위로 바꾸면 다음과 같습니다.

열 개 점수를 한 줄로 세우면 B의 점수가 뒤쪽(높은 순위)에 몰려, 순위합이 A 19.5, B 35.5로 차이가 납니다. 다만 응답자가 5명씩뿐이라 이 차이로 유의한 결론을 내리기는 어렵습니다(실제로 계산하면 순위 검정 p ≈ 0.10, t 검정 p ≈ 0.07). 순위를 매기는 방법과 같은 점수 처리는 02장에서, 이 순위로 검정하는 방법은 04장에서 자세히 다룹니다.

다만 5점 척도라는 이유만으로 반드시 비모수 검정을 해야 하는 것은 아닙니다. 연구 설계, 측정 특성, 분석 목적을 함께 고려해야 합니다.

비모수 검정은 여러 방식으로 데이터를 분석합니다. 대표적인 원리는 세 가지입니다.

• ① 순위(Rank): 실제 값을 순서로 바꿔 비교합니다. 값 사이의 차이가 얼마나 큰지보다 어느 값이 더 큰지를 씁니다. 예: Mann–Whitney U 검정, Kruskal–Wallis 검정
• ② 부호(Sign): 관측값이 기준보다 큰지 작은지, 또는 대응되는 두 값의 차이가 양수인지 음수인지를 봅니다. 예: 부호검정
• ③ 재배열과 순열(Permutation): 집단 이름표를 무작위로 섞어 다시 계산해 보고, 실제 관측된 통계량이 그 가운데서 얼마나 극단적인지 평가합니다. 예: 순열검정

같은 비모수 계열이라도 쓰는 정보와 가정이 다릅니다. 예를 들어 부호검정은 차이의 방향에만 초점을 맞추지만, Wilcoxon 부호순위 검정은 방향과 함께 차이의 절댓값 순위도 활용합니다(03장, 05장).

여기서 중요한 점은 비모수 검정이 모수 검정을 무조건 대체하는 방법이 아니라는 것입니다. 정규성 가정이 크게 문제되지 않고 평균 차이가 연구 질문이라면 t 검정이 적절할 수 있습니다. 반대로 순서형 자료를 분석하거나 특정한 분포 가정을 두기 어려운 상황에서는 비모수 검정이 더 적절할 수 있습니다. 설계에 따른 전체 선택 지도는 「집단 비교 가이드」에 정리되어 있습니다.

또한 표본이 작다는 이유만으로 자동으로 비모수 검정을 고르면 안 됩니다. 2절의 만족도 예시처럼 표본이 작으면 어느 방법이든 차이를 확인하기 어렵습니다. 표본 크기, 검정력, 추정하려는 효과를 함께 고려해야 합니다.

비모수 검정을 해석할 때는 검정 이름뿐 아니라 귀무가설이 무엇인지 확인해야 합니다. 예를 들어 Mann–Whitney U 검정은 독립된 두 집단의 관측값을 합쳐 순위를 비교하지만, 일반적인 조건에서 그 결과를 단순히 "두 집단의 중앙값 차이"라고 해석할 수는 없습니다. 두 집단의 분포 모양이 비슷하고 위치만 다르다면 위치 차이로 해석할 수 있지만, 모양이나 퍼짐까지 다르면 주의해야 합니다(04장 5절). 마찬가지로 Kruskal–Wallis 검정이 유의하다고 해서 모든 집단의 중앙값이 서로 다르다는 뜻은 아닙니다.

검정 결과를 올바르게 해석하려면 다음 질문들을 구분해야 합니다.

그림 6의 네 질문은 서로 관련되어 있지만 같은 질문은 아닙니다. 순위 검정이 주로 답하는 것은 두 번째, "한쪽 값이 대체로 더 큰가"입니다. 중앙값 차이(세 번째)는 분포 모양이 같다는 조건이 있을 때만 바로 연결되고, 차이의 크기(네 번째)는 효과크기와 기술통계로 따로 보고해야 합니다.

특히 순위 기반 검정은 실제 값 사이의 거리를 그대로 쓰지 않습니다. 예를 들어 두 집단의 모든 값이 5점 차이로 갈라지든 50점 차이로 갈라지든 순위는 똑같아서, 순위 검정의 결과도 같습니다. 차이가 1점인지 50점인지가 중요한 연구라면 순위 검정만으로는 차이의 크기를 설명하기 어렵습니다. 이때는 효과크기와 기술통계량을 함께 보고하는 것이 좋습니다.

• 비모수통계는 특정한 확률분포를 가정하지 않거나, 순위와 부호 등의 정보를 활용해 데이터를 분석하는 방법입니다.
• 비모수 방법도 관측값의 독립성 등 분석 방법에 따른 가정을 충족해야 합니다.
• 순위 기반 분석은 관측값의 상대적인 순서를 비교하고, 부호검정은 두 측정값 사이의 변화 방향을 살펴봅니다.
• 비모수 검정이 항상 더 정확하거나 유리한 것은 아닙니다. 데이터의 특성에 따라 다른 방법보다 검정력이 낮을 수도 있습니다.
• 분석 방법은 연구 목적, 데이터의 측정 수준, 표본 구성, 확인하려는 차이나 관계를 고려해 선택해야 합니다.

다음은 02 순위와 경험분포입니다. 관측값에 순위를 매기는 방법과 동일한 값이 있을 때의 처리 방법을 알아보고, 경험적 누적분포함수(ECDF)를 통해 데이터의 분포를 살펴봅니다.