Mann–Whitney U 검정

두 집단의 결과를 비교하고 싶은데, 데이터가 정규분포를 따른다고 보기 어렵거나 순위 정보를 중심으로 분석하고 싶다면 어떤 방법을 쓸 수 있을까요? 예를 들어 새로운 교육 프로그램에 참여한 학생들과 참여하지 않은 학생들의 만족도를 비교한다고 해 보겠습니다. 두 집단은 서로 다른 학생들입니다. 이때 쓸 수 있는 방법 중 하나가 Mann–Whitney U 검정입니다. 두 집단의 관측값을 합쳐 순위를 매기고, 한 집단의 값이 다른 집단보다 전반적으로 높거나 낮은 경향이 있는지 검정합니다.

Mann–Whitney U 검정은 서로 독립인 두 집단을 비교하는 비모수 검정입니다. Wilcoxon 순위합 검정(Wilcoxon rank-sum test)이라고도 부르며, 두 검정은 같은 절차로 연결됩니다. 대표적인 적용 상황은 다음과 같습니다.

이 장에서는 참여 집단 A의 만족도 4, 7, 8과 비참여 집단 B의 만족도 2, 5, 6을 예로 씁니다. 평균만 비교하는 대신, 모든 점수를 하나로 합쳐 순위를 매긴 뒤 각 집단에 높은 순위와 낮은 순위가 어떻게 나뉘어 있는지 봅니다.

중요한 점은 이 검정이 단순히 두 집단의 중앙값만 비교하는 방법은 아니라는 것입니다. 일반적으로는 두 집단의 분포가 같은지를 검정하며, 두 분포의 모양과 퍼짐이 비슷할 때 위치 차이, 특히 중앙값 차이로 해석하기가 자연스럽습니다(5절).

먼저 두 집단의 관측값을 모두 합친 뒤 작은 값부터 순위를 매기고, 집단별로 순위를 더합니다. 순위합 계산은 02장 3절과 같은 예시이므로 여기서는 그림으로 짧게 정리합니다.

• A집단의 순위합: R_A = 2 + 5 + 6 = 13
• B집단의 순위합: R_B = 1 + 3 + 4 = 8

A집단의 점수가 상대적으로 높은 순위에 놓여 있습니다. 하지만 순위합만으로 통계적 유의성을 판단하지는 않습니다. 순위합은 표본 크기에 따라 커지므로(02장 3절), 표본 크기를 반영한 U 통계량을 계산하고 귀무가설 아래에서 이런 순위 차이가 얼마나 드문지 평가해야 합니다.

집단 A의 표본 크기를 n_A, 집단 B를 n_B, 순위합을 R_A, R_B라고 하면 U 통계량은 다음과 같습니다.

왜 n(n + 1)/2를 뺄까요? A집단 3명이 가장 낮은 1·2·3위를 모두 차지하면 순위합은 최솟값인 1 + 2 + 3 = 6입니다. 이 최솟값을 빼 주면 "A가 가장 불리한 경우에 U_A = 0"이 되도록 기준을 맞추는 셈입니다. 그래서 U는 표본 크기와 상관없이 0부터 n_A n_B까지의 값을 가집니다.

U 통계량은 무엇을 의미할까? U는 두 집단의 관측값을 하나씩 짝지어 비교했을 때 한 집단이 이긴 횟수입니다. A의 각 값을 B의 각 값과 모두 비교하면 3 × 3 = 9번의 비교가 생깁니다.

그림 2에서 A의 값이 더 큰 비교는 7번, B의 값이 더 큰 비교는 2번입니다. 이 횟수가 앞에서 공식으로 구한 U_A = 7, U_B = 2와 정확히 같습니다(동점이 없는 경우). 즉 U는 단순한 순위 번호가 아니라, 두 집단 사이의 모든 쌍별 비교에서 나타나는 상대적 위치를 요약한 값입니다.

소프트웨어에 따라 두 U 중 작은 값을 보고하기도 하고, 특정 집단을 기준으로 계산한 U를 보고하기도 합니다. 결과를 읽을 때 어느 집단 기준인지 확인해야 합니다.

일반적인 양측 Mann–Whitney U 검정은 두 집단의 분포가 같다는 귀무가설을 검정합니다.

표본이 작으면 정확검정을 쓰고, 표본이 크면 보통 정규근사를 씁니다. 동점이 있는 데이터에서는 동점 보정이 중요하며, 정확 p값의 계산 방식은 소프트웨어와 설정에 따라 다를 수 있습니다. 분석 결과가 다음과 같다고 가정해 보겠습니다.

두 집단의 분포가 같다면 U는 평균 n_An_B/2 = 30 × 32 / 2 = 480 근처에 있어야 합니다. 관측된 315는 이 평균보다 165 작고, 그림 3처럼 반대쪽 645까지 포함한 양쪽 꼬리의 넓이가 p ≈ 0.020입니다. 유의수준 0.05보다 작으므로 귀무가설을 기각합니다. 두 집단의 분포가 같다는 가정과 데이터가 잘 맞지 않는다는 뜻입니다.

다만 이 결과만으로 어느 집단이 더 높은지는 알 수 없습니다. 방향을 확인하려면 각 집단의 관측값, 중앙값, 평균 순위 등을 함께 봐야 합니다. 또한 p값은 차이의 크기를 나타내지 않으므로, 통계적 유의성과 실제 효과의 크기는 구분해서 해석해야 합니다(6절).

어느 집단이 더 높은지는 집단별 중앙값이나 평균 순위를 확인한 뒤 함께 밝힙니다.

Mann–Whitney U 검정은 흔히 두 집단의 중앙값을 비교하는 검정으로 소개되지만, 그렇게 해석하려면 조건이 필요합니다.

• 상황 A · 분포의 위치가 다름: 두 분포의 모양과 퍼짐은 비슷하고 한쪽이 통째로 이동해 있습니다. 이때는 검정 결과를 위치 차이, 즉 중앙값 차이의 근거로 해석하기가 자연스럽습니다.
• 상황 B · 분포의 모양이나 퍼짐이 다름: 두 집단의 중앙값은 같아도 한쪽이 훨씬 넓게 퍼져 있거나 모양이 다를 수 있습니다. 이때 검정 결과가 유의하더라도 중앙값 차이가 있다고 단정해서는 안 됩니다.

그래서 결과를 보고할 때는 검정통계량과 p값뿐 아니라 집단별 분포 그림과 기술통계량도 함께 확인하는 것이 좋습니다. 01장 5절에서 본 "중앙값은 같은데 유의하게 나오는" 경우가 바로 상황 B입니다.

p값은 관측된 차이가 귀무가설 아래에서 얼마나 드문지를 알려 주지만, 차이가 얼마나 큰지는 알려 주지 않습니다. 대표적인 효과크기는 순위 양분 상관(rank-biserial correlation)과 Cliff의 델타(Cliff's delta)입니다. 두 지표 모두 쌍별 비교에서 한 집단이 더 큰 경향이 얼마나 강한지를 요약합니다.

그림 5처럼 이 값은 −1부터 1 사이에 있습니다. 1이면 A가 모든 비교에서 이긴 것이고, 0이면 반반, −1이면 B가 모두 이긴 것입니다. 예시의 0.56은 9번의 비교 중 A가 이긴 비율(7/9)이 진 비율(2/9)보다 5/9만큼 크다는 뜻입니다. 부호는 어느 집단을 기준으로 정의했는지에 따라 바뀔 수 있습니다. 동점이 있으면 지표마다 동점 처리 방식이 다를 수 있으므로 사용한 정의를 밝혀 둡니다.

Mann–Whitney U 검정이 항상 t검정보다 좋은 것은 아닙니다. 평균 차이가 연구 질문이고 t검정의 조건이 충분히 충족된다면 t검정이 더 직접적인 방법일 수 있습니다. 반대로 순위 정보에 초점을 맞추거나 분포가 정규분포와 크게 다를 때, 극단값 하나가 평균을 크게 흔드는 경우에는 Mann–Whitney U 검정을 고려할 수 있습니다. 최종 선택은 데이터의 특성과 연구 질문을 기준으로 합니다.

특히 같은 사람을 대상으로 사전·사후 점수를 측정했다면 두 집단은 독립이 아닙니다. 이 경우에는 Mann–Whitney U 검정이 아니라 Wilcoxon 부호순위 검정(05장)이나 부호검정(03장)처럼 대응표본 구조에 맞는 방법을 고려해야 합니다.

• Mann–Whitney U 검정은 서로 독립인 두 집단의 분포를 비교하는 비모수 검정입니다.
• 두 집단의 관측값을 합쳐 순위를 매기고, 순위합에서 U 통계량을 계산합니다.
• U 통계량은 두 집단의 쌍별 비교에서 한 집단의 값이 더 큰 횟수입니다.
• 검정 결과를 중앙값 차이로 해석하려면 두 집단의 분포 모양과 퍼짐이 비슷해야 합니다.
• p값과 함께 집단별 기술통계량과 효과크기(순위 양분 상관 등)를 보고하는 것이 좋습니다.

다음은 05 Wilcoxon 부호순위 검정입니다. 같은 사람을 대상으로 측정한 사전·사후 점수처럼 대응되는 두 조건을 비교하는 방법으로, 차이의 방향에 차이 절댓값의 순위를 더해 분석합니다.