Wilcoxon 부호순위 검정

같은 사람을 대상으로 교육 프로그램 참여 전후의 만족도를 측정했다고 가정해 보겠습니다. 참여 후 만족도가 높아진 사람이 몇 명인지 세는 것만으로 충분할까요? 어떤 사람은 1점, 다른 사람은 5점 올랐다면 변화의 크기도 함께 보고 싶을 것입니다. Wilcoxon 부호순위 검정은 대응되는 두 관측값의 차이가 어느 방향인지뿐 아니라, 차이의 절댓값이 상대적으로 얼마나 큰지도 활용하는 비모수 검정입니다. 03장의 부호검정이 차이의 방향만 썼다면, 이 검정은 방향과 절댓값의 순위를 함께 씁니다.

Wilcoxon 부호순위 검정은 서로 대응되는 두 조건의 결과를 비교할 때 사용합니다. 대표적인 사례는 다음과 같습니다.

각 대상자의 두 측정값을 짝지어 차이를 계산합니다.

여기서 중요한 것은 두 시점의 측정값을 독립된 두 집단처럼 다루지 않는다는 점입니다. 그림 1처럼 같은 사람에게서 얻은 두 값은 선 하나로 이어진 한 쌍이고, 분석은 그 쌍의 차이에서 시작합니다.

그림 1의 여섯 명을 표로 정리하면 다음과 같습니다.

양수는 5명, 음수는 1명, 0은 없습니다. 부호검정이라면 여기서 "+ 5개, − 1개"만 씁니다. Wilcoxon 부호순위 검정은 여기에 절댓값 정보를 더합니다.

그림 2의 왼쪽처럼 부호검정에서는 +1(B)과 +3(C)이 똑같이 "+ 하나"입니다. 오른쪽처럼 Wilcoxon 부호순위 검정은 둘의 크기 차이를 절댓값의 순위로 반영합니다.

차이의 절댓값을 작은 순서대로 정렬해 순위를 매깁니다. 같은 절댓값이 여러 번 나오므로 02장 2절의 평균 순위로 동순위를 처리합니다.

• 절댓값 1 두 개(B, D)는 1·2번째 자리 → (1 + 2) / 2 = 1.5
• 절댓값 2 세 개(A, E, F)는 3·4·5번째 자리 → (3 + 4 + 5) / 3 = 4
• 절댓값 3(C)은 6번째 자리 → 6

이제 각 순위에 원래 차이의 부호를 다시 붙입니다.

순위를 매길 때는 부호를 떼고 크기만 보고, 매긴 뒤에 부호를 다시 붙인다는 순서가 핵심입니다. 이렇게 하면 변화의 방향과 상대적인 크기가 하나의 숫자에 함께 담깁니다.

양의 차이에 해당하는 순위와 음의 차이에 해당하는 순위를 각각 더합니다.

0이 아닌 차이가 n개이면 순위 1부터 n까지의 합은 항상 n(n + 1)/2입니다. 여기서는 n = 6이므로 6 × 7 / 2 = 21이고, 실제로 19.5 + 1.5 = 21이라 계산이 맞습니다. 그래서 W⁺만 알면 W⁻는 자동으로 정해집니다.

이 예시에서는 양의 순위합이 음의 순위합보다 훨씬 큽니다. 오른 사람이 많을 뿐 아니라, 크게 바뀐 변화(큰 순위)도 주로 양의 방향에 있었다는 뜻입니다. 다만 순위합 차이가 크다는 사실만으로 유의성이 확정되지는 않습니다. 이 여섯 명의 데이터로 정확 p값을 계산하면 약 0.094로, 유의수준 0.05에서는 귀무가설을 기각하지 못합니다. 표본이 6명뿐이라 부호 조합이 64가지밖에 없고, 이 정도 치우침은 우연으로도 꽤 자주 나오기 때문입니다.

일반적인 양측검정은 차이의 분포가 0을 중심으로 대칭이라는 가정 아래, 차이의 위치가 0인지 평가합니다.

차이의 위치를 중앙값과 연결해 해석하려면 차이의 분포가 대칭이라는 가정이 중요합니다.

그림 5의 왼쪽처럼 차이가 대칭이면 분포의 중심이 곧 중앙값이라 "차이의 중앙값이 0인가"로 읽기 자연스럽습니다. 오른쪽처럼 한쪽으로 길게 치우쳐 있으면, 검정 결과를 단순히 차이의 중앙값 검정으로 설명하기 어렵습니다. 이때는 대칭을 요구하지 않는 부호검정(03장)이 더 적절할 수 있습니다.

30명을 분석해 다음 결과를 얻었다고 가정해 보겠습니다.

먼저 350 + 115 = 465 = 30 × 31 / 2이므로 순위합이 맞습니다. 귀무가설 아래에서는 W⁺와 W⁻가 반씩 나뉘어 각각 465 / 2 = 232.5 근처에 있어야 하는데, 실제로는 350 : 115로 한쪽에 쏠려 있습니다. 표본이 이 정도로 크면 정규근사를 써서 p ≈ 0.016을 얻습니다.

유의수준 0.05에서 p값이 0.05보다 작으므로 귀무가설을 기각합니다. 두 조건 사이에 차이가 있다는 통계적 근거가 있다는 뜻입니다. 어느 조건이 더 큰지는 차이의 방향(W⁺가 더 크므로 사후가 더 높은 쪽)과 기술통계량을 확인해 설명합니다. 또한 p값이 작다고 해서 변화의 크기가 크다는 뜻은 아니므로, 실질적인 중요성은 따로 평가해야 합니다.

예를 들어 10명 중 8명이 1점 오르고 2명이 1점 내린 상황과, 8명이 1점 오르고 2명이 6점 크게 내린 상황을 비교해 보겠습니다. 부호검정에서는 둘 다 "+ 8개, − 2개"라 p값이 0.109로 같습니다. Wilcoxon 부호순위 검정은 두 번째 상황에서 크게 내린 두 사람이 가장 큰 순위(9.5)를 받아 음의 순위합이 커지므로, p값이 0.109에서 0.465로 달라집니다. 이처럼 크기 정보를 쓰면 두 상황을 구분할 수 있습니다. 다만 순위는 실제 차이(6점)를 그대로 쓰지 않고 "가장 크다"는 순서만 반영합니다.

차이의 분포가 대칭이라고 보기 어렵다면 부호검정이 더 적절할 수 있습니다. 반대로 대칭성 가정이 합리적이고 변화의 상대적인 크기도 활용하고 싶다면 Wilcoxon 부호순위 검정을 고려합니다.

이름이 비슷한 두 검정은 비교하는 데이터의 구조가 다릅니다.

분석 방법을 고를 때는 정규분포인지 여부보다 먼저, 두 집단이 서로 독립인지 같은 대상에서 얻은 대응자료인지를 확인해야 합니다(04장 8절).

특히 그림 7처럼 차이가 0인 관측값을 제외하면 실제 검정에 쓰는 표본 크기는 원래 대상자 수보다 작아집니다. 소프트웨어에 따라 0인 차이와 동순위를 처리하는 세부 방식이 다를 수 있으므로, 결과를 보고할 때 사용한 방법을 밝혀 두는 것이 좋습니다.

• Wilcoxon 부호순위 검정은 대응되는 두 조건의 차이를 분석하는 비모수 검정입니다.
• 차이의 절댓값에 순위를 매긴 뒤 부호를 다시 붙여, 방향과 크기를 함께 씁니다.
• 양의 순위합 W⁺와 음의 순위합 W⁻를 바탕으로 검정통계량과 p값을 계산합니다.
• 차이의 위치를 중앙값과 연결해 해석할 때는 차이 분포의 대칭성이 중요합니다.
• 독립된 두 집단을 비교하는 Mann–Whitney U 검정과는 데이터 구조가 다릅니다.

다음은 06 Kruskal–Wallis 검정입니다. 독립된 집단이 세 개 이상일 때 순위를 이용해 집단 간 차이를 검정하는 방법을 살펴봅니다.