순열검정과 분포자유 추론

두 집단의 평균이나 중앙값이 다른지 검정하려면 보통 검정통계량과 그 통계량의 분포를 이용합니다. 하지만 자료가 정규분포를 따르는지 확신하기 어렵거나, 복잡한 통계량이라 이론적인 분포를 구하기 어렵다면 어떻게 해야 할까요? 이때 쓸 수 있는 방법 중 하나가 순열검정(Permutation Test)입니다. 순열검정은 관측된 자료를 여러 방식으로 재배열해, 귀무가설이 참일 때 검정통계량이 얼마나 극단적으로 나올 수 있는지 평가합니다. 정규분포 같은 특정한 분포를 직접 가정하지 않아도 된다는 장점이 있습니다. 다만 자료를 아무렇게나 섞는다고 언제나 유효한 검정이 되는 것은 아닙니다. 어떤 값을 서로 바꿔도 되는지는 연구 설계와 귀무가설에 따라 정해야 합니다.

두 가지 교육 프로그램 A와 B의 시험 점수를 비교한다고 해 보겠습니다.

A 집단의 점수가 전반적으로 더 높아 보입니다. 이 차이가 두 프로그램의 실제 차이를 반영하는지, 표본에서 우연히 나타난 것인지 어떻게 판단할 수 있을까요? 순열검정은 다음 순서로 접근합니다.

1. 두 프로그램에 차이가 없다는 귀무가설을 세웁니다.
2. 관측된 점수는 그대로 두고, 집단 라벨을 재배열합니다.
3. 재배열된 자료마다 집단 간 차이를 계산합니다.
4. 관측된 차이만큼 크거나 더 극단적인 차이가 얼마나 자주 나오는지 셉니다.
5. 그 비율을 p값으로 씁니다.

핵심은 점수를 새로 만들어 내는 것이 아니라, 관측된 점수에 붙은 집단 라벨을 바꾼다는 것입니다. 귀무가설이 맞다면 "A"와 "B"라는 이름표는 점수와 아무 관계가 없으니, 이름표를 바꿔 붙여도 차이가 비슷하게 나와야 합니다.

두 집단의 평균 차이를 검정통계량으로 써 보겠습니다. A의 평균은 75, B의 평균은 65이므로 관측된 차이는 다음과 같습니다.

이제 귀무가설 아래에서 집단 라벨을 재배열해 봅니다. 점수 6개를 두 집단에 3개씩 다시 배정하는 것입니다.

그림 2의 오른쪽처럼 A = 60, 70, 80, B = 65, 70, 75로 바꿔 붙이면 두 평균이 모두 70이 되어 차이는 0입니다. 이런 식으로 가능한 배정을 모두 고려하면, 귀무가설 아래에서 평균 차이가 어떤 값을 가질 수 있는지 알 수 있습니다. 점수 6개 중 3개를 A에 배정하는 방법의 수는 다음과 같습니다.

각 배정마다 평균 차이를 계산하고, 관측된 차이 10만큼 극단적인 결과가 얼마나 자주 나오는지 셉니다. 이렇게 가능한 배정을 모두 계산하는 방법을 정확 순열검정(exact permutation test)이라고 합니다.

양측검정에서는 보통 관측된 검정통계량의 절댓값 이상으로 극단적인 재배열의 비율을 계산합니다.

20가지 배정을 모두 계산해 평균 차이가 큰 순서로 줄 세우면 그림 3과 같습니다. 맨 위, 평균 차이가 +10인 배정은 2개입니다. 점수 70이 A와 B에 하나씩 있어서, A = 70, 75, 80이 되는 배정이 두 가지이기 때문입니다. 맨 아래, −10인 배정도 같은 이유로 2개입니다. 따라서 |차이| ≥ 10인 배정은 4개이고, 양측 p값은 다음과 같습니다.

유의수준 0.05에서 귀무가설을 기각하지 않습니다. 이 계산은 원리를 보여 주기 위한 예시입니다. 실제 분석에서는 사용한 검정통계량, 양측검정의 정의, 동점 처리 방식에 따라 극단적인 재배열을 세는 방법을 분명히 해야 합니다. 또한 p값이 0.20이라고 두 프로그램이 같다는 것이 증명되는 것은 아닙니다. 관측된 자료만으로는 차이가 있다고 판단할 근거가 부족하다는 뜻입니다. 집단당 3명으로는 가장 극단적인 배정이 나와도 양측 p값이 0.10보다 작아질 수 없습니다.

관측값이 많아지면 가능한 재배열의 수가 빠르게 늘어나, 모두 계산하기 어려워집니다.

그림 4처럼 집단별 10명이면 ₂₀C₁₀ = 184,756가지이고, 20명이면 1,378억 가지가 넘습니다. 그래서 실무에서는 재배열 일부를 무작위로 뽑아 p값을 근사하기도 합니다. 이를 몬테카를로 순열검정이라고 합니다.

몬테카를로 방식에서는 관측된 배정도 하나의 순열로 포함해 p값을 보정하는 경우가 많습니다. B개의 무작위 순열 중 관측 결과만큼 극단적인 것이 b개라면 다음과 같이 추정합니다.

그림 5는 각 15명인 모의 데이터에서 B를 50번부터 9,999번까지 늘려 가며 p̂을 계산한 것입니다. B가 작을 때는 값이 흔들리지만, 수천 번을 넘기면 약 0.035 근처로 안정됩니다. 그래서 보통 수천~수만 번의 순열을 쓰고, 보고할 때 B를 함께 적습니다.

순열검정은 특정 분포를 가정하는 검정의 대안으로 쓸 수 있지만, 모든 상황에 자동으로 적용되는 것은 아닙니다. 무엇을 재배열할지가 연구 설계에 따라 달라지기 때문입니다.

독립된 두 집단 비교. 두 집단의 평균 차이, 중앙값 차이 또는 다른 검정통계량을 비교할 수 있습니다. 교육 프로그램 A와 B의 시험 점수, 두 광고 문구의 클릭률, 두 제품의 고객 만족도 비교 등이 예입니다. 다만 집단 라벨을 서로 바꿀 수 있다는 정당성이 필요합니다. 무작위 배정 실험에서는 설계에 따른 무작위화 분포를 쓸 수 있지만, 관찰자료에서는 귀무가설 아래에서 두 집단의 분포가 교환 가능하다는 조건 등이 필요합니다. 단순히 "평균이 같다"는 귀무가설만으로 모든 순열검정이 정당화되지는 않습니다(7절).

대응표본 비교. 같은 사람을 교육 전과 후에 측정했다면 두 측정값은 독립이 아니므로, 모든 값을 자유롭게 섞으면 안 됩니다. 쌍은 그대로 두고, 그림 6의 가운데처럼 개인별 차이의 부호를 바꾸는 방식을 고려합니다. 이때도 부호를 바꾸는 것이 정당화되는 귀무가설과 대칭성 등의 조건을 확인해야 합니다(05장의 Wilcoxon 부호순위 검정과 같은 발상입니다).

두 변수의 관계. 한 변수의 값을 다른 변수에 짝짓는 순서를 재배열해 관계의 크기를 다시 계산하는 방법도 있습니다. 하지만 단순한 재배열은 관측값 사이의 독립성이나 교환 가능성을 전제로 하므로, 시간 순서가 있는 자료, 반복측정 자료, 군집자료에서는 구조를 무시한 재배열이 부적절할 수 있습니다.

순열검정은 하나의 검정통계량을 바탕으로 귀무분포를 만드는 추론 방식입니다. Mann–Whitney U 검정이나 Friedman 검정처럼 특정한 통계량을 쓰는 방법과는 구분할 필요가 있습니다.

앞에서 본 비모수 검정도 정확 순열분포를 이용해 p값을 구할 수 있습니다. 실제로 04장 Mann–Whitney 예시(A 4, 7, 8 · B 2, 5, 6)의 순위를 이 장처럼 20가지로 재배열해 순위합의 분포를 만들면, 양측 p값이 0.4로 Mann–Whitney 정확 p값과 정확히 같습니다. 07장 Friedman의 정확 p값(7,776가지 경우)도 같은 원리입니다. 다만 모든 순위검정이 순열검정과 같은 것은 아니며, 검정통계량과 귀무가설, 재배열 방식에 따라 추론의 성질이 달라집니다.

순열검정은 특정한 모수적 분포를 가정하지 않고도 검정할 수 있습니다. 하지만 분포자유(distribution-free)라는 말이 아무 가정도 필요 없다는 뜻은 아닙니다. 적절한 순열검정을 하려면 다음을 확인해야 합니다.

• 귀무가설 아래에서 어떤 관측값 또는 라벨을 재배열할 수 있는가?
• 관측값이 독립인가, 아니면 반복측정이나 군집 구조가 있는가?
• 연구 설계상 허용되는 배정은 무엇인가?
• 선택한 검정통계량이 연구 질문에 적합한가?
• 정확 순열검정과 근사 순열검정 중 어느 방식이 적절한가?

특히 관찰자료에서 "두 집단의 평균만 같다"는 귀무가설을 검정하려는 경우, 라벨을 자유롭게 섞는 순열검정이 항상 정확한 것은 아닙니다. 집단의 분포 모양이나 분산이 다를 수 있기 때문입니다.

그림 7은 평균은 둘 다 0이지만, 작은 집단(10명)의 표준편차는 4이고 큰 집단(40명)은 1인 상황을 1,000번 반복한 결과입니다. 평균이 같으니 유의하게 나오는 비율은 5%여야 하는데, 실제로는 약 26%였습니다. 라벨을 섞으면 두 집단의 퍼짐까지 섞여 버려서, 귀무분포가 실제 상황을 제대로 흉내 내지 못하기 때문입니다. 따라서 순열검정은 정규성 검정을 통과하지 못했을 때 자동으로 고르는 방법이 아니라, 연구 설계와 가설에 맞게 골라야 하는 추론 방법입니다.

다음은 순열검정 결과를 보고하는 예시입니다. 수치는 설명을 위해 가정한 값입니다.

결과를 보고할 때는 단순히 "비모수 검정을 사용했다"고 쓰기보다, 사용한 검정통계량, 재배열 방식, 순열 횟수, p값 계산 방법, 연구 설계에 대한 가정을 밝혀 두는 편이 좋습니다.

• 순열검정은 관측된 자료의 허용된 재배열로 귀무가설 아래의 검정통계량 분포를 만듭니다.
• 가능한 재배열을 모두 계산하면 정확 순열검정, 일부를 무작위로 뽑으면 몬테카를로 순열검정입니다.
• 특정한 이론적 분포에 대한 가정은 줄일 수 있지만, 독립성이나 교환 가능성 등 설계에 따른 조건은 여전히 중요합니다.
• 독립 집단, 대응표본, 반복측정 자료는 서로 다른 재배열 방식이 필요할 수 있습니다.
• 순열검정은 기존 비모수 검정과 경쟁하는 별개의 분석만이 아니라, 여러 검정통계량의 귀무분포를 만드는 데 쓰이는 추론 방법입니다.

비모수통계 9개 주제를 마치며

비모수 방법은 정규분포 같은 특정 분포 가정을 줄이는 대신 순위와 재배열로 추론합니다. 그렇다고 가정이 없는 것은 아니어서 독립성, 교환 가능성, 분포 모양에 대한 조건을 확인해야 하며, p값과 함께 효과크기를 보고해야 결과의 의미가 완성됩니다.