부호검정

두 조건의 결과를 비교할 때, 차이가 얼마나 큰지보다 어느 방향으로 나타나는지가 중요한 경우가 있습니다. 예를 들어 교육 프로그램을 받기 전과 후의 만족도, 신제품 사용 전후의 평가 점수를 비교할 수 있습니다. 부호검정(Sign Test)은 관측값의 차이가 양수인지 음수인지만으로 가설을 검정하는 비모수 방법입니다. 차이의 크기나 정규분포 여부에 직접 의존하지 않는다는 특징이 있습니다.

부호검정은 관측값의 차이에 + 또는 − 부호를 붙여 분석합니다. 차이가 0인 관측값은 보통 제외합니다. 고객 8명의 서비스 개선 전후 만족도를 비교해 보겠습니다.

차이가 양수인 고객은 5명, 음수인 고객은 2명입니다. 차이가 0인 고객 D는 오르지도 내리지도 않아 방향 정보가 없으므로 제외하고, 실제 검정에는 7명을 씁니다. 부호검정은 "만족도가 높아진 고객이 낮아진 고객보다 많다"는 관측 결과가 우연만으로 설명될 수 있는지 평가합니다.

여기서 중요한 점은 차이가 +1이든 +10이든 모두 "+ 하나"로 취급한다는 것입니다. 부호검정은 변화의 크기가 아니라 변화의 방향에 초점을 맞춥니다.

차이를 D_i = 사후 측정값 − 사전 측정값으로 정의하고, 0이 아닌 차이 중 양수일 확률을 p라고 하겠습니다. 기본적인 양측검정의 가설은 다음과 같습니다.

귀무가설은 동전 던지기로 생각하면 쉽습니다. 개선 효과가 전혀 없다면 각 고객의 변화가 +가 될지 −가 될지는 공정한 동전을 던지는 것과 같습니다.

그림 2처럼 7명 각각이 동전을 한 번씩 던졌더니 +가 5번, −가 2번 나온 셈입니다. 질문은 "공정한 동전을 7번 던져 한쪽이 5번 이상 나오는 일이 얼마나 흔한가"입니다.

양측검정은 어느 방향으로 치우칠지 미리 정하지 않고, + 쪽이든 − 쪽이든 불균형이 있는지 봅니다. 연구 목적이 "개선 후 점수가 높아지는가"라면 단측 대립가설 H₁: p > 0.5를 쓸 수 있습니다. 다만 단측검정의 방향은 결과를 본 뒤 유리한 쪽을 고르는 것이 아니라, 분석 전에 연구 목적에 따라 정해야 합니다.

부호검정은 양수의 개수를 검정통계량으로 씁니다. 귀무가설 아래에서 각 차이가 확률 0.5로 +가 되고 관측값끼리 독립이라면, 0이 아닌 차이가 n개일 때 X는 이항분포를 따릅니다.

귀무가설이 맞다면 7개의 차이에서 양수가 5개 이상 나올 확률은 얼마일까요? 7명의 +/− 조합은 2 × 2 × … × 2 = 2⁷ = 128가지이고, 귀무가설 아래에서는 모두 똑같이 일어날 수 있습니다. 그중 +가 5개 이상인 조합을 세면 됩니다.

그림 3의 빨간 칸 29개가 +가 5개 이상인 조합이고, 주황 칸 29개가 반대쪽으로 똑같이 치우친(+가 2개 이하) 조합입니다. 양측검정은 양쪽을 모두 극단으로 보므로 p값은 58/128 ≈ 0.453입니다. 유의수준 0.05에서는 귀무가설을 기각할 수 없습니다.

즉, 이 자료에서는 개선 후 만족도가 높아진 고객이 더 많았지만, 그 차이가 통계적으로 유의하다고 판단할 근거는 부족합니다. 이는 개선 효과가 없다는 뜻이 아닙니다. 표본이 작아 차이를 확인하지 못했을 가능성도 있습니다.

그림 4는 +와 −의 비율을 5 : 2로 고정하고 표본만 늘린 경우입니다. 7명일 때 0.453이던 p값이 14명에서 0.180, 28명에서 0.036, 70명에서는 0.001보다 작아집니다. 같은 경향이라도 표본이 작으면 우연과 구분하기 어렵다는 뜻입니다(기초편 「통계적 오류와 검정력」).

결과가 유의하지 않을 때도 관측된 방향과 정확 p값을 함께 적습니다.

부호검정은 중앙값에 관한 추론에도 쓸 수 있습니다. 다만 무엇을 비교하는지에 따라 가설의 의미를 구분해야 합니다.

한 집단의 중앙값 검정. 관측값 X_i가 기준값 m₀보다 큰지 작은지 비교합니다(D_i = X_i − m₀). 크면 +, 작으면 −로 표시하고 기준값과 같은 관측값은 보통 제외합니다. 예를 들어 제품 사용시간의 중앙값이 30분인지 확인하려면 각 사용시간을 30분과 비교해 부호를 셉니다. 중앙값이 정말 30분이라면 30분보다 긴 사람과 짧은 사람이 반반일 것이기 때문입니다. 다만 "모집단 중앙값이 m₀"라는 해석은 분포의 성질에 따라 달라질 수 있으므로, 연속형 분포 등 적절한 조건을 확인해야 합니다.

대응표본의 중앙값 차이 검정. 같은 사람의 사전·사후 측정값을 비교할 때는 개인별 차이(D_i = 사후 − 사전)의 부호를 셉니다. 이 방식은 차이의 분포가 대칭이라고 가정하지 않아도 된다는 장점이 있지만, 부호만 쓰므로 차이의 크기 정보는 버립니다. 또한 서로 다른 사람들의 쌍 사이에는 독립성이 있어야 합니다.

두 검정은 모두 대응표본 비교에 쓰이지만, 사용하는 정보가 다릅니다.

그림 6처럼 부호검정에서는 +1과 +5가 똑같이 "+ 하나"입니다. Wilcoxon 부호순위 검정은 차이의 절댓값을 순위로 바꿔, +5는 가장 큰 순위(6), +1은 작은 순위(2)를 받습니다. 변화의 상대적인 크기까지 반영하는 셈입니다.

차이의 크기 정보를 쓸 수 있고 관련 가정이 적절하다면 Wilcoxon 부호순위 검정이 더 효율적일 수 있습니다. 반면 분포의 대칭성을 가정하기 어렵거나 변화의 방향 자체가 연구의 핵심이라면 부호검정이 적절한 선택입니다. Wilcoxon 부호순위 검정은 05장에서 자세히 다룹니다.

부호검정은 변화의 방향을 중심으로 분석하므로, 효과가 얼마나 큰지 알고 싶다면 기술통계량, 효과크기 또는 다른 적절한 검정을 함께 보는 것이 좋습니다.

• 부호검정은 관측값의 차이가 양수인지 음수인지를 이용하는 비모수 검정입니다.
• 차이가 0인 관측값은 일반적으로 검정에서 제외합니다.
• 0이 아닌 차이의 개수를 n, 양수의 개수를 X라고 하면 귀무가설 아래에서 X ~ Binomial(n, 0.5)를 씁니다.
• 대응표본 비교와 한 집단의 기준값 비교에 활용할 수 있습니다.
• 차이의 크기를 쓰지 않으므로 단순하지만, 그만큼 정보 손실이 생기고 작은 표본에서는 차이를 확인하기 어렵습니다.

다음은 04 Mann–Whitney U 검정입니다. 서로 독립인 두 집단의 관측값을 합쳐 순위를 매기고, 한 집단의 값이 다른 집단보다 전반적으로 높은 경향이 있는지 평가하는 방법을 살펴봅니다.