베이지안 가설검정
Bayesian Hypothesis Testing · 베이즈 팩터
관찰된 차이가 우연인지, 실제로 의미 있는 차이인지 판단해야 하는 경우가 많습니다. 새로운 광고가 기존 광고보다 구매 전환율을 높이는지, 새로운 교육 프로그램이 학업 성취도를 개선하는지 확인하는 것이 그런 예입니다. 빈도주의 가설검정에서는 주로 p값을 이용해 귀무가설과 데이터의 관계를 평가합니다. 반면 베이지안 가설검정에서는 각 가설이 관찰된 데이터를 얼마나 잘 설명하는지 비교할 수 있습니다. 이번 장에서는 베이즈 팩터를 중심으로 두 접근법의 차이와 결과 해석 방법을 알아봅니다.
가설검정이란?
가설검정은 데이터에 근거해 연구에서 설정한 가설을 평가하는 과정입니다. 새로운 광고가 기존 광고보다 효과적인지 확인한다고 가정해 봅시다.
- H0: 새로운 광고와 기존 광고의 전환율에 차이가 없다.
- H1: 새로운 광고와 기존 광고의 전환율에 차이가 있다.
이 두 가설을 비교하려면 관찰된 데이터가 각 가설 아래에서 얼마나 그럴듯한지 평가해야 합니다. 빈도주의와 베이지안 접근은 이 문제를 다루는 방식이 다릅니다.
귀무가설이 참이라고 가정했을 때, 관찰된 결과만큼 또는 그보다 더 극단적인 결과가 나타날 확률을 p값으로 평가합니다.
두 가설이 관찰된 데이터를 각각 얼마나 잘 설명하는지 비교하고, 사전확률까지 반영해 가설에 대한 사후확률을 계산할 수 있습니다.
베이즈 팩터란?
베이즈 팩터(Bayes Factor, BF)는 두 가설이 관찰된 데이터를 얼마나 잘 설명하는지 비교하는 지표입니다. 귀무가설 H0과 대립가설 H1을 비교할 때 다음과 같이 정의합니다.
P(D | H1): 대립가설 아래에서 데이터가 관찰될 가능성 · P(D | H0): 귀무가설 아래에서 데이터가 관찰될 가능성
구체적인 예로 기존 광고의 전환율이 오랜 기간 8%로 알려져 있고, 새 광고를 200명에게 노출해 26명(13%)이 구매했다고 하겠습니다. H0은 새 광고의 전환율도 8%라는 가설이고, H1은 전환율이 03장의 약한 정보성 분포 Beta(2, 18)처럼 여러 값을 가질 수 있다는 가설입니다.
그림 1처럼 각 가설은 200명 중 몇 명이 구매할지에 대해 서로 다른 예측을 합니다. H0은 16명 근처에 확률을 집중하고, H1은 넓게 퍼뜨립니다. 실제 관찰값 26명에서 두 예측의 높이를 비교하면 BF10 ≈ 4.4로, 데이터는 H1 아래에서 약 4.4배 더 잘 설명됩니다. 베이즈 팩터는 이처럼 관찰된 데이터가 어느 가설 아래에서 더 잘 설명되는지를 비교할 뿐, 가설에 대한 사전확률까지 반영한 사후확률과는 구분해야 합니다.
베이즈 팩터는 어떻게 해석할까?
베이즈 팩터의 크기와 방향에 따라 두 가설을 비교할 수 있습니다.
| 베이즈 팩터 BF10 | 해석 |
|---|---|
| 1보다 큼 | 대립가설 H1이 데이터를 더 잘 설명 |
| 1에 가까움 | 두 가설의 데이터 설명력이 비슷함 |
| 1보다 작음 | 귀무가설 H0이 데이터를 더 잘 설명 |
예를 들어 BF10 = 5라면 관찰된 데이터가 H1 아래에서 H0 아래보다 5배 더 잘 설명된다는 의미입니다. 반대로 BF10 = 0.2라면 데이터는 H0 아래에서 5배 더 잘 설명되며, 이때는 역수인 BF01 = 1 / BF10 = 5로 표현할 수 있습니다.
| BF10 | 일반적인 해석 |
|---|---|
| 1~3 | 대립가설에 대한 약한 증거 |
| 3~10 | 대립가설에 대한 중간 정도의 증거 |
| 10~30 | 대립가설에 대한 강한 증거 |
| 30~100 | 매우 강한 증거 |
| 100 초과 | 극히 강한 증거 |
그림 2와 표는 일반적인 해석 기준의 예시이며 절대적인 판정 규칙은 아닙니다. 광고 예의 BF10 ≈ 4.4는 중간 정도의 증거에 해당합니다. 베이즈 팩터가 크더라도 모형 설정이 부적절하거나 사전분포가 결과에 큰 영향을 주는 경우에는 신중하게 해석해야 하며, 연구 분야와 분석 맥락을 함께 고려해야 합니다.
베이즈 팩터와 p값은 무엇이 다를까?
두 지표는 모두 가설검정에 사용되지만, 답하는 질문이 다릅니다.
| 구분 | p값 | 베이즈 팩터 |
|---|---|---|
| 기본 접근 | 빈도주의 | 베이지안 |
| 비교 기준 | 귀무가설 아래에서 데이터가 얼마나 극단적인가 | 두 가설이 데이터를 각각 얼마나 잘 설명하는가 |
| 주요 해석 | 귀무가설이 참일 때 관찰 결과만큼 극단적인 결과가 나올 확률 | 한 가설의 데이터 설명력이 다른 가설보다 몇 배인지를 나타내는 비율 |
| 가설에 대한 사전확률 | p값 자체에는 반영하지 않음 | 베이즈 팩터 자체에는 반영하지 않지만, 사후확률 계산에는 필요 |
| 귀무가설을 지지하는 증거 | p값만으로 직접 판단하기 어려움 | BF01 등을 이용해 비교 가능 |
광고 예에서 정확 이항검정의 p값은 0.013로 0.05보다 작지만, 베이즈 팩터는 약 4.4로 "중간 정도"의 증거입니다. p값이 작다는 것이 곧 대립가설에 대한 강한 증거를 뜻하지는 않습니다.
p값은 귀무가설이 참일 확률이 아닙니다. 또한 베이즈 팩터도 그 자체로 가설이 참일 확률을 의미하지 않습니다. 베이즈 팩터는 데이터가 두 가설을 얼마나 차별적으로 뒷받침하는지 나타내며, 각 가설이 참일 사후확률을 구하려면 가설에 대한 사전확률도 필요합니다.
베이즈 팩터와 사후확률의 관계
베이즈 팩터에 가설의 사전확률을 결합하면 사후확률을 계산할 수 있습니다. 두 가설만 존재한다고 가정하면 다음과 같습니다.
사후 오즈 = 베이즈 팩터 × 사전 오즈
대립가설과 귀무가설의 사전확률이 각각 50%라면 사전 오즈는 1입니다. 베이즈 팩터가 5라면 사후 오즈는 5가 되고, 대립가설의 사후확률은 5 / (1 + 5) ≈ 83.3%입니다.
하지만 대립가설의 사전확률이 10%였다면 사전 오즈는 1/9이고, 같은 베이즈 팩터 5를 곱한 사후 오즈는 5/9이므로 사후확률은 약 35.7%에 그칩니다. 그림 3처럼 베이즈 팩터가 동일하더라도 사전확률이 다르면 최종적인 가설의 사후확률이 달라집니다. 02장의 질병 검사에서 같은 양성 결과라도 유병률에 따라 의미가 달라졌던 것과 같은 원리입니다.
귀무가설을 지지하는 증거도 평가할 수 있을까?
베이지안 가설검정의 특징 중 하나는 귀무가설을 지지하는 증거도 평가할 수 있다는 점입니다. 새로운 교육 프로그램을 적용했지만 두 집단의 성취도 차이가 거의 나타나지 않았다면, 빈도주의 검정에서 p값이 크다는 사실만으로 두 집단이 동일하다고 결론 내릴 수는 없습니다. 표본이 너무 적어 차이를 발견하지 못했을 가능성도 있기 때문입니다.
그림 4는 광고 예와 같은 가설로 세 가지 결과를 비교한 것입니다. 200명 중 16명(8%)이면 BF01 ≈ 3.3로 차이가 없다는 가설 쪽 증거가 있고, 20명 중 2명이면 BF01 ≈ 1.4로 어느 쪽도 판단하기 어렵습니다. 2,000명 중 160명이면 BF01 ≈ 10로 커집니다. p값은 세 경우 모두 크지만, 베이즈 팩터는 다음 질문을 구분해 줍니다.
- 차이가 존재한다는 가설이 데이터를 더 잘 설명하는가?
- 차이가 없다는 가설이 데이터를 더 잘 설명하는가?
- 현재 데이터만으로는 어느 쪽도 충분히 뒷받침하지 못하는가?
다만 귀무가설과 대립가설을 어떻게 정의하느냐가 중요합니다. 연속적인 효과 크기를 갖는 모형에서 정확히 효과가 0이라는 가설을 평가하려면 점가설과 연속 대립가설을 어떻게 구성할지 명시해야 합니다. 실질적으로 의미 있는 차이가 없는 범위를 평가하려면 등가성 또는 구간 가설을 고려할 수도 있습니다.
베이즈 팩터를 사용할 때 주의할 점
그림 5처럼 같은 데이터라도 대립가설의 사전분포를 어떻게 정하느냐에 따라 베이즈 팩터가 크게 달라집니다. 0~100%를 모두 같은 가능성으로 두는 균등분포는 현실적이지 않은 큰 전환율에도 확률을 나눠 주기 때문에, 데이터가 기존 값과 달라도 BF10이 1 근처에 머뭅니다.
복합가설에서는 효과 크기 등에 대한 사전분포가 베이즈 팩터 계산에 영향을 줍니다.
두 가설이 현실의 데이터를 적절하게 설명하는지 검토해야 합니다.
베이즈 팩터는 가설의 사전확률을 포함하지 않으므로, 그 자체를 가설의 사후확률로 해석해서는 안 됩니다.
특정 숫자를 넘었다고 해서 모든 분야에서 같은 결론을 내려야 하는 것은 아닙니다.
표본 크기, 측정의 신뢰성, 분석 계획과 실질적 효과 크기도 중요합니다.
새 광고에 노출된 200명 중 26명(13%)이 구매하였다. 기존 전환율 8%를 귀무가설로, Beta(2, 18) 사전분포를 갖는 전환율을 대립가설로 설정한 베이즈 팩터는 BF10 = 4.4로, 데이터는 대립가설 아래에서 약 4.4배 더 잘 설명되었다(중간 정도의 증거). 대립가설의 사전분포를 균등분포로 바꾸면 BF10 = 1.1로 낮아져, 결과가 사전분포 설정에 민감함을 함께 보고한다.
두 가설이 데이터를 얼마나 잘 설명하는지 비율로 비교합니다.
- 베이지안 가설검정은 가설들이 관찰된 데이터를 얼마나 잘 설명하는지 비교합니다.
- 베이즈 팩터는 두 가설의 데이터 설명력 비율입니다.
- BF10 > 1이면 대립가설을, BF10 < 1이면 귀무가설을 상대적으로 더 지지합니다.
- p값은 귀무가설 아래에서 데이터가 얼마나 극단적인지 평가하며, 베이즈 팩터는 두 가설의 상대적인 설명력을 비교합니다.
- 가설의 사후확률을 계산하려면 베이즈 팩터뿐 아니라 사전확률도 필요합니다.
- 베이즈 팩터는 사전분포와 모형 설정에 영향을 받을 수 있으므로 분석 맥락과 함께 해석해야 합니다.
다음은 06 베이지안 t검정과 ANOVA입니다. 두 집단의 평균 차이나 여러 집단의 평균 차이를 베이지안 방식으로 분석하고, 결과를 어떻게 해석하는지 알아봅니다.
베이즈 팩터는 P(D | H₁) / P(D | H₀)로, 데이터가 어느 가설 아래에서 몇 배 더 잘 설명되는지를 나타냅니다. 가설의 사후확률은 베이즈 팩터에 사전 오즈를 곱해 구하며, 귀무가설 쪽 증거와 "판단 불가"도 구분할 수 있습니다. 대립가설의 사전분포에 민감하므로 설정 근거와 민감도를 함께 보고합니다.