베이지안 추정

사후분포를 구한 뒤에는 그 분포를 이용해 관심 있는 모수를 추정합니다. 베이지안 분석에서는 하나의 대표값만 제시하는 것이 아니라 추정값과 그 값에 대한 불확실성을 함께 평가할 수 있습니다. 온라인 쇼핑몰의 구매 전환율을 분석해 사후평균이 8.3%로 나왔다면, 이 값만으로 실제 전환율을 완전히 설명할 수는 없습니다. 전환율이 어느 범위에 있을 가능성이 높은지도 함께 살펴봐야 합니다. 이번 장에서는 사후평균, 사후중앙값, 신용구간을 중심으로 베이지안 추정 결과를 해석하는 방법을 알아봅니다.

베이지안 추정(Bayesian estimation)은 관찰된 데이터를 반영한 사후분포를 바탕으로 모수의 대표값과 불확실성을 평가하는 과정입니다. 앞 장에서 살펴본 것처럼 사후분포는 사전분포와 우도를 결합해 얻으며, 이 분포를 이용하면 다음과 같은 질문에 답할 수 있습니다.

• 실제 구매 전환율은 어느 정도로 추정되는가?
• 전환율이 10%를 넘을 확률은 얼마인가?
• 추정값의 불확실성은 어느 정도인가?

이 장에서는 03장의 예인 사전분포 Beta(2, 18)과 고객 100명 중 8명 구매에서 얻은 사후분포 Beta(10, 110)을 계속 사용합니다. 분석 목적에 따라 사후평균이나 사후중앙값 등을 대표 추정값으로 사용하고, 신용구간으로 불확실성을 표현합니다.

사후분포는 여러 가능한 모수 값과 그 값에 대한 상대적인 가능성을 표현합니다. 이 분포를 하나의 숫자로 요약하는 대표적인 방법이 사후평균과 사후중앙값입니다.

두 추정값 중 무엇이 더 적절한지는 분포의 형태와 분석 목적에 따라 달라집니다. 그림 1의 왼쪽처럼 사후분포가 대칭에 가까우면 평균 8.3%, 중앙값 8.1%로 두 값이 비슷합니다. 오른쪽처럼 고객 20명 중 1명만 구매해 한쪽으로 긴 꼬리를 가진 분포에서는 평균 9.1%, 중앙값 7.9%, 밀도가 가장 높은 최빈값 5.0%로 차이가 커집니다. 긴 꼬리가 평균을 오른쪽으로 끌어당기기 때문입니다.

신용구간(Credible Interval)은 사후분포를 기준으로 모수가 특정 범위에 있을 사후확률을 표현한 구간입니다.

그림 2처럼 사후분포 Beta(10, 110)에서 구매 전환율의 95% 신용구간은 [4.1%, 13.9%]입니다. 이는 주어진 모형과 사전분포, 관찰된 데이터를 조건으로 할 때 실제 전환율이 해당 구간에 있을 사후확률이 95%라는 뜻입니다.

신용구간이 넓다면 모수의 불확실성이 상대적으로 크다는 뜻이고, 좁다면 가능한 값의 범위가 상대적으로 제한적이라는 뜻입니다. 그림 3처럼 데이터가 10배 많으면 사후평균은 비슷해도 구간의 폭은 크게 줄어듭니다. 다만 구간의 폭만으로 분석의 정확성을 판단할 수는 없습니다. 모형의 적절성과 데이터 품질도 함께 고려해야 합니다.

두 구간은 겉보기에는 비슷하지만 해석의 기준이 다릅니다.

베이지안 신용구간에서는 관찰된 데이터와 사전분포를 반영한 뒤 모수가 구간 안에 있을 확률을 직접 해석할 수 있습니다. 반면 빈도주의 신뢰구간의 95%는 개별적으로 계산된 구간에 모수가 95% 확률로 있다는 뜻이 아니라, 같은 방법을 반복해서 적용했을 때의 장기적인 포함 비율을 의미합니다(01장 그림 5 참고).

신용구간은 사후분포를 이용해 계산합니다. 대표적으로 등꼬리 신용구간(equal-tailed credible interval)과 최고사후밀도구간(Highest Posterior Density interval, HPD)이 있습니다.

두 방식은 사후분포가 대칭이면 비슷한 결과를 냅니다. Beta(10, 110)에서는 등꼬리 [4.1%, 13.9%], HPD [3.7%, 13.3%]로 큰 차이가 없습니다. 그러나 그림 4처럼 분포가 비대칭이면 HPD는 밀도가 높은 쪽으로 이동하고 더 좁아지며, 여러 봉우리를 가진 분포에서는 HPD가 떨어진 여러 구간으로 나뉠 수도 있습니다. 따라서 분석 결과를 보고할 때는 어떤 방식으로 구간을 계산했는지 명시하는 것이 좋습니다.

베이지안 추정의 장점은 대표 추정값과 구간뿐 아니라, 특정 조건이 성립할 사후확률도 계산할 수 있다는 것입니다. 예를 들어 구매 전환율 θ에 대해 다음과 같이 물을 수 있습니다.

이 값은 사후분포에서 10%보다 큰 영역의 넓이로 얻으며, 그림 5의 왼쪽처럼 약 23.8%입니다. 오른쪽처럼 기준값을 바꿔 가며 계산하면 전환율이 6%를 넘을 확률은 약 82%, 12%를 넘을 확률은 약 8%로, 의사결정 기준에 맞는 확률을 바로 읽을 수 있습니다.

다만 사후확률이 높다고 해서 사업 성과가 반드시 좋아진다는 뜻은 아닙니다. 전환율 외에도 광고비, 고객 확보 비용, 구매 금액과 같은 다른 지표를 고려해야 실제 의사결정에 활용할 수 있습니다.

• 사후평균은 사후분포의 기대값이며, 사후중앙값은 사후분포를 확률 기준으로 절반씩 나누는 값입니다.
• 신용구간은 모수가 특정 구간에 있을 사후확률을 표현합니다.
• 등꼬리 신용구간과 최고사후밀도구간은 구간을 구성하는 방식이 다릅니다.
• 사후분포를 이용하면 특정 기준을 초과할 확률과 같은 질문에도 답할 수 있습니다.
• 추정 결과는 사전분포, 모형의 적절성, 데이터 품질과 함께 해석해야 합니다.

다음은 05 베이지안 가설검정입니다. 두 가설 중 어느 가설이 관찰된 데이터를 더 잘 설명하는지 베이즈 팩터로 평가하는 방법과, 베이즈 팩터를 해석할 때 주의할 점을 알아봅니다.