베이지안 추론의 이해

같은 데이터를 분석하더라도 모수의 불확실성을 어떻게 해석하느냐에 따라 접근 방식이 달라집니다. 통계분석에서는 표본을 이용해 모집단의 특성을 추정합니다. 베이지안 추론(Bayesian Inference)은 기존에 알고 있던 정보와 새롭게 관찰한 데이터를 결합해, 모수에 대한 믿음이나 불확실성을 갱신하는 방법입니다. 이 장에서는 빈도주의와 베이지안 접근의 차이를 이해하고, 어떤 상황에서 베이지안 분석이 유용한지 살펴봅니다.

한 온라인 쇼핑몰에서 광고를 본 고객 중 몇 명이 실제로 구매하는지 알아보려 한다고 가정해 봅시다. 관심 있는 값은 고객의 구매 전환율입니다. 전체 고객의 전환율을 직접 알 수는 없으므로, 일부 고객의 데이터를 이용해 추정해야 합니다.

그림 1처럼 광고에 노출된 고객 100명 중 8명이 구매했다면 관찰된 전환율은 8%입니다. 하지만 실제 전체 고객의 전환율이 정확히 8%라고 단정할 수는 없습니다. 이때 다음과 같은 질문이 생깁니다.

• 실제 전환율은 어느 정도일까?
• 전환율이 10%를 넘을 가능성은 얼마나 될까?
• 이전 캠페인에서 얻은 정보가 있다면 이번 결과를 추정하는 데 활용할 수 있을까?

베이지안 추론은 이러한 질문에 답하기 위해 모수에 대한 기존 정보와 관찰된 데이터를 결합합니다. 여기서 모수(parameter)는 전체 고객의 실제 전환율처럼 우리가 알고 싶어 하는 모집단의 특성입니다.

두 접근법 모두 표본 데이터를 이용해 모집단을 추론하지만, 확률과 모수의 불확실성을 해석하는 방식이 다릅니다.

그림 2처럼 전환율이 10%를 넘는지 알고 싶다고 해 보겠습니다.

• 빈도주의: 참 전환율은 하나로 고정되어 있고, 표본을 뽑을 때마다 관찰된 전환율이 달라집니다. 표본을 이용해 전환율을 추정하고, 신뢰구간이나 가설검정을 통해 불확실성을 평가합니다.
• 베이지안: 이미 관찰된 데이터를 바탕으로 전환율 자체에 확률분포를 둡니다. 전환율에 대한 사전정보와 관찰된 구매 데이터를 결합해, 전환율이 10%를 초과할 사후확률(이 예에서는 약 7%) 등을 계산할 수 있습니다.

두 방법은 서로 대립하는 정답과 오답이 아닙니다. 연구 목적, 데이터 특성, 가정 및 결과를 해석하는 방식에 따라 적절한 접근법을 선택합니다.

베이지안 분석의 핵심은 사전정보를 데이터에 비추어 갱신하는 것입니다.

예를 들어 이전 캠페인에서 전환율이 대체로 5~10% 수준이었다는 정보가 있다고 가정하겠습니다. 이를 평균 7.5%, 5~10% 사이에 약 83%의 확률을 두는 사전분포로 표현하고, 이번 캠페인에서 100명 중 8명이 구매한 결과와 결합하면 그림 3과 같습니다.

사후분포의 평균은 7.7%로 사전 평균과 관찰값 사이에 놓이며, 폭은 사전분포나 데이터 하나만 볼 때보다 좁아집니다. 두 정보원이 함께 불확실성을 줄였기 때문입니다.

다만 사전정보가 이번 데이터보다 항상 우선하는 것은 아닙니다. 사전분포의 강도와 데이터의 양, 데이터가 보여주는 패턴에 따라 사후분포가 달라집니다.

그림 4는 같은 사전분포에서 관찰 전환율이 12%로 나온 경우입니다. 100명만 관찰했다면 사후 평균은 9.0%로 사전 쪽에 가깝지만, 1,000명을 관찰했다면 11.2%로 데이터 쪽으로 크게 움직이고 구간도 좁아집니다. 이러한 갱신을 수학적으로 표현하는 것이 베이즈 정리이며, 다음 장에서 자세히 살펴봅니다.

빈도주의와 베이지안 접근의 차이는 구간 추정에서도 나타납니다.

그림 5처럼 참 전환율이 8%인 상황에서 100명씩 표본을 20번 뽑아 각각 95% 신뢰구간을 만들면, 대부분의 구간은 참값을 포함하지만 일부는 놓칩니다(이 모의실험에서는 1개). 95%는 이처럼 절차를 반복했을 때 구간들이 참값을 포함하는 비율을 말합니다.

100명 중 8명이라는 같은 데이터로 계산하면 95% 신뢰구간(Clopper–Pearson)은 [3.5%, 15.2%], 정보가 거의 없는 사전분포의 95% 신용구간은 [4.2%, 15.0%]로 숫자는 비슷합니다. 이전 캠페인 정보를 반영하면 신용구간은 [4.9%, 10.9%]로 좁아집니다. 숫자가 비슷하더라도 무엇에 대한 확률인지는 다르다는 점이 핵심입니다.

사전분포는 단순한 주관적 추측과 같지 않습니다. 기존 연구, 실무 지식, 합리적인 가정 등을 바탕으로 설정할 수 있으며, 사전분포를 바꿨을 때 결과가 얼마나 달라지는지 확인하는 민감도 분석도 중요합니다.

그림 6처럼 같은 데이터라도 정보가 거의 없는 사전분포에서는 10%를 넘을 사후확률이 약 31%, 이전 캠페인 사전분포에서는 약 7%, 근거 없이 낙관적인 사전분포에서는 약 83%로 크게 달라집니다. 결론이 사전분포에 크게 좌우된다면 그 사실 자체를 함께 보고해야 합니다.

베이지안 추론은 다양한 분야에서 활용할 수 있습니다.

특히 이전 연구 결과를 활용하거나, 여러 집단의 정보를 함께 분석하거나, 추정값 자체뿐 아니라 불확실성의 범위까지 이해해야 하는 상황에서 유용합니다.

• 베이지안 추론은 사전정보와 관찰된 데이터를 결합해 모수에 대한 불확실성을 갱신합니다.
• 빈도주의는 모수를 고정된 미지의 값으로 보고 표본추출과 추정 절차의 성질을 중심으로 추론합니다.
• 사전분포는 데이터를 관찰하기 전의 모수 관련 정보를 나타내고, 사후분포는 데이터를 반영한 이후의 불확실성을 나타냅니다.
• 신뢰구간과 신용구간은 모두 불확실성을 표현하지만, 확률을 해석하는 기준이 다릅니다.
• 베이지안 분석의 품질은 사전분포, 데이터, 모형의 적절성에 달려 있습니다.

다음은 02 베이즈 정리와 확률 갱신입니다. 베이지안 추론의 핵심 원리로, 사전확률과 새로운 증거가 결합해 사후확률이 어떻게 계산되는지 구체적인 숫자로 이해합니다.