확률의 기초

검사 정확도가 90% 이상이라고 들으면 양성 판정을 받은 사람도 90% 이상의 확률로 질환이 있다고 생각하기 쉽습니다. 그러나 검사가 질환자를 찾아낼 확률과 양성 판정을 받은 사람이 실제로 질환자일 확률은 서로 다른 질문입니다.

그 차이를 이해하려면 확률과 조건부확률을 구분해야 합니다. 이번 글에서는 동전·주사위처럼 간단한 사례에서 시작해 검사 결과를 해석하는 예시로 확장하며, 독립사건과 베이즈 정리까지 연결해 보겠습니다.

확률(probability)은 어떤 사건이 일어날 가능성을 표현한 수입니다. 확률이 0이면 일어나지 않는 사건이고, 1이면 반드시 일어나는 사건입니다. 0.25는 25%, 0.8은 80%로 표현할 수 있습니다.

주사위를 한 번 던질 때 나올 수 있는 눈은 1부터 6까지입니다. 공정한 주사위라면 각 눈이 나올 확률은 1/6입니다. ‘짝수가 나온다’는 사건에는 2, 4, 6이 포함되므로 그 확률은 3/6, 즉 0.5입니다.

가능한 결과들이 모두 같은 확률을 가질 때는 원하는 결과의 수를 전체 결과의 수로 나눠 계산할 수 있습니다. 하지만 실제 조사나 실험에서는 모든 결과가 똑같이 일어난다고 가정할 수 없으므로 관측 자료나 확률모형에 근거해 확률을 추정합니다.

확률에서 사건(event)은 관심 있는 결과의 모임입니다. 주사위에서 ‘짝수가 나오는 사건’을 A라고 하면 ‘짝수가 나오지 않는 사건’은 A의 여사건(complement)입니다.

서로 동시에 일어날 수 없는 사건은 배반사건이라고 합니다. 예를 들어 주사위를 한 번 던져 ‘1이 나온다’와 ‘6이 나온다’는 동시에 성립하지 않습니다. 두 사건이 배반이면 둘 중 하나가 일어날 확률은 각각의 확률을 더하면 됩니다.

사건 A 또는 B가 일어나는 경우와 A와 B가 모두 일어나는 경우는 다릅니다. 예를 들어 공정한 주사위에서 A를 ‘짝수’, B를 ‘4 이상’이라고 해보겠습니다. A는 {2, 4, 6}, B는 {4, 5, 6}이고 두 사건에 공통으로 속한 결과는 {4, 6}입니다.

일반적으로 P(A 또는 B) = P(A) + P(B) − P(A와 B)입니다. 공통 부분을 한 번 빼야 중복 계산을 피할 수 있습니다.

조건부확률(conditional probability)은 어떤 사건이 일어났다는 사실을 알고 있을 때 다른 사건이 일어날 확률입니다. P(A | B)는 ‘B가 일어났다는 조건 아래 A가 일어날 확률’을 뜻합니다.

앞의 주사위 사례에서 ‘4 이상의 눈이 나왔다’는 사실을 안다면 가능한 결과는 {4, 5, 6} 세 가지로 줄어듭니다. 이 가운데 짝수는 4와 6이므로 P(짝수 | 4 이상) = 2/3입니다. 아무 정보가 없을 때의 짝수 확률 1/2과 달라집니다.

두 사건이 독립(independent)이라는 것은 한 사건이 발생했다는 정보를 알더라도 다른 사건의 확률이 변하지 않는다는 뜻입니다. 예를 들어 동전을 서로 독립적으로 두 번 던지면 첫 번째 결과가 앞면이었다고 해서 두 번째 앞면 확률이 달라지지 않습니다.

따라서 두 번 모두 앞면이 나올 확률은 1/2 × 1/2 = 1/4입니다. 일반적으로 독립인 사건 A와 B에 대해서는 P(A와 B) = P(A) × P(B)가 성립합니다.

어떤 질환의 유병률이 10%이고, 검사 민감도는 90%, 특이도는 95%라고 가정하겠습니다. 민감도는 질환이 있는 사람이 양성으로 나올 확률이며, 특이도는 질환이 없는 사람이 음성으로 나올 확률입니다. 모두 설명을 위한 가상 조건입니다.

검사 양성자는 총 135명이고, 그중 실제 질환이 있는 사람은 90명입니다. 따라서 양성이라는 조건 아래 실제로 질환이 있을 확률은 90/135 ≈ 66.7%입니다. 검사가 질환자를 90% 찾아낸다는 사실만으로 양성자 중 90%가 질환자라고 말할 수는 없습니다.

베이즈 정리(Bayes’ theorem)는 어떤 사건에 대한 초기 확률과 새로 관찰한 정보를 결합해 조건부확률을 구하는 규칙입니다. 검사 사례에서는 ‘검사 전 질환 확률’과 ‘질환 여부에 따른 검사 결과의 확률’을 이용해 ‘양성 판정 후 질환 확률’을 계산합니다.

여기서 유병률 10%는 검사 전 질환 확률인 사전확률(prior probability)에 해당합니다. 양성이라는 정보를 반영한 약 66.7%는 사후확률(posterior probability)입니다.

조건의 순서를 바꾸지 않았나요?

P(양성 | 질환)과 P(질환 | 양성)은 다릅니다. 앞의 값은 민감도이고, 뒤의 값은 양성 예측도입니다. 베이즈 정리는 이 두 확률을 연결하는 데 사용합니다.

확률이 어떤 집단을 기준으로 계산되었나요?

전체 검사를 받은 사람 중 양성인 비율과, 실제 질환이 있는 사람 중 양성인 비율은 분모부터 다릅니다. 비율을 읽을 때는 무엇을 기준으로 나눴는지 먼저 확인해야 합니다.

독립이라는 가정을 근거 없이 사용하지 않았나요?

같은 사람을 반복해서 측정한 결과나 서로 영향을 주는 사건은 독립이라고 보기 어렵습니다. 독립이 아닐 때 단순히 확률을 곱하면 잘못된 결론에 이를 수 있습니다.

확률은 단순히 동전이나 주사위 문제를 푸는 데 그치지 않습니다. 예를 들어 특정 수치가 나타날 가능성을 설명하는 확률분포, 표본평균의 변동을 설명하는 표본분포, 자료에서 관찰한 결과가 얼마나 드문지 평가하는 가설검정에도 확률 개념이 사용됩니다.

• 확률: 사건이 일어날 가능성을 0과 1 사이의 수로 나타냅니다.
• 조건부확률: 이미 알고 있는 정보에 따라 분모가 달라집니다.
• 독립: 한 사건의 정보가 다른 사건의 확률을 바꾸지 않을 때 독립입니다. 배반과는 다릅니다.
• 베이즈 정리: 사전확률과 새 증거를 결합해 사후확률로 갱신합니다.
• 검사 해석: 양성 결과의 의미는 민감도·특이도뿐 아니라 유병률에 따라 달라집니다.

확률은 사건의 가능성을 수치로 나타내고, 조건부확률은 이미 알고 있는 정보를 반영합니다. 두 사건의 독립 여부는 조건부확률과 함께 판단해야 하며, 서로 배반인 사건과 독립인 사건을 혼동해서는 안 됩니다.

베이즈 정리는 새로운 정보가 들어왔을 때 확률을 어떻게 갱신하는지 보여줍니다. 특히 검사 결과를 해석할 때는 민감도와 특이도뿐 아니라 검사 대상 집단의 유병률도 고려해야 합니다.

다음은 06 확률분포입니다. 값이 나타날 가능성을 하나의 패턴으로 설명하는 이항·포아송·정규분포를 알아봅니다.