순서형 로지스틱 회귀

설문조사에서 만족도를 측정한다고 생각해 보겠습니다. 응답자는 낮음, 보통, 높음 중 하나를 선택합니다. 이 결과는 세 가지 범주로 구성되어 있지만, 단순히 서로 다른 범주인 것만은 아닙니다. 낮음보다 보통이 높고, 보통보다 높음이 높다는 순서가 존재합니다. 순서형 로지스틱 회귀(Ordinal Logistic Regression)는 이처럼 결과변수가 세 개 이상의 범주로 이루어져 있고, 각 범주에 자연스러운 순서가 있을 때 사용하는 분석 방법입니다. 예를 들어 이용 경험, 응답 시간, 서비스 품질 등이 만족도 수준과 어떤 관련이 있는지 파악할 수 있습니다.

순서형 로지스틱 회귀는 다음과 같은 연구에 활용할 수 있습니다.

핵심은 결과가 어느 범주에 속하는지 분석하면서, 범주 간 순서 정보도 활용한다는 점입니다.

두 분석은 결과변수가 세 개 이상의 범주로 이루어졌을 때 사용하지만, 범주 간 순서를 어떻게 다루는지가 다릅니다.

그림 1처럼 다항 로지스틱 회귀(07장)는 기준 범주와의 비교마다 계수를 따로 추정하지만, 순서형은 범주 사이의 경계를 두고 하나의 계수로 위쪽 범주에 놓일 가능성을 설명합니다. 비례오즈 가정이 적절한 경우 여러 범주에 걸친 관계를 비교적 간결하게 설명할 수 있습니다. 단, 순서가 있다는 이유만으로 무조건 순서형 로지스틱 회귀를 사용해야 하는 것은 아닙니다. 모형의 가정과 연구 목적을 함께 고려해야 합니다.

순서형 로지스틱 회귀에서 흔히 사용하는 방법은 비례오즈 모형(proportional odds model)입니다. 만족도가 낮음, 보통, 높음의 세 범주라면 ‘낮음 vs. 보통 또는 높음’, ‘낮음 또는 보통 vs. 높음’의 두 경계를 생각할 수 있습니다. 즉, 특정 범주 하나만 기준으로 삼는 대신 결과변수의 순서에 따라 누적 범주를 나누어 분석합니다.

그림 2에서 주황 곡선은 ‘보통 이상’일 확률, 초록 곡선은 ‘높음’일 확률입니다. 설명변수의 조합 βX가 커질수록 두 확률이 함께 올라가며, 두 곡선은 모양이 같고 경계별 절편 θ_j만큼 좌우로 밀려 있습니다. 이것이 하나의 계수 β로 두 경계를 함께 설명한다는 뜻입니다. 위 식은 낮은 범주에 속할 누적 오즈를 표현하므로, 소프트웨어에 따라 식의 방향이나 부호 표기 방식이 다를 수 있습니다. 결과를 해석할 때는 사용한 모형의 정의를 확인해야 합니다.

한 기업이 고객의 서비스 만족도(낮음, 보통, 높음)를 서비스 품질 점수, 응답 대기 시간, 이용 경험 횟수로 분석한다고 가정해 보겠습니다. 아래는 원리를 설명하기 위한 가상의 결과이며, 해석하기 쉽도록 오즈비를 더 높은 만족도 범주에 속할 누적 오즈의 증가로 정의했습니다.

서비스 품질 점수의 오즈비는 e^0.80 ≈ 2.23입니다. 다른 설명변수가 같을 때 품질 점수가 한 단위 높아지면 더 높은 만족도 범주에 속할 누적 오즈가 약 2.23배가 됩니다(p = .001, 95% CI 1.38 ~ 3.58). 응답 대기 시간의 오즈비 0.70은 대기 시간이 한 단위 늘 때 더 높은 만족도 범주에 속할 누적 오즈가 약 30% 낮아진다는 뜻입니다(p = .020). 한 단위가 1분인지 10분인지는 측정 단위에 따라 다릅니다. 이용 경험 횟수의 오즈비는 1.11이지만 p = .180이고 그림 3처럼 신뢰구간이 1을 포함하므로, 통계적으로 유의한 관련성이 확인되었다고 말할 수는 없습니다.

오즈비 2.23은 만족도가 높을 확률이 2.23배라는 뜻이 아닙니다. 실제 확률은 경계별 절편과 설명변수 값에 따라 달라집니다. 원고에 절편이 없어 경계값을 −1.0, 1.2로 가정하고 계산하면, 그림 4처럼 품질 점수가 평균(0)일 때 ‘높음’ 확률은 23%, 한 단위 높으면 40%, 두 단위 높으면 60%입니다. 반대로 ‘낮음’ 확률은 27%에서 7%로 줄어듭니다.

비례오즈 모형은 설명변수의 효과가 ‘낮음 vs. 보통 이상’과 ‘보통 이하 vs. 높음’ 두 경계에서 동일하다고 가정합니다. 서비스 품질이 만족도를 높이는 방향으로 작용하는 정도가 각 경계에서 같은 계수로 표현되는 것입니다. 이 가정이 적절하다면 하나의 회귀계수로 여러 만족도 수준의 관계를 요약할 수 있습니다.

하지만 현실에서는 설명변수의 효과가 경계에 따라 달라질 수 있습니다. 그림 5의 오른쪽처럼 서비스 품질이 낮은 만족도를 보통으로 바꾸는 데에는 큰 영향(OR 3.5)을 주지만, 보통 만족도를 높은 만족도로 바꾸는 데에는 영향이 작을(OR 1.3) 수 있습니다. 이 경우 비례오즈 가정이 적절하지 않을 수 있으므로 검정이나 진단 절차를 통해 확인해야 합니다. 가정이 충족되지 않는다면 부분 비례오즈 모형이나 다항 로지스틱 회귀 등 다른 접근법을 검토할 수 있습니다.

순서형 로지스틱 회귀에서는 범주를 올바르게 정의하는 것이 중요합니다. 만족도 응답을 다음처럼 순서대로 코딩하면 범주 간 순서를 나타낼 수 있습니다.

다만 1부터 5까지 숫자를 부여했다고 해서 범주 간 간격이 동일하다는 뜻은 아닙니다. 순서형 로지스틱 회귀는 이러한 응답을 연속형 점수처럼 취급하지 않고, 순서가 있는 범주로 분석합니다. 숫자가 클수록 만족도가 높은지(범주 순서), 특정 응답에 표본이 지나치게 적지 않은지(범주 빈도), 범주를 합친다면 분석 전에 근거가 있는지(범주 통합), 무응답이나 해당 없음이 순서형 범주로 잘못 처리되지 않았는지(결측값)도 확인해야 합니다.

예측 성능을 확인할 때는 전체 정확도만 보지 않는 것이 좋습니다. 그림 6처럼 응답의 70%가 ‘보통’에 몰려 있다면, 모든 응답을 보통으로 예측하는 모형도 정확도가 70%가 되지만 낮음과 높음은 하나도 맞히지 못합니다. 따라서 범주별 예측 성능과 혼동행렬을 확인하고, 연구 목적에 따라 예측확률의 적절성도 평가해야 합니다.

• 순서형 로지스틱 회귀는 만족도나 질병의 심각도처럼 순서가 있는 범주형 결과변수를 분석하는 방법입니다.
• 비례오즈 모형은 범주의 경계를 기준으로 누적 오즈를 분석하며, 설명변수의 효과가 모든 경계에서 동일하다고 가정합니다.
• 오즈비(OR)는 설명변수가 한 단위 증가할 때 누적 오즈가 몇 배로 변하는지 나타냅니다. 높은 범주와 낮은 범주 중 어느 방향을 기준으로 하는지는 모형의 정의에 따라 달라집니다.
• 비례오즈 가정과 모형 적합도, 범주별 표본 수, 예측 성능을 함께 확인해야 합니다.
• 범주에 순서가 있더라도 범주 사이의 간격이 동일하다는 의미는 아닙니다.

다음은 09 로그선형모형입니다. 여러 범주형 변수로 구성된 다차원 교차표에서 변수 사이의 연관성과 상호작용을 분석하는 방법을 알아봅니다.