혼합효과모형

지금까지 살펴본 회귀분석은 관측값 사이의 관계를 분석하는 데 초점을 맞췄습니다. 하지만 실제 데이터에서는 관측값들이 서로 독립적이지 않은 경우가 많습니다. 예를 들어 여러 학교의 학생을 조사하면 같은 학교 학생들은 비슷한 교육 환경을 공유합니다. 같은 병원에서 치료받은 환자들도 의료진이나 치료 환경을 공유할 수 있습니다. 이런 데이터를 일반적인 회귀분석으로 분석하면 집단 구조를 충분히 반영하지 못할 수 있습니다.

이때 활용하는 방법이 혼합효과모형(Mixed-Effects Model)입니다. 혼합효과모형은 전체적으로 공통된 관계와 집단별 차이를 함께 고려합니다. 이 장의 그림은 학교 20곳 × 학생 50명의 모의 데이터로 실제 추정한 결과입니다.

학생 1,000명의 시험 점수를 분석한다고 가정해 보겠습니다. 학생들은 20개 학교에 속해 있습니다. 각 학생의 점수는 공부 시간뿐 아니라 학교의 교육 환경, 교사, 시설 등의 영향을 받을 수 있습니다. 따라서 같은 학교 학생들의 점수는 서로 어느 정도 비슷할 가능성이 있습니다.

이런 데이터는 학생이 학교에 속해 있는 구조를 가집니다. 학생을 1수준, 학교를 2수준이라고 부르며, 그래서 혼합효과모형을 다층모형(Multilevel Model) 또는 위계선형모형이라고도 합니다.

일반적인 회귀분석은 관측값들이 독립적이라고 가정하는 경우가 많습니다. 집단 내 유사성을 무시하면 표준오차가 부정확해지고, 통계적 검정 결과에도 영향을 줄 수 있습니다. 이 문제는 특히 학교 단위로 정해지는 변수에서 크게 나타납니다.

그림 2는 학교 20곳 중 10곳만 특별 프로그램을 운영할 때, 프로그램의 효과를 두 방법으로 추정한 결과입니다. 일반 회귀는 학생 1,000명을 1,000개의 독립 정보로 보아 3.8 ± 1.3로 좁은 구간을 내고 “유의하다”고 판단합니다. 하지만 프로그램은 학교 단위로 정해졌으므로, 실제로 비교하는 것은 학교 20곳뿐입니다. 혼합효과모형은 이를 반영해 3.8 ± 5.4로 구간을 넓게 잡고, 0을 포함하므로 근거가 충분하지 않다고 판단합니다. 반면 학생마다 다른 공부 시간의 계수는 두 방법의 표준오차가 거의 같았습니다(0.20 vs 0.17). 혼합효과모형은 학교별 차이를 모형에 반영해 이러한 구조를 다룹니다. 독립성 가정은 분산분석의 가정과 진단 4절에서도 다뤘습니다.

혼합효과모형의 핵심은 고정효과(Fixed Effects)와 무작위효과(Random Effects)를 구분하는 것입니다. 두 가지를 “혼합”하기 때문에 혼합효과모형이라고 부릅니다.

여기서 무작위효과는 단순히 효과가 우연히 발생한다는 뜻이 아닙니다. 집단별 효과가 특정한 확률분포에서 나온다고 가정하여 그 변이를 모형화한다는 의미입니다.

그림 3처럼 학교 20곳의 기본 점수 차이를 따로따로 20개 숫자로 보는 대신, “평균 0, 분산 σ_u²인 정규분포에서 뽑힌 값”으로 봅니다. 그러면 모형은 학교 20개의 효과를 각각 추정하기보다 이 분포의 퍼짐(예제에서 σ_u² ≈ 35) 하나를 추정하면 됩니다. 이 덕분에 조사하지 않은 다른 학교에도 결과를 일반화할 수 있습니다. 예를 들어 학교마다 학생들의 기본적인 점수 수준이 다를 수 있습니다. 어떤 학교는 전반적으로 점수가 높고, 다른 학교는 상대적으로 낮을 수 있습니다. 이러한 차이를 학교별 무작위 절편으로 표현할 수 있습니다.

가장 기본적인 혼합효과모형은 무작위 절편 모형(Random-Intercept Model)입니다.

• Y_ij: j번째 학교의 i번째 학생 점수 · X_ij: 해당 학생의 공부 시간
• β₀: 전체적인 평균 절편 · β₁: 공부 시간과 점수 사이의 평균적인 관계
• u_j: 학교별로 달라지는 절편 · ε_ij: 개별 학생 수준의 오차

일반 회귀모형과 비교하면 u_j라는 항이 추가됩니다. 이 항을 통해 학교마다 기본적인 점수 수준이 달라질 수 있음을 반영합니다. 오차가 학교 수준(u_j)과 학생 수준(ε_ij) 두 층으로 나뉜 것입니다.

Y_ij = 60 + 5X_ij + u_j + ε_ij라는 모형에서 학교별 무작위 절편이 다음과 같다고 가정합니다.

*개별 학생 수준의 오차는 0으로 두고 계산한 예시입니다.

세 학교 모두 공부 시간이 한 시간 늘어날 때 점수는 평균적으로 5점 증가하는 관계를 공유하지만, 학교별 기본 점수는 다르게 나타납니다. 이것이 무작위 절편 모형의 핵심입니다. 집단마다 출발점은 다를 수 있지만, 설명변수와 결과 사이의 기울기는 같다고 가정합니다.

실제로는 집단마다 설명변수의 효과도 다를 수 있습니다. 예를 들어 공부 시간이 시험 점수와 관련되는 정도가 학교별로 다를 수 있습니다. 어떤 학교에서는 공부 시간과 점수 사이의 관계가 강하고, 다른 학교에서는 상대적으로 약할 수 있습니다. 이런 상황에서는 무작위 기울기(Random-Slope)도 포함할 수 있습니다.

따라서 학교마다 기본 점수뿐 아니라 공부 시간과 점수 사이의 관계도 달라질 수 있습니다. 그림 5처럼 무작위 절편 모형에서는 집단별 회귀선이 평행하지만, 무작위 기울기까지 포함하면 기울기가 서로 다른 회귀선을 표현할 수 있습니다. 09장의 상호작용(집단에 따라 기울기가 다름)과 비슷한 아이디어를, 집단이 아주 많을 때 분포로 다루는 것입니다. 예제 데이터에서 공부 시간의 평균 기울기는 4.8이고, 학교별 기울기의 분산은 약 1.5이었습니다.

다만 무작위 기울기를 추가하면 모형이 복잡해지므로 충분한 집단 수와 각 집단 내 관측값, 적절한 모형 진단이 중요합니다.

일반 회귀분석에서도 학교 더미변수나 상호작용항을 넣어 집단별 차이를 분석할 수 있습니다. 다만 혼합효과모형은 집단별 효과를 확률적 구조로 표현하며, 집단 내 상관관계와 집단 간 변이를 함께 추정한다는 점에서 차이가 있습니다.

이 차이가 만드는 대표적인 특징이 부분 공유(partial pooling)입니다. 학교 더미를 넣으면 각 학교의 수준을 그 학교 데이터만으로 추정하고(위쪽 회색 점), 학교를 무시하면 모든 학교를 하나의 평균으로 봅니다. 혼합효과모형은 그 중간입니다. 그림 6처럼 학교별 추정을 전체 평균 쪽으로 조금씩 당기며, 학생 수가 적거나 값이 극단적인 학교일수록 더 많이 당깁니다. 우연히 높거나 낮게 나온 학교의 값을 과신하지 않도록 하는 장치입니다.

혼합효과모형에서 자주 확인하는 지표 중 하나는 집단 내 상관계수(Intraclass Correlation Coefficient, ICC)입니다. ICC는 전체 변동 중 집단 간 차이가 차지하는 비율을 나타내는 지표로 활용할 수 있습니다. 무작위 절편 모형에서 집단 간 분산을 σ_u², 집단 내 개인 수준 오차분산을 σ_ε²라고 하면 다음과 같이 계산합니다.

예를 들어 학교 간 분산이 20이고 학생 수준 오차분산이 80이라면 ICC = 20 ÷ (20 + 80) = 0.20입니다. 이 경우 총분산의 약 20%가 학교 간 차이에 해당합니다.

ICC가 높을수록 같은 학교 학생들 사이의 유사성이 크다는 뜻으로 해석할 수 있습니다. 그림 7의 왼쪽(ICC ≈ 0.05)은 학교끼리 점수가 거의 겹쳐 학교를 몰라도 별 차이가 없고, 오른쪽(ICC ≈ 0.6)은 학교마다 점수 덩어리가 뚜렷하게 갈립니다. 다만 ICC가 낮다고 해서 집단 구조를 무조건 무시해도 되는 것은 아닙니다. 학교 단위 변수가 있거나 학교당 학생 수가 많으면 작은 ICC도 표준오차에 큰 영향을 줄 수 있습니다. 연구 설계와 분석 목적, 집단 수, 추정의 불확실성도 함께 고려해야 합니다.

보고서에는 다음과 같이 작성할 수 있습니다.

• 교육 연구: 학생이 학교나 학급에 속한 자료에서 공부 시간, 교육 프로그램과 성취도의 관계를 분석합니다. 학교별 환경 차이도 함께 고려할 수 있습니다.
• 보건·의료 연구: 환자가 병원에 속한 자료나 동일 환자를 여러 시점에 측정한 자료에서 치료 결과의 변화를 분석할 수 있습니다.
• 조직·경영 연구: 직원이 부서나 기업에 속한 자료에서 직무 만족도, 생산성, 조직 환경 사이의 관계를 분석합니다.
• 반복 측정 연구: 같은 사람의 만족도나 건강 지표를 여러 시점에 측정해 시간에 따른 변화와 개인별 차이를 함께 분석할 수 있습니다.

반복 측정 자료에서는 같은 사람에게서 나온 관측값들이 서로 관련될 수 있습니다. 이때는 시점이 1수준, 사람이 2수준이 되어 개인별 무작위 절편이나 시간의 무작위 기울기로 개인별 차이를 표현합니다. 분산분석 6장의 반복측정 분산분석과 달리 결측이 있거나 측정 시점이 사람마다 달라도 다룰 수 있습니다.

• 집단 수 확인: 집단 수가 적으면 집단 간 분산이나 무작위효과를 안정적으로 추정하기 어려울 수 있습니다.
• 모형 복잡성: 무작위 절편과 기울기를 무조건 모두 포함하기보다는 연구 질문과 데이터가 뒷받침하는 구조를 선택합니다.
• 분산 구조 확인: 무작위효과의 분산이 거의 0에 가깝거나 모형이 수렴하지 않는 경우 모형을 재검토해야 합니다.
• 고정효과 해석: 고정효과는 모형에서 가정한 집단 구조와 조건을 고려한 평균적인 관계로 해석합니다.
• 인과관계 주의: 집단 구조를 반영했다고 해서 관찰자료에서 인과관계가 자동으로 입증되는 것은 아닙니다.

또한 혼합효과모형과 고정효과모형(Fixed-Effects Model)은 이름이 비슷하지만 서로 다른 접근입니다. 혼합효과모형의 고정효과는 전체적으로 공유하는 계수를 의미합니다. 반면 패널데이터 분석에서 말하는 고정효과모형은 관측되지 않는 시간 불변 집단 특성을 통제하는 추정 접근을 뜻합니다(인과추론 가이드).

• 혼합효과모형은 집단별 차이와 전체적으로 공유되는 관계를 함께 분석합니다.
• 무작위 절편은 집단별 기본 수준의 차이를 반영합니다.
• 무작위 기울기는 설명변수의 효과가 집단마다 달라지는 것을 허용합니다.
• ICC는 전체 변동 중 집단 간 변동이 차지하는 비율을 이해하는 데 도움을 줍니다.
• 학교·병원·기업처럼 관측값이 집단에 속하거나 개인별 반복 측정이 이루어지는 자료에서 유용합니다.

회귀분석 12개 주제를 마치며

회귀분석의 핵심은 결과변수와 설명변수의 관계를 모형으로 표현하고, 그 모형이 자료에 맞는지 확인하는 것입니다. 계수의 크기와 불확실성을 함께 해석하고, 가정이 맞지 않으면 변환 · 규제 · 로버스트 방법 · 혼합효과모형처럼 자료 구조에 맞는 확장을 고릅니다. 상황별 선택은 회귀분석 선택 가이드에서 한눈에 정리할 수 있습니다.