확률효과 모형

학교마다 학생들의 학업 성취도가 다른 이유는 무엇일까요? 어떤 학교는 학생들의 평균 성적이 꾸준히 높고, 다른 학교는 상대적으로 낮을 수 있습니다. 이러한 차이는 학교의 교육 프로그램뿐 아니라 지역 환경, 학생 구성, 학교 문화 등 여러 요인과 관련되어 있을 수 있습니다.

한 연구자가 60개 학교를 5년 동안 조사하면서 교육 프로그램에 투입한 예산과 학생들의 평균 성적을 비교한다고 가정해 보겠습니다. 같은 학교에서 예산이 늘어났을 때 성적이 어떻게 변화했는지도 중요하지만, 학교 간 예산 차이와 성적 차이도 연구에 유용한 정보가 될 수 있습니다.

이때 사용할 수 있는 대표적인 패널데이터 분석 방법이 확률효과 모형(Random Effects Model)입니다.

확률효과 모형은 동일한 대상을 여러 시점에 걸쳐 관찰한 자료에서 학교나 기업, 개인마다 존재하는 차이를 확률적인 개체효과로 반영합니다. 이를 통해 집단 내부의 시간에 따른 변화뿐 아니라 집단 사이의 차이도 이용해 설명변수와 결과변수의 관계를 분석할 수 있습니다.

다만 확률효과 모형에서는 관찰되지 않은 개체효과와 설명변수 사이의 관계에 관한 중요한 가정이 필요합니다. 이번 글에서는 확률효과 모형의 기본 원리부터 실제 분석 사례, 회귀계수와 분산성분의 해석, 고정효과 모형과의 차이, 모형 선택과 주요 가정까지 살펴보겠습니다.

예를 들어 학교 60곳의 평균 성적을 5년 동안 관찰한다고 가정하겠습니다. 학교마다 평균 성적이 다른 이유는 교육 프로그램 예산만으로 설명되지 않을 수 있습니다. 학교 문화나 지역적 특성, 오랫동안 유지된 교육 환경 등이 영향을 줄 수 있기 때문입니다.

확률효과 모형은 이러한 학교별 차이를 하나의 개체효과로 모형에 포함합니다. 여기서 '확률효과'라는 표현은 학교마다 다른 특성을 각각 독립적인 고정 절편으로 추정하는 대신, 특정한 확률분포를 따르는 개체효과로 모형화한다는 의미입니다.

기본적인 확률효과 모형에서는 이 개체효과가 설명변수와 상관관계가 없다고 가정합니다. 이 가정이 적절하다면 학교 사이의 차이와 같은 학교 내부의 시간에 따른 변화를 모두 이용해 회귀계수를 추정할 수 있습니다.

하지만 학교별로 관찰되지 않은 특성이 교육 예산과 관련되어 있다면 기본 확률효과 추정값에 편향이 발생할 수 있습니다. 따라서 확률효과 모형을 적용할 때는 모형의 기본 가정을 이해하는 것이 중요합니다.

패널데이터에는 개체를 구분하는 식별변수와 관찰 시점을 나타내는 시간변수가 필요합니다. 예를 들어 학교 3곳의 교육 프로그램 예산과 평균 성적을 조사했다고 가정하겠습니다.

이 자료에는 두 종류의 차이가 존재합니다. 첫째, 같은 학교 안에서 시간이 지나며 교육 예산과 성적이 변화합니다. 둘째, 서로 다른 학교 사이에도 예산과 성적 차이가 존재합니다.

예를 들어 학교 B는 학교 A보다 교육 예산과 평균 성적이 모두 높습니다. 반면 학교 A 안에서도 예산이 늘어나는 시기에 성적이 상승했습니다. 확률효과 모형은 개체효과와 설명변수가 상관되지 않는다는 등의 조건하에서 이러한 두 종류의 정보를 모두 활용합니다.

각 기호의 의미는 다음과 같습니다.

이 모형에서 u_i는 학교마다 지속적으로 나타나는 차이를 나타냅니다. 예를 들어 학교 A는 관찰한 설명변수를 고려한 이후에도 평균적으로 성적이 높고, 학교 C는 상대적으로 낮을 수 있습니다. 이러한 학교별 차이가 확률효과에 반영됩니다.

기본적인 확률효과 모형에서는 일반적으로 다음과 같은 조건을 둡니다.

이는 학교별 확률효과가 해당 학교의 관찰 기간 전체 설명변수와 체계적으로 관련되지 않는다는 의미입니다. 학교별로 관찰되지 않은 특성이 교육 예산 결정에도 영향을 미친다면 이 가정이 성립하지 않을 수 있습니다.

고정효과 모형은 학교마다 변하지 않는 특성을 학교별 고정효과로 통제합니다. 반면 확률효과 모형은 학교별 차이를 확률적인 개체효과로 표현합니다.

예를 들어 학교의 교육 분위기가 교육 예산 결정에 영향을 준다고 가정해 보겠습니다. 이 교육 분위기는 평균 성적에도 영향을 줄 수 있습니다. 그런데 교육 분위기를 직접 측정하지 못했다면 관찰되지 않은 학교별 특성이 교육 예산과 상관될 가능성이 있습니다.

이 경우 기본 확률효과 모형의 가정에 문제가 발생할 수 있습니다. 고정효과 모형은 학교별로 변하지 않는 교육 분위기의 영향을 통제할 수 있습니다. 따라서 두 방법의 선택은 단순히 어느 모형의 p값이 더 작은지에 따라 결정해서는 안 됩니다.

각 학교의 교육 프로그램 예산과 학생들의 연간 평균 성적을 수집했습니다. 모든 학교가 매년 관찰되었다면 총 300개의 학교-연도 관측값이 존재합니다.

분석 변수

연구 질문은 다음과 같습니다.

분석에서는 학교별 확률효과와 연도 더미변수를 포함했다고 가정하겠습니다. 연도 더미변수는 모든 학교에 공통으로 발생하는 연도별 변화를 통제하는 역할을 합니다. 학교 소재지역은 관찰 기간 동안 변하지 않는 변수로 설정했습니다.

확률효과 모형에서는 개체효과와 설명변수의 무상관 가정이 적절하다면 이러한 시간불변 변수의 계수도 추정할 수 있습니다.

확률효과 회귀분석 결과

연도 더미변수를 포함한 모형을 가정했으며 실제 자료에서 추정한 값은 아닙니다.

교육 프로그램 예산의 회귀계수는 0.85로 나타났습니다. 이는 다른 설명변수와 학교별 확률효과에 대한 모형 가정하에서 교육 프로그램 예산이 1,000만 원 높을 때 학교의 평균 성적이 약 0.85점 높은 방향의 관계를 보였다는 의미입니다.

학생 100명당 교사 수의 회귀계수는 1.40으로 나타났습니다. 다른 조건이 같을 때 교사 수가 1명 많으면 평균 성적이 약 1.4점 높은 방향의 관계가 나타났습니다. 평균 출석률의 회귀계수는 0.32로, 출석률이 1%p 높을 때 평균 성적이 약 0.32점 높게 나타났습니다.

농촌 소재 학교의 회귀계수는 -2.10이었습니다. 이는 다른 설명변수가 같다는 조건에서 농촌 소재 학교의 평균 성적이 도시 소재 학교보다 약 2.1점 낮게 나타났다는 의미입니다.

다만 이 결과는 통계적 관련성을 의미합니다. 교육 예산을 실제로 1,000만 원 증액하면 성적이 반드시 0.85점 오른다는 인과효과로 해석해서는 안 됩니다.

또한 확률효과 모형의 계수는 기본 가정하에서 학교 내부와 학교 간 변동을 함께 활용한 추정값입니다. 따라서 고정효과 모형처럼 동일 학교 내부의 변화만으로 해석하는 것은 적절하지 않습니다.

이를 분산성분(Variance Components)이라고 합니다. 기본적인 일원 확률효과 모형에서는 다음 두 가지 분산을 구분합니다.

• 학교 간 확률효과 분산: σ_u²
• 같은 학교 내부의 시점별 오차 분산: σ_ε²

예를 들어 다음과 같은 결과가 나타났다고 가정하겠습니다.

학교 간 분산은 학교마다 지속적으로 나타나는 평균 성적 차이의 변동을 나타냅니다. 학교 내부 오차 분산은 설명변수와 학교별 확률효과를 고려한 이후에도 남아 있는 시점별 변동을 의미합니다. 두 분산을 비교하면 설명변수로 설명되지 않은 변동이 학교 사이와 학교 내부에 어느 정도 분포하는지 살펴볼 수 있습니다.

다만 분산성분의 값은 종속변수의 측정 단위에 영향을 받으므로 다른 결과변수의 분산과 단순 비교해서는 안 됩니다.

ICC는 같은 집단에 속한 관측값들이 얼마나 비슷한지 나타내는 지표입니다. 단순한 일원 확률절편 모형에서는 다음과 같이 계산할 수 있습니다.

앞선 예시에서 학교 간 분산은 16, 학교 내부 오차 분산은 24였습니다. 따라서 ICC는 다음과 같습니다.

즉, 모형에서 설명되지 않은 총 분산 중 약 40%가 학교별 지속적인 차이에 해당합니다. 또한 같은 학교에 속한 두 관측값의 조건부 오차가 일정한 상관을 가진다는 의미로 이해할 수 있습니다. 다만 이는 가장 단순한 확률절편 모형에서의 해석입니다.

확률기울기(Random Slope)가 포함된 모형이나 복잡한 오차 구조에서는 관측 시점이나 설명변수 값에 따라 집단 내 상관관계가 달라질 수 있습니다. 또한 ICC가 높다는 사실만으로 확률효과 모형의 개체효과-설명변수 무상관 가정이 성립한다고 판단할 수는 없습니다.

예를 들어 학교 소재지역이 분석 기간 동안 도시 또는 농촌으로 고정되어 있다고 가정해 보겠습니다.

학교 고정효과 모형에서는 학교별 효과와 소재지역 변수가 완전히 겹치므로 소재지역의 회귀계수를 별도로 추정할 수 없습니다. 반면 확률효과 모형에서는 학교 간 차이도 이용하기 때문에 소재지역의 계수를 추정할 수 있습니다. 이러한 특징은 시간불변 특성과 결과변수 사이의 관계가 중요한 연구에서 유용할 수 있습니다.

하지만 중요한 조건이 있습니다. 소재지역이 학교별로 관찰되지 않은 교육 환경과 관련되어 있고 이러한 교육 환경이 평균 성적에도 영향을 준다면 기본 확률효과 가정에 문제가 생길 수 있습니다. 따라서 시간불변 변수를 추정할 수 있다는 장점이 곧바로 그 계수가 편향 없이 추정된다는 보장을 의미하지는 않습니다.

특히 개체별로 관찰되지 않은 특성이 설명변수와 관련되어 있는지가 중요합니다. 예를 들어 교육 프로그램 예산이 학교의 조직 문화나 교장 리더십과 관련되어 있다고 가정해 보겠습니다. 이러한 특성이 평균 성적에도 영향을 주지만 분석 데이터에 포함되어 있지 않다면 확률효과 모형의 무상관 가정이 위반될 수 있습니다.

이 경우 고정효과 모형이 더 적절할 수 있습니다. 반면 개체효과와 설명변수가 상관되지 않는다는 가정이 타당하다면 확률효과 모형은 학교 내부와 학교 간 변동을 함께 이용할 수 있으며, 추정 효율성 측면에서 장점이 있을 수 있습니다.

모형 선택 시 확인할 사항

두 방법을 비교할 때 하우스만 검정(Hausman Test)을 사용할 수도 있습니다.

하지만 실제 연구에서는 이 가정이 지나치게 강할 수 있습니다. 예를 들어 교육 예산이 높은 학교일수록 관찰되지 않은 학교 문화나 리더십도 다를 수 있습니다. 이러한 문제를 다루는 대표적인 접근이 상관확률효과 모형(Correlated Random Effects, CRE)입니다.

Mundlak 접근법은 시간에 따라 변하는 설명변수의 개체별 평균을 모형에 추가하여 개체효과와 설명변수 사이의 상관을 고려합니다. 예를 들어 학교별 평균 교육 예산을 계산하고, 매년의 교육 예산과 함께 모형에 포함할 수 있습니다.

이를 이용하면 학교 내부에서 발생하는 예산 변화와 학교 사이의 평균 예산 차이를 구분하여 살펴볼 수 있습니다. 특정 조건하에서는 시간가변 설명변수의 개체 내 효과가 고정효과 추정값과 일치할 수 있습니다. 하지만 CRE 모형을 사용했다고 해서 시간가변 교란이나 역인과관계가 자동으로 해결되는 것은 아닙니다.

또한 시간불변 변수의 효과를 인과적으로 해석하려면 추가적인 가정이 필요합니다.

개체효과와 설명변수의 상관

기본 확률효과 모형의 가장 중요한 가정입니다. 학교별로 관찰되지 않은 특성이 교육 예산과 관련되어 있다면 회귀계수에 편향이 발생할 수 있습니다.

시간에 따라 변하는 교란요인

확률효과를 포함해도 시간이 지나면서 달라지는 모든 요인이 통제되는 것은 아닙니다. 예를 들어 특정 연도에 학교의 학생 구성이 크게 변하면서 교육 예산과 평균 성적에 동시에 영향을 줄 수 있습니다.

역인과관계

교육 프로그램 예산이 평균 성적과 관련될 수도 있지만 성적이 낮은 학교에 예산을 더 많이 배정했을 가능성도 있습니다. 이러한 역인과관계는 일반적인 확률효과 모형만으로 해결되지 않습니다.

오차의 상관 및 이분산성

같은 학교에서 반복 관찰한 자료는 시점 간 관련성이 있을 수 있습니다. 기본 확률효과 구조 외에 추가적인 오차 상관이나 이분산성이 존재한다면 표준오차의 계산 방식과 모형 설정을 검토해야 합니다.

표본 구성과 집단 수

학교 수가 적거나 학교별 관찰 횟수가 크게 다르면 분산성분과 회귀계수의 추정이 불안정할 수 있습니다. 따라서 개체 수와 시점 수, 관측 누락 여부를 함께 확인하는 것이 좋습니다.

앞서 살펴본 학교별 교육 예산과 평균 성적의 관계를 이용하면 다음과 같이 작성할 수 있습니다.

실제 연구에서는 확률효과와 설명변수의 무상관 가정이 적절한지 검토하고, 고정효과 모형 또는 상관확률효과 모형과의 비교 결과를 함께 제시할 수 있습니다. 또한 분산성분 추정 방법과 표준오차 계산 방식도 명시하는 것이 좋습니다.

이 방법은 개체 내부의 시간에 따른 변화뿐 아니라 개체 사이의 차이도 함께 활용할 수 있으며, 적절한 조건에서는 시간에 따라 변하지 않는 변수의 계수도 추정할 수 있습니다. 하지만 기본 확률효과 모형은 관찰되지 않은 개체효과와 설명변수 사이에 상관관계가 없다는 중요한 가정에 의존합니다.

따라서 고정효과 모형보다 더 많은 정보를 이용할 수 있다는 이유만으로 확률효과 모형을 선택해서는 안 됩니다. 분석 목적과 데이터 구조, 개체효과의 특성, 설명변수와의 관계를 고려하여 적절한 모형을 선택해야 합니다.