하우스만 검정

지하철역이 가까운 지역일수록 주택가격이 높을까요? 여러 지역의 주택가격과 교통 접근성을 비교하면 대중교통이 편리한 지역에서 주택가격이 높게 나타날 수 있습니다. 하지만 교통 접근성이 좋은 지역에는 상업시설이나 교육시설이 많고, 오래전부터 주거 선호도가 높았을 수도 있습니다.

이러한 지역별 특성을 충분히 고려하지 않으면 교통 접근성과 주택가격 사이의 관계를 정확하게 추정하기 어렵습니다. 동일한 지역을 여러 해에 걸쳐 관찰한 패널데이터에서는 고정효과 모형(Fixed Effects Model)이나 확률효과 모형(Random Effects Model)을 사용할 수 있습니다.

그런데 두 모형의 회귀계수가 서로 다르게 나타난다면 어느 결과를 사용해야 할까요? 이때 두 모형의 추정값을 비교하는 대표적인 방법이 하우스만 검정(Hausman Test)입니다.

하우스만 검정은 고정효과와 확률효과 추정량 사이에 체계적인 차이가 있는지 평가하여, 확률효과 모형의 핵심 가정이 적절한지 검토하는 데 도움을 줍니다. 이번 글에서는 하우스만 검정의 원리와 가설, 실제 패널데이터 분석 사례, 검정통계량과 p값의 해석, 모형 선택 방법과 주의사항까지 살펴보겠습니다.

패널데이터 분석에서는 주로 고정효과 모형과 확률효과 모형을 비교하는 데 사용합니다. 고정효과 모형은 관찰 대상별로 변하지 않는 특성과 설명변수 사이에 상관관계가 존재하는 것을 허용합니다. 반면 기본 확률효과 모형은 관찰되지 않은 개체효과와 설명변수 사이에 상관관계가 없다고 가정합니다.

이 가정이 성립한다면 두 추정량은 적절한 조건에서 모두 일치성을 가질 수 있고, 확률효과 추정량이 더 효율적일 수 있습니다. 하지만 이 가정이 성립하지 않으면 확률효과 추정량에 편향 또는 비일치성이 발생할 수 있습니다. 하우스만 검정은 이러한 상황에서 두 추정량의 차이가 통계적으로 유의한지 확인합니다.

다만 검정 결과가 특정 모형의 모든 가정을 확인해 주는 것은 아닙니다. 고정효과와 확률효과 중 어느 쪽이 인과관계를 정확하게 추정하는지 직접 판정하는 검정도 아닙니다.

예를 들어 지역별로 오래전부터 형성된 주거 선호도가 다르다고 가정하겠습니다. 이러한 선호도는 주택가격에 영향을 주고 교통시설 투자와도 관련되어 있을 수 있습니다. 고정효과 모형에서는 관찰 기간 동안 변하지 않는 지역별 선호도를 통제할 수 있습니다.

하지만 확률효과 모형에서는 이러한 지역별 특성이 교통 접근성과 상관되어 있다면 기본 가정이 위반될 수 있습니다. 따라서 두 모형이 서로 다른 회귀계수를 추정하는 이유를 확인할 필요가 있습니다.

귀무가설(H₀)

확률효과 추정량과 고정효과 추정량 사이에 체계적인 차이가 없다. 관련 가정하에서 확률효과 추정량은 일치성을 가진다.

대립가설(H₁)

두 추정량 사이에 체계적인 차이가 있다. 확률효과 추정량의 일치성을 뒷받침하는 가정이 성립하지 않을 가능성이 있다.

예를 들어 유의수준을 0.05로 설정했다면 검정 결과에 따라 다음과 같이 판단할 수 있습니다.

중요한 점은 p값이 0.05보다 크다고 해서 확률효과 모형이 올바르다는 사실이 입증되는 것은 아니라는 것입니다. 검정력이 충분하지 않거나 모형이 잘못 설정되어 있다면 실제로 차이가 존재해도 유의한 결과를 얻지 못할 수 있습니다.

따라서 하우스만 검정은 모형 선택에 참고할 수 있는 검정이지 자동으로 정답을 결정하는 절차는 아닙니다.

모든 지역이 매년 관찰되었다면 총 560개의 지역-연도 관측값이 존재합니다. 주요 연구 질문은 다음과 같습니다.

분석 변수

교통 접근성 지수가 높을수록 대중교통 이용이 편리하다고 정의하겠습니다. 연구자는 지역별로 변하지 않는 특성과 연도별 공통 변화를 고려하기 위해 고정효과와 확률효과 모형을 각각 추정했습니다. 두 모형에는 동일한 시간가변 설명변수와 연도 더미변수를 포함했습니다.

이를 통해 교통 접근성과 주택가격 사이의 추정 관계가 모형에 따라 어떻게 달라지는지 비교할 수 있습니다.

모형별 회귀계수 비교

회귀계수의 단위는 종속변수인 주택가격의 억 원입니다.

교통 접근성의 고정효과 회귀계수는 0.035로 나타났습니다. 이는 동일 지역에서 교통 접근성 지수가 1점 높아진 시기에 주택가격이 평균적으로 0.035억 원, 즉 350만 원 높은 방향의 관계를 보였다는 의미입니다. 반면 확률효과 모형에서는 회귀계수가 0.062로 나타났습니다.

확률효과 모형은 지역 내부의 변화뿐 아니라 지역 간 차이도 활용하므로 추정값이 달라질 수 있습니다. 이때 어느 값이 더 큰지 자체보다 지역별로 관찰되지 않은 특성과 설명변수가 상관되어 있는지가 중요합니다.

하우스만 검정은 이러한 차이가 통계적으로 유의한지를 평가하는 데 사용됩니다.

대표적인 검정통계량은 다음과 같습니다.

여기서 각 기호의 의미는 다음과 같습니다.

이 계산은 적절한 가정하에서 두 추정량의 공분산 차이에 관한 성질을 이용합니다. 검정통계량은 귀무가설과 정규성 등 필요한 점근적 조건하에서 카이제곱분포를 이용하여 평가할 수 있습니다. 비교할 수 있는 시간가변 설명변수가 세 개이고 해당 계수에 대해 검정한다면 일반적인 경우 자유도는 3입니다.

하우스만 검정 결과

앞선 회귀계수표의 실제 공분산행렬로 계산한 값은 아닙니다.

검정 결과 p값은 0.010으로 나타났습니다. 유의수준 0.05보다 작으므로 귀무가설을 기각할 수 있습니다. 따라서 고정효과와 확률효과 추정량 사이에 통계적으로 유의한 차이가 있다는 근거가 확인되었습니다.

이는 기본 확률효과 모형에서 요구하는 개체효과와 설명변수의 무상관 가정이 적절하지 않을 가능성을 시사합니다. 이러한 상황에서는 고정효과 모형을 우선적으로 고려할 수 있습니다.

다만 고정효과 모형에서도 시간에 따라 변하는 교란요인이나 역인과관계가 존재할 수 있으므로 회귀계수를 곧바로 인과효과로 해석해서는 안 됩니다.

하지만 실제 분석에서는 보다 신중한 판단이 필요합니다. 예를 들어 다음과 같은 결과가 나타났다고 가정해 보겠습니다.

이 경우 두 추정량 사이에 통계적으로 유의한 차이가 있다는 근거가 확인되지 않았습니다. 그렇다고 확률효과 모형의 가정이 반드시 옳다는 뜻은 아닙니다. 표본 크기가 작거나 설명변수의 개체 내 변동이 부족하다면 검정력이 낮을 수 있습니다.

또한 고정효과와 확률효과 모형이 모두 잘못 설정되어 있다면 두 추정량이 비슷하게 나타나더라도 적절한 결과라고 판단하기 어렵습니다. 따라서 검정 결과가 유의하지 않은 경우에는 연구 설계와 설명변수의 성격을 확인하고, 개체효과와 설명변수 사이의 무상관 가정이 타당한지 검토해야 합니다.

필요한 경우 상관확률효과 모형(Correlated Random Effects)을 함께 추정하여 비교할 수 있습니다.

동일한 분석 표본

고정효과 모형과 확률효과 모형의 분석 대상과 관측값이 다르면 추정값 차이가 데이터 구성 차이 때문에 나타날 수 있습니다. 따라서 가능한 한 동일한 표본에서 두 모형을 비교해야 합니다.

동일한 설명변수

하우스만 검정에서는 두 모형에서 공통으로 추정할 수 있는 계수를 비교해야 합니다. 예를 들어 확률효과 모형에는 지역별 시간불변 변수가 포함되어 있더라도 고정효과 모형에서는 해당 변수의 별도 계수를 추정할 수 없습니다. 따라서 이러한 변수의 계수는 일반적인 고정효과-확률효과 비교에서 제외됩니다.

추정량의 통계적 성질

전통적인 하우스만 검정은 귀무가설 아래 두 추정량의 일치성과 효율성에 관한 조건을 이용합니다. 이 조건이 성립하지 않으면 검정통계량과 p값의 해석이 적절하지 않을 수 있습니다.

표준오차 및 공분산 추정 방법

이분산성이나 개체 내 상관이 존재하여 군집강건 표준오차를 사용하는 경우에는 그 구조를 반영한 검정 방법을 고려해야 합니다. 검정통계량을 계산할 수 있다는 사실만으로 해당 검정이 데이터 구조에 적합하다고 판단해서는 안 됩니다.

이러한 경우 사용할 수 있는 대안 중 하나가 Mundlak 접근법입니다. Mundlak 접근법은 시간에 따라 변하는 설명변수의 개체별 평균을 확률효과 모형에 추가합니다.

예를 들어 지역별 교통 접근성 지수를 7년 동안 관찰했다면 각 지역의 평균 교통 접근성을 계산할 수 있습니다. 이후 매년의 교통 접근성 지수와 해당 지역의 평균 교통 접근성을 함께 모형에 포함합니다.

이 접근법은 개체효과와 설명변수 사이의 상관을 모형에 반영하는 상관확률효과 모형(Correlated Random Effects)의 대표적인 구성 방식입니다.

비교 예시

개체별 평균항들의 계수가 공동으로 0인지 검정하면 기본 확률효과 모형의 무상관 가정을 검토하는 데 도움을 받을 수 있습니다. 이 방식은 적절하게 구성하면 군집강건 분산 추정과 함께 활용하기도 더 편리합니다. 다만 Mundlak 접근법을 적용했다고 해서 모든 내생성 문제가 해결되는 것은 아닙니다.

시간가변 교란이나 역인과관계, 측정오차 등은 여전히 남을 수 있습니다.

p값만으로 모형을 결정해서는 안 됩니다.

유의한 결과는 두 추정량의 차이에 대한 통계적 근거입니다. 유의하지 않은 결과도 확률효과 모형이 올바르다는 증명은 아닙니다.

고정효과 모형의 인과적 타당성을 검정하는 것은 아닙니다.

고정효과 모형에서도 역인과관계와 시간가변 교란, 측정오차 등에 따른 편향이 발생할 수 있습니다. 따라서 하우스만 검정이 유의하다는 이유만으로 고정효과 추정값을 인과효과라고 해석해서는 안 됩니다.

공분산행렬 문제가 발생할 수 있습니다.

전통적인 하우스만 검정에서 공분산행렬의 차이가 적절한 형태를 가지지 않으면 음의 검정통계량이나 계산 오류가 발생할 수 있습니다. 이러한 경우 결과를 그대로 해석하기보다 추정 방법과 검정 절차를 확인해야 합니다.

패널데이터의 구조를 고려해야 합니다.

같은 개체 내부의 오차 상관이나 서로 다른 개체 사이의 공통 충격이 존재할 수 있습니다. 따라서 데이터 구조에 맞는 표준오차 및 검정 방법이 필요합니다.

개체 내부의 변화가 충분해야 합니다.

고정효과 모형은 주로 동일한 개체 안에서 발생한 변화를 이용합니다. 설명변수의 변화가 거의 없다면 고정효과 추정값이 불안정해지고 두 모형의 비교도 어려워질 수 있습니다.

또한 검정 결과를 바탕으로 어떤 모형을 사용했는지 설명하고, 회귀계수에 대한 해석을 함께 제시해야 합니다. 앞서 살펴본 지역별 주택가격 사례를 이용하면 다음과 같이 작성할 수 있습니다.

실제 분석에서는 두 모형의 회귀계수와 표준오차를 함께 제시하고 하우스만 검정에 사용한 공분산 추정 방법도 명확하게 밝혀야 합니다. 또한 하우스만 검정의 통계적 가정이 적절하지 않은 경우에는 상관확률효과 모형과 같은 대체 분석 결과를 보고할 수 있습니다.

패널데이터 분석에서는 이를 통해 기본 확률효과 모형의 핵심 가정인 개체효과와 설명변수 사이의 무상관 가정이 적절한지 검토할 수 있습니다. 검정 결과가 유의하다면 두 추정량에 체계적인 차이가 있다는 근거가 있으므로 고정효과 모형을 우선 고려할 수 있습니다.

반면 검정 결과가 유의하지 않더라도 확률효과 모형의 가정이 반드시 성립한다고 결론 내려서는 안 됩니다. 또한 하우스만 검정은 두 모형 중 어느 쪽이 모든 문제에서 정확한 인과효과를 제공하는지 판정하는 검정이 아닙니다.

따라서 연구 목적과 데이터 구조, 설명변수의 외생성, 표준오차 계산 방식 등을 함께 고려해야 합니다.