헤크만 선택모형
결과가 관측되는 선택 과정까지 모형에 함께 넣습니다.
대학 졸업자의 임금에 영향을 미치는 요인을 연구한다고 가정해 보겠습니다. 연구자는 졸업자의 교육 수준과 경력, 자격증 보유 여부 등에 따라 임금이 어떻게 달라지는지 알아보려고 합니다.
그런데 자료를 확인해 보니 문제가 있습니다. 취업한 졸업자의 임금은 조사할 수 있지만, 취업하지 않은 졸업자에게서는 임금이 관측되지 않는 것입니다. 이때 취업한 사람들의 자료만 이용해 회귀분석을 수행하면 충분할까요?
반드시 그렇지는 않습니다. 취업 여부가 개인의 능력이나 취업 의지, 건강 상태처럼 임금에도 영향을 미치는 요인과 관련되어 있다면 취업자만 분석한 결과가 전체 졸업자의 잠재적인 임금 결정 구조를 제대로 반영하지 못할 수 있습니다.
이처럼 결과변수가 관측되는 대상이 무작위로 결정되지 않아 발생하는 문제를 표본선택 편향(Sample Selection Bias)이라고 합니다. 이를 다루는 대표적인 방법이 헤크만 선택모형(Heckman Selection Model)입니다.
헤크만 선택모형은 결과변수의 관측 여부를 결정하는 과정과 실제 결과변수의 결정 과정을 함께 고려합니다. 대표적인 추정 방법인 헤크만 2단계 추정법(Heckman Two-Step Estimation)은 먼저 취업 여부를 분석하고, 그 결과를 이용해 임금 회귀식의 선택 편향을 보정합니다.
이번 글에서는 헤크만 선택모형의 기본 원리와 적용 조건, 역밀스비(Inverse Mills Ratio), 2단계 추정 과정, 실제 분석 사례, 진단과 결과 해석을 살펴보겠습니다.
헤크만 선택모형이란 무엇인가요?
헤크만 선택모형은 결과변수가 특정한 선택 과정을 거친 대상에게서만 관측되는 상황을 분석하는 방법입니다.
예를 들어 임금 연구에서는 취업한 사람의 임금만 관측됩니다. 취업하지 않은 사람에게 임금이 0원으로 기록되는 것이 아니라, 취업했더라면 받을 수 있었을 잠재적인 임금을 관측할 수 없는 것입니다.
이때 취업 여부가 임금에 영향을 미치는 관찰되지 않은 요인과 관련되어 있다면 취업자 표본만 이용한 일반 회귀분석에 선택 편향이 발생할 수 있습니다. 헤크만 선택모형은 이 문제를 두 개의 방정식으로 표현합니다.
| 구분 | 분석하는 내용 | 예시 |
|---|---|---|
| 선택 방정식(Selection Equation) | 결과변수가 관측되는지 여부 | 취업 여부 |
| 결과 방정식(Outcome Equation) | 관측된 결과변수의 수준 | 취업자의 임금 |
이 방법의 핵심은 단순히 취업자와 미취업자를 구분하는 데 있지 않습니다. 취업 여부와 임금 수준에 영향을 주는 관찰되지 않은 요인들이 서로 관련되어 있는지를 모형에 반영하는 데 있습니다.
다만 헤크만 모형은 이러한 관계를 특정한 확률분포와 함수 형태로 가정합니다. 따라서 모형을 사용했다는 사실만으로 모든 표본선택 문제가 해결되는 것은 아닙니다.
표본선택 편향은 왜 발생하나요?
표본선택 편향을 이해하기 위해 취업한 졸업자만 대상으로 임금 회귀분석을 수행하는 상황을 생각해 보겠습니다.
연구자는 자격증을 가진 사람이 그렇지 않은 사람보다 임금이 얼마나 높은지 알고 싶습니다. 그런데 취업 여부에도 자격증뿐 아니라 개인의 업무 능력이나 취업 의지 등이 영향을 줄 수 있습니다.
예를 들어 자격증이 없는 사람 중에서도 취업에 성공한 사람은 업무 능력이나 경력이 상대적으로 뛰어난 사람일 수 있습니다. 반면 자격증이 있는 사람은 다양한 능력 수준에서 취업에 성공할 수도 있습니다.
이 경우 취업자 표본 안에서 자격증 보유자와 미보유자를 비교하면 전체 졸업자 집단에서의 잠재적인 임금 차이와 다른 결과를 얻을 수 있습니다.
표본선택 편향은 단순히 일부 자료가 빠졌다는 이유로 발생하는 것이 아닙니다. 결과가 관측되는 선택 과정이 결과 방정식의 오차항과 관련되어 있을 때 문제가 됩니다.
반대로 취업 여부가 관측되지 않은 임금 결정요인과 무관하고, 결과 방정식의 조건부 평균이 적절하게 설정되어 있다면 취업자만 이용한 회귀분석에서도 선택 편향이 발생하지 않을 수 있습니다. 따라서 헤크만 모형이 필요한지는 결측값의 존재 자체보다 결측이 발생하는 선택 구조에 달려 있습니다.
실제 사례: 대학 졸업자의 취업과 임금
한 연구기관이 대학 졸업자 2,000명을 조사했다고 가정하겠습니다.
이 중 1,400명은 취업했고, 600명은 조사 시점에 취업하지 않은 상태였습니다. 연구자는 자격증과 경력 등이 취업 이후 임금 수준과 어떤 관계를 가지는지 알아보려고 합니다.
분석 데이터
| 항목 | 내용 |
|---|---|
| 전체 조사 대상 | 2,000명 |
| 취업자 | 1,400명 |
| 미취업자 | 600명 |
| 선택변수 | 취업 여부(취업 1, 미취업 0) |
| 결과변수 | 월 임금(만 원) |
| 주요 설명변수 | 자격증 보유, 경력, 전공 등 |
| 선택 방정식의 추가 변수 | 거주지역의 채용설명회 접근성 |
| 분석 목적 | 취업 선택을 고려한 잠재 임금 결정요인 분석 |
이 예제에서는 졸업자에게 제공되는 지역별 채용설명회의 접근성이 취업 가능성에는 영향을 미치지만, 전공과 경력, 지역 노동시장 특성 등을 통제한 이후에는 임금 수준에 직접적인 영향을 주지 않는다고 가정하겠습니다.
이러한 변수는 선택 방정식에는 포함하고 결과 방정식에서는 제외하는 식별변수로 활용할 수 있습니다. 다만 실제 연구에서는 이 가정이 성립하는지 충분히 검토해야 합니다. 채용설명회가 고임금 일자리와의 연결을 직접 개선한다면 임금에도 영향을 줄 수 있으므로 적절한 제외변수가 아닐 수 있습니다.
연구 질문은 다음과 같습니다.
"취업 여부에 따른 표본선택 문제를 고려했을 때, 자격증과 경력은 졸업자의 잠재적인 임금 수준과 어떤 관계를 가지는가?"
선택 방정식은 어떻게 구성하나요?
헤크만 모형의 첫 번째 부분은 결과변수가 관측될 확률을 설명하는 선택 방정식입니다.
취업 여부를 분석하는 경우 다음과 같은 잠재변수 모형을 사용할 수 있습니다.
S*i = Ziᵀγ + ui
Si = 1 (S*i > 0일 때) · 0 (S*i ≤ 0일 때)
여기서 Si는 실제 취업 여부이고, S*i는 취업 선택을 결정하는 관측되지 않은 잠재변수입니다. Zi에는 자격증 보유 여부, 경력, 전공, 채용설명회 접근성 등 취업 여부와 관련된 변수가 포함됩니다.
헤크만 2단계 추정법에서는 일반적으로 프로빗(Probit) 모형을 사용해 취업 확률을 추정합니다.
P(Si = 1 | Zi) = Φ(Ziᵀγ)
예를 들어 자격증이 있는 졸업자나 채용설명회 접근성이 높은 졸업자의 취업 확률이 더 높게 나타날 수 있습니다. 하지만 선택 방정식의 회귀계수를 그대로 취업 확률의 변화량으로 해석해서는 안 됩니다. 프로빗 모형에서는 확률 변화의 크기를 이해하기 위해 한계효과를 별도로 계산하는 것이 일반적입니다.
결과 방정식은 무엇을 설명하나요?
두 번째 부분은 실제 임금 수준을 설명하는 결과 방정식입니다.
Y*i = Xiᵀβ + εi · 단, Yi = Y*i (Si = 1일 때만 관측)
여기서 Y*i는 졸업자가 취업했을 경우의 잠재적인 월 임금이고, Xi는 자격증과 경력 등 임금 결정요인입니다. 이 잠재 임금은 취업한 사람에게서만 관측됩니다. 따라서 미취업자의 잠재 임금은 자료에 존재하지 않습니다.
문제는 선택 방정식의 오차항 ui와 결과 방정식의 오차항 εi가 서로 상관될 수 있다는 점입니다. 예를 들어 관찰되지 않은 업무 능력이 취업 가능성과 임금 수준을 동시에 높인다면 두 오차항 사이에 양의 상관관계가 발생할 수 있습니다.
이러한 상관관계를 무시하면 취업자 표본에 조건부로 계산한 임금 회귀식에 편향이 발생할 수 있습니다. 헤크만 선택모형은 이러한 오차항 간 상관관계를 명시적으로 고려합니다.
헤크만 2단계 추정법은 어떻게 작동하나요?
헤크만 2단계 추정법은 선택 방정식과 결과 방정식을 순서대로 추정합니다.
1단계: 취업 여부에 대한 프로빗 분석
먼저 전체 졸업자 2,000명의 자료를 이용해 취업 여부를 분석합니다. 이 단계에서는 취업자와 미취업자 모두의 정보가 필요합니다. 자격증 보유 여부와 경력, 채용설명회 접근성 등을 이용해 각 졸업자의 취업 선택과 관련된 지표를 추정합니다.
이후 프로빗 추정값을 이용해 역밀스비(Inverse Mills Ratio)를 계산합니다.
2단계: 선택 보정항을 포함한 임금 회귀분석
다음으로 실제 임금이 관측된 취업자 1,400명을 대상으로 임금 회귀분석을 수행합니다. 이때 자격증과 경력 등의 설명변수뿐 아니라 1단계에서 계산한 역밀스비를 추가합니다.
Yi = Xiᵀβ + δ·λi + ηi
여기서 λi는 역밀스비이며, δ는 선택 방정식과 결과 방정식 오차항 사이의 관계를 반영하는 계수입니다. 이러한 방식으로 선택 과정에서 발생하는 조건부 평균의 차이를 보정하려고 합니다.
다만 2단계 회귀분석의 일반적인 OLS 표준오차를 그대로 사용해서는 안 됩니다. 역밀스비 자체가 1단계에서 추정된 값이므로 이에 맞는 표준오차 보정이 필요합니다.
역밀스비(Inverse Mills Ratio)란 무엇인가요?
역밀스비는 헤크만 2단계 추정법에서 표본선택에 따른 조건부 오차항의 평균을 보정하는 데 사용하는 값입니다.
선택 방정식과 결과 방정식의 오차항이 결합정규분포를 따른다는 표준적인 헤크만 모형의 가정하에서, 취업자에 대한 역밀스비는 다음과 같이 계산할 수 있습니다.
λi = φ(Ziᵀγ) ÷ Φ(Ziᵀγ)
여기서 φ는 표준정규분포의 확률밀도함수이고, Φ는 표준정규분포의 누적분포함수입니다.
이 값은 선택 방정식에서 추정한 선형예측값에 따라 달라집니다. 예를 들어 취업할 확률이 상대적으로 낮았지만 실제로 취업한 사람은, 취업할 확률이 높았던 사람과 다른 선택 보정값을 갖게 됩니다. 헤크만 모형에서는 이러한 차이를 이용해 취업자 표본에서 관측된 임금의 조건부 평균을 보정합니다.
다만 역밀스비는 미취업자의 실제 임금을 알아내는 값이 아닙니다. 또한 역밀스비를 추가한다고 해서 관찰되지 않은 모든 차이가 자동으로 제거되는 것도 아닙니다.
실제 헤크만 분석 결과는 어떻게 해석하나요?
앞선 졸업자 자료에 헤크만 2단계 추정법을 적용했다고 가정해 보겠습니다.
1단계: 취업 선택 방정식
| 변수 | 프로빗 계수 | 표준오차 | p값 |
|---|---|---|---|
| 자격증 보유 | 0.38 | 0.10 | < .001 |
| 경력(년) | 0.12 | 0.04 | .003 |
| 채용설명회 접근성 | 0.31 | 0.09 | < .001 |
자격증 보유와 경력, 채용설명회 접근성은 모두 취업 가능성과 양의 관계를 보였습니다.
예를 들어 자격증 보유의 프로빗 계수가 0.38이라는 것은 다른 조건이 같을 때 자격증 보유자가 취업 선택에 대한 잠재지표에서 더 높은 값을 보인다는 의미입니다. 실제 취업 확률이 몇 %포인트 높아지는지는 별도의 한계효과 계산이 필요합니다.
2단계: 선택 보정 임금 방정식
| 변수 | 회귀계수(B) | 표준오차 | p값 |
|---|---|---|---|
| 자격증 보유 | 24.0 | 7.5 | .001 |
| 경력(1년 증가) | 8.0 | 2.1 | < .001 |
| 역밀스비 | -18.0 | 8.0 | .024 |
임금과 회귀계수의 단위는 만 원입니다. 2단계 표준오차는 선택 보정을 고려한 값으로 가정했습니다.
자격증 보유의 회귀계수는 24.0으로 나타났습니다. 이는 다른 설명변수와 표본선택 보정항을 고려했을 때 자격증을 보유한 졸업자의 잠재적인 월 임금이 미보유자보다 평균적으로 24만 원 높은 방향의 관계를 보였다는 의미입니다.
경력의 회귀계수는 8.0이므로 경력이 1년 많을 때 잠재 월 임금은 약 8만 원 높은 방향의 관계를 보였습니다. 역밀스비의 계수는 -18.0으로 나타났습니다. 이는 표준적인 헤크만 모형의 분포 가정하에서 선택 방정식과 임금 방정식 오차항 사이에 음의 관계가 있음을 시사합니다.
다만 역밀스비 계수의 부호만으로 구체적인 선택 메커니즘을 단정해서는 안 됩니다. 또한 실제 연구에서는 제외변수의 타당성과 모형의 분포 가정을 함께 검토해야 합니다.
일반 OLS와 헤크만 결과가 다르면 어떻게 해석하나요?
동일한 졸업자 자료를 이용해 취업자만 대상으로 OLS 회귀분석을 수행한 결과와 헤크만 선택모형의 결과를 비교할 수 있습니다.
예를 들어 자격증 보유에 대한 결과가 다음과 같다고 가정하겠습니다.
| 분석 방법 | 자격증 보유 계수 |
|---|---|
| 취업자 대상 일반 OLS | +15만 원 |
| 헤크만 2단계 추정 | +24만 원 |
OLS에서는 자격증 보유자가 미보유자보다 월 임금이 평균적으로 15만 원 높은 방향의 관계를 보였습니다. 반면 헤크만 모형에서는 선택 과정을 고려한 이후 해당 차이가 24만 원으로 추정되었습니다. 이는 취업자 표본의 선택 구조가 회귀계수에 영향을 미쳤을 가능성을 보여줍니다.
그러나 두 계수가 다르다는 사실만으로 헤크만 결과가 반드시 더 정확하다고 판단할 수는 없습니다. 제외변수가 부적절하거나 결합정규분포 가정이 맞지 않으면 헤크만 추정값 역시 편향될 수 있습니다. 따라서 두 방법의 차이를 해석할 때는 표본선택의 원인과 모형 가정의 타당성을 먼저 검토해야 합니다.
제외변수(Exclusion Restriction)는 왜 중요한가요?
헤크만 선택모형에서는 선택 방정식에는 영향을 주지만 결과 방정식에는 직접적인 영향을 주지 않는 변수를 확보하는 것이 바람직합니다.
이러한 변수를 제외변수 또는 식별변수라고 합니다. 앞선 예제에서는 채용설명회 접근성을 선택 방정식에만 포함했습니다. 채용설명회 접근성이 취업 가능성에는 영향을 주지만, 실제 취업 이후 임금에는 직접적인 영향을 주지 않는다는 가정이 성립한다면 선택 과정을 식별하는 데 도움이 됩니다.
하지만 채용설명회가 고임금 기업에 대한 정보를 제공하거나 높은 임금의 일자리와 직접 연결해 준다면 이 변수는 임금 수준에도 영향을 줄 수 있습니다. 이 경우 결과 방정식에서 제외하는 것이 적절하지 않을 수 있습니다.
헤크만 모형은 특정 분포 가정의 비선형성을 이용해 제외변수 없이도 형식적으로 식별될 수 있습니다. 그러나 이 경우 추정 결과가 함수 형태와 분포 가정에 지나치게 의존할 수 있습니다. 따라서 실제 연구에서는 이론적·제도적으로 설득력 있는 제외변수를 확보하는 것이 중요합니다.
토빗 모형과 헤크만 모형은 무엇이 다른가요?
토빗 모형과 헤크만 모형은 모두 종속변수의 관측에 제한이 있다는 점에서 비슷해 보일 수 있습니다.
하지만 두 방법은 서로 다른 데이터 생성 과정을 가정합니다.
| 구분 | 토빗 모형 | 헤크만 선택모형 |
|---|---|---|
| 주요 문제 | 종속변수가 경계에서 중도절단됨 | 결과가 선택된 표본에서만 관측됨 |
| 관측되지 않은 결과 | 경계에 해당하는 잠재값 | 선택되지 않은 대상의 잠재 결과 |
| 대표 사례 | 잠재 지출변수가 0 이하일 때 지출액이 0으로 관측 | 취업자에게서만 임금 관측 |
| 모형 구조 | 잠재 결과와 관측 경계 | 선택 방정식과 결과 방정식 |
| 주요 관심 | 잠재변수와 관측 결과에 대한 설명변수의 효과 | 선택을 고려한 잠재 결과 방정식 |
예를 들어 문화·예술 지출액이 0원인 가구가 조사에 포함되어 있고 하나의 잠재변수가 지출액을 결정한다고 가정한다면 토빗 모형을 고려할 수 있습니다. 반면 미취업자의 임금이 관측되지 않고 취업 여부가 임금 결정요인과 관련되어 있다면 헤크만 선택모형을 고려할 수 있습니다.
핵심은 종속변수에 0원이 많은지 여부가 아니라, 관측되지 않은 값이 왜 발생했는지를 이해하는 것입니다.
헤크만 선택모형에서 주의해야 할 점
모든 결측값에 헤크만 모형을 적용해서는 안 됩니다.
헤크만 선택모형은 특정한 선택 과정 때문에 결과변수가 관측되지 않는 상황을 다룹니다. 단순 입력 누락이나 무작위 결측에 항상 적합한 방법은 아닙니다.
선택 방정식의 변수 구성이 중요합니다.
취업 여부에 영향을 미치는 주요 변수를 누락하거나 부적절한 변수를 포함하면 역밀스비와 선택 보정 결과가 왜곡될 수 있습니다.
제외변수의 타당성을 검토해야 합니다.
선택 방정식에만 포함되는 변수가 결과변수에 직접적인 영향을 준다면 추정 결과의 해석에 문제가 발생할 수 있습니다.
오차항의 분포 가정을 확인해야 합니다.
표준 헤크만 모형은 선택 방정식과 결과 방정식의 오차항이 결합정규분포를 따른다는 가정에 의존합니다. 이 가정이 부적절하면 추정값이 민감하게 달라질 수 있습니다.
2단계 추정의 표준오차를 적절하게 계산해야 합니다.
1단계에서 추정한 역밀스비를 2단계에 사용하므로 단순 OLS 표준오차를 그대로 보고하는 것은 적절하지 않습니다. 헤크만 추정에 맞는 보정 표준오차나 연구 설계에 적절한 다른 추론 방법을 사용해야 합니다.
선택 보정을 인과효과 추정과 혼동하지 않아야 합니다.
헤크만 모형은 표본선택 문제를 다루지만 설명변수의 다른 내생성 문제까지 자동으로 해결하는 것은 아닙니다. 자격증 보유자가 더 높은 임금을 받는다는 관계가 나타났더라도 자격증 자체의 인과효과라고 단정하려면 추가적인 식별 전략이 필요할 수 있습니다.
헤크만 선택모형 결과는 어떻게 보고하나요?
헤크만 선택모형 결과를 보고할 때는 전체 조사 대상과 결과변수가 관측된 대상의 수, 선택 방정식과 결과 방정식에 포함한 변수, 제외변수의 선정 근거, 주요 회귀계수와 선택 보정 결과 등을 함께 제시해야 합니다.
분석 결과 요약
| 항목 | 결과 |
|---|---|
| 전체 졸업자 | 2,000명 |
| 임금 관측 대상 | 취업자 1,400명 |
| 임금 미관측 대상 | 미취업자 600명 |
| 추정 방법 | 헤크만 2단계 추정 |
| 자격증 보유 계수 | +24.0만 원 |
| 경력 계수 | +8.0만 원 |
| 역밀스비 계수 | -18.0만 원 |
결과 보고 예시
대학 졸업자의 임금 결정요인을 분석하기 위해 헤크만 2단계 선택모형을 적용하였다. 분석 대상은 졸업자 2,000명으로, 이 중 취업자 1,400명의 임금 정보가 관측되었다. 1단계에서는 취업 여부를 종속변수로 하는 프로빗 모형을 추정하였으며, 2단계에서는 선택 보정항인 역밀스비를 포함하여 월 임금 회귀분석을 수행하였다.
분석 결과 자격증 보유는 잠재적인 월 임금과 통계적으로 유의한 양의 관계를 보였다(B = 24.0, SE = 7.5, p = .001). 경력 역시 월 임금과 양의 관계를 보였으며(B = 8.0, SE = 2.1, p < .001), 역밀스비의 계수는 -18.0으로 나타났다(SE = 8.0, p = .024). 이 결과는 표준적인 헤크만 모형의 가정하에서 취업자 표본의 선택 구조가 임금 회귀분석과 관련될 가능성을 보여준다. 다만 제외변수의 타당성과 오차항의 분포 가정이 충족되어야 선택 보정 결과를 신뢰할 수 있다.
실제 연구에서는 선택 방정식의 전체 결과와 제외변수의 선정 근거를 함께 제시해야 합니다. 또한 가능하다면 최대우도법에 의한 추정 결과나 대체 모형을 비교하여 주요 결과의 안정성을 검토할 수 있습니다.
헤크만 모형은 결과가 관측되는 선택 과정을 고려합니다.
헤크만 선택모형은 결과변수가 일부 대상에게서만 관측되고, 그 선택 과정이 결과변수의 오차항과 관련되어 있을 때 발생할 수 있는 표본선택 편향을 다루는 방법입니다.
예를 들어 졸업자의 임금을 분석할 때 취업자의 임금만 관측된다면 취업 여부와 임금 수준에 영향을 미치는 관찰되지 않은 요인들이 서로 관련되어 있는지 고려해야 합니다.
헤크만 2단계 추정법에서는 먼저 취업 여부를 프로빗 모형으로 분석하고, 이를 바탕으로 역밀스비를 계산합니다. 이후 임금 회귀식에 역밀스비를 포함하여 선택 과정에서 발생하는 조건부 평균의 차이를 보정합니다.
다만 헤크만 모형이 모든 결측 문제를 해결하는 것은 아닙니다. 선택 방정식의 설정과 제외변수의 타당성, 오차항의 분포 가정 등이 중요하며, 표본선택 보정만으로 다른 내생성 문제가 자동으로 해결되는 것도 아닙니다.
헤크만 선택모형의 핵심은 관측된 대상만 분석하는 데서 끝나지 않고, 어떤 대상의 결과가 관측되는지 결정하는 선택 과정까지 모형에 반영하는 데 있습니다.