회귀선은 같아도 오차의 크기와 연결 구조가 표준오차를 바꿉니다.
회귀선이 맞아도 p값은 틀릴 수 있을까?
소득이 높을수록 소비의 평균이 증가하지만 고소득층의 소비 편차가 훨씬 클 수 있습니다. 월별 매출 잔차는 이번 달이 높으면 다음 달도 높은 식으로 이어질 수 있습니다.
OLS 계수는 일정 조건에서 여전히 평균관계를 추정하지만 독립·등분산을 가정한 표준오차가 틀려 신뢰구간과 p값이 과도하게 좁아질 수 있습니다.
핵심 질문
잔차의 크기가 일정하고 서로 독립이라는 가정이 실제 자료에서 성립할까요?
예측값 수준에 따라 잔차의 산포가 부채꼴처럼 달라집니다.
인접 시점의 잔차가 같은 방향으로 이어지는지 확인합니다.
계수와 예측 문제를 구분해 강건·군집·HAC 표준오차를 선택합니다.
X나 예측값 수준에 따라 잔차분산이 달라집니다
등분산성은 Var(ε|X)=σ²가 일정하다는 뜻입니다. 이분산성에서는 평균 회귀선 주변의 폭이 X에 따라 넓어지거나 좁아집니다.
| 잔차그림 | 해석 |
|---|---|
| 일정한 띠 | 등분산에 가까움 |
| 오른쪽으로 벌어지는 부채꼴 | 예측값과 함께 분산 증가 |
| 집단별 폭 차이 | 범주에 따른 이분산 |
| 곡선과 폭 변화 | 함수형태와 분산 문제 동시 가능 |
가까운 시점이나 공간의 오차가 서로 관련됩니다
1차 자기상관은 εₜ가 εₜ₋₁과 관련되는 구조입니다. 양의 자기상관이면 같은 부호 잔차가 연속되고, 음의 자기상관이면 양수와 음수가 번갈아 나타납니다.
| 구조 | 잔차 패턴 | 예시 |
|---|---|---|
| 양의 AR(1) | 긴 양·음 구간 | 월별 경기 충격 |
| 음의 AR(1) | 부호가 번갈아 변화 | 과잉 조정 공정 |
| 계절 자기상관 | 일정 시차마다 반복 | 월·요일 계절성 |
| 공간 상관 | 인접 지역 잔차 유사 | 지역 주택가격 |
OLS 계수와 추론에 미치는 영향을 구분합니다
외생성과 평균식이 맞으면 이분산이나 자기상관만으로 OLS 계수가 자동 편향되지는 않습니다. 그러나 OLS는 더 이상 효율적이지 않고 일반 SE 공식이 틀립니다. 누락된 동학이 X와 연관되면 계수 편향도 생길 수 있습니다.
| 항목 | 이분산·자기상관의 영향 |
|---|---|
| 계수 평균 | 조건부로 불편성 유지 가능 |
| 일반 OLS SE | 잘못 계산될 수 있음 |
| p값·CI | 너무 작거나 크게 왜곡 |
| 효율성 | 더 나은 추정량이 존재 |
| 예측구간 | 오차 구조를 무시해 부정확 |
검정보다 잔차의 구조를 먼저 봅니다
이분산은 잔차 대 적합값·X 그림과 집단별 상자그림으로 봅니다. 자기상관은 시간순 잔차도와 잔차 ACF를 확인합니다.
| 문제 | 그래프 | 보이는 신호 |
|---|---|---|
| 이분산 | 잔차 vs 적합값 | 부채꼴·집단별 폭 |
| 자기상관 | 시간순 잔차 | 연속된 부호·주기 |
| 시차구조 | 잔차 ACF | 특정 lag의 큰 상관 |
| 누락 계절성 | 월·요일별 잔차 | 반복되는 평균 패턴 |
귀무가설과 검정 한계를 함께 읽습니다
Breusch–Pagan과 White 검정은 잔차분산이 설명변수와 관련되는지 봅니다. Durbin–Watson은 주로 1차 자기상관, Breusch–Godfrey는 여러 시차의 자기상관을 검정합니다.
| 검정 | 주요 H₀ | 주의 |
|---|---|---|
| Breusch–Pagan | 등분산 | 함수형태에 의존 |
| White | 등분산 | 많은 항으로 검정력·자유도 문제 |
| Durbin–Watson | 1차 자기상관 없음 | 지연 종속변수 등 조건 제한 |
| Breusch–Godfrey | 지정 lag까지 자기상관 없음 | lag 선택 필요 |
p값 하나로 원인을 알 수 없습니다
유의한 검정은 구조가 있다는 신호이며, 누락 변수·스케일·계절성 중 원인은 그래프와 도메인으로 찾습니다.
평균식 문제와 분산·상관 문제를 구분합니다
평균식이 맞고 추론만 고치려면 이분산 강건 SE 또는 HAC/Newey–West SE를 사용합니다. 분산이나 시계열 구조 자체를 모델링하면 WLS·GLS·ARIMA 오류모형 등을 검토합니다.
| 상황 | 대표 대응 |
|---|---|
| 이분산·평균식 적절 | HC 강건 SE |
| 분산함수 알려짐 | WLS·GLS |
| 시계열 자기상관 | HAC SE·GLS·동적회귀 |
| 누락된 계절성 | 더미·추세·시차항 추가 |
| 군집 내 상관 | 군집강건 SE·다층모형 |
설계·그래프·검정·대안을 연결합니다
시간·개인·집단 구조를 확인하고 회귀를 적합한 뒤 잔차를 원래 순서로 복원합니다. 그래프로 구조를 보고 검정을 보조적으로 사용한 다음 문제의 원인과 목표에 맞는 SE 또는 모형을 선택합니다.
| 단계 | 하는 일 |
|---|---|
| 1 | 자료 순서·군집·시계열 구조 확인 |
| 2 | 평균식 적합과 잔차 저장 |
| 3 | 잔차-적합값·시간도·ACF 확인 |
| 4 | BP·BG 등 보조 검정 |
| 5 | HC·HAC·WLS·GLS 중 선택 |
| 6 | 보정 전후 CI와 결론 비교 |
월별 광고비와 매출의 회귀오차를 진단합니다
60개월 자료에서 매출을 광고비와 추세로 회귀했더니 광고비 계수는 1.8이었습니다. 잔차 ACF(1)=.58, BG p<.001로 양의 자기상관이 확인됐습니다.
| 방법 | 광고비 SE | p값 | 판단 |
|---|---|---|---|
| 일반 OLS | .32 | <.001 | 독립 가정으로 과도하게 정밀 |
| Newey–West | .55 | .002 | 시간상관 반영 후에도 근거 유지 |
| AR(1) 오류모형 | .52 | .001 | 잔차 ACF 개선 |
결과 해석
계수값은 비슷했지만 자기상관을 반영한 SE가 더 컸습니다. 최종 보고에는 시간구조 진단과 HAC 또는 AR오류모형 결과를 제시합니다.
강건 SE가 모든 모형 오류를 고치지는 않습니다
강건 SE는 주어진 평균식의 추론을 보정할 뿐 비선형성·누락변수·내생성을 해결하지 않습니다. 시계열에서 추세를 제거하지 않으면 높은 R²와 유의성이 가짜 회귀에서 생길 수 있습니다.
| 오해 | 바른 판단 |
|---|---|
| 이분산이면 계수도 편향 | 외생성 아래 계수는 불편할 수 있음 |
| DW≈2면 모든 상관 없음 | 특정 1차 구조 중심의 진단 |
| 강건 SE면 모형 완성 | 평균식·내생성 별도 확인 |
| 큰 표본이면 무시 | SE 일관성을 위해 보정 필요 |
분산비와 자기상관이 추론 위험을 어떻게 키우는지 봅니다
잔차 분산비와 ρ를 바꿔보세요. 값이 커질수록 독립·등분산 OLS SE를 그대로 쓰기 어려워집니다.
이분산성·자기상관 인터랙티브 랩
관계·잡음·영향점을 바꾸며 회귀선, 잔차와 설명력이 동시에 어떻게 변하는지 확인하세요.
조작할 때 그래프의 위치·모양·오류 구조를 먼저 보세요.
개념적 SE 왜곡 신호
위험지수 14.5
분산비 5.5, ρ=0.45이면 강건한 추론을 검토합니다.
한 조절값만 먼저 움직인 뒤 그래프의 어떤 부분이 변하고 무엇은 그대로인지 설명해보세요.
이분산성과 자기상관의 판단 규칙
요약은 아래 핵심 정리에서 확인합니다.
오차 구조를 직접 모델링합니다
다음 연결
잔차 패턴이 평균식의 비선형성에서 생겼다면 로그·다항식·상호작용 같은 변수 변환이 필요합니다.
| 주제 | 핵심 내용 |
|---|---|
| HC0~HC3 | 유한표본 보정이 다른 이분산 강건 SE |
| Newey–West | lag 가중 HAC 공분산 |
| FGLS | 오차 공분산을 추정해 GLS 적합 |
| ARIMA errors | 회귀 평균과 시계열 오차를 결합 |
| 클러스터 SE | 군집 내부의 임의 상관 허용 |