자기회귀 · 이동평균모형
과거 관측값과 과거 오차로 현재 값을 설명하는 시계열 모형
이번 달 매출을 예측한다고 해보겠습니다. 지난달 매출이 높았다면 이번 달에도 높은 매출이 나타날 수 있습니다. 또는 지난달 예측이 실제보다 낮았다면, 그때 발생한 예측 오차가 현재 예측에 정보를 제공할 수도 있습니다. AR, MA, ARMA 모형은 이러한 시간적 관계를 수학적으로 표현하는 대표적인 시계열 모형입니다. AR은 과거 관측값을, MA는 과거의 오차를 활용하며, ARMA는 두 가지를 결합합니다. 이 장에서는 세 모형의 구조와 차수의 의미, ACF · PACF를 이용한 차수 탐색, 그리고 적합 후 확인할 사항을 알아봅니다.
자기회귀모형 AR이란?
AR(Autoregressive) 모형은 현재 값이 과거의 관측값과 관련되어 있다고 가정합니다. 이번 달 매출이 지난달 매출의 영향을 받는다면, 지난달 매출을 이용해 이번 달 매출을 설명할 수 있습니다.
Yt: 현재 시점의 값 · Yt−1: 한 시점 전의 관측값 · c: 상수항 · φ: 과거 값의 영향을 나타내는 계수 · εt: 현재 시점의 오차
그림 1처럼 평균 수준을 중심으로 움직이는 데이터에서 φ가 양수라면, 과거 값이 평균보다 높았을 때 현재 값도 평균보다 높은 경향을 보입니다. φ가 클수록 평균에서 벗어난 상태가 오래 유지됩니다. φ의 절댓값이 1보다 작은 정상적인 AR(1) 과정에서는 과거 충격의 영향이 시간이 지나면서 약해지며, φ = 1이면 03장에서 본 단위근(랜덤워크)이 됩니다.
| 모형 | 의미 |
|---|---|
| AR(1) | 한 시점 전의 관측값 사용 |
| AR(2) | 한 시점 전과 두 시점 전의 관측값 사용 |
| AR(3) | 세 시점 전까지의 관측값 사용 |
여기서 p는 AR 모형의 차수입니다. 차수가 커질수록 더 많은 과거 값을 반영할 수 있지만, 불필요하게 많은 시차를 사용하면 모형이 복잡해지고 추정이 불안정해질 수 있습니다.
이동평균모형 MA란?
MA(Moving Average) 모형은 과거 관측값 자체보다 과거에 발생한 오차를 이용합니다. 여기서 오차는 현재 관측값과 모형이 예측한 값 사이의 차이입니다. 일반적인 이동평균과 이름이 비슷하지만, 시계열의 MA 모형은 단순히 최근 몇 개 값을 평균하는 방법이 아닙니다(04장의 이동평균과 다릅니다).
μ: 평균 수준 · εt: 현재 시점의 오차 · εt−1: 이전 시점의 오차 · θ: 과거 오차가 현재 값에 반영되는 정도
어떤 달에 예상치 못한 수요 증가가 발생했다면, 그때 발생한 오차가 다음 달의 관측값에도 영향을 줄 수 있습니다. 그림 2처럼 MA(1)에서는 충격의 영향이 다음 시점까지만 남고 사라지지만, AR(1)에서는 점점 줄어들며 오래 남습니다. MA 모형은 이러한 단기적인 오차의 영향을 표현합니다.
| 모형 | 의미 |
|---|---|
| MA(1) | 한 시점 전의 오차까지 반영 |
| MA(2) | 두 시점 전의 오차까지 반영 |
| MA(3) | 세 시점 전의 오차까지 반영 |
MA 모형의 차수 q는 현재 값에 반영되는 과거 오차의 시차 범위를 나타냅니다.
AR과 MA는 어떻게 다를까?
두 모형의 가장 큰 차이는 현재 값을 설명할 때 무엇을 사용하는가입니다.
과거 매출의 수준과 움직임이 현재 값과 어떻게 연결되는지 살펴봅니다. 과거 매출 → 현재 매출 예측
과거에 예상하지 못했던 변화가 현재 값에 미치는 영향을 살펴봅니다. 과거 예측 오차 → 현재 매출 예측
| 구분 | AR | MA |
|---|---|---|
| 사용하는 정보 | 과거 관측값 | 과거 오차 |
| 대표적인 차수 | p | q |
| 주된 역할 | 관측값의 지속적인 관계 표현 | 단기적인 오차의 영향 표현 |
| 예측 시 | 과거 값과 추정 계수 활용 | 추정된 과거 오차 활용 |
실제 데이터에서는 과거 관측값과 오차가 모두 관련되어 있을 수 있으므로 둘 중 하나만으로 충분하지 않을 수도 있습니다.
ARMA 모형이란?
ARMA(Autoregressive Moving Average) 모형은 AR과 MA를 결합한 모형으로, 과거 관측값의 영향과 과거 오차의 영향을 함께 고려합니다.
p: AR 차수 · q: MA 차수 · 예: ARMA(1,1)은 한 시점 전의 관측값과 한 시점 전의 오차를 함께 활용
AR p차와 MA q차를 함께 쓰는 모형입니다.
원자료에 강한 추세나 단위근이 있다면 ARMA를 바로 적용하기보다 차분 등으로 비정상성을 처리해야 하는지 먼저 검토합니다(03장).
ACF와 PACF는 모형 선택에 어떻게 활용될까?
02장에서 배운 ACF와 PACF는 AR과 MA 모형의 차수를 탐색할 때 도움을 줍니다. PACF는 중간 시차를 통제한 직접 관계를, ACF는 간접 관계까지 포함한 관계를 보여 줍니다.
그래서 AR 모형은 PACF가 특정 시차 이후 뚜렷하게 약해지는지, MA 모형은 ACF가 특정 시차 이후 뚜렷하게 약해지는지 확인하며, ARMA 모형은 ACF와 PACF가 모두 점차 감소하는 패턴을 보일 수 있습니다.
| 후보 모형 | ACF의 전형적인 패턴 | PACF의 전형적인 패턴 |
|---|---|---|
| AR(p) | 점차 감소 | p 이후 절단되는 경향 |
| MA(q) | q 이후 절단되는 경향 | 점차 감소 |
| ARMA(p, q) | 점차 감소 | 점차 감소 |
여기서 '절단'은 특정 시차 이후 자기상관이 대체로 0에 가까워지는 패턴을 뜻합니다. 그림 4처럼 실제 표본에서는 우연한 변동 때문에 정확히 0이 되지 않을 수 있습니다. 또한 이러한 패턴은 이론적인 단서이므로, 실제 모형 선택에서는 ACF · PACF뿐 아니라 정보 기준, 잔차 진단, 예측 성능을 함께 확인해야 합니다.
AR · MA · ARMA를 언제 사용할까?
| 데이터의 특징 | 고려할 모형 | 이유 |
|---|---|---|
| 과거 값의 영향이 지속됨 | AR | 관측값 사이의 시간적 관계 반영 |
| 단기적인 충격의 영향이 중요함 | MA | 과거 오차의 영향 반영 |
| 과거 값과 과거 오차 모두 관련됨 | ARMA | 두 가지 구조를 결합 |
| 추세나 단위근이 존재함 | ARIMA 후보 | 차분을 통해 비정상성을 처리 |
| 계절 패턴이 뚜렷함 | SARIMA 등 후보 | 계절적 자기상관을 반영 |
월별 수요가 일정한 평균 주변에서 움직이고 지난달 수요가 이번 달 수요와 관련되어 있다면 AR 모형을 검토할 수 있습니다. 반면 수요에 발생한 단기 충격이 다음 시점까지 영향을 주는 패턴이라면 MA 모형도 후보가 될 수 있습니다. 다만 데이터의 특징만 보고 모형을 확정하기보다는 실제 적합 결과와 평가 지표를 통해 선택해야 합니다.
모형을 적합한 뒤에는 무엇을 확인할까?
AR · MA · ARMA 모형은 적합하는 것만으로 분석이 끝나지 않습니다. 모형이 데이터의 시간적 패턴을 충분히 설명하는지 확인해야 합니다.
잔차가 특정한 방향으로 치우쳐 있지 않은지 확인합니다.
잔차에 설명되지 않은 시간적 패턴이 남아 있는지 확인합니다.
차수를 지나치게 늘리지 않았는지 확인합니다.
과거 데이터로 적합한 모형이 이후 데이터에서도 좋은 예측을 하는지 평가합니다.
그림 5는 실제로 AR(2)인 모의 자료를 두 모형으로 적합한 결과입니다. AR(1)로 적합하면 잔차에 자기상관이 남아(Ljung–Box p = 0.002) 시간적 패턴을 충분히 설명하지 못했음을 알 수 있고, AR(2)로 적합하면 잔차에 뚜렷한 패턴이 없으며(p = 0.55) AIC도 더 낮습니다. 이처럼 잔차에 유의한 자기상관이 남아 있다면 차수나 모형 구조를 재검토할 수 있습니다. 반대로 잔차에 뚜렷한 패턴이 없더라도 예측 정확도가 반드시 높은 것은 아니므로, 예측 성능은 별도의 평가 구간에서 확인해야 합니다.
AR(2) 모형의 잔차에는 유의한 자기상관이 남지 않았으며(Ljung–Box Q(10), p = .55), AIC도 AR(1) 모형(860)보다 낮았다(844). AR(1) 모형은 잔차에 자기상관이 남아(p = .002) 시간적 패턴을 충분히 설명하지 못하였다. 따라서 AR(2)를 최종 모형으로 선택하였다.
과거 값과 과거 오차, 무엇이 현재를 설명하는지 찾습니다.
- AR은 과거 관측값을 활용해 현재 값을 설명합니다.
- MA는 과거 예측 오차가 현재 값에 미치는 영향을 설명합니다.
- ARMA는 AR과 MA의 구조를 결합합니다.
- ACF와 PACF는 모형 차수를 탐색하는 데 도움을 주지만, 그것만으로 최적 모형을 확정할 수는 없습니다.
- 모형을 적합한 뒤에는 잔차 진단과 실제 예측 성능 평가를 함께 수행해야 합니다.
다음은 07 ARIMA · SARIMA — 차분과 계절성 예측입니다. 비정상 시계열에 차분을 적용하는 방법과 계절 패턴까지 반영하는 모형을 살펴봅니다.
AR은 과거 관측값으로, MA는 과거 오차로 현재 값을 설명하고, ARMA는 둘을 합칩니다. AR의 영향은 점점 줄며 오래 남고, MA의 영향은 q시점 뒤에 끊깁니다. ACF · PACF로 차수 후보를 찾은 뒤, 잔차에 자기상관이 남지 않는지와 실제 예측 성능으로 확인합니다.