변동성 모형

시계열에서는 평균이나 추세뿐 아니라, 변동이 얼마나 크게 나타나는지도 중요합니다. 주식 수익률을 살펴보면 평소에는 작은 폭으로 움직이다가 특정 시기에는 큰 폭으로 오르내리고, 큰 변동이 발생한 뒤 한동안 큰 변동이 이어지기도 합니다. 이를 변동성 군집(Volatility Clustering)이라고 합니다. ARIMA 같은 모형이 평균적인 움직임을 예측하는 데 초점을 맞춘다면, ARCH와 GARCH는 시간에 따라 달라지는 변동성을 직접 모델링합니다. 이 장에서는 두 모형의 구조와 계수 해석, 활용과 분석 순서를 알아봅니다.

변동성(Volatility)은 데이터가 얼마나 크게 흔들리는지를 나타냅니다. 금융 분야에서는 주로 수익률의 분산이나 표준편차를 이용해 변동성을 측정합니다.

그림 1의 왼쪽처럼 낮은 변동성에서는 수익률이 기준 수준 주변에서 비교적 작은 폭으로 움직이며, 값의 변화가 상대적으로 안정적입니다. 오른쪽처럼 높은 변동성에서는 수익률이 큰 폭으로 오르내리며, 변동이 큰 구간이 한동안 이어질 수 있습니다. 변동성이 높다고 반드시 가격이 하락하는 것은 아닙니다. 큰 상승과 큰 하락이 모두 나타날 수 있으므로, 변동성은 변화의 방향보다는 변화의 크기와 불확실성에 초점을 맞춥니다.

ARCH는 Autoregressive Conditional Heteroskedasticity의 약자로, 자기회귀 조건부 이분산 모형이라고 합니다. 이름은 복잡하지만 핵심 아이디어는 간단합니다. 최근에 큰 오차가 발생했다면 현재의 변동성도 커질 수 있다는 것입니다. 일반적인 시계열 모형에서는 오차의 분산이 일정하다고 가정하는 경우가 많지만, ARCH는 과거 오차의 크기를 이용해 현재 오차의 분산이 달라지는 구조를 표현합니다. 가장 기본적인 ARCH(1) 모형은 다음과 같습니다.

과거 오차의 제곱인 ε_t−1²가 크면 현재의 조건부 분산도 커질 수 있습니다. 예를 들어 주식 수익률이 평소에는 ±1% 이내에서 움직이다가 어느 날 −5%의 큰 변동을 보였다고 가정하겠습니다. 그림 2처럼 오차를 제곱하면 방향은 사라지고 크기(25)만 남아 다음 날의 분산을 키웁니다. ARCH는 이처럼 큰 충격이 발생한 뒤 변동성이 커지는 패턴을 모델링할 수 있습니다.

다만 ARCH 모형에서는 과거 오차의 영향을 반영하기 위해 여러 시차가 필요할 수 있어, 변동성의 지속성이 길게 나타나는 데이터에서는 많은 차수가 필요해질 수 있다는 한계가 있습니다.

GARCH는 Generalized Autoregressive Conditional Heteroskedasticity의 약자입니다. ARCH를 확장해 과거의 오차뿐 아니라 과거의 조건부 분산도 현재 변동성에 반영합니다. 대표적인 GARCH(1,1) 모형은 다음과 같습니다.

GARCH는 과거에 큰 충격이 있었는지뿐 아니라 변동성이 이미 높았는지도 고려합니다. 금융시장에서 큰 충격이 발생한 뒤 당일의 변동성이 커지고, 이후에도 시장의 불확실성이 이어지는 상황이 그 예입니다. 그림 3은 모의 수익률 1,000일에 GARCH(1,1)을 적합해 추정한 조건부 변동성으로, 추정 계수(ω = 0.041, α₁ = 0.11, β₁ = 0.86)가 자료를 만든 실제 값(0.05, 0.10, 0.85)과 가깝습니다. 변동성 띠가 큰 충격 뒤에 넓어졌다가 천천히 좁아지는 모습에서 GARCH가 변동성의 지속성을 표현한다는 것을 볼 수 있습니다.

ARCH는 과거 오차의 크기를 바탕으로 현재 변동성을 추정하고, GARCH는 과거 오차의 크기에 더해 과거 변동성도 반영합니다.

그림 4처럼 ARCH(1)에서는 충격의 영향이 한 시점 뒤에 사라지지만, GARCH(1,1)에서는 과거 변동성이 다음 변동성으로 이어지므로 영향이 천천히 줄어듭니다.

GARCH(1,1)은 금융 수익률의 변동성을 분석할 때 자주 사용하는 출발점입니다. 하지만 항상 가장 적합한 모형은 아니며, 데이터의 특성과 예측 목적에 따라 다른 모형도 비교해야 합니다.

GARCH(1,1)의 계수는 충격과 변동성의 지속성을 이해하는 데 도움이 됩니다.

그림 5처럼 α₁ + β₁이 0.7이면 충격의 영향이 약 2일 만에 절반으로 줄지만, 0.99이면 약 69일이 걸립니다. 통상적인 GARCH(1,1)에서 ω > 0, α₁ ≥ 0, β₁ ≥ 0이고 α₁ + β₁ < 1이면, 기본적인 조건 아래 장기 무조건부 분산이 유한하며 다음과 같이 표현됩니다.

이 식은 모형의 가정이 충족될 때 적용됩니다. 계수의 합이 1 이상인 경우에는 일반적인 유한 장기 분산 해석을 그대로 적용할 수 없습니다.

그림 6처럼 같은 모형이라도 오늘의 조건부 변동성이 크면 5% VaR(100일 중 5일 정도 넘을 수 있는 손실 수준)이 −1.0%에서 −3.7%로 커집니다. 다만 ARCH와 GARCH는 변동성을 추정하는 모형이지, 가격이 오를지 내릴지를 직접 알려주는 모형은 아닙니다. 예상되는 방향과 변동성의 크기는 서로 구분해서 해석해야 합니다.

그림 7처럼 먼저 분석할 시계열을 선택합니다. 금융 분야에서는 가격 자체보다 로그 수익률이나 단순 수익률을 분석하는 경우가 많습니다. 다음으로 수익률의 평균이 0에 가까운지, 자기상관이 있는지 확인해 평균 모형을 검토하고, 필요한 경우 평균 방정식에 ARMA 등의 구조를 적용합니다. 시계열 그래프와 잔차의 제곱, ARCH 효과 검정 등을 통해 변동성 군집을 확인한 뒤, ARCH(q) 또는 GARCH(p,q) 등의 후보를 분포 가정과 함께 비교합니다.

적합 후에는 표준화 잔차와 그 제곱에 자기상관이 남아 있는지, 잔차의 분포 가정이 데이터에 적절한지 진단합니다. 그림 8에서는 원래 수익률 제곱에 있던 자기상관이 GARCH 표준화 잔차 제곱에서는 거의 사라졌습니다(ARCH-LM p = 0.99). 마지막으로 미래의 조건부 분산이나 변동성을 예측하고, 예측 기간을 나누어 실제 데이터와 비교합니다. 위험 지표를 계산한다면 해당 지표의 성능도 별도로 평가합니다.

• ARCH는 과거 오차의 크기를 활용해 현재 변동성을 모델링합니다.
• GARCH는 과거 오차와 과거 변동성을 함께 반영합니다.
• 변동성 군집은 큰 변동이 발생한 뒤 큰 변동이 이어지는 현상입니다.
• 금융 위험 분석과 변동성 예측에 활용할 수 있지만, 가격의 상승 · 하락 방향을 직접 예측하는 모형은 아닙니다.
• 계수 해석뿐 아니라 잔차 진단과 실제 예측 성능 검증이 필요합니다.

다음은 12 시계열 예측 평가 — 시계열 교차검증과 예측오차입니다. 지금까지 배운 모형들이 실제로 얼마나 정확하게 미래를 예측하는지 평가하고, 어떤 기준으로 모형을 비교해야 하는지 살펴봅니다.