ARCH-LM 검정과 ARCH·GARCH·EGARCH·TGARCH

국제 해상운임은 매일 같은 폭으로 움직이지 않습니다. 비교적 조용한 기간에는 운임이 조금씩 변하지만, 항만 파업이나 운송 차질처럼 시장을 흔드는 사건이 발생하면 큰 폭의 상승과 하락이 며칠 또는 몇 주 동안 이어질 수 있습니다. 이러한 현상은 평균 운임의 상승·하락과는 다른 문제입니다. 변화의 방향뿐 아니라 변화 폭이 얼마나 불안정한지를 살펴봐야 하기 때문입니다.

시계열에서 큰 변화 뒤에 다시 큰 변화가 나타나고, 작은 변화 뒤에는 작은 변화가 이어지는 현상을 변동성 군집(volatility clustering)이라고 합니다. ARCH와 GARCH 계열 모형은 이러한 시간가변적 변동성을 설명하기 위해 사용합니다. ARCH-LM 검정은 변동성을 모형화할 필요가 있는지 살펴보는 출발점이며, EGARCH와 TGARCH는 같은 크기의 충격이라도 상승과 하락에 따라 변동성에 미치는 영향이 다를 수 있다는 점까지 고려합니다.

이번 글에서는 국제 해상운임 지수의 일별 로그변화율을 예제로 사용해 ARCH-LM 검정부터 모형 추정과 해석, 비대칭 변동성, 진단 및 예측까지 연결해 설명하겠습니다.

하지만 평균을 적절하게 설명한 뒤에도 잔차의 변동 폭이 시점에 따라 달라질 수 있습니다. 예를 들어 해상운임 지수의 일별 로그변화율이 평소에는 ±1% 이내로 움직이다가 특정 기간에 ±4%씩 움직인다면, 하나의 고정된 오차분산만으로는 이러한 차이를 설명하기 어렵습니다.

ARCH 계열 모형은 현재의 조건부 분산이 과거 충격과 과거 분산에 따라 달라지는 구조를 추정합니다. 따라서 관심 대상은 내일 운임이 반드시 상승하는지 하락하는지가 아니라, 내일 변화율의 불확실성이 얼마나 클지에 가깝습니다.

지수는 양수로 기록되며, 분석에는 지수 수준 대신 일별 로그변화율을 사용합니다.

로그변화율은 다음과 같이 정의할 수 있습니다.

여기서 P_t는 t일의 운임 지수입니다. 로그변화율이 0.02라면 작은 변화에서 약 2%의 상승에 해당합니다. 이하 계산에서는 로그변화율을 소수 단위로 사용합니다. 즉 3% 하락은 -0.03입니다.

최초의 지수 값 하나가 변화율 계산에 사용되므로, 분석 가능한 변화율 관측값 수는 원자료의 관측 시점 수보다 하나 적을 수 있습니다.

예를 들어 변화율의 자기상관이 존재한다면 AR 항 등을 포함한 평균 모형을 설정할 수 있습니다.

μ_t는 시점 t의 조건부 평균, σ_t는 조건부 표준편차이며, z_t는 평균 0·분산 1로 표준화한 충격입니다. 평균 모형을 적절하게 추정했다면 잔차 ε_t의 방향성 자기상관은 크지 않아야 합니다. 그러나 잔차의 제곱인 ε_t²에 자기상관이 남아 있다면 시간에 따라 변동성이 달라질 가능성이 있습니다.

원자료의 추세나 계절성을 그대로 둔 채 변동성 모형부터 적용하기보다는, 분석 대상이 지수 수준인지 변화율인지 명확하게 하고 평균 구조를 먼저 검토하는 것이 좋습니다.

잔차를 제곱한 뒤 그 값이 과거 제곱잔차들로 설명되는지를 살펴봅니다.

귀무가설은 γ₁ = ⋯ = γ_q = 0, 즉 지정한 시차 범위에서 ARCH 효과가 없다는 것입니다. 검정이 유의하면 과거 충격의 크기가 현재 잔차의 제곱과 관련되어 있다는 근거가 됩니다.

이 결과에서는 ARCH 효과가 없다는 귀무가설을 기각할 수 있습니다. 따라서 일정한 잔차분산을 가정하기보다 시간가변적 변동성을 고려할 근거가 있습니다. 다만 유의한 ARCH-LM 검정이 특정 GARCH 모형의 정확성을 보장하지는 않습니다.

가장 단순한 ARCH(1)은 다음과 같습니다.

ω > 0, α₁ ≥ 0와 같은 제약 아래, 전날 예상보다 큰 변화가 발생했다면 오늘의 조건부 분산이 커질 수 있습니다. 여기서 제곱잔차를 사용하므로 상승 충격과 하락 충격은 크기가 같을 때 동일한 영향을 줍니다.

ARCH는 변동성 군집의 원리를 설명하기 좋지만, 오래 지속되는 변동성을 표현하려면 많은 과거 시차가 필요할 수 있습니다. 이러한 점을 보완한 대표적인 모형이 GARCH입니다.

널리 쓰이는 GARCH(1,1)은 다음과 같습니다.

α는 새로운 충격에 대한 반응, β는 변동성이 지속되는 정도를 반영합니다. 비음수 제약을 가진 기본 GARCH(1,1)에서 α + β < 1이면 통상적인 약정상성을 위한 조건 중 하나를 충족합니다.

이 예제에서 두 계수의 합은 0.94로 1에 가깝습니다. 따라서 운임의 변동성이 한번 커지면 단기간에 사라지지 않을 가능성이 있음을 보여줍니다. 다만 이러한 계수의 합만으로 모든 형태의 충격 지속성을 완전히 설명할 수는 없습니다.

전날 변화율의 예상 밖 충격이 -3%(ε_t−1 = -0.03)이고, 전날 조건부 분산이 0.0002라고 가정합니다.

즉, 다음 날의 조건부 표준편차는 약 1.73%입니다. 전날 조건부 표준편차가 √0.0002 ≈ 1.41%였다는 점과 비교하면 큰 충격 이후 예상 변동성이 높아졌다는 사실을 알 수 있습니다.

이것은 운임이 1.73% 상승하거나 하락할 것이라는 예측이 아닙니다. 변화율이 어느 정도 흔들릴 수 있는지를 나타내는 조건부 불확실성 추정값입니다.

하지만 실제 시장에서는 같은 크기의 상승과 하락이 이후 변동성에 서로 다른 영향을 줄 수 있습니다. EGARCH(Exponential GARCH)는 조건부 분산의 로그를 모형화하고 충격의 부호를 별도로 반영합니다. 대표적인 EGARCH(1,1) 형태는 다음과 같습니다.

여기서 z_t−1 = ε_t−1 / σ_t−1입니다. 이 식의 부호 규약에서는 γ < 0일 때 같은 크기의 음의 충격이 양의 충격보다 다음 시점의 변동성을 더 크게 높이는 방향으로 작용합니다.

예를 들어 운임 하락 충격이 상승 충격보다 이후 변동성을 더 크게 높이는 것으로 나타난다면, 양방향 충격을 똑같이 취급하는 기본 GARCH보다 EGARCH가 해당 특성을 잘 설명할 수 있습니다. 다만 EGARCH 계수의 부호는 소프트웨어가 사용하는 모형식에 따라 다르게 정의될 수 있으므로 반드시 추정식을 함께 확인해야 합니다.

다만 TGARCH라는 이름은 문헌과 소프트웨어에 따라 서로 다른 모형을 가리키기도 합니다. 여기서는 음의 충격에 대한 추가 분산 반응을 허용하는 GJR-GARCH 형태를 사용하겠습니다.

I(ε_t−1 < 0)는 이전 충격이 음수일 때 1이 되는 지시함수입니다. 이 식에서 양의 충격에 대한 제곱충격 계수는 α, 음의 충격에 대한 계수는 α + γ입니다. 따라서 γ > 0이면 음의 충격이 더 큰 변동성 반응을 유발합니다.

일부 소프트웨어에서는 절댓값 또는 표준편차에 임계효과를 적용하는 Zakoian 방식도 TGARCH라고 부릅니다. 그러므로 보고서에는 'TGARCH'라는 이름만 적지 말고 사용한 분산 방정식을 명확히 제시해야 합니다.

먼저 평균 모형의 잔차에 ARCH 효과가 있는지 확인하고, 변동성의 지속성과 비대칭성이 실제로 관찰되는지 살펴봐야 합니다.

예를 들어 같은 1,000일 표본에 모형들을 추정해 AIC가 GARCH -6,250, GJR-GARCH -6,261, EGARCH -6,268로 나타났다고 가정하겠습니다. 동일한 종속변수·표본과 비교 가능한 우도를 사용했다면 AIC가 가장 낮은 EGARCH가 상대적으로 유리합니다. 하지만 수치 차이만으로 모형을 확정하지 말고 표준화 잔차와 제곱잔차 진단, 예측 목적, 추정 안정성도 함께 확인해야 합니다.

조건부 분산을 잘 설명했다면 표준화 잔차의 제곱에서 뚜렷한 자기상관이 남지 않아야 합니다.

대표적인 진단에는 표준화 잔차의 ACF, 제곱 표준화 잔차에 대한 Ljung–Box 검정, 잔여 ARCH-LM 검정 등이 있습니다. 잔차의 두꺼운 꼬리가 남아 있다면 정규분포 대신 표준화된 Student-t 분포 등의 혁신항 분포를 고려할 수 있습니다.

여러 모형을 비교할 때는 동일한 평가기간에서 외부표본 예측을 검토하는 것이 좋습니다. 실현변동성의 대용 지표를 사용할 경우에는 지표의 측정오차와 평가 손실함수의 특성도 고려해야 합니다.

조건부 표준편차가 1.7%라고 해서 다음 날 운임이 1.7% 하락할 것이라는 의미는 아닙니다. 평균 모형은 변화율의 기대값을, 분산 모형은 그 주위의 불확실성을 설명합니다.

자료의 단위를 일관되게 사용해야 합니다.

로그변화율을 0.03처럼 소수로 입력할지 3처럼 백분율 단위로 입력할지에 따라 ω와 분산의 크기가 달라집니다. 결과표에는 사용한 단위를 명시해야 합니다.

극단적인 충격과 구조변화를 구분해야 합니다.

시장 제도 변경이나 물류망 재편 때문에 변동성의 생성 과정 자체가 달라졌다면 단일 GARCH 모형만으로 전 기간을 설명하기 어려울 수 있습니다. 구조변화나 체제전환 모형도 검토할 수 있습니다.

시계열 의존성과 표본외 검증을 고려해야 합니다.

모형을 평가할 때 관측값을 무작위로 섞어 훈련·평가 자료를 나누면 시간 순서가 무너질 수 있습니다. 과거로 추정하고 미래 구간에서 평가하는 방식을 권장합니다.

비대칭 계수의 해석은 모형식에 의존합니다.

EGARCH와 GJR-GARCH는 비대칭성을 표현하는 방식이 다릅니다. 계수의 부호만 따로 떼어 비교해서는 안 됩니다.

변동성의 비대칭성을 주장한다면 어떤 충격 부호에 더 크게 반응하도록 정의했는지도 명시해야 합니다.

실제 연구에서는 계수의 표준오차와 신뢰구간, 사용한 혁신항 분포, 진단검정의 정확한 수치 등을 추가해야 합니다.

ARCH-LM 검정은 잔차에 시간가변적 분산의 흔적이 있는지 확인하고, ARCH는 과거 충격을, GARCH는 과거 충격과 과거 분산을 함께 활용합니다. EGARCH와 TGARCH 계열은 상승·하락 충격이 변동성에 서로 다른 영향을 줄 가능성까지 다룹니다.

실제 분석에서는 먼저 평균 구조와 ARCH 효과를 점검하고, 적절한 분산 모형을 추정한 뒤 표준화 잔차와 표본외 예측을 통해 결과를 검토하는 순서가 유용합니다.