다항회귀분석(Polynomial Regression)

중고차는 연식이 1년 늘어날 때마다 같은 금액만큼 가격이 떨어질까요? 출고 직후에는 가격이 빠르게 내려가지만, 오래된 차에서는 하락 폭이 작아질 수도 있습니다.

단순선형회귀는 두 변수 사이의 관계를 직선으로 표현합니다. 하지만 실제 데이터의 변화가 곡선에 가깝다면 직선만으로는 관계를 충분히 설명하기 어렵습니다.

다항회귀분석은 설명변수의 제곱항이나 세제곱항을 회귀식에 추가해 이러한 굽은 관계를 설명합니다. 단순히 곡선을 예쁘게 그리는 것이 아니라, 변화의 형태가 자료에서 뒷받침되는지 확인하는 분석입니다.

이 글에서는 자동차 연식과 판매가격을 예제로 직선과 2차 곡선을 비교하고, 회귀계수·설명력·잔차·과적합을 해석하는 방법까지 살펴봅니다.

중고차의 연식이 오래될수록 가격이 내려간다고 해도, 매년 같은 금액만큼 내려가는 것은 아닙니다. 출고 직후에는 가격이 빠르게 떨어지고 시간이 지나면 하락 폭이 작아질 수 있습니다.

다항회귀분석(Polynomial Regression)은 설명변수의 제곱항, 세제곱항 등을 회귀식에 포함해 이러한 비선형 관계를 표현하는 방법입니다. 계수에 대해서는 선형인 회귀모형이므로 일반적인 선형회귀의 확장으로 볼 수 있습니다.

산점도에서 완만한 곡선이나 굽은 형태가 보이거나, 직선으로 적합한 뒤 잔차에 규칙적인 패턴이 남을 때 다항항 추가를 검토할 수 있습니다.

다만 곡선으로 보인다는 이유만으로 높은 차수의 항을 계속 추가해서는 안 됩니다. 분석 목적, 표본 범위, 해석 가능성, 검증 자료의 예측 성능을 함께 고려해야 합니다.

2차 다항회귀식은 ŷ = β₀ + β₁x + β₂x²입니다. β₁은 x가 한 단위 증가할 때의 고정된 변화량이 아니라, β₂와 현재 x값에 따라 달라지는 기울기의 일부입니다.

2차 모형의 기울기는 β₁ + 2β₂x로 표현합니다. 따라서 같은 1년의 차이라도 1년 차와 8년 차의 예상 가격 변화가 다를 수 있습니다.

같은 차종·사양의 가상 중고차 60대를 대상으로 차량 연식(0~10년)과 판매가격(백만 원)을 기록했다고 가정해 보겠습니다. 예제 데이터는 다항회귀를 설명하기 위해 생성한 자료이며 실제 시장 가격이 아닙니다.

직선 회귀는 차량이 한 해 오래될 때 예상 판매가격이 항상 일정한 폭으로 변한다고 가정합니다. 반면 2차 모형은 하락 속도가 연식에 따라 완만해지는 관계를 허용합니다.

이 예제에서 파란 곡선이 초반에 가파르고 후반으로 갈수록 완만한 것은, 가격이 계속 하락하더라도 연식이 오래될수록 하락 폭은 작아질 수 있음을 나타냅니다. 그래프의 끝에서 곡선이 상승하기 시작하는 경우에는 그것이 실제 시장의 가격 상승을 뜻하는지 신중히 검토해야 합니다.

차수가 높을수록 훈련 자료에 대한 적합도는 좋아질 수 있지만, 새로운 자료에서도 더 정확하다는 뜻은 아닙니다. 연구 목적에 필요한 가장 단순한 모형부터 비교하는 편이 좋습니다.

실제 계산한 가상 자료에서는 연식² 항의 p값이 5.057e-14로 나타났습니다. 이 결과는 해당 모형과 가정 아래 제곱항의 기여를 평가한 것이며, 인과효과를 증명하지는 않습니다.

같은 자료를 사용했다면 2차항 추가에 따른 중첩모형 F검정이나 회귀계수 검정을 활용할 수 있습니다. 예측이 목적이라면 교차검증 오차를 함께 확인해야 하며, R²가 약간 높아졌다는 이유만으로 곧바로 2차 모형을 선택하지 않습니다.

특히 다항회귀(Polynomial Regression)는 종속변수가 여러 범주인 다항 로지스틱 회귀(Multinomial Logistic Regression)와 이름만 비슷할 뿐 서로 다른 분석입니다.

일반적인 최소제곱 추정에서는 관측값의 독립성, 조건부 평균 함수 형태, 잔차 분산의 일정성, 영향력이 큰 관측값 등을 확인합니다. 계수 검정과 신뢰구간 등 작은 표본에서의 통상적인 추론에는 오차 정규성도 중요할 수 있습니다.

x와 x² 사이에는 상관이 커질 수 있으므로, 연식에서 평균을 뺀 뒤 제곱항을 구성하면 계수 해석과 수치 안정성에 도움이 됩니다. 단, 중심화한다고 모형의 예측값 자체가 개선되는 것은 아닙니다.

다항식은 관측한 연식 범위 안에서는 매끄럽게 맞더라도, 관측 범위를 벗어나면 예측이 급격히 상승하거나 하락할 수 있습니다. 특히 10년 차까지의 자료로 20년 차 가격을 예측하는 일은 위험합니다.

이상치·영향점, 잔차 그래프, 교차검증 오차, 데이터 수와 차수의 균형을 함께 확인해야 합니다. 복잡한 모형이 필요하다면 스플라인 등 다른 접근과 비교하는 것도 방법입니다.

보고 예시(가상 자료): 차량 연식과 중고차 판매가격 간의 비선형 관계를 평가하기 위해 연식과 연식 제곱항을 포함하는 2차 다항회귀분석을 실시하였다. 분석 결과 전체 모형은 통계적으로 유의하였으며, F(2, 57) = 497.25, p < .001, R² = 0.946. 연식 제곱항은 가격과의 곡선 관계를 나타냈다 (b = 0.220, p < .001).

논문이나 보고서에는 필요에 따라 회귀계수의 표준오차·신뢰구간, 비교한 모형, 잔차 진단 결과와 예측 범위를 추가합니다. 결과를 요약할 때는 곡선 모형이 연식과 가격 사이의 관찰된 관계를 설명한다는 범위에서 표현해야 합니다.

가격과 연식, 연령과 수행능력, 광고비와 매출, 운동 시간과 피로도처럼 변화 속도가 일정하지 않을 가능성이 있는 관계를 탐색할 때 활용할 수 있습니다.

다만 다항회귀가 항상 가장 좋은 답은 아닙니다. 분석 전 연구 질문을 분명히 하고, 시각화와 잔차 진단을 통해 곡선의 필요성을 판단하는 것이 중요합니다.

이번 예제에서는 같은 중고차 자료에서 직선 모형과 2차 곡선 모형을 비교했습니다. 제곱항이 포함되면 연식에 따라 예상 가격의 하락 속도가 달라지는 관계를 표현할 수 있습니다.

하지만 곡선이 자료에 더 잘 맞는다고 해서 그 관계가 인과적이거나 관측 범위 밖에서도 유지된다는 뜻은 아닙니다. 해석할 때에는 모형 비교, 잔차, 예측 범위를 함께 확인해야 합니다.