다변량통계학의 이해

다변량통계학(Multivariate Statistics)은 여러 변수를 동시에 분석해 변수들 사이의 관계와 데이터의 전체적인 구조를 파악하는 통계학 분야입니다. 예를 들어 고객 만족도를 분석한다고 해 보겠습니다. 만족도에 영향을 줄 수 있는 요인에는 가격, 품질, 브랜드 이미지, 고객 서비스 등이 있습니다. 이 변수들을 하나씩 따로 분석할 수도 있지만, 실제 고객의 평가에서는 여러 요인이 동시에 작용합니다. 다변량통계학은 이러한 변수들을 함께 고려해 더 복잡한 관계를 분석합니다.

그림 1처럼 다변량 분석은 여러 변수가 담긴 고객 데이터에서 출발해, 변수들이 서로 어떻게 연결되는지(관계)와 여러 변수를 몇 개의 핵심 요인으로 요약할 수 있는지(구조)를 살펴보고, 연구 목적에 맞게 변수 간 관계, 고객 유형, 핵심 차원 같은 결과를 얻습니다. 다변량통계학은 단순히 변수를 많이 쓰는 분석이 아닙니다. 여러 변수를 어떤 방식으로 함께 분석하느냐가 중요합니다.

분석에 쓰는 변수의 수와 연구 질문에 따라 분석을 구분할 수 있습니다.

고객 만족도로 보면, 단변량 분석은 만족도 점수의 평균과 분포를, 이변량 분석은 만족도와 재구매 의향의 상관을, 다변량 분석은 만족도·품질·가격·브랜드 이미지 등 여러 변수의 관계나 구조를 한꺼번에 봅니다.

주의할 점은 독립변수가 여러 개라고 해서 모두 엄밀한 의미의 다변량 분석은 아니라는 것입니다. 여러 독립변수로 하나의 종속변수를 설명하는 분석은 보통 다중회귀분석(Multiple Regression)이라고 부르며(회귀분석 04장), 여러 종속변수를 동시에 분석하는 다변량 분석(예: 분산분석 09장의 MANOVA)과는 구분합니다.

현실의 데이터에서 변수들은 서로 독립적으로 움직이지 않는 경우가 많습니다. 여러 변수를 하나씩만 분석하면 이런 관계를 놓칠 수 있습니다.

① 변수 사이의 관계를 파악하기 위해. 제품 품질과 고객 만족도 사이에 양의 상관이 있다고 해 보겠습니다. 그런데 품질은 브랜드 이미지와도 관련이 있고, 브랜드 이미지 역시 만족도와 관련이 있을 수 있습니다.

그림 3은 고객 200명의 모의 데이터입니다. 품질과 만족도만 따로 보면 상관이 0.64이지만, 브랜드 이미지를 함께 고려하면(브랜드의 영향을 뺀 편상관) 0.39로 줄어듭니다. 품질과 만족도의 관계 일부는 둘 다 브랜드와 얽혀 있어서 생긴 것입니다. 이처럼 다른 변수와의 관계를 함께 보면 데이터의 구조를 더 정확히 이해할 수 있습니다.

② 여러 변수에 담긴 정보를 요약하기 위해. 설문에서 브랜드 이미지에 관한 질문을 15개 모았다면, 질문마다 결과를 따로 보는 것만으로는 브랜드 이미지가 어떤 구조로 이루어져 있는지 알기 어렵습니다.

주성분분석(PCA)이나 탐색적 요인분석(EFA)을 쓰면 그림 4처럼 여러 변수의 정보를 더 적은 수의 차원이나 잠재요인으로 요약할 수 있습니다. 다만 두 방법은 목적과 가정이 달라 같은 방법이 아닙니다(이 파트의 PCA · EFA 장).

③ 집단을 구분하거나 패턴을 찾기 위해. 고객의 구매 빈도, 평균 지출액, 제품 선호도, 만족도를 함께 분석하면 고객들이 어떤 유형으로 나뉘는지 볼 수 있습니다.

그림 5는 구매 빈도와 지출액 두 변수만으로도 세 유형이 보이는 예입니다. 실제로는 더 많은 변수를 함께 써서 유형을 나누고(「군집분석 가이드」), 이미 알려진 집단을 여러 측정값으로 구분하거나(판별분석), 데이터의 패턴을 시각화하기도 합니다. 이처럼 다변량통계학은 관계 분석뿐 아니라 차원 축소, 분류, 시각화 등 다양한 분석의 기반이 됩니다.

다변량 분석의 출발점은 여러 변수로 이루어진 데이터입니다. 보통 행은 관측 대상, 열은 변수입니다.

이 자료에는 고객 5명과 변수 4개가 있습니다. 수학적으로는 이를 n × p 데이터 행렬로 나타냅니다.

예를 들어 x₃₂는 세 번째 고객(C)의 두 번째 변수(품질 평가) 값인 4입니다. 실제 분석에서는 표본 크기뿐 아니라 변수의 종류도 중요합니다. 연속형, 순서형, 범주형 변수에 따라 적절한 거리 계산, 상관 구조, 분석 방법이 달라집니다.

이번 파트에서는 다변량 자료를 이해하는 기초부터 대표적인 분석 기법과 진단 방법까지 차례로 살펴봅니다. 방법이 많으므로, 먼저 무엇을 하려는지(목적)로 묶어 두면 길을 찾기 쉽습니다.

이 방법들은 모두 여러 변수를 다루지만 해결하려는 문제가 서로 다릅니다. 따라서 분석 목적을 먼저 정하고, 그 목적에 맞는 방법을 골라야 합니다.

다변량 분석은 여러 변수의 관계를 함께 다루므로 데이터의 품질과 구조를 먼저 확인해야 합니다.

특히 변수 수가 많다고 무조건 더 좋은 결과가 나오는 것은 아닙니다. 중복된 정보가 많은 변수, 측정 오류가 있는 변수, 연구 목적과 관련 없는 변수가 들어가면 해석이 오히려 어려워집니다. 추정해야 할 값도 빠르게 늘어납니다.

그림 8처럼 변수 사이의 분산과 공분산만 해도 변수가 4개면 10개, 30개면 465개를 추정해야 합니다. 변수를 늘릴수록 그만큼 많은 표본이 필요한 이유입니다(02장).

• 다변량통계학은 여러 변수의 관계와 전체적인 구조를 함께 분석하는 분야입니다.
• 단변량은 변수 하나, 이변량은 두 변수 사이의 관계, 다변량은 여러 변수를 함께 고려하는 분석입니다.
• 공분산 구조, 차원 축소, 집단 분류, 데이터 시각화 등 다양한 문제에 활용됩니다.
• 분석 방법을 고르기 전에 데이터의 구조, 변수의 측정 수준, 분석 목적과 가정을 확인해야 합니다.

다음은 02 다변량 자료와 공분산행렬입니다. 여러 변수가 각각 얼마나 변하는지, 두 변수가 함께 변하는 정도를 어떻게 나타내는지, 그리고 분산과 공분산을 행렬로 정리하면 왜 다변량 분석의 출발점이 되는지 알아봅니다.