두 변수가 함께 움직이는 방향과 강도를 수치로 요약하기
공부 시간이 긴 학생일수록 점수가 높다면, 두 변수는 얼마나 일정하게 함께 움직이는 걸까요?
공분산은 두 변수가 평균에서 같은 방향으로 벗어나는지 살피고, 상관계수는 그 움직임을 단위 없이 −1부터 1 사이로 표준화합니다.
둘 다 관계를 요약하지만 인과관계를 증명하지는 않습니다.
핵심 질문
두 변수가 함께 움직이는 방향은 무엇이며, 그 관계는 얼마나 일관된가?
평균에서 함께 위·아래로 움직이는 점은 양의 곱을 만듭니다.
편차의 곱을 평균내 방향과 단위가 있는 공동 변동을 구합니다.
공분산을 두 표준편차로 나눠 −1에서 1 사이로 표준화합니다.
각 관측에서 X와 Y가 각자의 평균보다 얼마나 떨어졌는지 계산한 뒤 두 편차를 곱합니다. 둘 다 평균 위이거나 둘 다 평균 아래이면 양수, 서로 반대편이면 음수입니다.
자료 X=(1,2,3), Y=(2,3,7)의 평균은 2와 4입니다. 편차곱은 (−1)(−2)=2, 0(−1)=0, 1×3=3이므로 합이 5입니다. 양의 항이 지배해 두 변수가 같은 방향으로 움직였음을 알 수 있습니다.
편차곱이 큰 관측은 공분산에 큰 영향을 줍니다. 따라서 부호만 읽지 말고 어떤 점이 결과를 만들었는지 산점도로 확인해야 합니다.
공분산의 단위는 X단위×Y단위입니다. 공부시간이 시간, 점수가 점이면 공분산은 시간·점이어서 절댓값만으로 관계의 강도를 판단하기 어렵습니다.
키를 cm에서 m로 바꾸면 공분산은 1/100로 줄지만 실제 관계는 변하지 않습니다. 공분산은 방향과 행렬 계산에 중요하고, 서로 다른 변수쌍의 강도 비교에는 표준화된 상관계수가 적합합니다.
공분산을 두 변수의 표준편차로 나누면 단위가 사라집니다. 모든 점이 상승 직선 위에 있으면 1, 하강 직선 위에 있으면 −1입니다. 기울기가 가파르다고 상관이 더 큰 것은 아닙니다.
r=.7은 “X가 1 증가할 때 Y가 .7 증가한다”는 뜻이 아닙니다. 이는 표준편차 단위의 선형 결합 정도이며, 회귀기울기는 별도로 계산해야 합니다.
X=(1,2,3), Y=(2,3,7)에서 표본 SD는 각각 1과 약 2.65이고 공분산은 2.5이므로 r≈2.5/(1×2.65)=.945입니다. 완벽한 직선은 아니지만 강한 양의 선형관계입니다.
Y의 모든 값에 10을 더하거나 양의 수를 곱하면 중심과 단위만 바뀌어 r은 그대로입니다. 음수를 곱하면 방향이 뒤집혀 부호만 반대가 됩니다.
| 관측 | x−x̄ | y−ȳ | 편차곱 |
|---|---|---|---|
| 1 | −1 | −2 | 2 |
| 2 | 0 | −1 | 0 |
| 3 | 1 | 3 | 3 |
| 합 | 0 | 0 | 5 |
|r|=.10, .30, .50을 작음·중간·큼으로 부르는 관례가 있지만 분야와 측정 신뢰도에 따라 의미가 달라집니다. 의학의 작은 관계가 중요할 수 있고, 반복측정에서는 높은 상관이 흔할 수 있습니다.
같은 r=.30도 n=20이면 불확실성이 크고 n=2,000이면 정밀합니다. 효과의 크기와 통계적 유의성은 다른 질문이므로 r, 95% 신뢰구간, n을 함께 보고합니다.
단순 선형회귀에서는 r²이 X 하나가 설명하는 Y 분산 비율과 일치합니다. 그러나 r=.60을 “60% 설명”이라고 읽으면 안 되며 r²=.36, 즉 36%입니다.
피어슨 r은 직선 관계를 측정합니다. X가 0에서 멀어질수록 Y가 커지는 U자 관계는 매우 강해도 양·음 방향이 상쇄되어 r≈0일 수 있습니다.
산점도를 먼저 확인하고 곡선 관계라면 적절한 변환이나 비선형 모형을 사용합니다.
한 개의 극단점이 상관을 새로 만들거나 기존 관계를 지울 수 있습니다. 반대로 우수 학생만 조사하는 것처럼 X의 범위를 좁히면 실제 관계보다 r이 작아질 수 있습니다.
전체 자료와 이상치 점검 후 결과를 비교하되 근거 없이 관측값을 삭제하지 않습니다.
각 집단 안에서는 관계가 약하거나 반대인데 집단을 합치면 강한 상관이 나타날 수 있습니다. 학과별 입학점수와 성적처럼 집단 평균 차이가 전체 관계를 만들기 때문입니다.
색상이나 패널로 집단을 나누고 부분상관·회귀로 제3변수를 통제합니다.
상관이 있어도 X가 Y를 만들었는지, Y가 X를 만들었는지, 제3변수 Z가 둘을 만들었는지 구분할 수 없습니다. 아이스크림 판매와 익사 사고의 상관은 기온이라는 공통원인으로 설명될 수 있습니다.
인과 주장은 시간 순서, 연구설계, 교란 통제와 이론적 근거가 필요합니다.
Y가 공통 신호와 독립 잡음의 합일 때 신호 대 잡음 비율이 상관을 어떻게 바꾸는지 확인하세요.
상관·공분산 인터랙티브 랩
관계·잡음·영향점을 바꾸며 회귀선, 잔차와 설명력이 동시에 어떻게 변하는지 확인하세요.
조작할 때 그래프의 위치·모양·오류 구조를 먼저 보세요.
계산 결과
이론적 상관 약 0.92
Y=70·X+독립 잡음이라는 표준화된 상황의 값입니다. 잡음이 0이면 r=1이고, 신호가 0이면 r=0입니다.
한 조절값만 먼저 움직인 뒤 그래프의 어떤 부분이 변하고 무엇은 그대로인지 설명해보세요.
| 주제 | 핵심 내용 |
|---|---|
| 순위상관 | 비선형이지만 단조적인 관계나 서열자료에는 Spearman·Kendall 상관을 검토합니다. |
| 부분상관 | 제3변수의 선형효과를 제거한 뒤 두 변수의 남은 관계를 측정합니다. |
| 상관행렬 | 변수가 많을 때 쌍별 관계를 한꺼번에 보되 다중검정과 중복정보에 주의합니다. |
| 다음 학습 | 산점도와 상자그림에서 관계·분포·이상치를 실제 모양으로 확인합니다. |