관계 분석

비교 검정은 예/아니오 질문에 답합니다: 이 집단들이 다른가? 관계 분석은 얼마나 질문에 답합니다: 한 변수가 변할 때 다른 것이 어떻게 반응하는가, 그리고 그것을 측정하는 동안 나머지를 일정하게 유지할 수 있는가? 그것이 회귀 — 응용 통계의 일꾼입니다.

회귀 family는 하나의 직선부터 예/아니오 결과·개수·수십 개의 상관된 예측변수를 한 번에 다루는 모델까지 이릅니다. 이들은 한 아이디어를 공유합니다: 입력으로 결과를 예측하는 공식을 적합한 뒤, 계수를 읽어 각 입력이 어떻게 중요한지 배우는 것.

회귀 읽기

아무리 화려한 회귀도 같은 방식으로 읽습니다. 위 직선은 가장 단순한 경우 — 예측변수 하나, 결과 하나 — 이지만 출력은 일반화됩니다.

회귀분석 가이드가 이 각각과 네 가정, 그리고 조용히 오도하는 실수를 다룹니다.

family: 결과 유형마다 한 모델

로지스틱 회귀는 같은 아이디어를 숫자 대신 확률에 겨눈 것 — 이탈·전환·위험 모델의 척추입니다. GLM은 전혀 정규가 아닌 결과로 회귀를 확장합니다.

예측변수가 늘어날 때: 정규화

상관된 예측변수가 많으면 보통의 회귀는 불안정해집니다 — 계수가 크게 흔들리고 모델이 과적합합니다. 정규화는 계수를 0으로 축소하는 벌점을 더해, 약간의 편향을 안정성의 큰 이득과 맞바꿉니다.

정직하게 유지하는 가정

• 선형성 — 관계가 대략 직선(또는 그렇게 변환됨)
• 일정한 퍼짐의 독립적·대략 정규인 잔차
• 극단적 다중공선성 없음 — 예측변수가 서로 근사 중복 아님
• 전체 직선을 기울일 수 있는 영향력 큰 이상치 주의

관계이지 인과의 증명은 아니다

SKARI Statistical Lab의 관계 분석

SKARI의 Statistical Lab은 관계를 독립된 family로 다루며, 전체 회귀 도구와 모델을 신뢰할 수 있게 하는 진단을 갖췄습니다.

• 계수·R²·잔차 진단이 있는 단순·다중 선형 회귀
• 예/아니오 결과를 위한 로지스틱 회귀와 일반화 선형 모델
• 상관된 예측변수를 위한 Ridge, Lasso, Elastic Net
• 이상치가 적합을 지배할 때의 강건 회귀
• 쉬운 말로 읽는 가정·다중공선성 점검

자주 묻는 질문

선형과 로지스틱 회귀 중?

연속 결과(매출, 시간)엔 선형, 예/아니오 결과(이탈, 전환)엔 로지스틱. 결과 유형이 모델을 고릅니다.

Ridge와 Lasso 중?

Ridge는 모든 예측변수를 유지하며 축소하고, Lasso는 일부를 0으로 만들어 더 단순한 모델을 냅니다. Elastic Net은 둘을 섞습니다.

높은 R²이 좋은 모델을 뜻하나요?

홀로는 아닙니다 — 잔차와 가정을 확인하세요. 잘못 설정된 모델의 높은 R²도 여전히 오도합니다.

핵심 요약

관계 분석은 '이것들이 함께 움직인다'를 입력마다 계수가 있는 통제 가능한 모델로 바꿉니다. 모델을 결과에 맞추고, 예측변수가 늘면 정규화하고, 적합을 믿기 전에 잔차를 읽으세요.