혼합설계 분산분석 (Mixed-Design ANOVA)

혼합설계 분산분석은 서로 다른 집단 간 차이와 동일한 대상의 반복측정에 따른 변화를 동시에 분석하는 방법입니다. 예를 들어, 운동 프로그램의 효과를 확인하기 위해 운동 프로그램 참여 집단과 대조 집단을 나누고, 두 집단의 체력 점수를 프로그램 시작 전과 종료 후에 측정했다고 가정해 보겠습니다. 이때 집단 간 차이뿐 아니라 시간에 따른 변화, 그리고 두 집단의 변화 양상이 서로 다른지도 분석할 수 있습니다.

혼합설계 분산분석은 서로 다른 두 종류의 요인을 함께 다룰 때 사용합니다. 예를 들어 다음과 같은 연구를 생각할 수 있습니다.

• 집단: 운동 프로그램 참여 집단, 대조 집단
• 측정 시점: 프로그램 시작 전, 프로그램 종료 후
• 종속변수: 체력 점수

이 연구에서는 세 가지 질문을 확인할 수 있습니다.

세 번째 질문은 운동 프로그램의 효과를 평가할 때 특히 중요합니다.

왜 두 가지를 함께 봐야 할까요? 종료 후 점수만 비교하면 두 집단이 처음부터 달랐을 가능성을 놓칩니다. 반대로 운동 집단의 전후만 비교하면, 그 사이 계절이 바뀌거나 측정에 익숙해지는 등 누구에게나 생겼을 변화와 프로그램의 효과를 구분할 수 없습니다. 대조 집단의 변화를 기준으로 삼아야 운동 집단의 변화 가운데 프로그램 덕분인 부분을 가늠할 수 있습니다.

혼합설계 분산분석에는 두 종류의 요인이 있습니다.

• 집단 간 요인 (Between-Subjects Factor): 서로 다른 참가자들이 서로 다른 집단에 속합니다. 예: 운동 프로그램 참여 집단과 대조 집단
• 집단 내 요인 (Within-Subjects Factor): 동일한 참가자에게 여러 시점이나 조건에서 반복 측정합니다. 예: 프로그램 시작 전과 종료 후

두 종류의 요인을 함께 분석하기 때문에 ‘혼합설계’라고 부릅니다. 여기서 혼합은 서로 다른 종류의 요인 구조를 결합한다는 뜻이지, 양적·질적 데이터를 함께 분석한다는 의미는 아닙니다.

그림 2에서 선으로 이어진 점은 같은 사람이고, 왼쪽과 오른쪽 상자는 서로 다른 사람입니다. 이 구조 때문에 효과마다 비교하는 기준이 다릅니다. 집단의 주효과는 서로 다른 사람끼리 비교하므로 사람 사이의 개인차를 기준으로 판단하고, 시간의 주효과와 상호작용은 같은 사람의 변화를 비교하므로 6장 반복측정처럼 개인차가 걸러진 기준으로 판단합니다.

다음은 운동 프로그램 참여 집단과 대조 집단의 체력 점수를 비교한 가상 데이터입니다. 점수가 높을수록 체력이 좋다고 가정합니다.

운동 프로그램 참여 집단은 18점 상승했고 대조 집단은 3점 상승했습니다. 두 집단의 변화량 차이는 15점입니다.

이처럼 두 집단의 변화 양상이 다르다면 집단과 시간의 상호작용이 존재할 가능성이 있습니다. 다만 이 평균만으로 통계적 유의성을 판단할 수는 없습니다. 실제 검정에는 개인별 측정값, 표본 수와 변동 정보가 필요합니다.

시작 전 평균이 60점과 61점으로 거의 같다는 점도 눈여겨볼 만합니다. 두 집단의 출발점이 비슷하면 이후의 차이를 프로그램과 연결해 해석하기가 더 수월합니다. 대조 집단도 3점 올랐다는 것은 프로그램이 없어도 시간이 지나면서 생기는 변화가 어느 정도 있었다는 뜻입니다.

혼합설계 분산분석에서는 일반적으로 다음 세 가지 효과를 검정합니다.

1. 집단의 주효과: 두 집단의 체력 점수가 측정 시점을 평균했을 때 전반적으로 다른지 확인합니다.
2. 시간의 주효과: 두 집단을 평균했을 때 시작 전과 종료 후의 체력 점수가 달라지는지 확인합니다.
3. 집단 × 시간 상호작용: 시간에 따른 체력 점수의 변화가 운동 프로그램 참여 여부에 따라 달라지는지 확인합니다.

그림 4의 막대는 다른 요인을 평균한 값입니다. 각 집단의 인원이 같다고 하면 운동 집단은 (60 + 78) ÷ 2 = 69점, 대조 집단은 62.5점이고, 시작 전은 60.5점, 종료 후는 71점입니다. 이원분산분석에서 본 주변평균과 같은 개념입니다.

운동 프로그램의 효과를 평가하려는 경우에는 세 번째인 집단과 시간의 상호작용이 핵심 관심 대상인 경우가 많습니다.

집단의 주효과가 유의하더라도 그것만으로 운동 프로그램이 효과적이었다고 결론 내릴 수는 없습니다. 두 집단의 차이가 프로그램 전부터 존재했을 수도 있기 때문입니다. 시간의 주효과도 마찬가지입니다. 이 예에서 종료 후가 10.5점 높지만, 이 값에는 대조 집단의 자연스러운 변화와 운동 집단의 큰 변화가 섞여 있어 프로그램의 효과를 따로 보여주지 못합니다.

위의 예시에서 운동 프로그램 참여 집단은 18점, 대조 집단은 3점 상승했습니다. 변화량의 차이는 다음과 같습니다.

이는 운동 프로그램 참여 집단의 점수 변화가 대조 집단보다 15점 더 컸다는 뜻입니다.

혼합설계 분산분석에서 집단 × 시간 상호작용이 유의하다면, 두 집단의 시간에 따른 변화가 같다는 가설을 기각할 근거가 있습니다.

이 예처럼 집단이 둘이고 시점이 둘인 가장 단순한 경우에는, 상호작용 검정이 각 참가자의 변화량(종료 후 − 시작 전)을 두 집단 사이에서 비교하는 독립표본 t검정과 같은 결론을 냅니다. “변화량의 차이”라는 해석이 그대로 검정이 되는 셈입니다. 시점이나 집단이 더 많아지면 혼합설계 분산분석이 이를 한 번에 다룹니다.

다만 상호작용이 유의하다는 사실만으로 프로그램이 변화를 일으켰다고 확정할 수는 없습니다. 무작위 배정 여부, 집단별 기초 특성, 탈락률과 연구 설계를 함께 검토해야 합니다.

상호작용 결과는 다음과 같은 형식으로 보고할 수 있습니다(○○에는 실제 분석 값을 넣습니다).

혼합설계 분산분석에서는 다음 사항을 확인해야 합니다.

• 독립성: 서로 다른 참가자 간 관측값은 독립적이어야 합니다.
• 정규성: 각 조건에서 모형 오차가 대체로 정규성을 만족해야 합니다.
• 등분산성: 집단 간 오차 분산이 비슷해야 합니다.
• 구형성: 반복측정 요인이 세 수준 이상이면 시점 간 차이의 분산에 관한 가정을 확인해야 합니다.

반복측정 요인이 시작 전과 종료 후, 두 수준뿐이라면 구형성 가정은 자동으로 충족됩니다. 세 시점 이상인 경우에는 구형성 검정과 필요에 따른 자유도 보정을 고려합니다. 구형성과 보정 방법은 6장 반복측정 분산분석에서 자세히 다뤘습니다.

혼합설계에서는 여기에 더해 집단마다 시점 간 점수가 함께 움직이는 정도가 비슷한지도 살펴봅니다. 예를 들어 운동 집단에서는 시작 전 점수가 높은 사람이 종료 후에도 높은데 대조 집단에서는 그렇지 않다면 이 조건이 흔들립니다. 흔히 Box의 M 검정으로 확인하며, 집단 크기가 비슷하면 결과가 크게 왜곡되지 않는 편입니다. 공통 가정의 점검 방법은 11장 분산분석의 가정과 대안에서 다룹니다.

결측치가 많거나 참가자마다 측정 시점이 다른 경우에는 선형혼합모형이 더 적합할 수 있습니다.

특히 프로그램 전후 연구에서는 혼합설계 분산분석과 ANCOVA가 모두 고려될 수 있지만, 동일한 분석은 아닙니다. ANCOVA는 종료 시점의 결과를 비교하면서 기초 점수 등의 공변량을 통제하는 접근이며, 혼합설계 분산분석은 시간에 따른 변화와 집단 차이를 함께 분석합니다.

무작위로 배정한 두 집단의 전후를 비교하는 연구라면 두 방법 모두 쓸 수 있으며, 종료 시점만 비교하는 ANCOVA가 오차를 더 줄여 검정력이 높은 경우가 많습니다. 반면 시점이 셋 이상이라 변화의 모양(꾸준히 오르는지, 중간에 멈추는지)이 궁금하다면 혼합설계 분산분석이나 선형혼합모형이 더 알맞습니다. ANCOVA는 5장 공분산분석에서 다뤘습니다.

• 두 종류의 요인: 집단 간 요인(서로 다른 사람)과 집단 내 요인(같은 사람의 반복 측정)을 함께 다룹니다.
• 검정하는 효과: 집단 주효과, 시간 주효과, 집단 × 시간 상호작용을 검정합니다.
• 프로그램 효과: 대조 집단보다 얼마나 더 변했는지, 곧 상호작용으로 판단합니다.
• 가정: 구형성과 함께 집단별 공분산 구조가 비슷한지 확인합니다.
• 설계 검토: 인과적 해석에는 무작위 배정과 탈락 여부 점검이 필요합니다.

혼합설계 분산분석은 집단 간 차이, 시간에 따른 변화, 그리고 집단별 변화 양상의 차이를 함께 검정하는 방법입니다.

프로그램 효과 연구, 교육 전후 평가, 임상시험 등에서 활용할 수 있으며, 특히 집단 × 시간 상호작용을 통해 두 집단의 변화가 서로 다른지 확인할 수 있습니다.

다음 학습 주제는 요인설계와 실험계획법(DOE)입니다. 무작위 배정, 반복, 블록화처럼 믿을 수 있는 비교를 위해 실험을 어떻게 설계하는지 살펴봅니다.