같은 역할을 하는 설비가 3대 있다. 세 대의 평균 측정값이 서로 같은지 확인하고 싶다. 그런데 이때 쓰는 검정의 이름이 이상하다. 평균을 비교한다면서 이름은 분산분석(ANOVA, Analysis of Variance)이다. 흩어짐을 분석해서 평균을 비교한다니, 처음 들으면 앞뒤가 안 맞아 보인다.
결론부터 말하면 이 이름이 곧 원리다. 집단 사이의 흩어짐이 집단 안의 흩어짐보다 유난히 크면, 평균들이 서로 다르다고 판단한다 — 이것이 분산분석의 전부다. 이 글에서는 왜 평균을 둘씩 짝지어 비교하면 안 되는지, F값이 어떻게 만들어지는지, 그리고 검정 전에 확인해야 할 전제까지 3가지 원리로 정리한다.
왜 t검정을 여러 번 쓰면 안 되나
가설검정 절차 분류도에서 분산분석의 자리는 “집단이 3개 이상”이다. 집단이 2개까지면 t검정이나 z검정으로 충분한데, 3개부터는 왜 다른 도구가 필요할까.
설비 A·B·C를 A-B, B-C, A-C로 세 번 t검정하면 될 것 같지만, 여기엔 함정이 있다. 검정 하나하나는 “우연히 잘못 판정할 확률”을 5%로 관리하지만, 검정을 여러 번 반복하면 그중 하나라도 우연히 걸릴 확률이 점점 커진다. 뽑기를 한 번 하면 꽝일 확률이 높아도, 여러 번 하다 보면 언젠가 당첨이 나오는 것과 같은 이치다. 집단이 늘수록 비교 쌍은 빠르게 늘어나므로(4개면 6번, 5개면 10번), 전체를 한 번에 보는 검정이 필요하다. 그것이 분산분석이다.
F값 — 집단 사이 흩어짐 ÷ 집단 안 흩어짐
분산분석의 검정통계량 F는 나눗셈 하나다.
F = 집단 사이의 흩어짐 ÷ 집단 안의 흩어짐
말로 풀면 이렇다. 분자는 “세 설비의 평균들이 서로 얼마나 떨어져 있나”. 분모는 “각 설비 안에서 값들이 원래 얼마나 출렁이나”. 그러니까 F값은 “평균들의 간격이, 원래 있는 출렁임에 비해 유난한 수준인가”를 재는 비율이다.
- 평균들이 서로 딱 붙어 있으면 → 분자가 작아 F가 1 근처 → “평균이 같다”는 귀무가설 유지
- 평균들이 원래 출렁임으로는 설명이 안 될 만큼 벌어져 있으면 → F가 커짐 → “적어도 하나는 다르다”
키로 비유하면, 반마다 학생들 키가 원래 들쭉날쭉한데(집단 안 흩어짐), 세 반의 평균 키 차이(집단 사이 흩어짐)가 그 들쭉날쭉함을 훨씬 넘어설 때만 “반별로 진짜 차이가 있다”고 말하는 것이다.
F값이 따르는 분포가 F분포이고, F분포는 자유도를 두 개 가진다. 분자용(집단 수 − 1)과 분모용(전체 표본 수 − 집단 수). 집단 3개에 표본이 각 10개면 자유도는 (2, 27)이다. 왜 두 개냐면, 분자와 분모가 각각 별도의 분산 계산이기 때문이다 — 분산 계산마다 자유도가 하나씩 붙는다.
분산분석 4단계 — 예시로 밟아보기
아래 수치는 개념 설명을 위한 임의의 수치입니다.
같은 역할의 설비 A·B·C에서 각각 10개씩 측정값을 뽑았다. 평균이 99, 100, 103으로 나왔다. 세 대가 같은 성능인지 확인하자.
| 단계 | 내용 | 이 예시에서 |
|---|---|---|
| 1 | 가설 세우기 | 귀무가설 “세 평균은 모두 같다” vs 대립가설 “적어도 하나는 다르다” |
| 2 | 기준선 정하기 | 유의수준 0.05 |
| 3 | 통계량 계산 | F = 집단 사이 흩어짐 ÷ 집단 안 흩어짐 = 4.2 (자유도 2, 27) |
| 4 | p값 판정 | F분포에서 p ≈ 0.026 < 0.05 → 귀무가설 기각 |
결론은 “적어도 한 설비의 평균은 다르다”이다. 여기서 주의할 점 하나. 분산분석은 “다르다”까지만 알려주고, 어느 설비가 다른지는 알려주지 않는다. 어느 것이 범인인지 짚으려면 사후분석이라는 추가 단계를 밟는다. 실무에서는 소프트웨어가 F값·p값·사후분석까지 한 번에 계산해주므로, 사람의 몫은 이 표의 1단계와 4단계 — 가설을 제대로 세우고 결과를 제대로 읽는 것이다.
소프트웨어가 뱉어주는 분산분석 결과표(ANOVA table)도 이제 읽을 수 있다. 생김새는 대체로 이렇다.
| 요인 | 제곱합 | 자유도 | 평균제곱 | F | p값 |
|---|---|---|---|---|---|
| 집단 간 | 흩어짐 총량(사이) | 2 | 총량 ÷ 자유도 | 4.2 | 0.026 |
| 집단 내 | 흩어짐 총량(안) | 27 | 총량 ÷ 자유도 |
용어가 낯설지만 뜻은 이미 아는 것들이다. 제곱합은 흩어짐의 총량, 평균제곱은 그걸 자유도로 나눈 “1자유도당 흩어짐”, F는 두 평균제곱의 비율이다. 표에서 결국 볼 곳은 F와 p값 두 칸이고, 나머지는 그 두 값이 만들어지는 과정이다.
계산 전에 습관 하나를 추천한다. 박스플롯을 먼저 그려라. 집단별 상자 그림을 나란히 놓으면 평균 차이와 흩어짐이 한눈에 보이고, 분산분석 결과가 나왔을 때 “그래프로 본 감과 맞는지” 교차 확인이 된다. 숫자와 그림이 다른 말을 하면 데이터에 뭔가 있다는 신호다.
검정 전에 확인할 전제 — 등분산
분산분석에는 깔려 있는 가정이 있다. 모든 집단의 흩어짐(분산)이 서로 같다는 등분산 가정이다. F값의 분모인 “집단 안 흩어짐”은 세 집단의 흩어짐을 하나로 합쳐 계산하는데, 애초에 집단마다 흩어짐이 제각각이면 이 합산 자체가 성립하지 않기 때문이다.
그래서 순서가 생긴다. 분산분석에 들어가기 전에 등분산 검정(Bartlett)으로 전제부터 확인한다. 전제가 깨지면 분산분석 결과는 믿을 수 없다. 또한 각 집단이 종 모양(정규분포)이라는 전제도 있는데, 이게 깨지고 표본도 적다면 순위 기반의 비모수 대응인 Kruskal-Wallis 검정으로 갈아탄다 — 분류도에서 분산분석 바로 아래 칸이다.
핵심 요약
- 분산분석(ANOVA)은 세 집단 이상의 평균을 한 번에 비교하는 검정이다
- t검정 반복은 우연히 걸릴 확률이 누적되므로 쓰지 않는다
- F = 집단 사이 흩어짐 ÷ 집단 안 흩어짐 — 평균 간격이 원래 출렁임보다 유난한지 본다
- 결과는 “적어도 하나 다르다”까지 — 범인 지목은 사후분석의 몫이다
- 들어가기 전에 등분산(Bartlett)과 정규성을 확인하고, 박스플롯을 먼저 그려라
함께 읽으면 좋은 글
분산분석까지 왔다면, 검정들의 전체 지형을 한 번 정리해두는 것도 좋다.
