비에 젖은 예선에서는 랩타임 숫자 자체를 믿기 어렵다. 노면이 시시각각 바뀌니까. 그래도 누가 누구보다 앞섰나 하는 순위만큼은 흔들리지 않는다. 데이터도 똑같다. 표본이 겨우 10개 남짓이고 QQ 플롯을 그려봐도 종 모양 근처에 못 가면 값 자체가 미덥지 않다. z검정도 t검정도 막히는 이 막다른 골목에서 꺼내는 도구가 윌콕슨 검정이다.
발상의 전환이 핵심이다. 값을 못 믿겠으면 값을 버리고 순위(등수)만 남긴다. 측정값 자체가 아니라 “누가 몇 등인가”로 비교하면, 분포가 어떤 모양이든 상관없어진다. 이 글에서는 윌콕슨이 만든 두 가지 순위 검정 — 단일 집단용 Signed-Rank(부호순위)와 두 집단용 Rank-Sum(순위합) — 의 원리를 잡고, “중앙값 검정인데 평균 비교로 써도 되나”라는 흔한 질문까지 정리한다.
윌콕슨 검정은 분류도의 어느 자리인가
가설검정 절차 분류도에서 이 검정의 자리는 가장 아래 칸이다.
| 질문 | 윌콕슨 검정의 조건 |
|---|---|
| 데이터가 종 모양(정규분포)인가 | 아니다 |
| 표본이 30개 이상인가 | 아니다 — 30개 이상이면 중심극한정리로 z검정에 복귀 |
| 비교할 집단이 몇 개인가 | 1개면 Signed-Rank, 2개면 Rank-Sum (3개 이상은 Kruskal-Wallis) |
이렇게 분포에 대한 가정 없이 돌아가는 검정을 비모수 검정이라 부른다. t검정이 “데이터가 종 모양”이라는 전제 위에 서 있다면, 윌콕슨 검정은 그 전제 자체를 버린다. 대가는 있다 — 값을 순위로 바꾸면서 정보가 줄어들기 때문에, 같은 데이터라면 모수 검정보다 민감도가 떨어진다. 그래서 쓸 수 있는 상황이면 항상 모수 검정이 먼저고, 비모수는 막다른 골목의 탈출구다.
원리 — 차이가 진짜라면 순위가 한쪽으로 쏠린다
두 검정 모두 논리는 한 문장이다. “차이가 없다면 순위는 골고루 섞여야 한다. 순위가 한쪽으로 쏠려 있으면 차이가 있는 것이다.”
달리기로 생각해보자. 실력이 같은 두 반이 함께 달리면 1등부터 꼴찌까지 두 반 학생이 뒤섞여 들어온다. 그런데 한 반이 상위권을 독차지한다면? 두 반의 실력이 같다는 믿음을 버려야 한다. 윌콕슨 검정이 계산하는 것이 정확히 이 “쏠림의 정도”다.
Signed-Rank(부호순위) — 집단 1개를 기준값과 비교
아래 수치는 개념 설명을 위한 임의의 수치입니다.
부품 수명의 중앙값이 기준 100시간과 같은지 보고 싶다. 표본 10개라면 절차는 이렇다.
- 각 측정값에서 기준 100을 뺀다 (차이가 정확히 0인 값은 제외한다)
- 차이의 부호는 잠시 떼어두고, 절댓값 크기 순으로 1등부터 순위를 매긴다 (같은 값은 순위를 평균 내서 나눠 갖는다)
- 플러스 차이들의 순위합 W⁺와 마이너스 차이들의 순위합 W⁻를 각각 구한다
- 둘 중 작은 쪽을 검정통계량 W로 삼아, 임계값과 비교한다
기준과 정말 같다면 W⁺와 W⁻가 비슷해야 한다. 한쪽이 유난히 작다는 것은 차이들이 한 방향으로 쏠렸다는 뜻이다. 둘 중 하나만 쓰는 이유는 단순하다 — 판정에 쓰는 분포표가 하나이기 때문에, 통계량도 하나로 통일하는 것이다.
숫자로 한 번만 밟아보자. 표본 8개에서 기준 100을 뺀 차이가 −1, +2, −3, +4, +5, +6, +7, +8이었다고 하자. 절대값 크기 순위는 그대로 1~8등이 된다.
| 차이 | −1 | +2 | −3 | +4 | +5 | +6 | +7 | +8 |
|---|---|---|---|---|---|---|---|---|
| 절댓값 순위 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 |
마이너스 쪽 순위합 W⁻ = 1 + 3 = 4, 플러스 쪽 W⁺ = 32. 작은 쪽인 W = 4를 임계값(표본 8개, 유의수준 0.05 양측 기준 3)과 비교하면, W가 임계값보다 크므로 귀무가설을 기각하지 못한다. 눈으로는 플러스 쪽으로 확 쏠려 보이지만, 표본 8개로는 우연과 구분해 단정할 수 없다는 것이 데이터의 답이다 — 표본이 적을수록 판정이 신중해지는 모습을 그대로 보여주는 결과다.
Rank-Sum(순위합) — 집단 2개를 서로 비교
두 라인의 제품 품질을 비교한다면, 두 표본을 한 줄로 합쳐 전체 순위를 매긴 뒤 라인별 순위합을 구한다. 두 라인이 같다면 순위합은 표본 수에 비례해 비슷하게 나와야 하고, 한쪽이 유난히 작거나 크면 쏠림이 있는 것이다. 여기서도 두 순위합을 U라는 통계량 하나로 정리해 임계값과 비교한다.
두 검정 모두 판정용 분포(샘플링 분포)의 수학은 상당히 어렵다. 하지만 걱정할 필요가 없다 — 임계값은 통계 교과서 부록 표에 정리되어 있고, 실무에서는 소프트웨어가 p값까지 바로 계산한다. 윌콕슨 검정에서 사람이 챙길 몫은 “이 상황이 비모수의 자리인가”라는 선택과 결과 해석이다.
중앙값 검정인데 평균 비교로 써도 되나
정확히 말하면 윌콕슨 검정은 평균이 아니라 중앙값(가운데 등수의 값)에 대한 검정이다. 순위로 바꾸는 순간 평균이라는 개념 자체가 사라지기 때문이다.
그런데 현업과 논문에서는 이걸 평균 비교처럼 널리 쓴다. 근거는 두 가지다. 첫째, 이상치가 없다면 평균과 중앙값은 거의 같은 자리에 온다. 둘째, 표본이 적고 비정규인 상황에서 평균을 직접 검정할 좋은 대안이 마땅치 않다. 반 평균 키를 생각하면 쉽다 — 키가 아주 큰 전학생 한 명이 오면 평균은 훌쩍 끌려 올라가지만, 중앙값(가운데 학생의 키)은 거의 움직이지 않는다. 이상치에 강하다는 것은 단점이 아니라 이 검정의 무기다. 다만 데이터에 이상치가 뚜렷하다면 “평균 비교”라고 보고하지 말고 “중앙값 비교” 결과임을 분명히 하는 것이 정직하다.
핵심 요약
- 윌콕슨 검정은 표본 30개 미만 + 비정규일 때 값 대신 순위로 비교하는 비모수 검정이다
- Signed-Rank는 집단 1개 vs 기준값, Rank-Sum은 집단 2개 비교용이다
- 논리는 하나 — 차이가 없다면 순위는 섞이고, 차이가 있으면 순위가 쏠린다
- 원칙은 중앙값 검정이며, 이상치가 없을 때 평균 비교로 통용된다
- 임계값·p값 계산은 표와 소프트웨어의 몫, 검정 선택과 해석이 사람의 몫이다
함께 읽으면 좋은 글
순위로 바꾸면 정보가 줄어드는 만큼, “검정이 차이를 잡아내는 힘”이라는 개념을 같이 알아두면 좋다.
