측정 한 번에 시간과 비용이 많이 드는 항목이 있다. 장비를 세워야 하거나, 시편을 잘라야 하거나. 그래서 데이터를 30개는커녕 15개 모으기도 버거운 상황이 현장에는 생각보다 흔하다. 표본이 이렇게 적을 때 평균이 변했는지 확인하는 도구가 t검정이다.
핵심은 이것이다. 표본이 적으면 표본에서 계산한 흩어짐(표본분산)을 완전히 믿을 수 없다. 그래서 t검정은 “내 계산이 틀렸을 수도 있다”는 겸손함을 분포에 미리 반영한다 — 종 모양이지만 꼬리가 더 두꺼운 t분포를 쓰는 것이다. 이 글에서는 t검정이 분류도의 어느 자리인지, 자유도가 왜 n−1인지, 그리고 p값이 0.05 근처에 걸렸을 때 현장에서 어떻게 답해야 하는지까지 다룬다.
t검정은 분류도의 어느 자리인가
가설검정 절차는 항상 4단계로 같고, 검정마다 통계량과 분포만 바뀐다. 분류도에서 t검정의 자리는 z검정 바로 옆이다.
| 질문 | t검정의 조건 |
|---|---|
| 데이터가 종 모양(정규분포)인가 | 그렇다 |
| 표본이 30개 이상인가 | 아니다 — 표본분산이 모분산을 대신하기엔 불안하다 |
| 비교할 집단이 몇 개인가 | 1개(기준과 비교) 또는 2개(서로 비교) |
z검정과 갈리는 지점은 딱 하나, 표본 크기다. 표본이 30개쯤 되면 표본분산이 전체의 흩어짐(모분산)을 잘 대신한다고 보지만, 그 아래로 내려가면 표본분산 자체가 못 미더워진다. 열 명만 골라 반 전체 평균 키를 짐작하는 것과 같다 — 짐작은 할 수 있지만, 크게 빗나갈 수도 있다.
t분포 — 불확실함을 꼬리에 담은 분포
t검정의 통계량은 z검정과 생김새가 같다.
t = (표본평균 − 기준 평균) ÷ (표본 표준편차 ÷ √n)
“평균에서 몇 계단 떨어졌나”라는 뜻도 같다. 다른 것은 이 값을 확률로 바꿔줄 때 쓰는 분포다. z검정은 표준정규분포를 쓰지만, t검정은 t분포를 쓴다. t분포는 20세기 초 양조장에서 일하던 통계학자 고셋이 만든 분포인데, 회사 사정으로 본명 대신 “스튜던트(Student)”라는 필명으로 발표해서 지금도 스튜던트 t분포라 불린다. 그가 마주한 문제가 정확히 지금 우리 문제였다 — 실험 재료가 비싸서 표본을 조금밖에 못 뽑는데, 평균 비교는 해야 한다.
t분포는 정규분포보다 꼬리가 두껍다. 꼬리가 두껍다는 건 “극단적인 값이 나올 가능성을 조금 더 열어둔다”는 뜻이다. 표본이 적어 표본분산이 흔들릴 수 있으니, 같은 t값이라도 정규분포보다 판정을 조금 후하게(신중하게) 해주는 셈이다. 그리고 표본이 많아질수록 t분포는 점점 정규분포에 가까워진다 — 30개를 넘어가면 사실상 구분이 없어지고, 그래서 그 위로는 z검정을 쓰는 것이다.
자유도 — t분포의 모양을 정하는 숫자
t분포는 하나가 아니라 자유도라는 숫자에 따라 모양이 조금씩 다른 분포의 가족이다. 단일 집단 t검정의 자유도는 n−1. 표본 16개면 자유도 15다.
왜 하나를 빼는가. 표본분산을 계산할 때 표본평균을 이미 써버렸기 때문이다. 표본평균이 정해지면 마지막 데이터 하나는 자동으로 결정되므로, 자유롭게 움직일 수 있는 데이터는 n−1개다. 이 개념이 낯설다면 자유도 통계 글에서 원리를 잡고 오면 좋다. 실무에서는 “표본 크기에서 1 뺀 값을 소프트웨어에 같이 넣는다” 정도로 충분하다.
t검정 4단계 — 그리고 0.05 근처의 애매한 p값
아래 수치는 개념 설명을 위한 임의의 수치입니다.
배치 단위로 돌아가는 공정이 있다. 배치당 측정값의 평균 기준은 100인데, 요즘 배치들이 좀 높게 나오는 느낌이다. 한 배치 측정에 비용이 들어 표본은 16개. 평균 102, 표준편차 4가 나왔다.
| 단계 | 내용 | 이 예시에서 |
|---|---|---|
| 1 | 가설 세우기 | 귀무가설 “평균은 100” vs 대립가설 “100이 아니다” (양측) |
| 2 | 기준선 정하기 | 유의수준 0.05 |
| 3 | 통계량 계산 | t = (102−100) ÷ (4÷√16) = 2 ÷ 1 = 2.0, 자유도 15 |
| 4 | p값 판정 | 자유도 15의 t분포에서 양측 p ≈ 0.064 |
p값 0.064는 기준선 0.05보다 크다. 원칙대로라면 귀무가설을 기각하지 못한다 — “평균이 변했다고 말할 근거가 부족하다”가 결론이다.
그런데 여기서 현장 감각이 하나 필요하다. 0.064는 0.05에 아주 가깝다. 이럴 때 “0.05보다 크니까 아무 문제 없음”이라고 기계적으로 보고하는 것은 좋은 판단이 아니다. 반대로 p가 0.048쯤 나왔을 때 “유의하니까 공정이 변했습니다”라고 단정하는 것도 마찬가지다. p값이 기준선 근처에서 아슬아슬하면, 정직한 답은 이것이다. “지금 데이터로는 판단이 애매하다. 표본을 더 확보해서 다시 검정하겠다.” 표본이 늘면 계단 한 칸(표준오차)이 작아져서, 진짜 변화라면 p값이 확실하게 내려가고 우연이라면 확실하게 올라간다. 통계는 신탁이 아니라 도구이고, 도구가 애매한 답을 주면 데이터를 더 넣는 것이 엔지니어의 일이다.
두 집단 t검정은 소프트웨어에 맡겨라
새 조건과 기존 조건, 두 묶음의 평균을 비교하는 두 집단 t검정도 뼈대는 같다. 차이의 분산이 두 분산의 합이 되는 것도 z검정과 같다. 다만 두 집단 t검정의 자유도는 계산식이 꽤 복잡한데, 외울 필요가 전혀 없다. 통계 소프트웨어가 자동으로 계산한다. 사람이 챙길 것은 “표본이 적고 종 모양이니 t검정이 맞는 선택”이라는 판단, 그리고 나온 p값의 해석이다.
핵심 요약
- t검정은 표본 30개 미만에서 평균의 변화·차이를 확인하는 검정이다
- 통계량 공식은 z검정과 같고, 분포만 꼬리가 두꺼운 t분포로 바뀐다
- 두꺼운 꼬리 = 표본분산을 못 믿는 만큼의 겸손함이다
- 자유도는 n−1, 표본이 커질수록 t분포는 정규분포에 수렴한다
- p값이 0.05 근처면 단정하지 말고 표본을 늘려 재검정하는 것이 정답이다
함께 읽으면 좋은 글
표본이 적을수록 “종 모양이 맞나”라는 전제 확인이 더 중요해진다.
