t검정을 배울 때 처음으로 등장한다. ANOVA에서 F통계량을 계산할 때도 등장한다. 그런데 막상 “자유도가 뭔가요?”라고 물으면 명확히 설명하는 사람이 드물다.
“n 빼기 1이요.”
틀린 말은 아니다. 하지만 왜 n – 1인지, 왜 자유도 통계값이 달라지면 분포 모양이 바뀌는지는 설명하지 못한다. 공식만 외웠기 때문이다. 이번 포스팅에서는 자유도 통계의 본질적인 의미부터, 그것이 t분포와 F분포의 모양을 어떻게 결정하는지까지 F1 시나리오를 통해 단번에 정리한다.
아래 수치는 개념 설명을 위한 임의의 수치입니다.
자유도 통계 — “자유롭게 움직일 수 있는 값의 수”
자유도(Degrees of Freedom, df)를 한 문장으로 정의하면 이렇다.
주어진 제약 조건 하에서 자유롭게 변할 수 있는 값의 수
F1 레이스에서 이런 상황을 상상해보자. 5명의 피트 크루가 이번 시즌 투입한 총 작업 시간의 평균이 정확히 100시간이라고 알려져 있다. 5명의 개별 작업 시간은 각각 얼마일까?
평균이 100이라는 조건 하에서, 처음 4명의 작업 시간은 어떤 값이든 될 수 있다. 90, 110, 85, 120 — 자유롭게 정해진다. 그런데 4명의 값이 정해지는 순간, 5번째 크루의 작업 시간은 자동으로 결정된다. 총합이 500(= 평균 100 × 5명)이 되어야 하기 때문이다.
5개의 값 중 4개만 자유롭게 움직일 수 있다. 이것이 자유도 = n – 1 = 4다.
💡 자유도 통계의 핵심: “몇 개의 값이 독립적으로 정보를 제공하는가”를 의미한다. 평균이라는 제약 조건 하나가 생길 때마다 자유도가 1씩 줄어든다.
※ 이 시나리오는 개념 설명을 위한 가상의 상황입니다. 실제 F1 팀의 전략과 다를 수 있습니다.
왜 표본분산의 분모는 n이 아니라 n-1인가
자유도 통계를 이해하면 오랫동안 의문이었던 공식 하나가 풀린다. 표본분산 s²을 계산할 때 분모가 n이 아니라 n – 1인 이유다.
표본분산을 계산하려면 편차 (xᵢ – x̄)를 구해야 한다. 이때 x̄는 이미 표본으로부터 계산된 값이다. 즉 평균이라는 제약 조건이 하나 생겼다. n개의 편차 중 실제로 독립적인 정보를 담고 있는 것은 n – 1개뿐이다. 나머지 1개는 평균 조건에 의해 자동으로 결정된다(모든 편차의 합은 반드시 0이 되어야 한다).
분모를 n으로 나누면 모분산을 과소추정하게 된다. n – 1로 나눠야 모분산을 정확히 추정할 수 있다. 자유도 통계가 이 공식의 분모를 결정하는 것이다.
| 구분 | 분모 | 이유 |
|---|---|---|
| 모분산 σ² | N (전체 모집단) | 모평균 μ를 알고 있음 — 제약 없음 |
| 표본분산 s² | n – 1 | 표본평균 x̄로 대체 — 제약 1개 발생 |
자유도 통계가 t분포의 모양을 결정하는 방식
t분포는 정규분포보다 꼬리가 두꺼운 분포다. 그런데 이 꼬리 두께가 자유도 통계값에 따라 달라진다.
F1 레이스에서 이런 상황을 상상해보자. 두 엔지니어가 같은 랩타임 데이터로 t검정을 한다. 엔지니어 A는 표본 5개, 엔지니어 B는 표본 30개로 분석한다. 같은 t값이 나왔을 때 두 사람의 p-value는 같을까?
다르다. 그리고 그 차이를 만드는 것이 자유도 통계다.
표본이 작으면(n = 5, df = 4) 표본분산이 모분산을 정확히 반영하지 못할 가능성이 크다. 이 불확실성이 t분포의 꼬리를 두껍게 만든다. 같은 t값이라도 꼬리가 두꺼우면 p-value가 더 크게 나온다. 즉 귀무가설을 기각하기가 더 어렵다.
표본이 커질수록(df가 커질수록) 표본분산이 모분산에 가까워지고 불확실성이 줄어든다. t분포의 꼬리가 점점 얇아지면서 표준정규분포(z분포)에 가까워진다. df = 30 이상이면 사실상 z분포와 거의 같아진다.
| 자유도(df) | t분포 특성 | 의미 |
|---|---|---|
| 작음 (df = 3~5) | 꼬리가 매우 두꺼움 | 소표본 → 불확실성 크다 → 기각 어렵다 |
| 중간 (df = 10~20) | 꼬리가 점차 얇아짐 | 불확실성 감소 |
| 큼 (df ≥ 30) | 거의 정규분포와 동일 | 표본 충분 → z분포로 근사 가능 |
💡 자유도 통계의 핵심: 단순한 숫자가 아니다. “내 표본이 모집단을 얼마나 잘 대표하는가”에 대한 신뢰 수준을 분포 모양으로 표현한 것이다.
F1 레이싱 Engineering 사례는 설명을 위해 구성한 가상의 시나리오다.
실제 특정 팀이나 드라이버의 데이터를 기반으로 한 것이 아님을 밝혀 둔다.
자유도가 F분포에서 두 개인 이유
ANOVA에서 F통계량은 두 개의 자유도 통계값을 필요로 한다. 분자와 분모가 각각 독립적인 분산 추정치이기 때문이다.
F1 레이스에서 이런 상황을 상상해보자. 장비 A, B, C 세 대의 평균 두께를 ANOVA로 비교한다. 각 장비에서 표본 10개씩 뽑았다.
※ 이 시나리오는 개념 설명을 위한 가상의 상황입니다. 실제 F1 팀의 전략과 다를 수 있습니다.
분자 자유도(df₁) = k – 1 = 3 – 1 = 2
집단이 3개(k = 3)인데 자유도가 2인 이유는 무엇일까? 세 집단의 평균을 모두 알고 전체 평균도 알면, 세 평균 중 두 개만 자유롭게 정해지면 마지막 하나는 자동으로 결정된다. 전체 평균이라는 제약이 하나 생긴 것이다.
분모 자유도(df₂) = k(n – 1) = 3 × (10 – 1) = 27
각 집단 내에서 표본분산을 계산할 때마다 자유도가 n – 1씩 생긴다. 이것이 집단 수 k만큼 합산된다. 집단 내 변동은 각 집단의 분산을 합친 개념이기 때문이다.
| 자유도 | 공식 | 역할 |
|---|---|---|
| df₁ (분자) | k – 1 | 집단 수가 분산 추정의 자유도 결정 |
| df₂ (분모) | k(n – 1) | 집단 내 표본 크기가 분산 추정의 자유도 결정 |
이 두 자유도 통계값의 조합이 F분포의 모양을 결정한다. 둘 다 클수록 F분포는 점점 안정적인 모양으로 수렴한다.
자유도와 분포의 관계 — 전체 그림으로 보기
지금까지 배운 검정 도구들을 자유도 통계 관점에서 한 번에 정리하면 다음과 같다.
| 검정 | 분포 | 자유도 | 결정 요소 |
|---|---|---|---|
| z검정 | 표준정규분포 | 없음 (∞) | 모분산을 알거나 n ≥ 30 |
| 단일표본 t검정 | t분포 | n – 1 | 표본 크기 |
| 독립표본 t검정 | t분포 | n₁ + n₂ – 2 | 두 집단의 표본 크기 합 |
| 대응표본 t검정 | t분포 | n – 1 (쌍의 수) | 쌍의 수 |
| ANOVA (F검정) | F분포 | df₁ = k-1, df₂ = k(n-1) | 집단 수 + 표본 크기 |
z검정에 자유도 통계가 없는 이유도 이제 이해할 수 있다. z검정은 모분산을 이미 알고 있거나 표본이 충분히 커서 표본분산이 모분산을 정확히 대체할 수 있는 상황이다. 불확실성이 없으니 분포 모양이 고정된다. 자유도로 모양을 조정할 필요가 없는 것이다.
핵심 요약
- 자유도 통계는 “n – 1″이라는 공식이 아니라 “제약 조건이 생길 때마다 독립적으로 움직일 수 있는 값이 줄어드는 것”이다
- 표본분산의 분모가 n – 1인 이유: 표본평균이라는 제약 하나가 생겨 독립적인 정보가 n – 1개로 줄기 때문이다
- 자유도가 작을수록 t분포의 꼬리가 두껍다 — 소표본의 불확실성이 크기 때문이다
- 자유도가 커질수록 분포는 표준정규분포에 가까워진다 — 표본이 충분해지기 때문이다
- ANOVA의 F분포는 자유도 두 개(df₁, df₂)가 각각 집단 간·집단 내 분산 추정의 신뢰도를 결정한다
[링크 제안]
자유도 통계가 실제로 작동하는 t검정의 전체 맥락을 이어서 보자.
가설검정 전체 흐름에서 자유도가 어떻게 쓰이는지 결정 구조로 한 번에 정리한 글이다.
