현장에서 설비 측정값 수백 건을 모아 히스토그램을 그려보면 종 모양처럼 보일 때가 많다. “정규분포겠지”라고 판단하고 그대로 분석 모델을 돌리면 낭패를 보기 쉽다. 극단값 구간에서 실측값이 모델 예측을 크게 벗어나는 경우가 흔하기 때문이다. 히스토그램의 눈대중이 꼬리 구간의 이상 분포를 놓친 것이다.
QQ 플롯은 이 눈대중의 한계를 넘기 위한 도구다. 데이터가 특정 이론 분포를 따르는지를 수치 기반으로 시각화한다. 히스토그램이 전체 모양을 보여준다면, QQ 플롯은 분포의 꼬리까지 정밀하게 비교한다. 이 글에서는 QQ 플롯의 원리, 분위와 분위수의 차이, 그리고 결과를 읽는 법까지 3단계로 정리한다.
QQ 플롯이란 무엇인가
QQ 플롯(Q-Q Plot)에서 Q는 Quantile, 즉 분위수(分位數)의 약자다. 두 데이터 집합이 같은 분포를 가진 모집단에서 왔는지 확인하는 시각적 방법이다.
실무에서 가장 많이 쓰는 용도는 하나다. 내 데이터가 정규분포를 따르는가. 가설검정, 회귀분석, 품질 관리 대부분이 “데이터가 정규분포를 따른다”는 전제 위에 서 있다. 이 전제가 틀리면 분석 전체가 흔들린다. QQ 플롯은 그 전제를 검증하는 첫 번째 도구다.
분위와 분위수 — 반드시 구분해야 할 두 개념
QQ 플롯을 이해하려면 분위(Quantile)와 분위수(Quantile Value)를 정확히 구분해야 한다. 이름이 비슷해서 혼동하기 쉽지만 의미는 완전히 다르다.
| 용어 | 의미 | 예시 |
|---|---|---|
| 분위 | 누적 확률 (면적) — 0에서 1 사이 값 | 0.95 |
| 분위수 | 그 확률에 대응하는 X축의 실제 값 | 1.64 |
정규분포 예시로 보자.
마이너스 무한대에서 1.64까지 정규분포 확률 밀도 함수를 적분하면 면적이 0.95가 된다.
- 분위 = 0.95 (면적, “95분위”)
- 분위수 = 1.64 (그 지점의 확률변수 값)
한 문장으로 정리하면 이렇다.
분위는 면적(확률)이고, 분위수는 그 면적에 대응하는 X축 값이다.
누적분포함수 F(x)로 보면 같은 사실이 더 명확해진다.
| 보는 방법 | 표현 |
|---|---|
| 밀도함수 f(x) | 1.64까지 적분한 면적 = 0.95 |
| 누적분포함수 F(x) | F(1.64) = 0.95 |
사분위수(Q1, Q2, Q3)도 같은 구조다.
| 이름 | 분위 (확률) | 의미 |
|---|---|---|
| Q1 (1사분위수) | 0.25 | 데이터의 하위 25% 지점 |
| Q2 (중앙값) | 0.50 | 데이터의 하위 50% 지점 |
| Q3 (3사분위수) | 0.75 | 데이터의 하위 75% 지점 |
분위는 확률이고, 분위수는 그 확률 지점의 실제 값이다. QQ 플롯은 이 분위수들을 두 분포 사이에서 1:1로 비교한다.
QQ 플롯으로 정규분포를 검증하는 3단계
아래 수치는 개념 설명을 위한 임의의 수치이며, 기준값은 100으로 설정했습니다.
현장에서 동일 설비 6대의 측정값을 수집했다고 가정하자. 이 데이터가 정규분포를 따르는지 QQ 플롯으로 확인해본다.
수집한 측정값(기준값 100 대비): 97.8, 98.9, 99.5, 100.2, 101.4, 103.1
1단계 — 데이터를 오름차순으로 정렬하고 분위를 계산한다
데이터 n개를 오름차순으로 정렬한다. j번째 데이터의 분위는 j/n으로 계산한다.
| 순서 j | 측정값 X₍ⱼ₎ | 분위 (j/n) | 의미 |
|---|---|---|---|
| 1 | 97.8 | 1/6 ≈ 0.17 | 하위 17% 지점 |
| 2 | 98.9 | 2/6 ≈ 0.33 | 하위 33% 지점 |
| 3 | 99.5 | 3/6 = 0.50 | 하위 50% 지점 |
| 4 | 100.2 | 4/6 ≈ 0.67 | 하위 67% 지점 |
| 5 | 101.4 | 5/6 ≈ 0.83 | 하위 83% 지점 |
| 6 | 103.1 | 6/6 = 1.00 | (제외 처리) |
2단계 — 이론 정규분포에서 같은 분위의 분위수를 찾는다
여기서 이론 분위수는 표준 정규분포(평균=0, 표준편차=1)의 Z값을 말한다. “만약 이 데이터가 정규분포를 따른다면, 이 순서의 데이터는 Z값으로 어디쯤 있어야 하나?”의 기댓값이다.
각 분위에 대응하는 표준 정규분포의 분위수를 역함수 F⁻¹(p)로 계산한다. “누적확률이 0.17인 지점은 표준 정규분포의 어디냐”를 찾는 작업이다.
| 분위 p | 이론 분위수 (Z값) |
|---|---|
| 0.17 | -0.95 |
| 0.33 | -0.44 |
| 0.50 | 0.00 |
| 0.67 | +0.44 |
| 0.83 | +0.95 |
이 역함수 계산은 JMP, Python(scipy), R 같은 소프트웨어가 자동으로 처리한다.
3단계 — 쌍을 찍고 45도 직선 여부를 판단한다
X축에 이론 분위수(Z값), Y축에 실제 데이터 분위수(측정값)를 올려 점을 찍는다.
| 점 | X축 (이론 분위수) | Y축 (데이터 분위수) |
|---|---|---|
| 1 | -0.95 | 97.8 |
| 2 | -0.44 | 98.9 |
| 3 | 0.00 | 99.5 |
| 4 | +0.44 | 100.2 |
| 5 | +0.95 | 101.4 |
이 점들이 45도 직선 위에 고르게 정렬되면 데이터가 정규분포를 따른다고 판단한다.
QQ 플롯 결과를 읽는 법
QQ 플롯의 판단 기준은 단 하나다. 45도 직선을 따르는가, 벗어나는가.
| 플롯 패턴 | 판단 |
|---|---|
| 점들이 45도 직선 위에 정렬 | 정규분포를 따름 |
| 꾸불꾸불하거나 양 끝이 휨 | 정규분포를 따르지 않음 |
꼬리 구간의 이탈 패턴은 분포의 특성을 알려준다.
| 패턴 | 모양 | 의미 |
|---|---|---|
| 오른쪽 꼬리가 위로 휨 | S자 위 볼록 | 극단값이 정규보다 많음 (Heavy Tail) |
| 왼쪽 꼬리가 아래로 휨 | S자 아래 볼록 | 낮은 쪽에 데이터가 쏠림 |
| 양 끝이 동시에 직선 밖 | 양쪽 휨 | 분산이 정규 가정보다 큼 |
현장 측정값 예시로 돌아가면, 극단 구간(매우 높거나 매우 낮은 측정값)에서 QQ 플롯의 양 끝이 직선에서 이탈한다. 히스토그램에서는 종 모양으로 보였지만, QQ 플롯은 꼬리 구간의 이상 분포를 정확히 잡아낸 것이다.
히스토그램으로 충분하지 않은 이유
히스토그램과 QQ 플롯을 같은 데이터에 동시에 적용했을 때 차이가 드러나는 지점이 있다.
| 비교 항목 | 히스토그램 | QQ 플롯 |
|---|---|---|
| 판단 방식 | 눈대중, 주관적 | 수치 기반, 객관적 |
| 꼬리 분포 감지 | 어려움 | 명확히 드러남 |
| 소규모 데이터 | 형태가 뭉개짐 | 상대적으로 유효 |
| 결론의 신뢰도 | 낮음 | 높음 |
히스토그램에서 “정규분포처럼 보이는데?”라고 판단했더라도, QQ 플롯으로 한 번 더 검증하는 것이 통계 분석의 표준 절차다. 두 도구는 경쟁 관계가 아니라 순서가 있는 절차다. 히스토그램으로 큰 그림을 잡고, QQ 플롯으로 정밀하게 확인한다.
마무리 — QQ 플롯 한 줄 정의
QQ 플롯은 두 분포의 분위수를 1:1로 비교해 45도 직선 여부로 분포 일치를 판단하는 시각적 검증 도구다.
분위수가 같다는 말은 특정 확률 지점에서 두 분포의 값이 일치한다는 뜻이다. 모든 분위에서 이 일치가 성립하면 두 분포는 같다. 이것이 QQ 플롯의 논리 구조 전체다.
정규분포 가정 검증이 필요한 모든 분석에서, QQ 플롯을 히스토그램 다음 단계로 반드시 실행해야 하는 이유가 여기에 있다.
함께 읽으면 좋은 글
QQ 플롯이 정규분포를 전제로 한다는 걸 이해했다면, 그 전제 위에서 작동하는 가설검정 전체 구조가 궁금해질 것이다.
분포를 다루기 전에 표본이 모집단을 어떻게 대표하는지 개념부터 잡고 싶다면 이 글이 먼저다.
정규분포 검증을 다루는 공식 통계 도구들은 NIST/SEMATECH e-Handbook of Statistical Methods에서 더 깊이 확인할 수 있다.
