검정통계량이란 무엇인가 — 샘플링 분포까지 3단계로 이해하는 법 - deepcarpenter

F1 레이스에서 이런 상황을 상상해보자. 한 드라이버가 새 타이어 세트로 연속 주행을 마치고 들어았다. 텔레메트리에는 수십 개의 랩타임이 찍혀 있다. 엔지니어가 판단해야 할 질문은 단 하나다. “이 타이어 세트, 지난번보다 정말 빨라진 게 맞나?” 이때 엔지니어는 랩타임을 하나하나 들여다보지 않는다. 수십 개의 숫자를 평균 랩타임이라는 단 하나의 숫자로 요약해서 본다.

가설검정의 가운데 절차도 똑같다. 표본을 뽑아 하나의 숫자로 요약하고, 그 숫자가 정상 범위에서 얼마나 벗어났는지를 판단한다. 이 요약값을 판단의 잣대로 쓸 때 우리는 그것을 검정통계량이라고 부른다. 많은 사람이 가설검정에서 길을 잃는 지점이 바로 여기다. “검정통계량 값을 계산하고, 샘플링 분포에 의거해 판단한다”는 한 문장에서, 그게 뭔지도 샘플링 분포가 뭔지도 안 잡혀 있기 때문이다. 이 글에서는 그 매듭을 세 단계로 푼다. 표본으로 만든 함수가 무엇인지, 그 함수가 왜 확률변수인지, 그리고 샘플링 분포가 무엇인지다. 끝까지 헷갈리는 세 가지 분포는 한 장의 표로 정리한다.

검정통계량은 표본으로 만든 함수 하나다

통계량은 거창한 개념이 아니다. 표본 데이터를 입력으로 받아서 하나의 숫자를 내놓는 함수일 뿐이다. 표본의 값들을 다 더해 개수로 나누면 표본평균이고, 흩어진 정도를 계산하면 표본분산이다. 둘 다 표본으로 만든 함수, 즉 통계량이다.

이 통계량을 가설검정의 판단 도구로 쓰면 그때부터 이름이 검정통계량으로 바뀐다. 도구 자체가 달라지는 게 아니라, 쓰는 목적이 달라지면서 호칭이 바뀌는 것이다. F1로 돌아가면 평균 랩타임은 그냥 통계량이지만, “지난 세트와 차이가 있는가”를 결론 내리는 데 쓰는 순간 그 평균 랩타임이 바로 그 역할을 한다.

여기서 먼저 짚어야 할 전제가 있다. 우리가 이 값으로 추정하려는 진짜 대상은 표본이 아니라 그 뒤에 있는 모집단의 모수다. 모수는 전수조사를 하지 않는 한 절대 직접 볼 수 없는 고정된 값이고, 검정통계량은 표본이라는 좁은 창문으로 그 값을 엿보는 장치다.

통계량은 왜 확률변수인가

이 글에서 딱 하나만 가져간다면 이 절을 가져가면 된다. 검정통계량이 어렵게 느껴지는 진짜 이유는 그것이 고정된 숫자가 아니라 확률변수이기 때문이다.

아래 수치는 개념 설명을 위한 임의의 수치입니다.

샘플링 회차	뽑은 표본평균	같은 공정인가
1회차	100.4	예
2회차	99.7	예
3회차	100.9	예

값이 매번 달라진다는 것, 이게 핵심이다. 뽑을 때마다 값이 바뀌는 수를 우리는 확률변수라고 부른다. 그러니까 표본평균도, 표본분산도, 결국 검정통계량도 전부 확률변수다. 한 번 던질 때마다 눈이 달라지는 주사위처럼, 한 번 뽑을 때마다 값이 달라지는 숫자인 것이다.

이 사실을 받아들이고 나면 다음 질문이 자연스럽게 따라온다. 값이 매번 달라진다면, 그 값들은 대체 어떤 모양으로 흩어질까?

샘플링 분포란 무엇인가 — 검정통계량이 그리는 분포

표본을 한 번만 뽑으면 검정통계량은 점 하나다. 그런데 표본 뽑기를 수백 번 반복해서 매번 평균을 구하고, 그 평균값들을 모아 히스토그램을 그리면 어떻게 될까? 점 하나가 아니라 하나의 분포 모양이 나타난다. 이 분포가 바로 샘플링 분포다.

샘플링 분포의 가로축을 반드시 주목해야 한다. 평소 우리가 그리던 히스토그램은 가로축이 원래 측정값이었다. 그런데 샘플링 분포의 가로축은 원래 측정값이 아니라 통계량 그 자체, 즉 표본평균이다. 같은 히스토그램처럼 보여도 가로축에 올라가는 대상이 완전히 다르다. 이 한 끗이 안 잡히면 샘플링 분포는 영원히 안갯속에 머문다.

F1 비유로 다시 보자. 한 드라이버의 평균 랩타임이 91.2초로 나왔다고 하자. 이게 한 번 뽑은 값이다. 그런데 같은 조건의 스틴트를 200번 반복했다고 가정하고, 매번의 평균 랩타임을 모아 분포를 그리면 91초 부근에 봉우리가 솟은 종 모양이 나타난다. 이 종 모양이 평균 랩타임의 샘플링 분포다.

이 시나리오는 개념 설명을 위한 가상의 상황입니다. 실제 F1 팀의 전략과 다를 수 있습니다.

샘플링 분포가 중요한 이유는 가설검정의 판단이 전부 이 위에서 일어나기 때문이다. 귀무가설이 맞다고 가정했을 때의 샘플링 분포를 그려두고, 내가 실제로 관측한 검정통계량 값이 그 분포에서 얼마나 끝자락에 있는지를 본다. 너무 끝자락에 있어서 “정상이라면 이런 값이 나올 리 없다” 싶으면 귀무가설을 의심하게 되는 것이다. 이 분포가 어떤 모양을 따르는지는 표본 크기와 자유도에 따라 달라진다.

모집단 분포·표본의 분포·샘플링 분포는 뭐가 다른가

세 개념이 헷갈리는 건 셋 다 이름에 ‘분포’가 들어가기 때문이다. 하지만 가로축에 무엇이 올라가느냐를 기준으로 보면 셋은 완전히 다른 그림이다.

분포	무엇의 분포인가	가로축	언제 보는가
모집단 분포	전체 데이터 (관측 불가)	원래 측정값	이론상 존재할 뿐 직접 못 본다
표본의 분포	한 번 뽑은 표본 안의 값들	원래 측정값	기술통계 — 평균·산포 계산
샘플링 분포	통계량을 반복해 뽑았을 때의 값들	통계량 (예: 표본평균)	가설검정의 판단

모집단 분포는 데이터 전체가 그리는 진짜 모양이다. 분명히 존재하지만 전수조사를 못 하니 우리는 영원히 직접 볼 수 없다. 표본의 분포는 내가 이번에 뽑은 한 줌의 데이터가 흩어진 모양이고, 여기서 표본평균 같은 통계량을 계산한다. 샘플링 분포는 그 통계량 자체를 수없이 반복해 뽑았다고 가정했을 때 그려지는 분포다.

다시 말해 표본의 분포에서는 측정값 하나하나가 점이지만, 샘플링 분포에서는 통계량 하나하나가 점이다. 가설검정이 발 딛고 서 있는 땅은 세 번째, 오직 샘플링 분포다.