8회 · 추론의 기초 · 노트

6 데이터로 — 네 가지 검정

6.1 Arbuthnot의 82년 (1629–1710)

예제 6.1 (세 가지 검정) HistData::Arbuthnot의 82년 모두에서 남아가 여아보다 많다.

1. (a)

   부호 검정 (Arbuthnot). $H_0$: 해마다 남아가 많을 확률 $\tfrac12$, 해들은 독립. $K=82$이므로 $p=2^{-82}=2.1\times10^{-25}$.

2. (b)

   비율의 검정. 출생 하나하나가 독립이고 남아 확률이 $p$라 하자. 82년 합계 938,223명 중 남아 484,382명, $\hat p=0.5163$이다. $H_0:p=\tfrac12$의 $z=\tfrac{\hat p-0.5}{\sqrt{0.25/n}}=31.5$, $p\approx10^{-218}$. 95% 구간은 $[0.5153,\ 0.5173]$이다. 남녀의 비는 약 $1.067$로 오늘의 출생 성비(약 1.05)와 비슷하다.

3. (c)

   모형의 점검. (b)의 “출생마다 독립, 해마다 같은 $p$”는 맞는가? 2회 예제 6.5에서 해마다의 비율의 표준편차가 이항 모형의 1.5배였다(Lexis 비). 82개 연도를 82개의 칸으로 보고 “모든 해의 남아 확률이 같다”를 $82\times2$ 분할표의 독립성 검정으로 하면(연습 6.1) $X^2=169.7$, 자유도 81, $p=3\times10^{-8}$이다. 비율이 해마다 흔들린다.

검정은 질문을 정확하게 만든다. (a)와 (b)는 “반반인가”에 압도적으로 “아니다”라고 답한다. (c)는 “그러면 하나의 $p$로 설명되는가”에 다시 “아니다”라고 답한다. 어느 것도 “왜”에는 답하지 않는다. 섭리는 Arbuthnot의 해석이었다.

6.2 Weldon의 주사위 (1894)

예제 6.2 (단순가설과 복합가설) 주사위 12개를 26,306번 굴려 5·6이 나온 개수 $K$를 셌다(vcd::WeldonDice, 10개 이상은 묶여 11칸).

1. (a)

   $H_0$: 공평한 주사위, $K\sim\mathrm b(12,\tfrac13)$. 기대도수(가장 작은 것도 14.3)로 $X^2=35.5$, 자유도 10, $p=0.0001$. 기각한다. Pearson(1900)의 결론도 같았다.

2. (b)

   $H_0$: $K\sim\mathrm b(12,p)$, $p$는 모름. $\hat p=\bar K/12=0.3377$을 넣으면 $X^2=8.18$, 자유도 $11-1-1=9$, $p=0.52$. 기각하지 않는다.

두 결과를 합치면 이야기가 선명하다. 주사위들은 서로 독립인 “이항” 시행처럼 행동하지만, 5·6이 나올 확률이 $\tfrac13$이 아니라 약 $0.338$이다. 값싼 주사위의 눈은 파낸 홈이어서, 홈이 많은 5·6의 면이 가벼워 위로 오기 쉽다는 설명이 있다. 효과는 $\tfrac13$에 대해 1.3%다. 26,306번이라는 큰 $n$이 이 작은 차이를 드러냈다.

그림 6.1 Weldon의 주사위. 왼쪽: 관측도수(막대)와 $\mathrm b(12,\frac13)$(점선), $\mathrm b(12,0.3377)$(빨강)의 기대도수. 오른쪽: 칸별 기여 $(O-E)/\sqrt E$. 공평한 주사위 모형은 많은 5·6(오른쪽)을 체계적으로 얕잡는다.

6.3 Quetelet의 가슴둘레 (1846)

5회 예제 1.6에서 스코틀랜드 병사 5,738명의 가슴둘레에 정규분포를 맞추었다. 기대도수가 5보다 작은 양 끝을 합치면 칸이 13개이고, 모수 둘(평균과 분산)을 칸으로 묶은 자료에서 추정했으므로 Fisher의 규칙으로 자유도는 $13-1-2=10$이다. $X^2=35.0$, $p=0.0001$로 정규를 기각한다(Pearson의 규칙 12로 읽어도 $p=0.0005$). 그런데 이 자료의 왜도는 0.03, 초과첨도는 0.06으로 정규와 거의 같다. 기각을 만든 것은 거의 한 칸이다. 44인치 칸의 관측 92명은 기대 146명보다 훨씬 적고, 표준화한 차이 $(O-E)/\sqrt E=-4.4$의 제곱 19.7이 $X^2$의 절반을 넘는다. 정규 모양이 틀린 것이 아니라 한 칸이 이상하다. 옮겨 적기의 실수인지 측정의 습관인지는 검정이 말하지 않는다.

$N$이 이만큼 크면 검정은 아주 작은 어긋남도 잡는다. 같은 $N$과 칸으로 시뮬레이션하면 참 분포가 정규일 때 기각 확률은 0.05이고, 왜도가 0.1이면 0.42, 0.2이면 0.99다(연습 6.3). 큰 표본에서 $p$-값이 작다는 것은 “모형이 정확히 맞지는 않는다”는 뜻일 뿐, “모형이 쓸모없다”는 뜻이 아니다.

6.4 UC Berkeley 대학원 입학 (1973)

예제 6.3 (큰 $X^2$와 Simpson의 역설) 1973년 가을 학기 지원자 4,526명을 성별과 합격 여부로 나누면

	합격	불합격	합격률
남	1,198	1,493	44.5%
여	557	1,278	30.4%

독립성 검정의 $X^2=92.2$ (자유도 1), $p\approx10^{-21}$, 오즈비 $1.84$ $[1.62,\ 2.09]$이다(예제 2.5). 그런데 지원자가 가장 많은 여섯 학과(A–F)로 나누면 여섯 중 넷에서 여자의 합격률이 더 높고, 학과별 표를 합친 Mantel–Haenszel 오즈비는 $0.90$이다. 여자는 합격률이 낮은 학과(C–F)에 많이 지원했고, 남자는 합격률이 높은 학과(A, B)에 많이 지원했다. 성별과 학과의 독립성 검정은 $X^2=1068$ (자유도 5)이다. 전체 표의 강한 연관은 “학과”라는 세 번째 변수를 거친 것이었다(Bickel, Hammel, O'Connell 1975). 1회 연습 5.9의 신장결석과 같은 구조다.

그림 6.2 Berkeley 1973. 왼쪽: 학과별 합격률(점의 크기는 지원자 수). 남녀의 차이는 학과 안에서 작거나 반대이고, 학과 사이의 합격률 차이가 크다. 오른쪽: 학과별 여자 지원자의 비율과 합격률. 여자가 많이 지원한 학과일수록 합격률이 낮다.

검정은 “성별과 합격이 독립인가”에 정확히 답했다. 독립이 아니다. 그러나 그것이 학과 안에서의 차별을 뜻하는지는 검정이 아니라 자료의 구조가 답한다. $X^2$의 크기는 질문의 크기가 아니다.

연습문제

연습 6.1 (Lexis의 검정 ★★) Arbuthnot 자료를 $82\times2$ 표(연도 $\times$ 성별)로 보고 독립성 검정의 $X^2$와 자유도를 구하라(노트북). 이것은 2회 예제 6.5의 Lexis 비와 어떻게 관련되는가? (힌트: $X^2/81$.)

풀이

$X^2=169.7$, 자유도 $(82-1)(2-1)=81$, $p=3\times10^{-8}$. $X^2/81=2.09$는 연도별 남아 비율의 분산이 이항 모형의 약 2배라는 뜻이고, 2회의 Lexis 비(표준편차의 비 1.5, 분산으로 2.25)와 같은 것을 다른 방법으로 잰 것이다.

연습 6.2 (주사위의 효과 크기 ★) $\hat p=0.3377$의 95% 구간을 구하고(시행 $12\times26{,}306$번), $\tfrac13$이 들어 있지 않음을 확인하라. 10개 이상을 10으로 묶어 계산한 $\hat p$는 참값을 조금 작게 어림한다. 왜인가?

풀이

$0.3377\pm1.96\sqrt{0.3377\cdot0.6623/315{,}672}=[0.3360,\allowbreak \ 0.3393]$이고 $\tfrac13=0.3333$은 밖에 있다. 10개 이상을 10으로 묶으면 11개와 12개가 10으로 세어지므로 합계, 따라서 $\hat p$가 조금 작아진다(그런 굴림은 18번뿐이어서 영향은 작다).

연습 6.3 (Quetelet의 검정력 ★★) 5회의 가슴둘레 자료와 같은 $N=5{,}738$, 같은 칸(1인치로 반올림)으로, 참 분포가 정규일 때와 왜도가 0.05, 0.1, 0.2인 분포(평균과 분산을 맞춘 감마)일 때 정규 적합도 검정이 기각할 확률을 노트북으로 시뮬레이션하라. 44인치 칸을 빼고 다시 검정하면?

풀이

1천 번의 시뮬레이션에서 기각 확률은 정규 0.051, 왜도 0.05에서 0.12, 0.1에서 0.42, 0.2에서 0.99다. $N=5{,}738$의 검정은 왜도 0.1 정도의 어긋남을 절반 가까이 잡는다. 44인치 칸의 기여 19.7을 빼면 $X^2\approx15.3$, 남은 12칸의 자유도 9에서 $p\approx0.08$로 기각하지 않는다. 기각은 거의 그 한 칸 때문이다.

연습 6.4 (Mantel–Haenszel ★★) 층 $s$의 $2\times2$ 표 $(a_s,b_s;c_s,d_s)$, 크기 $n_s$에 대해 $\widehat{\mathrm{OR}}_{\mathrm{MH}}=\tfrac{\sum a_sd_s/n_s}{\sum b_sc_s/n_s}$이다. 모든 층의 오즈비가 같은 $\psi$이면 분자와 분모의 기댓값의 비가 근사적으로 $\psi$임을 설명하고, Berkeley 자료에서 0.90을 확인하라.

풀이

층 $s$에서 $a_sd_s/n_s$와 $b_sc_s/n_s$의 기댓값의 비가 대략 그 층의 오즈비 $\psi$이므로, 합의 비도 $\psi$의 가중평균, 곧 $\psi$에 가깝다. 층마다 표본이 작아도 분자와 분모를 따로 더하므로 안정적이다. Berkeley 자료에서 $\tfrac{\sum a_sd_s/n_s}{\sum b_sc_s/n_s}=0.90$.

이 절을 PDF로 보기 (23쪽)노트북 6절

이 회차에서 읽은 절 0개 · 회차 차례