12회 · 최적 검정과 결정 · 노트

3 가능도비 검정

UMP 검정은 한쪽 가설과 단조가능도비라는 좁은 조건에서만 있다. 그 밖에서는 Neyman과 Pearson(1928)의 처음 제안으로 돌아간다. 각 가설 아래에서 가장 그럴듯한 값끼리 비교하는 것이다.

정의 3.1 (일반화 가능도비 검정) $H_0:\boldsymbol\theta\in\Omega_0$ 대 $H_1:\boldsymbol\theta\in\Omega\setminus\Omega_0$에서

$$\lambda(\x)=\frac{\sup_{\boldsymbol\theta\in\Omega_0}L(\boldsymbol\theta;\x)}{\sup_{\boldsymbol\theta\in\Omega}L(\boldsymbol\theta;\x)}\in[0,1]$$

가 작으면($\lambda(\x)\le c$) 기각하는 검정을 가능도비 검정(LRT)이라 한다. $-2\log\lambda$는 9회 정리 5.2와 10회 정리 1.8의 통계량 $\Lambda$이다.

두 가설이 모두 단순이면 $\lambda=f_0/\max(f_0,f_1)$이 $f_1/f_0$의 감소함수이므로 LRT는 Neyman–Pearson 검정이다. 복합가설에서는 최적성의 보장이 없지만, 대부분의 익숙한 검정이 LRT다.

예제 3.2 (익숙한 검정들은 가능도비 검정이다) 

1. (a)

   $t$ 검정. 정규 표본에서 $H_0:\mu=\mu_0$ ($\sigma^2$ 미지)의 LRT는 $-2\log\lambda=n\log\bigl(1+\tfrac{t^2}{n-1}\bigr)$로 $|t|$의 증가함수다(10회 예제 1.9). 임계값을 $t(n-1)$에서 가져오면 크기가 정확히 $\alpha$이다.

2. (b)

   두 표본 $t$. 같은 분산의 두 정규 표본의 평균 비교도 같은 꼴이다(10회 연습 1.5).

3. (c)

   분산의 비. $H_0:\sigma_1^2=\sigma_2^2$의 LRT는 $F=S_1^2/S_2^2$가 1에서 먼지로 정해진다(연습 3.2). 6회 정리 4.3의 $F$ 분포가 정확한 임계값을 준다.

4. (d)

   분할표. 독립성의 LRT 통계량은 $G=2\sum O\log\tfrac OE$이고 Pearson의 $X^2$와 점근적으로 같다(9회 연습 5.2).

Fisher 대 Neyman Fisher에게 유의성 검정은 한 번의 실험에서 귀무가설에 반하는 증거를 재는 도구였다. $p$-값은 그 증거의 크기이고, 대립가설을 미리 정할 필요도, 5%를 기계적으로 지킬 이유도 없었다(귀납 추론). Neyman에게 검정은 같은 절차를 되풀이할 때 오류율을 관리하는 규칙이었다. 한 번의 결과가 얼마나 “증거”가 되는지는 묻지 않았다(귀납 행동). 두 사람은 1935년 왕립통계학회에서 공개적으로 충돌한 뒤 평생 화해하지 않았다. 오늘의 교과서는 두 관점을 섞어, Neyman의 $\alpha$와 Fisher의 $p$-값을 함께 쓴다. 7절에서 이 혼합이 낳는 오해를 본다.

연습문제

연습 3.1 (두 지수분포 ★★) $X_i\iid\mathrm{Exp}$ (평균 $\theta_1$, $i\le m$), $Y_j\iid\mathrm{Exp}$ (평균 $\theta_2$, $j\le n$)에서 $H_0:\theta_1=\theta_2$의 가능도비가 $\bar X/(\bar X+\tfrac nm\bar Y)$ 같은 비의 함수임을 보여라.

풀이

$H_1$ 아래 MLE는 $\bar x$, $\bar y$이고 $H_0$ 아래는 $\hat\theta=\tfrac{m\bar x+n\bar y}{m+n}$이다. $\lambda=\tfrac{\bar x^m\bar y^n}{\hat\theta^{m+n}}=\tfrac{(m+n)^{m+n}}{m^mn^n}u^m(1-u)^n$, $u=\tfrac{m\bar x}{m\bar x+n\bar y}$이므로 $u$의 함수다. $u$가 $\tfrac m{m+n}$에서 멀수록 작다.

연습 3.2 (분산의 비 ★★) 두 정규 표본(평균 미지)에서 $H_0:\sigma_1^2=\sigma_2^2$의 LRT 통계량이 $F=\hat\sigma_1^2/\hat\sigma_2^2$의 함수이고, $F$가 1에서 멀수록 작아짐을 보여라.

풀이

$H_1$ 아래 $\hat\sigma_1^2,\hat\sigma_2^2$ ($n$으로 나눔), $H_0$ 아래 $\hat\sigma^2=\tfrac{m\hat\sigma_1^2+n\hat\sigma_2^2}{m+n}$이고 $\lambda=\tfrac{(\hat\sigma_1^2)^{m/2}(\hat\sigma_2^2)^{n/2}}{(\hat\sigma^2)^{(m+n)/2}}$이다. $F=\hat\sigma_1^2/\hat\sigma_2^2$로 쓰면 $\lambda\propto\tfrac{F^{m/2}}{(mF+n)^{(m+n)/2}}$이고, 이것은 $F=1$에서 최대이며 $F$가 1에서 멀어질수록 작아진다.

연습 3.3 (단순가설의 LRT ★) 두 가설이 모두 단순일 때 LRT가 Neyman–Pearson 검정과 같음을 보여라.

풀이

$\lambda=\tfrac{f_0}{\max(f_0,f_1)}=\min\bigl(1,\allowbreak \tfrac{f_0}{f_1}\bigr)$이므로 $\lambda\le c<1$은 $f_1/f_0\ge1/c$와 같다.

이 절을 PDF로 보기 (10쪽)노트북 3절

이 회차에서 읽은 절 0개 · 회차 차례