Skip to content

12회 · 최적 검정과 결정 · 노트

2 균일최강력 검정과 단조가능도비 ​

예제 1.3의 기각역 xˉ>1.645/n\bar x>1.645/\sqrt n은 μ1\mu_1의 값에 의존하지 않았다. 그러면 이 검정은 μ1=0.1\mu_1=0.1에 대해서도, μ1=10\mu_1=10에 대해서도 동시에 최강력이다. 이렇게 대립가설 전체에서 한꺼번에 최선인 검정이 언제 있는가?

2.1 정의 ​

정의 2.1 (균일최강력 검정) H0:θ∈Ω0H_0:\theta\in\Omega_0 대 H1:θ∈Ω1H_1:\theta\in\Omega_1에서, 크기가 α\alpha 이하이고 모든 θ∈Ω1\theta\in\Omega_1에서 크기 α\alpha 이하인 다른 어떤 검정보다 검정력이 작지 않은 검정을 균일최강력(UMP) 검정이라 한다.

정의 2.2 (단조가능도비) 실수 모수 θ\theta의 분포족이 통계량 T(x)T(\x)에 대해 단조가능도비(MLR)를 갖는다는 것은, θ1<θ2\theta_1<\theta_2이면 가능도비 f(x;θ2)/f(x;θ1)f(\x;\theta_2)/f(\x;\theta_1)이 T(x)T(\x)의 감소하지 않는 함수라는 것이다.

예제 2.3 (지수족은 단조가능도비를 갖는다) 1-모수 지수족 f(x;θ)=h(x)exp⁡(c(θ)T(x)−d(θ))f(\x;\theta)=h(\x)\exp\bigl(c(\theta)T(\x)-d(\theta)\bigr)에서 cc가 증가함수이면 f(x;θ2)f(x;θ1)=exp⁡((c(θ2)−c(θ1))T(x)−⋯ )\tfrac{f(\x;\theta_2)}{f(\x;\theta_1)}=\exp\bigl((c(\theta_2)-c(\theta_1))T(\x)-\cdots\bigr)이 TT의 증가함수다. 정규 평균(T=∑xiT=\sum x_i), 정규 분산(평균을 알 때, T=∑(xi−μ)2T=\sum(x_i-\mu)^2), Poisson과 Bernoulli(T=∑xiT=\sum x_i), 지수분포의 평균(T=∑xiT=\sum x_i)이 모두 그렇다. 지수족이 아닌 U(0,θ)\mathrm U(0,\theta)도 T=X(n)T=X_{(n)}에 대해 단조가능도비를 갖는다(연습 2.2). Cauchy 위치모형은 갖지 않는다(연습 1.3).

2.2 Karlin–Rubin 정리 ​

정리 2.4 (Karlin–Rubin (1956)) 분포족이 TT에 대해 단조가능도비를 가지면, H0:θ≤θ0H_0:\theta\le\theta_0 대 H1:θ>θ0H_1:\theta>\theta_0에서

φ∗(x)={1,T(x)>c,γ,T(x)=c,0,T(x)<c(Eθ0φ∗=α)\varphi^*(\x)=\begin{cases}1,&T(\x)>c,\\\gamma,&T(\x)=c,\\0,&T(\x)<c\end{cases}\qquad(E_{\theta_0}\varphi^*=\alpha)

는 크기 α\alpha의 UMP 검정이다. 그 검정력 함수 γ(θ)=Eθφ∗\gamma(\theta)=E_\theta\varphi^*는 감소하지 않는다.

증명 전략 단조가능도비 덕분에 “T>cT>c”는 어느 두 모수값 사이에서도 가능도비의 위쪽 집합이다. 그래서 φ∗\varphi^*는 모든 단순 대 단순 문제의 Neyman–Pearson 검정이 되고, 정리 1.2와 따름정리 1.5를 차례로 쓴다.

  1. θ′<θ′′\theta'<\theta''를 고정한다. 단조가능도비로 f(x;θ′′)/f(x;θ′)=g(T(x))f(\x;\theta'')/f(\x;\theta')=g\bigl(T(\x)\bigr)이고 gg는 감소하지 않는다. k=g(c)k=g(c)로 둔다.정의 2.2

  2. f(x;θ′′)>kf(x;θ′)f(\x;\theta'')>kf(\x;\theta')이면 g(T)>g(c)g(T)>g(c)이므로 T>cT>c, 곧 φ∗=1\varphi^*=1이다. f(x;θ′′)<kf(x;θ′)f(\x;\theta'')<kf(\x;\theta')이면 T<cT<c, 곧 φ∗=0\varphi^*=0이다.gg의 단조성 [T2] 대우

  3. 따라서 φ∗\varphi^*는 θ′\theta' 대 θ′′\theta''의 Neyman–Pearson 꼴이고, 자기 크기 Eθ′φ∗E_{\theta'}\varphi^*의 최강력 검정이다.2, 정리 1.2(b)

  4. Eθ′′φ∗≥Eθ′φ∗E_{\theta''}\varphi^*\ge E_{\theta'}\varphi^*이다. 검정력 함수는 감소하지 않는다.3, 따름정리 1.5(b)

  5. 크기는 sup⁡θ≤θ0Eθφ∗=Eθ0φ∗=α\sup_{\theta\le\theta_0}E_\theta\varphi^*=E_{\theta_0}\varphi^*=\alpha이다.4

  6. θ1>θ0\theta_1>\theta_0과, H0H_0 전체에서 크기가 α\alpha 이하인 검정 φ\varphi를 아무거나 고른다. 특히 Eθ0φ≤αE_{\theta_0}\varphi\le\alpha이다.크기의 정의

  7. 3을 θ′=θ0\theta'=\theta_0, θ′′=θ1\theta''=\theta_1에 쓰면 φ∗\varphi^*는 크기 α\alpha의 최강력 검정이므로 Eθ1φ∗≥Eθ1φE_{\theta_1}\varphi^*\ge E_{\theta_1}\varphi이다. θ1\theta_1이 아무것이었으므로 UMP다.6, 정의 2.1

조건 확인 가능도비는 ∞\infty를 값으로 가질 수 있다(연습 2.2). f(x;θ′)=0<f(x;θ′′)f(\x;\theta')=0<f(\x;\theta'')인 점에서는 f′′−kf′>0f''-kf'>0이므로 2의 분류가 그대로 맞는다. 또 3에서 쓰는 정리 1.2(b)의 증명은 경계 {f′′=kf′}\{f''=kf'\} 위의 검정의 값을 쓰지 않으므로, 경계에서 φ∗\varphi^*가 γ\gamma와 다른 값을 가져도 된다.

11회 4절의 지수족은 UMP 검정의 무대이기도 하다. 충분통계량 하나(TT)가 추정에서도 검정에서도 모든 정보를 담는다.

2.3 양쪽 가설에는 UMP가 없다 ​

예제 2.5 (정규 평균의 양쪽 검정) Xi∼iidN(μ,1)X_i\iid\N(\mu,1), n=25n=25, H0:μ=0H_0:\mu=0 대 H1:μ≠0H_1:\mu\ne0. UMP 검정이 있다면 μ1>0\mu_1>0에서는 한쪽 검정 xˉ>1.645/5\bar x>1.645/5와 같은 검정력을, μ1<0\mu_1<0에서는 xˉ<−1.645/5\bar x<-1.645/5와 같은 검정력을 가져야 한다(정리 1.2(c)의 유일성). 두 기각역은 다르므로 하나의 검정이 둘 다일 수 없다. 흔히 쓰는 양쪽 검정 ∣xˉ∣>1.96/5|\bar x|>1.96/5는 μ=0.4\mu=0.4에서 검정력 0.516으로 한쪽 검정의 0.639보다 낮다. 대신 μ=−0.3\mu=-0.3에서 0.323을 갖는다. 한쪽 검정은 이 쪽에서 0.0008이다(그림 2.1).

증명 없이 쓰는 사실 (균일최강력 불편 검정) 양쪽 가설에서는 기준을 낮춘다. 모든 θ∈Ω1\theta\in\Omega_1에서 검정력이 크기 이상인 검정을 불편이라 한다. 불편 검정 가운데서는 UMP가 있을 수 있다. 지수족의 양쪽 검정에서 “T<c1T<c_1 또는 T>c2T>c_2” 꼴의 검정(정규 평균이면 ∣z∣>1.96|z|>1.96)이 그것이다(Lehmann–Romano, Testing Statistical Hypotheses, 4장). 이 과정에서는 증명하지 않는다.

그림 2.1. 왼쪽: 정규 평균(n=25)에서 한쪽 검정(파랑)과 양쪽 검정(빨강)의 검정력 함수. 오른쪽(μ>0)에서는 한쪽 검정이 낫고, 왼쪽에서는 한쪽 검정의 검정력이 0으로 간다. 오른쪽: 이항 검정(n=20, H_0:p≤0.3)의 검정력 함수는 단조증가한다(정리 2.4). 확률화하지 않은 검정(점선)은 크기가 0.05에 못 미
그림 2.1 왼쪽: 정규 평균(n=25n=25)에서 한쪽 검정(파랑)과 양쪽 검정(빨강)의 검정력 함수. 오른쪽(μ>0\mu>0)에서는 한쪽 검정이 낫고, 왼쪽에서는 한쪽 검정의 검정력이 0으로 간다. 오른쪽: 이항 검정(n=20n=20, H0:p≤0.3H_0:p\le0.3)의 검정력 함수는 단조증가한다(정리 2.4). 확률화하지 않은 검정(점선)은 크기가 0.05에 못 미친다.
연습문제

연습 2.1 (지수족의 단조가능도비 ★) 정규 분산(μ\mu를 앎)에서 H0:σ2≤1H_0:\sigma^2\le1 대 H1:σ2>1H_1:\sigma^2>1의 UMP 검정을 구하라. c(σ2)=−12σ2c(\sigma^2)=-\tfrac1{2\sigma^2}은 증가함수다.

풀이

f=(2πσ2)−n/2exp⁡(−12σ2∑(xi−μ)2)f=(2\pi\sigma^2)^{-n/2}\exp\bigl(-\tfrac1{2\sigma^2}\sum(x_i-\mu)^2\bigr)에서 c(σ2)=−12σ2c(\sigma^2)=-\tfrac1{2\sigma^2}이 증가하므로 T=∑(Xi−μ)2T=\sum(X_i-\mu)^2에 대해 단조가능도비. UMP 검정은 T>cT>c이고 H0H_0의 경계 σ2=1\sigma^2=1에서 T∼χ2(n)T\sim\chi^2(n)이므로 c=χn,α2c=\chi^2_{n,\alpha}.

연습 2.2 (균등분포의 단조가능도비 ★★) U(0,θ)\mathrm U(0,\theta)가 X(n)X_{(n)}에 대해 단조가능도비를 가짐을 보이고(가능도비는 ∞\infty를 허용한다), H0:θ≤1H_0:\theta\le1 대 H1:θ>1H_1:\theta>1의 UMP 검정 “X(n)>(1−α)1/nX_{(n)}>(1-\alpha)^{1/n}이면 기각”을 얻어라.

풀이

θ1<θ2\theta_1<\theta_2이면 f(x;θ2)f(x;θ1)=(θ1/θ2)n\tfrac{f(\x;\theta_2)}{f(\x;\theta_1)}=(\theta_1/\theta_2)^n (x(n)≤θ1x_{(n)}\le\theta_1), ∞\infty (θ1<x(n)≤θ2\theta_1<x_{(n)}\le\theta_2)로 x(n)x_{(n)}의 감소하지 않는 함수다. 정리 2.4으로 X(n)>cX_{(n)}>c가 UMP이고, P1(X(n)>c)=1−cn=αP_1(X_{(n)}>c)=1-c^n=\alpha에서 c=(1−α)1/nc=(1-\alpha)^{1/n}.

연습 2.3 (Poisson의 UMP ★) 기병대 자료(n=280n=280)에서 H0:λ≤0.61H_0:\lambda\le0.61 대 H1:λ>0.61H_1:\lambda>0.61의 크기 0.05 UMP 검정(비확률화, 정규근사 없이)의 기각역 T≥cT\ge c를 구하고, 관측 T=196T=196으로 결론을 내려라(9회 예제 5.3과 비교).

풀이

H0H_0의 경계 λ=0.61\lambda=0.61에서 T∼Poi(170.8)T\sim\mathrm{Poi}(170.8)이고 P(T≥c)≤0.05P(T\ge c)\le0.05인 가장 작은 정수 cc는 194다(실제 크기 0.043, 노트북). T=196≥194T=196\ge194이므로 크기 0.05에서 기각한다. 한쪽 pp-값은 P(T≥196)=0.03P(T\ge196)=0.03 정도다. 9회의 양쪽 검정(p=0.05p=0.05–0.070.07)은 기각하지 못했다. 한쪽 가설을 미리 정했다면 결론이 달라진다.

연습 2.4 (불편성 ★★) 예제 2.5의 양쪽 검정 ∣xˉ∣>1.96/n|\bar x|>1.96/\sqrt n은 불편임을 보여라. 한쪽 검정은 왜 양쪽 가설에 대해 불편이 아닌가?

풀이

검정력 γ(μ)=Φ(−1.96−nμ)+1−Φ(1.96−nμ)\gamma(\mu)=\Phi(-1.96-\sqrt n\mu)+1-\Phi(1.96-\sqrt n\mu)는 μ=0\mu=0에서 최솟값 0.05를 갖는다(γ′(0)=0\gamma'(0)=0이고 볼록). 따라서 모든 μ≠0\mu\ne0에서 0.05 이상이다. 한쪽 검정은 μ<0\mu<0에서 검정력이 0.05보다 작아 불편이 아니다.

이 회차에서 읽은 절 0개 · 회차 차례