수리통계학

테마

12회 · 최적 검정과 결정 · 워크북

B. 빈칸 증명 ​

노트의 단계형 증명을 책을 덮고 다시 쓴다. 같은 정리를 여러 번 만나며 도움이 줄어든다. 1 단계는 주어지고 근거만 빈칸이다. 2 단계의 이름만 주어진다. 3 전략만 주어진다. 근거에는 정의나 정리의 번호, 앞 회차의 결과, 도구 번호를 쓴다.

B1 Neyman–Pearson의 (b)(c), 근거 채우기 ★★ ​

1 · 정리 1.2 · 15분

φ∗\varphi^*는 f1>kf0f_1>kf_0에서 1, f1<kf0f_1<kf_0에서 0인 검정이고 k≥0k\ge0이다. 각 단계의 근거를 써라.

  1. 크기가 Eθ0φ∗E_{\theta_0}\varphi^* 이하인 검정 φ\varphi에 대해, 모든 x\x에서 (φ∗−φ)(f1−kf0)≥0(\varphi^*-\varphi)(f_1-kf_0)\ge0이다.왜?φ∗\varphi^*의 정의, 0≤φ≤10\le\varphi\le1

  2. 적분한다.

    0≤∫(φ∗−φ)(f1−kf0) dx=(Eθ1φ∗−Eθ1φ)−k(Eθ0φ∗−Eθ0φ)\begin{align*} 0&\le\int(\varphi^*-\varphi)(f_1-kf_0)\,d\x \tag*{\htmlClass{why}{\htmlClass{why-q}{\text{왜?}}\htmlClass{why-a}{\text{\htmlClass{sref}{\text{1}}, 적분의 단조성}}}}\\ &=\bigl(E_{\theta_1}\varphi^*-E_{\theta_1}\varphi\bigr)-k\bigl(E_{\theta_0}\varphi^*-E_{\theta_0}\varphi\bigr) \tag*{\htmlClass{why}{\htmlClass{why-q}{\text{왜?}}\htmlClass{why-a}{\text{적분의 선형성}}}} \end{align*}

  3. Eθ1φ∗−Eθ1φ≥k(Eθ0φ∗−Eθ0φ)≥0E_{\theta_1}\varphi^*-E_{\theta_1}\varphi\ge k\bigl(E_{\theta_0}\varphi^*-E_{\theta_0}\varphi\bigr)\ge0이다.왜?k≥0k\ge0, 크기의 가정

  4. φ\varphi도 크기 α\alpha의 최강력 검정이면 2의 적분은 정확히 0이다.왜?최강력의 정의, 2

  5. f1≠kf0f_1\ne kf_0인 곳에서는 거의 어디서나 φ=φ∗\varphi=\varphi^*이다.왜?음이 아닌 함수의 적분이 0

힌트

근거는 짧게 쓴다. 1은 f1>kf0f_1>kf_0, f1<kf0f_1<kf_0, f1=kf0f_1=kf_0의 세 경우로 나눠 확인한 것이다.

풀이

빈칸의 빨간 글씨가 근거다. 노트 정리 1.2의 단계 4–8과 같다. 2에서 적분을 두 기댓값의 차로 나눌 수 있는 것은 ∣(φ∗−φ)(f1−kf0)∣≤f1+kf0|(\varphi^*-\varphi)(f_1-kf_0)|\le f_1+kf_0가 적분가능하기 때문이다. 4에서는 Eθ1φ=Eθ1φ∗E_{\theta_1}\varphi=E_{\theta_1}\varphi^*이고 Eθ0φ≤α=Eθ0φ∗E_{\theta_0}\varphi\le\alpha=E_{\theta_0}\varphi^*이므로 2의 오른쪽이 00 이하가 되고, 왼쪽이 0 이상이므로 0이다.

B2 Karlin–Rubin, 근거 채우기 ★★ ​

1 · 정리 2.4 · 15분

분포족이 TT에 대해 단조가능도비를 갖고, φ∗\varphi^*는 T>cT>c에서 1, T<cT<c에서 0, Eθ0φ∗=αE_{\theta_0}\varphi^*=\alpha이다. 각 단계의 근거를 써라.

  1. θ′<θ′′\theta'<\theta''이면 f(x;θ′′)/f(x;θ′)=g(T(x))f(\x;\theta'')/f(\x;\theta')=g(T(\x)), gg는 감소하지 않는다. k=g(c)k=g(c)로 둔다.왜?정의 2.2

  2. f′′>kf′f''>kf'이면 T>cT>c이므로 φ∗=1\varphi^*=1이고, f′′<kf′f''<kf'이면 T<cT<c이므로 φ∗=0\varphi^*=0이다.왜?gg의 단조성, 대우 [T2]

  3. φ∗\varphi^*는 θ′\theta' 대 θ′′\theta''의 자기 크기 최강력 검정이다.왜?정리 1.2(b)

  4. Eθ′′φ∗≥Eθ′φ∗E_{\theta''}\varphi^*\ge E_{\theta'}\varphi^*이다.왜?따름정리 1.5(b)

  5. sup⁡θ≤θ0Eθφ∗=Eθ0φ∗=α\sup_{\theta\le\theta_0}E_\theta\varphi^*=E_{\theta_0}\varphi^*=\alpha이다.왜?4: 검정력의 단조성

  6. θ1>θ0\theta_1>\theta_0이고 φ\varphi의 크기가 α\alpha 이하이면 Eθ0φ≤αE_{\theta_0}\varphi\le\alpha이다.왜?크기의 정의

  7. Eθ1φ∗≥Eθ1φE_{\theta_1}\varphi^*\ge E_{\theta_1}\varphi이고, θ1\theta_1이 아무것이므로 UMP다.왜?3을 θ0\theta_0 대 θ1\theta_1에

힌트

4와 7은 모두 3의 결과를 쓴다. 하나는 따름정리를, 하나는 최강력의 정의를 거친다.

풀이

빈칸의 빨간 글씨가 근거다. 노트 정리 2.4의 증명과 같다. 2에서 g(T)>g(c)g(T)>g(c)이면 T>cT>c인 것은 대우로 보인다. T≤cT\le c이면 gg가 감소하지 않으므로 g(T)≤g(c)g(T)\le g(c)이다.

B3 Wald의 등식, 근거 채우기 ★★ ​

1 · 보조정리 4.3 · 15분

Z1,Z2,…Z_1,Z_2,\dots가 iid, E∣Z1∣<∞E|Z_1|<\infty, NN이 멈춤시각, EN<∞EN<\infty이다. 각 단계의 근거를 써라.

  1. ∑i=1NZi=∑i=1∞Zi 1{N≥i}\sum_{i=1}^NZ_i=\sum_{i=1}^\infty Z_i\,1\{N\ge i\}이다.왜?지시함수 [T1]

  2. {N≥i}\{N\ge i\}는 Z1,…,Zi−1Z_1,\dots,Z_{i-1}로 정해지므로 ZiZ_i와 독립이다.왜?멈춤시각의 정의, iid

  3. E[Zi1{N≥i}]=EZ1 P(N≥i)E\bigl[Z_i1\{N\ge i\}\bigr]=EZ_1\,P(N\ge i)이다.왜?2회 정리 2.7

  4. E∑i≤NZi=∑iEZ1 P(N≥i)=EZ1⋅ENE\sum_{i\le N}Z_i=\sum_iEZ_1\,P(N\ge i)=EZ_1\cdot EN이다.왜?합과 기댓값의 교환, 2회 정리 1.13

조건 확인: 4의 첫 등호에서 합과 기댓값의 순서를 바꿀 수 있는 이유를 쓰라.

∑iE∣Zi∣1{N≥i}=E∣Z1∣ EN<∞\sum_iE|Z_i|1\{N\ge i\}=E|Z_1|\,EN<\infty이므로 Fubini [T6]

힌트

2회 정리 1.13은 꼬리 공식 EN=∑i≥1P(N≥i)EN=\sum_{i\ge1}P(N\ge i)이다. 조건 확인에는 ∣Zi∣|Z_i|에 같은 계산을 한 결과를 쓴다.

풀이

빈칸의 빨간 글씨가 근거다. 노트 보조정리 4.3의 증명과 같다. 조건 확인은 1–3을 ∣Zi∣|Z_i|에 그대로 써서 ∑iE[∣Zi∣1{N≥i}]=E∣Z1∣ EN<∞\sum_iE\bigl[|Z_i|1\{N\ge i\}\bigr]=E|Z_1|\,EN<\infty를 얻고, 그래서 Fubini–Tonelli로 합과 기댓값을 바꿀 수 있다는 것이다.

B4 Neyman–Pearson, 단계의 이름만 ★★ ​

2 · 정리 1.2 · 25분

정리 1.2의 (a)(b)(c)를 증명하라. 단계의 이름만 주어진다. 각 단계 아래에 식과 근거를 써라.

  1. (a) 가능도비의 생존함수 F(k)F(k)를 정의하고 성질을 적는다

  2. 임계값 kk를 고른다

  3. 경계에서 확률화해 크기를 맞춘다

  4. (b) 모든 점에서 성립하는 부등식

  5. 적분한다

  6. 결론

  7. (c) 적분이 0이 되는 이유

  8. 거의 어디서나의 결론

힌트

B1에서 채운 근거를 다시 보지 말고 쓴다. (a)의 F(k−)F(k-)는 Pθ0(f1≥kf0)P_{\theta_0}(f_1\ge kf_0)이다.

풀이

  1. F(k)=Pθ0(f1>kf0)F(k)=P_{\theta_0}(f_1>kf_0)은 감소하고 오른쪽 연속이며 k→∞k\to\infty에서 0으로 간다.1회 정리 4.7

  2. k=inf⁡{t≥0:F(t)≤α}k=\inf\{t\ge0:F(t)\le\alpha\}이면 F(k)≤α≤F(k−)F(k)\le\alpha\le F(k-).1

  3. γ=α−F(k)F(k−)−F(k)\gamma=\tfrac{\alpha-F(k)}{F(k-)-F(k)}로 두면 크기가 α\alpha.P0(f1=kf0)=F(k−)−F(k)P_0(f_1=kf_0)=F(k-)-F(k)

  4. (φ∗−φ)(f1−kf0)≥0(\varphi^*-\varphi)(f_1-kf_0)\ge0.세 경우

  5. 적분하면 (E1φ∗−E1φ)−k(E0φ∗−E0φ)≥0(E_1\varphi^*-E_1\varphi)-k(E_0\varphi^*-E_0\varphi)\ge0.적분의 단조성·선형성

  6. E1φ∗−E1φ≥k(E0φ∗−E0φ)≥0E_1\varphi^*-E_1\varphi\ge k(E_0\varphi^*-E_0\varphi)\ge0.k≥0k\ge0

  7. φ\varphi도 최강력이면 적분은 0.5

  8. f1≠kf0f_1\ne kf_0에서 φ=φ∗\varphi=\varphi^* (거의 어디서나).음이 아닌 함수

B5 Karlin–Rubin, 단계의 이름만 ★★ ​

2 · 정리 2.4 · 25분

정리 2.4를 증명하라. 단계의 이름만 주어진다.

  1. 두 모수값을 고정하고 단조가능도비를 쓴다

  2. 기각역이 가능도비의 위쪽 집합임을 보인다

  3. 그래서 Neyman–Pearson 검정이다

  4. 검정력 함수의 단조성

  5. 크기

  6. 비교할 검정을 고른다

  7. 균일최강력의 결론

힌트

“위쪽 집합”은 {f′′>kf′}⊂{φ∗=1}\{f''>kf'\}\subset\{\varphi^*=1\}, {f′′<kf′}⊂{φ∗=0}\{f''<kf'\}\subset\{\varphi^*=0\}이라는 뜻이다.

풀이

노트 정리 2.4의 단계형 증명과 같다. 단계별 근거는 B2의 풀이를 본다. 가능도비가 ∞\infty인 점(f′=0<f′′f'=0<f'')은 {f′′>kf′}\{f''>kf'\}에 들어가므로 따로 다룰 필요가 없다.

B6 Neyman–Pearson, 전략만 ★★ ​

3 · 정리 1.2 · 30분

정리 1.2의 (a)(b)(c)를 증명하라.

전략 (a)는 가능도비의 생존함수에서 임계값을 고르고 경계에서 확률화한다. (b)는 모든 점에서 성립하는 부등식 하나를 적분한다. (c)는 그 부등식이 등호가 되는 조건을 읽는다.

힌트

(b)의 부등식에서 k≥0k\ge0을 어디에 쓰는지 표시한다. (c)에서는 φ\varphi의 크기가 α\alpha 이하라는 것도 쓴다.

풀이

B4의 풀이와 같다. 확률화가 필요한 것은 (a)뿐이다. (b)와 (c)는 경계 {f1=kf0}\{f_1=kf_0\} 위에서 φ∗\varphi^*의 값을 쓰지 않으므로, 경계에서의 값이 무엇이든 성립한다.

B7 Wald의 등식, 전략만 ★★ ​

3 · 보조정리 4.3 · 25분

보조정리 4.3을 증명하라. 그리고 NN이 멈춤시각이 아니면 몇 번째 단계가 무너지는지 밝혀라.

전략 무작위 개수의 합을 지시함수로 고정된 무한합으로 바꾼다. 멈춤시각이라는 조건이 각 항의 두 인수를 독립으로 만든다.

힌트

노트 연습 4.1의 반례에서 {N≥2}\{N\ge2\}는 무엇으로 정해지는가.

풀이

B3의 풀이와 같다. NN이 멈춤시각이 아니면 2가 무너진다. 예를 들어 다음 관측 ZiZ_i를 엿보고 멈추면 {N≥i}\{N\ge i\}가 ZiZ_i에 의존하므로 E[Zi1{N≥i}]≠EZ1P(N≥i)E[Z_i1\{N\ge i\}]\ne EZ_1P(N\ge i)일 수 있다(노트 연습 4.1).

워크북 PDF풀이판 PDF답 확인