8회 · 추론의 기초 · 워크북

C. 증명 문제

노트의 정리를 변형하고, 일반화하고, 반례로 경계를 확인한다. 증명은 노트의 단계형 모양으로 쓴다. 한 줄에 한 단계, 줄마다 근거.

C1 최솟값과 최댓값의 결합밀도 ★★

[T1] · 정리 1.2 · 20분

$X_1,\dots,X_n$ ($n\ge2$)이 분포함수 $F$, 밀도 $f$를 갖는 iid이다.

1. (a)

   $u<v$이면 $P(u<X_{(1)},\allowbreak \ X_{(n)}\le v)=\bigl(F(v)-F(u)\bigr)^n$임을 보여라.

2. (b)

   $P(X_{(1)}\le u,\allowbreak \ X_{(n)}\le v)=F(v)^n-\bigl(F(v)-F(u)\bigr)^n$ ($u<v$)을 보여라.

3. (c)

   (b)를 $u$와 $v$로 미분해 $(X_{(1)},X_{(n)})$의 결합밀도 $n(n-1)\bigl(F(v)-F(u)\bigr)^{n-2}f(u)f(v)$ ($u<v$)를 얻어라.

4. (d)

   $\mathrm U(0,1)$이면 범위의 기댓값 $E(X_{(n)}-X_{(1)})$은 $n$의 어떤 식인가?

힌트

(a) 모든 관측이 $(u,v]$에 있다는 사건이다. (b) $\{X_{(n)}\le v\}$에서 (a)의 사건을 뺀다. (d)는 결합밀도를 쓰지 않고 $EX_{(n)}$과 $EX_{(1)}$을 따로 구해도 된다.

풀이

(a) $u<X_{(1)}$이고 $X_{(n)}\le v$인 것은 모든 $X_i$가 $(u,v]$에 있다는 것이고, 독립으로 확률은 $(F(v)-F(u))^n$이다. (b) $\{X_{(1)}\le u,\allowbreak X_{(n)}\le v\}=\{X_{(n)}\le v\}\setminus\{u<X_{(1)},\allowbreak X_{(n)}\le v\}$이고 뒤의 사건이 앞의 사건에 포함되므로 차 공식으로 $F(v)^n-(F(v)-F(u))^n$이다. (c) 결합분포함수 $H(u,v)$의 혼합편도함수가 결합밀도다. $\partial_vH=nF(v)^{n-1}f(v)-n(F(v)-F(u))^{n-1}f(v)$이고 첫 항은 $u$와 무관하므로 $\partial_u\partial_vH=n(n-1)(F(v)-F(u))^{n-2}f(u)f(v)$이다. $u\ge v$이면 $H(u,v)=F(v)^n$이 $u$와 무관하므로 밀도가 0이다. (d) $EX_{(n)}=\int_0^1(1-x^n)\,dx=\tfrac n{n+1}$, $EX_{(1)}=\int_0^1(1-x)^n\,dx=\tfrac1{n+1}$이므로 $\tfrac{n-1}{n+1}$이다. 노트 연습 1.1의 $\mathrm{Beta}(n-1,2)$의 평균과 같다.

최종답 (d) $\tfrac{n-1}{n+1}$

C2 최댓값의 일치성과 $1/n$1/n의 속도 ★★

[T5], [T8] · 정의 1.1 · 20분

$X_1,\allowbreak \dots,\allowbreak X_n\iid\mathrm U(0,\allowbreak \theta)$, $M_n=X_{(n)}$이다.

1. (a)

   모든 $\varepsilon\in(0,\theta)$에서 $P(\theta-M_n>\varepsilon)=(1-\varepsilon/\theta)^n$을 보이고, $M_n$이 $\theta$의 일치추정량임을 보여라.

2. (b)

   $t>0$이면 $P\bigl(n(\theta-M_n)>t\bigr)\to e^{-t/\theta}$임을 보여라. 곧 $n(\theta-M_n)$은 평균 $\theta$인 지수분포로 분포수렴한다.

3. (c)

   표본평균에 바탕한 $2\bar X$는 $\sqrt n(2\bar X-\theta)$가 정규로 수렴한다. 두 추정량의 오차의 크기를 $n$의 거듭제곱으로 비교하라.

4. (d)

   $\theta=1$, $n=50$이면 $P(n(\theta-M_n)>1)$의 정확한 값은 얼마인가?

힌트

(b) $(1-\tfrac{x}{n})^n\to e^{-x}$ [T5]. (c) 오차의 크기가 $1/n$인가 $1/\sqrt n$인가.

풀이

(a) $\{\theta-M_n>\varepsilon\}=\{$모든 $X_i<\theta-\varepsilon\}$이므로 확률은 $(1-\varepsilon/\theta)^n\to0$이다. $M_n\le\theta$이므로 $P(|M_n-\theta|>\varepsilon)\to0$, 곧 일치한다. (b) $t<n\theta$이면 (a)에 $\varepsilon=t/n$을 넣어 $(1-\tfrac{t/\theta}n)^n\to e^{-t/\theta}$이다. 이것은 평균 $\theta$인 지수분포의 꼬리이고, 꼬리의 수렴은 분포함수의 수렴과 같다. (c) $M_n-\theta=O_p(1/n)$이고 $2\bar X-\theta=O_p(1/\sqrt n)$이다. 표본이 네 배가 되면 $M_n$의 오차는 4분의 1로, $2\bar X$의 오차는 절반으로 준다. 정리 1.6의 전차 추정량이 적률법보다 나았던 것도 이 차이다. (d) $(1-\tfrac1{50})^{50}\approx0.3642$이고 극한 $e^{-1}=0.3679$와 0.004 차이다.

최종답 (d) $(1-\tfrac1{50})^{50}\approx0.3642$

C3 위치–척도 모형의 축량 ★★

정리 2.2 · 15분

$Z_1,\dots,Z_n$이 알려진 밀도 $g$를 갖는 iid이고 $X_i=\mu+\sigma Z_i$ ($\sigma>0$)이다. $\bar X$, $S$는 표본평균과 표본표준편차다.

1. (a)

   $\bar X=\mu+\sigma\bar Z$, $S=\sigma S_Z$임을 보여라.

2. (b)

   $T=\frac{\bar X-\mu}{S}$의 분포가 $\mu$와 $\sigma$에 의존하지 않음을 보여라. 곧 $T$는 축량이다.

3. (c)

   $T$의 분위수 $a<b$로 $\mu$의 정확한 $1-\alpha$ 구간을 만들어라. $g$가 정규이면 무엇이 되는가?

4. (d)

   $S/\sigma$도 $\sigma$의 축량임을 보여라.

힌트

(b) $T=\bar Z/S_Z$는 $Z$들만의 함수다. (c)는 정리 2.2에 단조성을 확인한다.

풀이

(a) $\bar X=\tfrac1n\sum(\mu+\sigma Z_i)=\mu+\sigma\bar Z$이고 $X_i-\bar X=\sigma(Z_i-\bar Z)$이므로 $S^2=\sigma^2S_Z^2$이다. (b) $T=\tfrac{\sigma\bar Z}{\sigma S_Z}=\tfrac{\bar Z}{S_Z}$이고, $Z$들의 결합분포는 $g$만으로 정해지므로 $T$의 분포는 $\mu,\sigma$와 무관하다. (c) $P(a\le T\le b)=1-\alpha$이고 $T$는 $\mu$에 대해 감소하므로, 정리 2.2로 $\{\mu:a\le\tfrac{\bar X-\mu}S\le b\}=[\bar X-bS,\allowbreak \ \bar X-aS]$가 정확한 구간이다. $g$가 정규이면 $\sqrt nT\sim t(n-1)$이므로 6회의 $t$-구간이다. $g$가 정규가 아니어도 $T$의 분위수를 $g$로 시뮬레이션해 얻으면 정확한 구간이 된다. (d) $S/\sigma=S_Z$는 $Z$들만의 함수다.

C4 두 신뢰구간을 함께 ★★

[T1] · 명제 8.3 · 15분

$C_1$은 $\theta_1$의 $1-\alpha_1$ 신뢰구간, $C_2$는 $\theta_2$의 $1-\alpha_2$ 신뢰구간이다(같은 자료로 만들어 독립이 아닐 수 있다).

1. (a)

   $P(\theta_1\in C_1,\allowbreak \ \theta_2\in C_2)\ge1-\alpha_1-\alpha_2$를 보여라.

2. (b)

   두 구간이 독립이면 동시 포함확률은 얼마인가? (a)의 하한보다 큰지 확인하라.

3. (c)

   (a)의 등호가 성립하는 예를 하나 만들어라.

4. (d)

   $m$개의 구간을 각각 $1-\alpha/m$으로 만들면 동시 포함확률이 $1-\alpha$ 이상임을 결론지어라.

힌트

(a) 동시에 덮지 못하는 사건은 두 “놓침” 사건의 합집합이다. (c) 두 놓침 사건이 서로소이면 Boole 부등식이 등호다.

풀이

(a) $A_j=\{\theta_j\notin C_j\}$이면 De Morgan으로 $\{\theta_1\in C_1,\allowbreak \theta_2\in C_2\}^c=A_1\cup A_2$이고 Boole 부등식으로 $P(A_1\cup A_2)\le\alpha_1+\alpha_2$이다. (b) $(1-\alpha_1)(1-\alpha_2)=1-\alpha_1-\alpha_2+\alpha_1\alpha_2$로 하한보다 $\alpha_1\alpha_2$만큼 크다. (c) $U\sim\mathrm U(0,1)$로 만든 두 “구간”이 각각 $U<\alpha_1$과 $U>1-\alpha_2$일 때 놓친다고 하자($\alpha_1+\alpha_2\le1$). 두 놓침 사건은 서로소이므로 동시 포함확률은 정확히 $1-\alpha_1-\alpha_2$이다. 예컨대 같은 표본의 평균에 대한 아래쪽 한계와 위쪽 한계가 이렇다. (d) (a)를 $m$개로 넓히면(Boole 부등식) 놓칠 확률이 $m\cdot\alpha/m=\alpha$ 이하다.

C5 양쪽 $z$z 검정은 불편이다 ★★

정리 3.4 · 20분

$\sigma$를 아는 정규 평균에서 $H_0:\mu=\mu_0$를 $|\bar X-\mu_0|\ge z_{\alpha/2}\sigma/\sqrt n$일 때 기각한다. $d=\sqrt n(\mu-\mu_0)/\sigma$, $z=z_{\alpha/2}$로 둔다.

1. (a)

   검정력 함수가 $\gamma(d)=\Phi(d-z)+\Phi(-d-z)$임을 보여라.

2. (b)

   $\gamma$가 $d$에 대해 짝함수이고 $\gamma(0)=\alpha$임을 보여라.

3. (c)

   $d>0$이면 $\gamma'(d)=\varphi(d-z)-\varphi(d+z)>0$임을 보이고, 모든 $\mu$에서 $\gamma\ge\alpha$(불편성)를 결론지어라.

4. (d)

   $n=25$, $\sigma=10$, $\mu-\mu_0=5$, $\alpha=0.05$이면 검정력은?

힌트

(c) $d>0$이면 $|d-z|<d+z$이고 $\varphi$는 $|x|$에 대해 감소한다.

풀이

(a) $Z=\sqrt n(\bar X-\mu)/\sigma\sim\N(0,\allowbreak 1)$이면 기각 사건은 $|Z+d|\ge z$이고 확률은 $P(Z\ge z-d)+P(Z\le-z-d)=\Phi(d-z)+\Phi(-d-z)$이다. (b) $d$를 $-d$로 바꾸면 두 항이 자리를 바꾼다. $\gamma(0)=2\Phi(-z)=\alpha$이다. (c) 미분하면 $\varphi(d-z)-\varphi(-d-z)=\varphi(d-z)-\varphi(d+z)$이다. $d>0$, $z>0$이면 $|d-z|<d+z$이고 $\varphi$는 $|x|$가 클수록 작으므로 양수다. 따라서 $\gamma$는 $d=0$에서 최소이고 최솟값이 $\alpha$이다. 한쪽 검정을 양쪽 대립가설에 쓰면 반대쪽에서 검정력이 $\alpha$보다 작아지는 것과 대조된다. (d) $d=2.5$이므로 $\Phi(0.540)+\Phi(-4.46)\approx0.7054$이다. 같은 차이에서 한쪽 검정(A11)의 0.804보다 작다.

최종답 (d) $0.7054$

C6 복합 귀무가설의 $p$p-값 ★★

정의 4.1, 정리 4.2 · 15분

정의 4.1의 $p(t)=\sup_{\theta\in\Omega_0}P_\theta(T\ge t)$에 대해 다음을 보여라.

1. (a)

   모든 $\theta\in\Omega_0$에서 $p(t)\ge G_\theta(t)=P_\theta(T\ge t)$이다.

2. (b)

   $\{p(T)\le\alpha\}\subset\{G_\theta(T)\le\alpha\}$이고, 따라서 모든 $\theta\in\Omega_0$에서 $P_\theta(p(T)\le\alpha)\le\alpha$이다.

3. (c)

   한쪽 $z$ 검정($H_0:\mu\le\mu_0$)에서 상한이 $\mu=\mu_0$에서 이루어짐을 보이고, $\mu<\mu_0$이면 $P_\mu(p\le\alpha)<\alpha$임을 보여라.

힌트

(b)의 둘째 부분은 정리 4.2(b)를 $P_\theta$에 쓴다. 그 증명은 $T$의 분포에 아무 조건도 쓰지 않았다.

풀이

(a) 상한의 정의다. (b) $p(T)\le\alpha$이면 (a)로 $G_\theta(T)\le p(T)\le\alpha$이다. 정리 4.2(b)를 $\theta$에서의 분포에 쓰면 $P_\theta(G_\theta(T)\le\alpha)\le\alpha$이므로 포함관계로 결론이 나온다. (c) $T=\bar X$이면 $P_\mu(\bar X\ge t)$는 $\mu$에 대해 증가하므로 $\mu\le\mu_0$에서의 상한은 $\mu_0$에서의 값이고, $p=1-\Phi\bigl(\sqrt n(\bar x-\mu_0)/\sigma\bigr)$이다. $p\le\alpha$는 $\bar X\ge\mu_0+z_\alpha\sigma/\sqrt n$과 같고, 그 확률은 정리 3.4의 $\gamma(\mu)$이다. $\gamma$가 증가하므로 $\mu<\mu_0$이면 $\gamma(\mu)<\gamma(\mu_0)=\alpha$이다.

C7 $X^2$X²의 정확한 평균 ★

정리 5.1 · 15분

$H_0$가 참이고 $n$이 유한할 때 다음을 보여라.

1. (a)

   $X^2=\sum_j\frac{N_j^2}{np^0_j}-n$.

2. (b)

   $E(N_j-np^0_j)^2=np^0_j(1-p^0_j)$이고, 따라서 $EX^2=k-1$이다.

3. (c)

   $\chi^2(k-1)$의 평균과 비교하라. (b)는 근사가 아니라 정확한 등식이다.

힌트

(b) $N_j$의 주변분포는 이항분포 $\mathrm b(n,p^0_j)$이다(4회).

풀이

(a) $(N_j-np_j)^2/(np_j)=N_j^2/(np_j)-2N_j+np_j$를 더하면 $\sum_jN_j=n$, $\sum_jp_j=1$이므로 $\sum N_j^2/(np_j)-2n+n$이다. (b) $N_j\sim\mathrm b(n,p_j)$이므로 $E(N_j-np_j)^2=\Var N_j=np_j(1-p_j)$이고 $EX^2=\sum_j(1-p_j)=k-1$이다. (c) $\chi^2(k-1)$의 평균도 $k-1$이다. 기대도수가 작을 때 근사가 나빠지는 것은 평균이 아니라 꼬리, 곧 분산과 높은 적률 때문이다(노트 7.4절).

C8 Wilson 구간은 $[0,1]$[0,1]을 벗어나지 않는다 ★★

정리 3.5 · 15분

노트 예제 3.6의 Wilson 구간은 $W=\{p_0:(\hat p-p_0)^2\le\frac{z^2}np_0(1-p_0)\}$이다.

1. (a)

   $W\subset[0,1]$임을 보여라.

2. (b)

   Wald 구간은 $[0,1]$을 벗어날 수 있다. $n=20$, $\hat p=0.05$에서 Wald 구간의 아래쪽 끝을 구하라($z=1.96$).

3. (c)

   Wilson 구간의 중심 $\frac{\hat p+z^2/(2n)}{1+z^2/n}$이 $\hat p$와 $\tfrac12$ 사이에 있음을 보여라.

힌트

(a) $p_0<0$이나 $p_0>1$이면 오른쪽이 음수다. (c) 중심은 $\hat p$와 $\tfrac12$의 가중평균이다.

풀이

(a) $p_0\notin[0,1]$이면 $p_0(1-p_0)<0$이어서 오른쪽은 음수이고, 왼쪽은 0 이상이므로 부등식이 성립하지 않는다. 따라서 $W$의 점은 모두 $[0,1]$에 있다. (b) $0.05-1.96\sqrt{0.05\cdot0.95/20}=0.05-0.0955=-0.0455$이다. 음수인 비율을 “덮는” 구간이다. (c) $w=\tfrac{1}{1+z^2/n}$이면 중심은 $w\hat p+(1-w)\tfrac12$이다. $\tfrac{z^2/(2n)}{1+z^2/n}=(1-w)\tfrac12$이기 때문이다. $0<w<1$이므로 두 점 사이에 있다.

최종답 (b) $-0.0455$

C9 Holm의 절차 ★★★

[T1] · 명제 8.3 · 25분

$p$-값 $m$개를 정렬해 $p_{(1)}\le\cdots\le p_{(m)}$이라 하자. Holm(1979)의 절차는 $p_{(i)}\le\frac\alpha{m-i+1}$이 $i=1,2,\dots$에서 성립하는 동안 차례로 기각하고, 처음 성립하지 않는 곳에서 멈춘다. 참인 귀무가설의 첨자 집합을 $I_0$, $m_0=|I_0|\ge1$이라 하자.

1. (a)

   참인 귀무가설 가운데 $p$-값이 가장 작은 것이 정렬에서 $j$번째이면 $j\le m-m_0+1$임을 보여라.

2. (b)

   참인 귀무가설이 하나라도 기각되면 $\min_{i\in I_0}p_i\le\frac\alpha{m_0}$임을 보여라.

3. (c)

   (b)와 명제 8.3의 논리로 가족별 오류율이 어떤 의존 구조에서도 $\alpha$ 이하임을 보여라.

4. (d)

   $p$-값 0.004, 0.011, 0.02, 0.03, 0.4에 $\alpha=0.05$의 Holm을 쓰면 몇 개를 기각하는가?

5. (e)

   같은 $p$-값에 $\alpha=0.05$의 Bonferroni를 쓰면 몇 개를 기각하는가?

힌트

(b) 참인 귀무가설이 처음 기각되는 단계는 $j$번째 단계다. 그때 $p_{(j)}\le\alpha/(m-j+1)$이고 (a)를 쓴다.

풀이

(a) 참인 귀무가설의 $p$-값 $m_0$개는 모두 $j$번째 이후에 있으므로 $j+m_0-1\le m$이다. (b) Holm은 정렬 순서대로 기각하므로 참인 귀무가설이 하나라도 기각되면 그 가운데 가장 작은 것, 곧 $j$번째도 기각된다. $j$번째에서 기각되었으므로 $p_{(j)}\le\tfrac\alpha{m-j+1}\le\tfrac\alpha{m_0}$이다. 둘째 부등식은 (a)의 $m-j+1\ge m_0$이다. (c) (b)로 오류 사건은 $\bigcup_{i\in I_0}\{p_i\le\alpha/m_0\}$에 포함되고, Boole 부등식과 정리 4.2로 그 확률은 $m_0\cdot\tfrac\alpha{m_0}=\alpha$ 이하다. (d) 기준선 $0.01,\allowbreak \ 0.0125,\allowbreak \ 0.0167,\allowbreak \ 0.025,\allowbreak \ 0.05$와 비교하면 $0.004\le0.01$, $0.011\le0.0125$에서 기각하고 $0.02>0.0167$에서 멈추므로 2개다. (e) Bonferroni의 기준 $0.01$ 아래는 0.004 하나다. Holm은 같은 보장을 하면서 언제나 Bonferroni 이상을 기각한다.

최종답 (d) $2$ (e) $1$

워크북 PDF풀이판 PDF답 확인