15회 · 가정이 틀리면 · 워크북

A. 계산 드릴

순위, 정확한 귀무분포, 효율, M-추정, 잭나이프와 부트스트랩을 손으로 계산한다. 답이 수나 식으로 떨어지므로 다 풀면 뒤의 최종답이나 노트북의 check()로 맞춰 본다. 표준정규 분위수가 필요한 곳은 표를 쓴다.

A1 순위합과 Mann–Whitney ★

정의 1.4, 정리 1.5(a) · 6분

$X=(1.8,\ 3.1,\ 4.6)$, $Y=(2.2,\ 2.9,\ 5.0,\ 5.7)$이다. (a) 합친 표본에서의 순위로 Wilcoxon 순위합 $W$를 구하라. (b) Mann–Whitney 통계량 $U=\#\{(i,j):X_i>Y_j\}$를 직접 세고 $W=U+m(m+1)/2$를 확인하라.

힌트

일곱 값을 크기 순서로 늘어놓고 $X$의 자리에 표시한다. $U$는 각 $X_i$보다 작은 $Y$의 수를 더한 것이다.

풀이

정렬하면 $1.8_X,\allowbreak \ 2.2_Y,\allowbreak \ 2.9_Y,\allowbreak \ 3.1_X,\allowbreak \ 4.6_X,\allowbreak \ 5.0_Y,\allowbreak \ 5.7_Y$이므로 $X$의 순위는 1, 4, 5이고 (a) $W=10$이다. (b) $1.8$보다 작은 $Y$는 없고, $3.1$과 $4.6$보다 작은 $Y$는 각각 두 개다. $U=0+2+2=4$이고 $U+3\cdot4/2=4+6=10=W$이다.

최종답 (a) $W=10$ (b) $U=4$

A2 작은 표본의 정확한 귀무분포 ★★

정리 1.5(b) · 12분

$m=3$, $n=4$이고 $F=G$가 연속이다. (a) $EW$, (b) $\Var W$를 정리의 공식으로 구하라. (c) $\{1,\dots,7\}$에서 고른 세 수의 합이 10 이하인 경우를 모두 세어 $P(W\le10)$을 구하라.

힌트

(c) 가능한 부분집합은 $\binom73=35$개다. 가장 작은 합은 $1+2+3=6$이다. 합이 6, 7, 8, 9, 10인 부분집합을 차례로 적는다.

풀이

$N=7$. (a) $EW=3\cdot8/2=12$. (b) $\Var W=3\cdot4\cdot8/12=8$. (c) 합 6: $\{1,2,3\}$. 합 7: $\{1,2,4\}$. 합 8: $\{1,2,5\},\{1,3,4\}$. 합 9: $\{1,2,6\},\{1,3,5\},\{2,3,4\}$. 합 10: $\{1,\allowbreak 2,\allowbreak 7\},\allowbreak \{1,\allowbreak 3,\allowbreak 6\},\allowbreak \{1,\allowbreak 4,\allowbreak 5\},\allowbreak \{2,\allowbreak 3,\allowbreak 5\}$. 모두 $1+1+2+3+4=11$개이고, 보조정리 1.3으로 35개가 같은 확률이므로 $P(W\le10)=11/35\approx0.314$이다. 대칭으로 $P(W\ge14)$도 같다.

최종답 (a) $EW=12$ (b) $\Var W=8$ (c) $\tfrac{11}{35}\approx0.314$

A3 부호순위의 정확한 꼬리 확률 ★★

정리 1.8 · 12분

짝 차이가 $d=(1.2,\allowbreak \ -0.4,\allowbreak \ 2.5,\allowbreak \ 0.9,\allowbreak \ -1.7,\allowbreak \ 3.1)$이다. (a) $T^+$를 구하라. (b) 귀무가설 아래 $\Var T^+$를 구하라. (c) 정리 1.8의 표현 $T^+=\sum kI_k$를 써서 정확한 $P(T^+\ge16)$을 구하라.

힌트

(c) $\{1,\dots,6\}$의 부분집합 $2^6=64$개 가운데 합이 16 이상인 것을 센다. 전체 합이 21이므로 “빠진 수의 합이 5 이하”인 부분집합을 세는 편이 쉽다.

풀이

(a) 절댓값의 순위는 $0.4{:}1,\allowbreak \ 0.9{:}2,\allowbreak \ 1.2{:}3,\allowbreak \ 1.7{:}4,\allowbreak \ 2.5{:}5,\allowbreak \ 3.1{:}6$이고 양수의 순위는 $3,5,2,6$이므로 $T^+=16$이다. (b) $\Var T^+=6\cdot7\cdot13/24=91/4=22.75$. (c) $T^+\ge16$은 양수가 아닌 순위들의 합이 $21-T^+\le5$인 것과 같다. 합이 5 이하인 부분집합은 $\emptyset,\allowbreak \{1\},\allowbreak \{2\},\allowbreak \{3\},\allowbreak \{4\},\allowbreak \{5\},\allowbreak \{1,\allowbreak 2\},\allowbreak \{1,\allowbreak 3\},\allowbreak \{1,\allowbreak 4\},\allowbreak \{2,\allowbreak 3\}$의 10개이므로 $P(T^+\ge16)=10/64=5/32\approx0.156$이다.

최종답 (a) $T^+=16$ (b) $\tfrac{91}4=22.75$ (c) $\tfrac5{32}\approx0.156$

A4 Hodges–Lehmann 추정 ★

정의 1.9 · 8분

짝 차이 $d=(-1,\ 2,\ 3,\ 7)$에서 Walsh 평균 $(d_i+d_j)/2$ ($i\le j$)를 모두 적고 Hodges–Lehmann 추정값을 구하라. 양수인 Walsh 평균의 수가 $T^+$와 같음도 확인하라.

힌트

$i\le j$이므로 Walsh 평균은 $4\cdot5/2=10$개이고, 그 가운데 4개는 $d_i$ 자신이다. 짝수 개의 중앙값은 가운데 두 값의 평균이다.

풀이

Walsh 평균을 정렬하면 $-1,\allowbreak \ 0.5,\allowbreak \ 1,\allowbreak \ 2,\allowbreak \ 2.5,\allowbreak \ 3,\allowbreak \ 3,\allowbreak \ 4.5,\allowbreak \ 5,\allowbreak \ 7$이다. 다섯째와 여섯째의 평균 $(2.5+3)/2=2.75$가 Hodges–Lehmann 추정값이다. 양수는 9개이고, 절댓값의 순위는 $1{:}1,2{:}2,3{:}3,7{:}4$이므로 $T^+=2+3+4=9$로 같다(노트 연습 1.3).

최종답 $2.75$

A5 두 표본 순열검정 ★

정리 1.2 · 8분

$X=(5,7,9)$, $Y=(1,2,4)$이다. $T=\bar X-\bar Y$로 한쪽 순열검정을 할 때 정확한 $p$-값을 구하라.

힌트

합친 값의 합이 28로 고정되므로 $T$는 $X$ 쪽 세 값의 합 $s$의 증가함수다. $T\ge T_{\mathrm{obs}}$는 $s\ge21$과 같다.

풀이

$s$를 $X$ 자리에 온 세 값의 합이라 하면 $\bar X-\bar Y=s/3-(28-s)/3=(2s-28)/3$이고, 관측값은 $s=21$, $T=14/3$이다. 여섯 값 $\{1,2,4,5,7,9\}$에서 셋을 고른 $\binom63=20$가지 가운데 합이 21 이상인 것은 $\{5,7,9\}$ 하나뿐이다. 정리 1.2로 20가지가 같은 확률이므로 $p=1/20=0.05$이다.

최종답 $\tfrac1{20}$

A6 두 분포에서의 효율 ★

정리 2.3 · 10분

$\mathrm{ARE}(W,\allowbreak t)=12\sigma^2(\int f^2)^2$을 (a) 지수분포 $f(x)=e^{-x}$ ($x>0$)와 (b) 삼각분포 $f(x)=1-|x|$ ($|x|<1$)에서 구하라.

힌트

(a) $\sigma^2=1$, $\int_0^\infty e^{-2x}dx$. (b) 대칭이므로 $\sigma^2=2\int_0^1x^2(1-x)\,dx$, $\int f^2=2\int_0^1(1-x)^2dx$.

풀이

(a) $\sigma^2=1$, $\int f^2=\tfrac12$이므로 $12\cdot1\cdot\tfrac14=3$이다. 꼬리가 한쪽으로 긴 분포에서 Wilcoxon은 $t$의 세 배 효율이다. (b) $\sigma^2=2(\tfrac13-\tfrac14)=\tfrac16$, $\int f^2=2\cdot\tfrac13=\tfrac23$이므로 $12\cdot\tfrac16\cdot\tfrac49=\tfrac89\approx0.889$이다. 하한 $0.864$(정리 2.5)에 가깝다. 삼각분포는 포물선 밀도처럼 꼬리가 없다.

최종답 (a) $3$ (b) $\tfrac89\approx0.889$

A7 부호검정의 효율 ★

명제 2.2, 노트 연습 2.4 · 8분

부호검정의 $t$ 검정에 대한 ARE는 $4\sigma^2f(0)^2$이다. (a) 표준 Laplace 밀도 $\tfrac12e^{-|x|}$와 (b) 표준 로지스틱 밀도 $f(x)=e^{-x}/(1+e^{-x})^2$ ($\sigma^2=\pi^2/3$)에서 구하라.

힌트

$f(0)$만 구하면 된다. 로지스틱은 $f(0)=1/4$.

풀이

(a) $\sigma^2=2$, $f(0)=\tfrac12$이므로 $4\cdot2\cdot\tfrac14=2$이다. Laplace에서는 표본 중앙값이 MLE이고, 부호검정이 $t$의 두 배 효율이다. (b) $f(0)=\tfrac14$이므로 $4\cdot\tfrac{\pi^2}3\cdot\tfrac1{16}=\tfrac{\pi^2}{12}\approx0.822$이다.

최종답 (a) $2$ (b) $\tfrac{\pi^2}{12}\approx0.822$

A8 Huber 추정량을 손으로 ★★

정의 3.1, 알고리즘 6.2 · 12분

자료 $(1,\ 2,\ 3,\ 4,\ 20)$, $k=1.5$, 척도 $s=1$로 고정한다. (a) $\sum_i\psi_k(x_i-\theta)=0$의 해를 구하라. (b) 평균 $\theta^{(0)}=6$에서 시작해 무게 $w_i=\min(1,\allowbreak \,k/|x_i-\theta^{(0)}|)$로 가중평균 한 번($\theta^{(1)}=\sum w_ix_i/\sum w_i$)을 계산하라.

힌트

(a) 답이 3 근처라고 짐작하고, 어느 잔차가 잘리는지 정한 뒤 $\theta$에 대한 일차방정식을 풀고, 짐작이 맞는지 확인한다.

풀이

(a) $\theta$가 3 근처이면 $x=1$의 잔차는 $-1.5$로, $x=20$의 잔차는 $1.5$로 잘리고 나머지 셋은 그대로다. $-1.5+(2-\theta)+(3-\theta)+(4-\theta)+1.5=9-3\theta=0$에서 $\theta=3$이다. 확인: 잔차 $-2,-1,0,1,17$에서 $|{-2}|,|17|>1.5$이고 나머지는 $1.5$ 이하다. 중앙값도 3, 평균은 6이다. (b) 잔차 $-5,-4,-3,-2,14$에서 무게는 $\tfrac3{10},\allowbreak \tfrac38,\allowbreak \tfrac12,\allowbreak \tfrac34,\allowbreak \tfrac3{28}$이다. $\sum w_ix_i=\tfrac3{10}+\tfrac34+\tfrac32+3+\tfrac{15}7$, $\sum w_i=\tfrac3{10}+\tfrac38+\tfrac12+\tfrac34+\tfrac3{28}$이고, 분모 280으로 통분하면 $\theta^{(1)}=\tfrac{2154}{569}\approx3.786$이다. 한 걸음에 6에서 3.79로 내려왔다.

최종답 (a) $\hat\theta=3$ (b) $\theta^{(1)}=\tfrac{2154}{569}\approx3.786$

A9 영향함수의 값 ★

명제 3.5 · 8분

$F=\N(0,1)$에서 $x=3$의 영향함수 값을 (a) Huber 추정량($k=1.345$), (b) 평균, (c) 중앙값에 대해 구하라. $\Phi(1.345)=0.9107$을 쓴다.

힌트

명제 3.5의 세 식에 넣는다. Huber는 $\psi_k(3)=k$이다.

풀이

(a) $\psi_k(3)/(2\Phi(k)-1)=1.345/0.8214\approx1.637$. (b) $x-\mu=3$. (c) $\mathrm{sign}(3)/(2\phi(0))=\sqrt{2\pi}/2=\sqrt{\pi/2}\approx1.253$. $x$를 더 키우면 (a)와 (c)는 그대로이고 (b)만 커진다.

최종답 (a) $1.637$ (b) $3$ (c) $\sqrt{\pi/2}\approx1.253$

A10 잭나이프의 치우침 수정 ★★

정의 5.6 · 10분

자료 $(1,3,4,8)$에서 $\hat\theta=\bar X^2$으로 $\mu^2$을 추정한다. 관측 $i$를 뺀 값 $\hat\theta_{(i)}$와 그 평균 $\hat\theta_{(\cdot)}$으로 (a) 잭나이프 치우침 추정 $(n-1)(\hat\theta_{(\cdot)}-\hat\theta)$와 (b) 수정한 추정량 $\hat\theta-(n-1)(\hat\theta_{(\cdot)}-\hat\theta)$를 구하라. (b)가 $\bar X^2-s^2/n$과 같은지 확인하라.

힌트

하나를 뺀 평균은 $(16-x_i)/3$이다. $\hat\theta_{(i)}$는 그 제곱이다.

풀이

$\bar X=4$, $\hat\theta=16$. 하나를 뺀 평균은 $5,\allowbreak \ \tfrac{13}3,\allowbreak \ 4,\allowbreak \ \tfrac83$이고 제곱은 $25,\allowbreak \ \tfrac{169}9,\allowbreak \ 16,\allowbreak \ \tfrac{64}9$이다. 평균은 $\hat\theta_{(\cdot)}=\tfrac14\bigl(41+\tfrac{233}9\bigr)=\tfrac{602}{36}=\tfrac{301}{18}$이다. (a) $3\bigl(\tfrac{301}{18}-16\bigr)=3\cdot\tfrac{13}{18}=\tfrac{13}6$. (b) $16-\tfrac{13}6=\tfrac{83}6\approx13.83$. $s^2=\tfrac{9+1+0+16}3=\tfrac{26}3$이므로 $\bar X^2-s^2/n=16-\tfrac{26}{12}=\tfrac{83}6$으로 같다. $E\bar X^2=\mu^2+\sigma^2/n$이므로 이것은 $\mu^2$의 불편추정량이다.

최종답 (a) $\tfrac{13}6$ (b) $\tfrac{83}6\approx13.83$

A11 정확한 부트스트랩 분포 ★★

정리 5.3(a) · 10분

자료 $(0,3,9)$에서 크기 3의 부트스트랩 표본의 평균 $\bar X^*$를 생각한다. (a) $\Var^*\bar X^*$를 정리 5.3(a)로 구하라. (b) $3^3=27$가지 순서 있는 표본을 세어 $P^*(\bar X^*>\bar X)$를 구하라.

힌트

(b) $\bar X^*>4$는 세 값의 합이 12보다 큰 것이다. 9가 몇 번 뽑혔는지로 나눠 센다.

풀이

$\bar X=4$, $\hat\sigma^2=\tfrac{16+1+25}3=14$. (a) $\Var^*\bar X^*=14/3$. (b) 합이 12보다 커야 한다. 9가 두 번 이상이면 언제나 크다: 두 번 $3\cdot2=6$가지, 세 번 1가지. 9가 한 번이면 나머지 둘의 합이 3보다 커야 하므로 $(3,3)$뿐이고 순서까지 3가지다. 9가 없으면 최대 9로 작다. 모두 $6+1+3=10$가지이므로 $10/27\approx0.370$이다. 분포가 오른쪽으로 치우쳐 평균보다 큰 쪽의 확률이 반이 안 된다.

최종답 (a) $\tfrac{14}3$ (b) $\tfrac{10}{27}$

A12 부트스트랩 최댓값이 둘째로 큰 값일 확률 ★★

정리 7.1 · 8분

서로 다른 값 $n=5$개에서 부트스트랩 표본을 뽑는다. $X^*_{(n)}=X_{(n-1)}$, 곧 부트스트랩 표본의 최댓값이 원래 자료의 둘째로 큰 값일 확률을 구하라.

힌트

“최댓값이 $X_{(n-1)}$ 이하”에서 “최댓값이 $X_{(n-2)}$ 이하”를 뺀다.

풀이

$P^*(X^*_{(n)}\le X_{(n-1)})=(1-\tfrac1n)^n$이고 $P^*(X^*_{(n)}\le X_{(n-2)})=(1-\tfrac2n)^n$이므로 $(\tfrac45)^5-(\tfrac35)^5=\tfrac{1024-243}{3125}=\tfrac{781}{3125}\approx0.250$이다. $n\to\infty$이면 $e^{-1}-e^{-2}=0.233$으로 간다. 부트스트랩 최댓값의 분포는 자료의 맨 위 몇 값에 고정된 원자들로 남는다.

최종답 $\tfrac{781}{3125}\approx0.250$

A13 BCa의 수정된 분위수 ★★

정의 5.4 · 12분

$B=1000$개의 부트스트랩 값 가운데 560개가 $\hat\theta$보다 작았고, 잭나이프로 구한 가속은 $\hat a=0.05$이다. (a) $\hat z_0$, (b) 95% 구간의 아래쪽 수준 $\alpha_1$ ($z_{(1)}=-1.960$), (c) 위쪽 수준 $\alpha_2$ ($z_{(2)}=1.960$)를 구하라. $\Phi^{-1}(0.56)=0.151$을 쓴다.

힌트

$\hat z_0+z_{(1)}=-1.809$이다. 분모 $1-\hat a(\hat z_0+z)$를 먼저 계산한다.

풀이

(a) $\hat z_0=\Phi^{-1}(0.56)\approx0.151$. (b) $\hat z_0+z_{(1)}=-1.809$, 분모 $1+0.05\cdot1.809=1.090$이므로 $\alpha_1=\Phi(0.151-1.659)=\Phi(-1.508)\approx0.0658$. (c) $\hat z_0+z_{(2)}=2.111$, 분모 $1-0.106=0.894$이므로 $\alpha_2=\Phi(0.151+2.360)=\Phi(2.511)\approx0.9940$. 구간은 부트스트랩 분포의 6.6%와 99.4% 분위수다. 백분위 구간(2.5%, 97.5%)보다 위로 옮겨 간다.

최종답 (a) $\hat z_0\approx0.151$ (b) $\alpha_1\approx0.0658$ (c) $\alpha_2\approx0.9940$

A14 Laplace에서의 Huber 점근분산 ★★

정리 3.2 · 12분

표준 Laplace 밀도 $\tfrac12e^{-|x|}$에서 $k=1$인 Huber 추정량의 $V(\psi_1,\allowbreak F)=E\psi_1^2/(E\psi_1^\prime)^2$을 구하라. 같은 분포에서 평균의 $V$는 2, 중앙값의 $V$는 1이다.

힌트

$E\psi_1^\prime=P(|X|<1)$이다. $E\psi_1^2=\int_0^1x^2e^{-x}dx+P(|X|>1)$이고 앞의 적분은 부분적분 두 번이다.

풀이

$E\psi_1^\prime=P(|X|<1)=1-e^{-1}$. $\int_0^1x^2e^{-x}dx=2-5e^{-1}$이고 $P(|X|>1)=e^{-1}$이므로 $E\psi_1^2=2-4e^{-1}$이다. $V=\tfrac{2-4/e}{(1-1/e)^2}\approx\tfrac{0.5285}{0.3996}\approx1.323$이다. 평균(2)보다 34% 작고, MLE인 중앙값(1)보다 32% 크다.

최종답 $\tfrac{2-4/e}{(1-1/e)^2}\approx1.323$

워크북 PDF풀이판 PDF답 확인