14회 · 분산분석과 실험설계 · 워크북

C. 증명 문제

노트의 정리를 변형하고, 일반화하고, 반례로 경계를 확인한다. 증명은 노트의 단계형 모양으로 쓴다. 한 줄에 한 단계, 줄마다 근거.

C1 Neyman 분산 추정의 치우침 ★★

정리 1.4, 연습 1.3 · 20분

완전무작위설계에서 $\hat V=s_T^2/n_T+s_C^2/n_C$로 둔다($s_T^2,s_C^2$는 두 군의 표본분산).

1. (a)

   $E\hat V-\Var\hat\tau=S_\tau^2/n\ge0$임을 보이고, 등호가 성립할 필요충분조건을 말하라. (노트 연습 1.3의 $Es_T^2=S_1^2$을 써도 된다.)

2. (b)

   A2의 잠재적 결과에서 $E\hat V$를 구하고 $\Var\hat\tau=\tfrac72$와 비교하라.

힌트

(a) 연습 1.3은 대조군에도 그대로 쓰인다. (b) $S_1^2=\tfrac{14}3$, $S_0^2=\tfrac{10}3$이다.

풀이

(a) 노트 연습 1.3으로 $Es_T^2=S_1^2$이고, 처치와 대조의 역할을 바꾸면 $Es_C^2=S_0^2$이다. 따라서 $E\hat V=S_1^2/n_T+S_0^2/n_C$이고, 정리 1.4를 빼면 $E\hat V-\Var\hat\tau=S_\tau^2/n\ge0$이다. 등호는 $S_\tau^2=0$, 곧 모든 단위의 처치효과 $\tau_i$가 같을 때뿐이다. (b) $E\hat V=\tfrac{14/3}2+\tfrac{10/3}2=4$이다. 참 분산 $3.5$보다 $S_\tau^2/n=2/4=0.5$만큼 크다. 효과가 단위마다 다르면 표준오차는 보수적인 쪽으로 틀린다.

최종답 (b) $E\hat V=4$

C2 무작위화 검정의 정확한 크기 ★★

정리 1.7 · 20분

배정이 $M$개의 원소를 갖는 $\mathcal W$ 위에서 균등하고, 날카로운 귀무가설 아래 $T(w,\y)$가 $M$개의 배정에서 모두 다른 값을 가진다고 하자.

1. (a)

   $P\bigl(p(W)\le\alpha\bigr)=\lfloor\alpha M\rfloor/M$임을 보여라.

2. (b)

   $M=70$, $\alpha=0.05$이면 이 크기는 얼마인가?

3. (c)

   홍차 실험(예제 1.8)의 크기가 (b)보다 작은 $1/70$인 이유를 설명하라.

힌트

값이 모두 다르면 $T(W)$의 순위는 1부터 $M$까지에서 균등하다. $p(W)$는 $T(W)$ 이상인 값의 개수를 $M$으로 나눈 것이다.

풀이

(a) $T$의 값을 큰 것부터 $t_{(1)}>\cdots>t_{(M)}$이라 하면 $T(W)=t_{(k)}$일 때 $p(W)=k/M$이다. $W$가 균등하고 값이 모두 다르므로 $k$는 $\{1,\dots,M\}$ 위에서 균등하다. 따라서 $P(p(W)\le\alpha)=P(k\le\alpha M)=\lfloor\alpha M\rfloor/M$이다. (b) $\lfloor3.5\rfloor/70=\tfrac3{70}\approx0.043$이다. (c) 홍차 실험의 통계량 $K$(맞힌 개수)는 70개 배정에서 다섯 값만 가진다. $p$-값은 $\tfrac1{70},\allowbreak \tfrac{17}{70},\allowbreak \dots$로 뛰므로 $p\le0.05$인 것은 $K=4$의 한 배정뿐이다. 값이 겹치면 $p$-값이 띄엄띄엄해져 크기가 $\lfloor\alpha M\rfloor/M$보다 더 작아진다.

최종답 (b) $\tfrac3{70}$

C3 비중심 $\chi^2$χ²의 단조성, 미분으로 ★★

정리 2.5(a)(e) · 20분

1. (a)

   $k=1$이고 $a=\sqrt\lambda$이면 $P\bigl(\chi^2(1,\allowbreak \lambda)>c\bigr)=\Phi(-\sqrt c-a)+1-\Phi(\sqrt c-a)$임을 보이고, 이것을 $a$로 미분해 $a\ge0$에서 증가함을 보여라.

2. (b)

   정리 2.5(a)로 $\chi^2(k,\lambda)$를 $(Z_1+\sqrt\lambda)^2+V$ ($V\sim\chi^2(k-1)$, $Z_1$과 독립)로 쓰고, (a)로 일반 $k$에서 단조성을 다시 증명하라.

3. (c)

   $c=1.96^2$, $\lambda=1$이면 $P\bigl(\chi^2(1,\allowbreak \lambda)>c\bigr)$는 얼마인가? ($\Phi(-2.96)=0.0015$, $\Phi(-0.96)=0.1685$)

힌트

(a) 도함수는 $\varphi(\sqrt c-a)-\varphi(\sqrt c+a)$이다. $|\sqrt c-a|\le\sqrt c+a$이다. (b) $V$에 조건을 걸면 $P\bigl((Z_1+a)^2>c-V\mid V\bigr)$이다.

풀이

(a) $\chi^2(1,\lambda)$는 $(Z+a)^2$의 분포이고(정리 2.5(a)), $(Z+a)^2>c\iff Z>\sqrt c-a$ 또는 $Z<-\sqrt c-a$이다. 따라서 확률은 $1-\Phi(\sqrt c-a)+\Phi(-\sqrt c-a)$이다. $a$로 미분하면 $\varphi(\sqrt c-a)-\varphi(\sqrt c+a)$이고, $a\ge0$이면 $|\sqrt c-a|\le\sqrt c+a$이며 $\varphi$는 $|x|$의 감소함수이므로 도함수가 0 이상이다. (b) 정리 2.5(a)로 평균 벡터를 $(\sqrt\lambda,0,\dots,0)$으로 돌리면 $\|\X\|^2=(Z_1+\sqrt\lambda)^2+V$이고 $V\sim\chi^2(k-1)$은 $Z_1$과 독립이다. $V=v$에 조건을 걸면 $P\bigl((Z_1+a)^2>c-v\bigr)$는 $c-v\le0$이면 1이고, 아니면 (a)로 $a$의 증가함수다. $V$의 분포는 $\lambda$와 무관하므로 평균해도 증가함수다. (c) $0.0015+0.1685=0.170$이다. 비중심도 1이면 5% 검정의 검정력이 0.17이다.

최종답 (c) $0.170$

C4 처치 제곱합의 짝 표현 ★★

정리 2.2 · 15분

일원배치에서 다음을 보여라.

$$\SS_B=\frac1N\sum_{i<j}n_in_j(\bar y_{i\cdot}-\bar y_{j\cdot})^2$$

A5의 자료로 확인하라.

힌트

$\sum_{i,j}n_in_j(\bar y_i-\bar y_j)^2$을 $i,j$ 전체에서 펼치면 $2N\sum_in_i\bar y_i^2-2(\sum_in_i\bar y_i)^2$이다.

풀이

$\sum_{i,j}n_in_j(\bar y_i-\bar y_j)^2=\sum_{i,j}n_in_j(\bar y_i^2+\bar y_j^2-2\bar y_i\bar y_j)=2N\sum_in_i\bar y_i^2-2\bigl(\sum_in_i\bar y_i\bigr)^2$이다. $\sum_in_i\bar y_i=N\bar y$이므로 이것은 $2N\bigl(\sum_in_i\bar y_i^2-N\bar y^2\bigr)=2N\,\SS_B$이다(노트 연습 2.1). $i<j$인 짝은 전체 합의 절반이므로 정리의 식이 나온다. A5: $\tfrac19\cdot9\cdot(9+36+9)=54$로 같다.

C5 임의효과 일원배치 ★★★

명제 3.6, 6회 · 30분

$y_{ij}=\mu+a_i+\varepsilon_{ij}$ ($i=1,\dots,t$, $j=1,\dots,n$)이고 $a_i\sim\N(0,\sigma_a^2)$, $\varepsilon_{ij}\sim\N(0,\allowbreak \sigma^2)$가 모두 독립이다.

1. (a)

   $E\,\mathrm{MS}_W=\sigma^2$, $E\,\mathrm{MS}_B=\sigma^2+n\sigma_a^2$임을 보여라.

2. (b)

   $\mathrm{MS}_B/\mathrm{MS}_W$가 $(1+n\sigma_a^2/\sigma^2)\,F\bigl(t-1,\allowbreak t(n-1)\bigr)$의 분포를 따름을 보여라.

3. (c)

   추정량 $\hat\sigma_a^2=(\mathrm{MS}_B-\mathrm{MS}_W)/n$은 불편이지만 음수일 수 있다. $t=4$, $n=5$, $\sigma_a^2/\sigma^2=0.2$이면 $P(\hat\sigma_a^2<0)$을 $F$ 분포의 확률로 쓰고 그 값을 구하라. ($P(F(3,16)<0.5)=0.312$)

힌트

(a)(b) 처치 평균 $\bar y_{i\cdot}=\mu+a_i+\bar\varepsilon_{i\cdot}$는 서로 독립이고 $\N(\mu,\sigma_a^2+\sigma^2/n)$이다. $\SS_W$는 $\varepsilon_{ij}-\bar\varepsilon_{i\cdot}$만의 함수다.

풀이

(a)(b) $\bar y_{i\cdot}=\mu+a_i+\bar\varepsilon_{i\cdot}$들은 독립이고 분산이 $\sigma_a^2+\sigma^2/n$인 정규다. $\SS_B=n\sum_i(\bar y_{i\cdot}-\bar y)^2$이므로 6회의 Student 정리로 $\SS_B/(n\sigma_a^2+\sigma^2)\sim\chi^2(t-1)$이다. $\SS_W=\sum_{ij}(\varepsilon_{ij}-\bar\varepsilon_{i\cdot})^2$은 $a_i$를 포함하지 않고, 처치마다 6회의 Student 정리로 $\bar\varepsilon_{i\cdot}$과 독립이며 $\SS_W/\sigma^2\sim\chi^2(t(n-1))$이다. 따라서 두 제곱합은 독립이고 $E\,\mathrm{MS}_B=\sigma^2+n\sigma_a^2$, $E\,\mathrm{MS}_W=\sigma^2$이며

$$\frac{\mathrm{MS}_B}{\mathrm{MS}_W}=\Bigl(1+\frac{n\sigma_a^2}{\sigma^2}\Bigr)\frac{\SS_B/((\sigma^2+n\sigma_a^2)(t-1))}{\SS_W/(\sigma^2t(n-1))}\sim\Bigl(1+\frac{n\sigma_a^2}{\sigma^2}\Bigr)F\bigl(t-1,t(n-1)\bigr) .$$

(c) (a)로 $E\hat\sigma_a^2=\sigma_a^2$이다. $\hat\sigma_a^2<0\iff\mathrm{MS}_B/\mathrm{MS}_W<1\iff F<1/(1+n\sigma_a^2/\sigma^2)=1/2$이므로 $P=P\bigl(F(3,\allowbreak 16)<0.5\bigr)\approx0.312$이다. 집단 사이의 분산이 있는데도 셋에 하나꼴로 음수 추정이 나온다.

최종답 (c) $P(F(3,16)<0.5)\approx0.312$

C6 $F$F를 만드는 대비 ★★

정리 4.4, 보조정리 4.3 · 20분

일원배치에서 대비 $\bc$ ($\sum_ic_i=0$)의 $t$ 통계량을 $t_\bc=\sum_ic_i\bar y_{i\cdot}/(s\sqrt{\sum_ic_i^2/n_i})$라 하자.

1. (a)

   $\max_\bc t_\bc^2=\SS_B/s^2=(t-1)F$이고 최대는 $c_i\propto n_i(\bar y_{i\cdot}-\bar y)$에서 이루어짐을 보여라.

2. (b)

   따라서 $F$ 검정이 기각하는 것과 “어떤 대비의 Scheffé 구간이 0을 포함하지 않는 것”이 같은 사건임을 보여라.

3. (c)

   A5의 자료에서 최대를 주는 대비와 $\max t_\bc^2$을 구하라.

힌트

$\sum_ic_i\bar y_{i\cdot}=\sum_ic_i(\bar y_{i\cdot}-\bar y)=\sum_i(c_i/\sqrt{n_i})\bigl(\sqrt{n_i}(\bar y_{i\cdot}-\bar y)\bigr)$에 Cauchy–Schwarz를 쓴다 [T4].

풀이

(a) $\sum c_i=0$이므로 $\sum_ic_i\bar y_{i\cdot}=\sum_i\tfrac{c_i}{\sqrt{n_i}}\cdot\sqrt{n_i}(\bar y_{i\cdot}-\bar y)$이고 Cauchy–Schwarz로 $(\sum c_i\bar y_{i\cdot})^2\le\sum_i\tfrac{c_i^2}{n_i}\sum_in_i(\bar y_{i\cdot}-\bar y)^2=\sum_i\tfrac{c_i^2}{n_i}\SS_B$이다. 따라서 $t_\bc^2\le\SS_B/s^2$이다. 등호는 $c_i/\sqrt{n_i}\propto\sqrt{n_i}(\bar y_{i\cdot}-\bar y)$, 곧 $c_i\propto n_i(\bar y_{i\cdot}-\bar y)$일 때이고, 이 $c$는 $\sum_in_i(\bar y_{i\cdot}-\bar y)=0$이므로 대비다. $\SS_B/s^2=(t-1)\,\mathrm{MS}_B/s^2=(t-1)F$이다. (b) Scheffé 구간이 0을 포함하지 않는다 $\iff$ $t_\bc^2>(t-1)F_{t-1,\nu,\alpha}$이다. 어떤 대비에서 그렇다 $\iff$ $\max_\bc t_\bc^2=(t-1)F>(t-1)F_{t-1,\nu,\alpha}$ $\iff$ $F$ 검정이 기각한다. (c) $n_i(\bar y_{i\cdot}-\bar y)=3(-3,\allowbreak 0,\allowbreak 3)$이므로 대비는 $(-1,0,1)$이다. $\sum c_i\bar y_i=6$, $s^2=4$, $\sum c_i^2/n_i=\tfrac23$이므로 $t^2=\tfrac{36}{4\cdot2/3}=13.5=2F$이다.

최종답 (c) $\max t_\bc^2=13.5$

C7 Bonferroni와 Scheffé의 경계 ★★

명제 4.2, 정리 4.4 · 15분

처치 4개($q=3$), $\nu=20$, $\alpha=0.05$에서 Scheffé의 기준값은 $3.049$다(A12). 대비 $m$개를 Bonferroni로 덮을 때의 기준값은 $t_{20,0.05/(2m)}$이고 그 값은 $m=6,7,8,9$에서 $2.927$, $2.996$, $3.055$, $3.107$이다.

1. (a)

   $m\to\infty$이면 Bonferroni의 기준값이 무한대로 감을 보여라. Scheffé의 기준값은 $m$과 무관하다.

2. (b)

   Bonferroni의 기준값이 Scheffé보다 커지는 가장 작은 $m$은?

3. (c)

   처치 4개의 짝 비교 전체에는 어느 방법이 좁은가?

힌트

(a) $t_{\nu,\beta}$는 $P(T>x)=\beta$의 해이고, $\beta\to0$이면 해가 무한대로 가야 한다 [T2].

풀이

(a) $x_m=t_{\nu,\alpha/(2m)}$이 유계라면 $P(T>x_m)\ge P(T>M)>0$인 $M$이 있어 $\alpha/(2m)\to0$과 모순이다 [T2]. $x_m$은 $m$의 증가함수이므로 무한대로 간다. Scheffé의 기준값 $\sqrt{qF_{q,\nu,\alpha}}$에는 $m$이 들어 있지 않다. (b) $m=8$에서 $3.055>3.049$가 처음이다. (c) 짝은 $\binom42=6$개이므로 Bonferroni의 2.927이 Scheffé의 3.049보다 작다. 짝 비교에서는 Tukey의 $q/\sqrt2=3.958/\sqrt2=2.799$가 그보다 더 작다.

최종답 (b) $m=8$

C8 짝을 지어 손해 보는 경우 ★

정리 5.1 · 10분

1. (a)

   짝 설계의 상대효율 $S^2/S_w^2$이 1보다 작을 수 있음을 반례로 보여라.

2. (b)

   짝 $(1,3),(3,1),(2,4),(4,2)$의 상대효율을 구하라.

힌트

짝의 두 값이 서로 반대로 움직이면 짝 안의 차이가 커진다. (b) 8개 값의 평균은 2.5다.

풀이

(a) (b)의 짝이 반례다. 짝 안의 상관이 음수이면 $S_w^2\approx S^2(1-\rho)>S^2$이다. (b) 편차의 제곱은 $2.25,\allowbreak 0.25,\allowbreak 0.25,\allowbreak 2.25,\allowbreak 0.25,\allowbreak 2.25,\allowbreak 2.25,\allowbreak 0.25$이고 합이 10이므로 $S^2=\tfrac{10}7$이다. 짝 안의 차이는 $\pm2$이므로 $S_w^2=\tfrac{16}8=2$이다. 상대효율은 $\tfrac{10/7}2=\tfrac57<1$이다. 짝을 짓는 것이 오차의 자유도만 쓰고 분산도 늘린다.

최종답 (b) $\tfrac57$

C9 Holm은 Bonferroni보다 약하지 않다 ★

명제 4.2, 연습 8.3 · 10분

$m$개의 가설에서 Bonferroni($p_i\le\alpha/m$이면 기각)가 기각하는 가설은 Holm의 단계(노트 연습 8.3)도 모두 기각함을 보여라.

힌트

Bonferroni가 기각하는 가설은 $p$-값이 작은 쪽에 몰려 있다. $p_{(k)}\le\alpha/m\le\alpha/(m-k+1)$이다.

풀이

Bonferroni가 $r$개를 기각했다면 그것들은 $p_{(1)},\dots,p_{(r)}$이고 모두 $\alpha/m$ 이하다. $k\le r$이면 $p_{(k)}\le\alpha/m\le\alpha/(m-k+1)$이므로 Holm의 조건이 $k=1,\dots,r$에서 깨지지 않는다. Holm은 적어도 처음 $r$개를 기각한다.

워크북 PDF풀이판 PDF답 확인