8회 · 추론의 기초 · 워크북

B. 빈칸 증명

노트의 단계형 증명을 책을 덮고 다시 쓴다. 같은 정리를 여러 번 만나며 도움이 줄어든다. 1 단계는 주어지고 근거만 빈칸이다. 2 단계의 이름만 주어진다. 3 전략만 주어진다. 근거에는 앞 회차의 정리 번호, 정의, 도구 번호를 쓴다.

B1 Pearson의 $\chi^2$χ², 근거 채우기 ★★

1 · 정리 5.1 · 20분

$H_0:\mathbf p=\mathbf p^0$이 참이면 $X^2=\sum_j\frac{(N_j-np^0_j)^2}{np^0_j}\xrightarrow{D}\chi^2(k-1)$이다. 각 단계의 근거를 써라.

1. $D=\mathrm{diag}(\mathbf p^0)$, $\mathbf V_n=D^{-1/2}\sqrt n(\hat{\mathbf p}-\mathbf p^0)$로 두면 $X^2=\|\mathbf V_n\|^2$이다.왜?$\hat p_j=N_j/n$을 대입

2. $\sqrt n(\hat{\mathbf p}-\mathbf p^0)\xrightarrow{D}\N_k(\mathbf 0,\allowbreak \ D-\mathbf p^0\mathbf p^{0\prime})$이다.왜?다항분포의 CLT, 7회 예제 5.3

3. $\mathbf u=(\sqrt{p^0_j})_j$이면 $\mathbf V_n\xrightarrow{D}\N_k(\mathbf 0,\allowbreak \ I-\mathbf u\mathbf u\T)$이다.왜?연속사상, 5회 정리 3.8

4. $P=I-\mathbf u\mathbf u\T$는 사영행렬이고 극한은 $P\mathbf Z$, $\mathbf Z\sim\N_k(\mathbf 0,\allowbreak I)$의 분포다.왜?연습 5.2, $PP\T=P$

5. 첫 열이 $\mathbf u$인 직교행렬 $Q$로 $\mathbf W=Q\T\mathbf Z$를 만들면 $\|P\mathbf Z\|^2=\sum_{i\ge2}W_i^2\sim\chi^2(k-1)$이다.왜?$W_1=\mathbf u\T\mathbf Z$, 4회 정리 3.9

6. $X^2=\|\mathbf V_n\|^2\xrightarrow{D}\|P\mathbf Z\|^2$이다.왜?$\mathbf v\mapsto\|\mathbf v\|^2$의 연속사상

힌트

근거는 짧게 쓴다. 예: “7회 예제 5.3”, “연속사상”. 넷째 단계는 $\N_k(\mathbf 0,P)$와 $P\mathbf Z$의 공분산을 비교한다.

풀이

빈칸의 빨간 글씨가 근거다. 노트 정리 5.1의 증명과 같다. 셋째 단계의 공분산은 $D^{-1/2}(D-\mathbf p^0\mathbf p^{0\prime})D^{-1/2}=I-\mathbf u\mathbf u\T$이다. 다섯째 단계에서 $\|\mathbf W\|=\|\mathbf Z\|$이므로 $\|P\mathbf Z\|^2=\|\mathbf Z\|^2-(\mathbf u\T\mathbf Z)^2=\sum_iW_i^2-W_1^2$이다.

B2 $p$p-값의 분포, 근거 채우기 ★★

1 · 정리 4.2 · 15분

$G(t)=P_{\theta_0}(T\ge t)$, $p(T)=G(T)$이다. 근거를 채워라.

(a) $T$의 분포함수 $F$가 연속일 때

1. $G(t)=1-F(t-)=1-F(t)$이다.왜?1회 정리 6.3(d), $F$ 연속

2. $F(T)\sim\mathrm U(0,1)$이다.왜?확률적분변환, 2회 정리 4.7

3. $p(T)=1-F(T)\sim\mathrm U(0,1)$이다.왜?$P(1-U\le u)=P(U\ge1-u)=u$

(b) 일반적인 $T$

1. $S_\alpha=\{t:G(t)\le\alpha\}$는 $t_\alpha=\inf S_\alpha$에 대해 $[t_\alpha,\infty)$ 또는 $(t_\alpha,\infty)$이다.왜?$G$는 비증가 [T5]

2. $S_\alpha=[t_\alpha,\infty)$이면 $P(G(T)\le\alpha)=G(t_\alpha)\le\alpha$이다.왜?$t_\alpha\in S_\alpha$

3. $S_\alpha=(t_\alpha,\infty)$이면 $P(T>t_\alpha)=\lim_nG(t_\alpha+\tfrac1n)\le\alpha$이다.왜?연속성, 1회 정리 4.7(a)

힌트

(b)의 첫 단계는 “$G$가 비증가이면 $G(t)\le\alpha$인 $t$들의 집합은 위로 열린 반직선”이라는 것이다.

풀이

빈칸의 빨간 글씨가 근거다. (b)의 셋째 단계에서 사건 $\{T\ge t_\alpha+\tfrac1n\}$은 $n$에 대해 증가하고 합집합이 $\{T>t_\alpha\}$이다. $t_\alpha+\tfrac1n\in S_\alpha$이므로 각 확률은 $\alpha$ 이하이고 극한도 그렇다.

B3 순서통계량의 결합밀도, 근거 채우기 ★★

1 · 정리 1.2 · 15분

밀도 $f$를 갖는 iid의 순서통계량의 결합밀도가 $n!\prod f(y_i)$ ($y_1<\cdots<y_n$)임의 증명이다. $A\subset\{y_1<\cdots<y_n\}$이다. 근거를 채워라.

1. $i\ne j$이면 $P(X_i=X_j)=0$이다.왜?독립, 1회 정리 6.7(b)

2. $E_\pi=\{X_{\pi(1)}<\cdots<X_{\pi(n)}\}$들은 쌍마다 서로소이고 합집합의 확률이 1이며, $E_\pi$ 위에서 $X_{(i)}=X_{\pi(i)}$이다.왜?1, 원소 추적 [T1]

3. $P\bigl((X_{(1)},\allowbreak \dots,\allowbreak X_{(n)})\in A\bigr)=\sum_\pi P\bigl((X_{\pi(1)},\allowbreak \dots,\allowbreak X_{\pi(n)})\in A\bigr)$이다.왜?2, 유한가법성

4. 각 항은 $\int_A\prod_if(y_i)\,d\mathbf y$이다.왜?iid, 곱은 순서와 무관

5. 결합밀도는 $n!\prod_if(y_i)$이다.왜?항이 $n!$개, 밀도의 정의

힌트

셋째 단계에서 $A$의 점은 성분이 증가하므로 $\{(X_{\pi(1)},\allowbreak \dots,\allowbreak X_{\pi(n)})\in A\}\subset E_\pi$이다.

풀이

빈칸의 빨간 글씨가 근거다. 첫 단계는 $P(X_i=X_j)=\int P(X_j=x)f(x)\,dx$이고, 연속 확률변수에서 $P(X_j=x)=0$이기 때문이다.

B4 Pearson의 $\chi^2$χ², 단계의 이름만 ★★

2 · 정리 5.1 · 35분

정리 5.1을 증명하라. 단계의 이름만 주어진다. 각 단계 아래에 식과 근거를 써라.

1. $X^2$를 벡터의 길이의 제곱으로 쓴다

2. 비율 벡터의 다변량 중심극한정리

3. 표준화한 벡터의 극한과 그 공분산 $I-\mathbf u\mathbf u\T$

4. 공분산이 사영행렬임을 확인하고 극한을 $P\mathbf Z$로 쓴다

5. 회전해 $\chi^2(k-1)$을 읽는다

6. 연속사상으로 마무리한다

힌트

B1의 근거를 다시 보지 말고 쓴다. 셋째 단계에서 $D^{-1/2}\mathbf p^0=\mathbf u$를 쓰면 공분산 계산이 한 줄이다.

풀이

1. $\mathbf V_n=D^{-1/2}\sqrt n(\hat{\mathbf p}-\mathbf p^0)$, $X^2=\|\mathbf V_n\|^2$.대입

2. $\sqrt n(\hat{\mathbf p}-\mathbf p^0)\xrightarrow{D}\N_k(\mathbf 0,\allowbreak D-\mathbf p^0\mathbf p^{0\prime})$.7회 예제 5.3

3. $\mathbf V_n\xrightarrow{D}\N_k(\mathbf 0,\allowbreak I-\mathbf u\mathbf u\T)$, $D^{-1/2}\mathbf p^0=\mathbf u$.연속사상, 5회 정리 3.8

4. $P\T=P=P^2$이므로 $P\mathbf Z\sim\N_k(\mathbf 0,\allowbreak P)$.연습 5.2

5. $\|P\mathbf Z\|^2=\|\mathbf W\|^2-W_1^2\sim\chi^2(k-1)$.4회 정리 3.9

6. $X^2\xrightarrow{D}\chi^2(k-1)$.연속사상

B5 순서통계량의 결합밀도, 단계의 이름만 ★★

2 · 정리 1.2 · 25분

정리 1.2를 증명하라. 각 단계 아래에 식과 근거를 써라.

1. 같은 값이 나올 확률이 0임을 보인다

2. 어느 $X_i$가 몇 번째인가로 표본공간을 나눈다

3. 순서통계량의 사건을 조각들의 합으로 쓴다

4. 조각마다 확률이 같음을 보인다

5. 밀도를 읽는다

힌트

조각은 순열 $\pi$마다 하나씩, $n!$개다.

풀이

노트 정리 1.2의 증명과 같다. 단계별 근거는 B3의 풀이를 본다. 둘째 단계의 조각들 $E_\pi$가 확률 1로 표본공간을 덮는 것은 첫 단계(같은 값이 없음) 덕분이다. 같은 값이 양의 확률로 나오는 이산분포에서는 결합밀도가 없고, 이 증명의 둘째 단계가 성립하지 않는다.

B6 Pearson의 $\chi^2$χ², 전략만 ★★★

3 · 정리 5.1 · 35분

정리 5.1을 증명하라.

전략 $X^2$를 한 벡터의 길이의 제곱으로 쓴다. 그 벡터의 정규 극한이 $(k-1)$차원 공간으로의 사영임을 보이고, 회전해 $\chi^2(k-1)$을 읽는다.

힌트

단계는 여섯이다. 증명을 다 쓴 뒤, 자유도가 $k$가 아니라 $k-1$인 이유가 증명의 어느 단계에 있는지 표시한다.

풀이

B4의 풀이와 같다. 자유도가 $k-1$인 것은 넷째 단계, 곧 극한의 공분산 $I-\mathbf u\mathbf u\T$가 $\mathbf u$ 방향을 없애는 사영이라는 데 있다. 그 원인은 $\sum_j(N_j-np^0_j)=0$, 곧 $\mathbf u\T\mathbf V_n=0$이다. 모수를 추정하면 같은 사영이 추정한 모수의 수만큼 차원을 더 없앤다(노트 5.2절의 상자).

B7 $p$p-값의 분포, 전략만 ★★

3 · 정리 4.2 · 25분

$T$가 어떤 분포를 따르든 모든 $\alpha\in(0,1)$에서 $P_{\theta_0}(p(T)\le\alpha)\le\alpha$임을 보이고, $T$의 분포함수가 연속이면 등호임을 보여라.

전략 $p(T)=G(T)$, $G(t)=P(T\ge t)$로 쓴다. $\{G(T)\le\alpha\}$는 $T$의 위쪽 꼬리 사건이고, 그 확률은 꼬리가 시작하는 점에서의 $G$ 값으로 위에서 막힌다. 연속이면 확률적분변환을 쓴다.

힌트

꼬리 사건이 $\{T\ge t_\alpha\}$인 경우와 $\{T>t_\alpha\}$인 경우를 나눈다. 둘째 경우에는 1회의 연속성 정리가 필요하다.

풀이

노트 정리 4.2의 단계형 증명과 같다. 단계별 근거는 B2의 풀이를 본다. 등호가 모든 $\alpha$에서 성립하려면 $p(T)$가 균등분포여야 하고, $T$가 한 점에 양의 확률을 가지면 $G(T)$도 그 값에 양의 확률을 가지므로 균등일 수 없다. 따라서 “모든 $\alpha$에서 등호”는 $T$의 분포함수가 연속인 것과 같다.

워크북 PDF풀이판 PDF답 확인