4회 · 셈하는 분포와 섞인 분포 · 워크북

C. 증명 문제

노트의 정리를 변형하고, 일반화하고, 반례로 경계를 확인한다. 증명은 노트의 단계형 모양으로 쓴다. 한 줄에 한 단계, 줄마다 근거.

C1 빈 상자의 수 ★★

[T1] · 정리 1.5와 같은 방법 · 25분

공 $n$개를 상자 $m$개에 하나씩 독립적으로, 고르게 넣는다. 빈 상자의 수를 $E$라 하자.

1. (a)

   $EE=m\bigl(1-\tfrac1m\bigr)^n$임을 보여라.

2. (b)

   $\Var E=m\bigl(1-\tfrac1m\bigr)^n+m(m-1)\bigl(1-\tfrac2m\bigr)^n-m^2\bigl(1-\tfrac1m\bigr)^{2n}$임을 보여라.

3. (c)

   $m=n=10$이면 $EE$는 얼마인가? (d) 그때 $\Var E$는 얼마인가?

힌트

상자 $j$가 비었다는 지시변수 $\mathbf 1_j$로 $E=\sum_j\mathbf 1_j$로 쓴다. 두 상자가 함께 비었을 확률은 모든 공이 나머지 $m-2$개 상자에 들어갈 확률이다.

풀이

(a) $\mathbf 1_j$를 상자 $j$가 비었다는 지시변수라 하면 $E=\sum_{j=1}^m\mathbf 1_j$이다. 공 하나가 상자 $j$를 피할 확률은 $1-\tfrac1m$이고 공들은 독립이므로 $E\mathbf 1_j=(1-\tfrac1m)^n$이다. 선형성으로 $EE=m(1-\tfrac1m)^n$이다.

(b) $j\ne k$이면 $E[\mathbf 1_j\mathbf 1_k]=(1-\tfrac2m)^n$이다. $\Var E=E[E^2]-(EE)^2$이고

$$E[E^2]=\sum_jE\mathbf 1_j+\sum_{j\ne k}E[\mathbf 1_j\mathbf 1_k]=m\Bigl(1-\frac1m\Bigr)^n+m(m-1)\Bigl(1-\frac2m\Bigr)^n$$

이므로 주어진 식이 나온다. 정리 1.5와 같이 지시변수들이 독립이 아니어서 교차항이 남는다.

(c) $10\cdot0.9^{10}\approx3.487$이다. 열 개를 열 상자에 넣으면 평균 세 개 반이 빈다. (d) $3.487+90\cdot0.8^{10}-100\cdot0.9^{20}\approx3.487+9.664-12.158\approx0.993$이다. 독립인 지시변수의 합이라면 분산은 $10\cdot0.9^{10}(1-0.9^{10})\approx2.27$이다. 음의 상관이 분산을 절반 아래로 줄인다.

최종답 (c) $10(0.9)^{10}\approx3.487$ (d) $\approx0.993$

C2 음이항의 Poisson 극한 ★★

[T5], [T8] · 정리 1.3, 2.3 · 20분

$\lambda>0$을 고정하고 $Y_r\sim\mathrm{NB}\bigl(r,\allowbreak \ p_r=\tfrac r{r+\lambda}\bigr)$라 하자.

1. (a)

   $EY_r=\lambda$이고 $\Var Y_r=\lambda+\lambda^2/r$임을 보여라.

2. (b)

   고정된 $k$에서 $P(Y_r=k)\to e^{-\lambda}\lambda^k/k!$ ($r\to\infty$)임을 보여라.

3. (c)

   노트 5.2절의 Poisson–감마 혼합으로 이 극한을 해석하라.

힌트

(b) $\tbinom{k+r-1}k=\tfrac{r(r+1)\cdots(r+k-1)}{k!}$로 쓰고 $q_r^k=\tfrac{\lambda^k}{(r+\lambda)^k}$와 짝지운다. $p_r^r=(1+\lambda/r)^{-r}$이다.

풀이

(a) $q_r=\tfrac\lambda{r+\lambda}$이므로 $EY_r=\tfrac{rq_r}{p_r}=\lambda$, $\Var Y_r=\tfrac{EY_r}{p_r}=\lambda\tfrac{r+\lambda}r=\lambda+\tfrac{\lambda^2}r$이다.

(b) 정리 1.3의 pmf를 세 인수로 나눈다.

$$P(Y_r=k)=\frac{r(r+1)\cdots(r+k-1)}{(r+\lambda)^k}\cdot\frac{\lambda^k}{k!}\cdot\Bigl(1+\frac\lambda r\Bigr)^{-r} .$$

첫 인수는 $k$개의 인수 $\tfrac{r+j}{r+\lambda}\to1$의 곱이므로 1로 간다($k$ 고정 [T5]). 셋째 인수는 $r\log(1+\lambda/r)\to\lambda$ [T8]이므로 $e^{-\lambda}$로 간다. 극한의 곱으로 결론이 나온다.

(c) 정리 5.3으로 $\mathrm{NB}(r,\allowbreak \tfrac1{1+\beta})$는 $\Lambda\sim\Gamma(r,\beta)$의 Poisson 혼합이다. 여기서 $\beta=\lambda/r$이므로 $E\Lambda=\lambda$, $\Var\Lambda=\lambda^2/r\to0$이다. 위험률의 흩어짐이 사라지면 혼합은 하나의 $\mathrm{Poi}(\lambda)$가 되고, 과산포 항 $\lambda^2/r$도 0으로 간다.

C3 여러 범주로 나누기 ★★

정리 2.5, 정의 1.7 · 20분

$N\sim\mathrm{Poi}(\lambda)$이고, $N=n$이 주어지면 각 사건이 서로 독립적으로 범주 $1,\dots,m$에 확률 $p_1,\dots,p_m$으로 나뉜다. 범주별 수를 $N_1,\dots,N_m$이라 하자.

1. (a)

   $N_1,\dots,N_m$이 상호 독립이고 $N_j\sim\mathrm{Poi}(\lambda p_j)$임을 보여라.

2. (b)

   $N$이 $\mathrm{Poi}(\lambda)$가 아니라 정해진 $n$이면 (a)는 어떻게 바뀌는가?

힌트

$P(N_1=a_1,\allowbreak \dots,\allowbreak N_m=a_m)=P(N=\sum a_j)\cdot$ 다항 확률. $e^{-\lambda}=\prod_je^{-\lambda p_j}$, $\lambda^{\sum a_j}=\prod_j\lambda^{a_j}$.

풀이

(a) $s=a_1+\cdots+a_m$이라 하면 곱셈법칙과 정의 1.7로

$$P(N_1=a_1,\dots,N_m=a_m)=e^{-\lambda}\frac{\lambda^s}{s!}\cdot\frac{s!}{a_1!\cdots a_m!}p_1^{a_1}\cdots p_m^{a_m}=\prod_{j=1}^me^{-\lambda p_j}\frac{(\lambda p_j)^{a_j}}{a_j!} .$$

$\sum_jp_j=1$로 $e^{-\lambda}=\prod_je^{-\lambda p_j}$를 썼다. 결합 pmf가 각 $a_j$만의 함수의 곱이고 각 인수가 $\mathrm{Poi}(\lambda p_j)$의 pmf이므로, 주변분포가 그것이고 상호 독립이다(3회 정리 3.2를 $m$개로). $m=2$가 정리 2.5다.

(b) 전체가 $n$으로 고정되면 $(N_1,\dots,N_m)$은 다항분포이고, 정리 1.8로 $\Cov(N_i,N_j)=-np_ip_j<0$이다. 독립이 깨진다. Poisson의 “전체 수도 무작위”라는 성질이 범주들 사이의 독립을 만든다.

C4 이항을 나누면 독립이 아니다 ★★

[T2] · 정리 2.5, 1.8 · 20분

정리 2.5에서 Poisson 가정이 필요함을 반례로 보인다. $N\sim\mathrm b(n,\theta)$이고 $N$이 주어지면 각 사건이 독립적으로 확률 $p$로 표시된다. 표시된 수를 $N_1$, 나머지를 $N_2=N-N_1$이라 하자($q=1-p$).

1. (a)

   $(N_1,N_2,n-N)$이 $\mathrm{Mult}(n;\theta p,\allowbreak \theta q,\allowbreak 1-\theta)$임을 보여라.

2. (b)

   $\Cov(N_1,N_2)=-n\theta^2pq$임을 보여라.

3. (c)

   $n=10$, $\theta=p=\tfrac12$이면 $\Cov(N_1,N_2)$는 얼마인가?

힌트

(a) $n$번의 기회 각각이 “사건이 있고 표시됨”, “사건이 있고 표시 안 됨”, “사건 없음”의 세 범주로 독립적으로 나뉜다고 보면 된다. 그렇게 만들어도 같은 분포임을 결합 pmf로 확인한다.

풀이

(a) $a+b\le n$이면

$$\begin{align*} P(N_1=a,N_2=b)&=\binom n{a+b}\theta^{a+b}(1-\theta)^{n-a-b}\binom{a+b}ap^aq^b\\ &=\frac{n!}{a!\,b!\,(n-a-b)!}(\theta p)^a(\theta q)^b(1-\theta)^{n-a-b} \end{align*}$$

이고, 이것은 $\mathrm{Mult}(n;\theta p,\allowbreak \theta q,\allowbreak 1-\theta)$의 pmf다.

(b) 정리 1.8로 $\Cov(N_1,\allowbreak N_2)=-n(\theta p)(\theta q)=-n\theta^2pq$이다. $0<\theta,p<1$이면 0이 아니므로 $N_1$과 $N_2$는 독립이 아니다.

(c) $-10\cdot\tfrac14\cdot\tfrac14=-\tfrac58$이다. $\theta\to0$, $n\theta=\lambda$로 두면 $\Cov\to0$이고 이항이 Poisson이 되면서 독립이 회복된다(정리 2.3).

최종답 (c) $-\tfrac58$

C5 경쟁하는 지수분포 여럿 ★★

정리 3.3 · 3회 연습 3.4 · 20분

$X_1,\dots,X_k$가 독립이고 $X_i\sim\mathrm{Exp}(\lambda_i)$이다. $L=\min_iX_i$, $J$를 최솟값을 갖는 첨자라 하고 $\Lambda=\sum_i\lambda_i$로 둔다.

1. (a)

   $L\sim\mathrm{Exp}(\Lambda)$임을 보여라.

2. (b)

   $P(L>t,\allowbreak \ J=i)=\tfrac{\lambda_i}\Lambda e^{-\Lambda t}$임을 보이고, $L$과 $J$가 독립임을 결론지어라.

3. (c)

   $\lambda=(1,2,3)$이면 $P(J=2)$는? (d) 그때 $EL$은?

힌트

(b) $\{L>t,\allowbreak J=i\}=\{t<X_i<\min_{j\ne i}X_j\}$이다. $X_i=s$일 때 나머지가 모두 $s$보다 클 확률은 $e^{-(\Lambda-\lambda_i)s}$이다.

풀이

(a) $P(L>t)=\prod_iP(X_i>t)=e^{-\Lambda t}$이다(독립).

(b) $X_i$의 값으로 나눠 적분하면

$$P(L>t,J=i)=\int_t^\infty\lambda_ie^{-\lambda_is}\prod_{j\ne i}e^{-\lambda_js}\,ds=\lambda_i\int_t^\infty e^{-\Lambda s}ds=\frac{\lambda_i}\Lambda e^{-\Lambda t} .$$

$t=0$이면 $P(J=i)=\lambda_i/\Lambda$이고, 일반적인 $t$에서 $P(L>t,J=i)=P(L>t)P(J=i)$이므로 독립이다.

(c) $\tfrac2{1+2+3}=\tfrac13$. (d) $L\sim\mathrm{Exp}(6)$이므로 $EL=\tfrac16$. 누가 먼저 끝나는지는 언제 끝나는지에 대해 아무것도 알려 주지 않는다.

최종답 (c) $\tfrac13$ (d) $\tfrac16$

C6 Poisson을 가리는 항등식 ★★★

[T3] · 정의 2.1 · 25분

1. (a)

   $X\sim\mathrm{Poi}(\lambda)$이면 모든 유계함수 $g$에 대해 $E[\lambda g(X+1)]=E[Xg(X)]$임을 보여라.

2. (b)

   (a)가 $g(x)=x^2$에서도 성립한다고 받아들이고, $EX^3=\lambda^3+3\lambda^2+\lambda$임을 보여라.

3. (c)

   거꾸로, 음이 아닌 정수값 확률변수 $X$가 모든 유계함수 $g$에 대해 (a)의 항등식을 만족하면 $X\sim\mathrm{Poi}(\lambda)$임을 보여라.

힌트

(a) 오른쪽의 합에서 첨자를 $k\to k+1$로 옮긴다. (c) $g=\mathbf 1_{\{k+1\}}$을 넣으면 $\lambda P(X=k)=(k+1)P(X=k+1)$이다. 그다음 $k$에 대한 귀납. check()에서는 $\lambda$를 lam으로 쓴다.

풀이

(a) $E[Xg(X)]=\sum_{k\ge1}k\,g(k)e^{-\lambda}\tfrac{\lambda^k}{k!}=\sum_{k\ge1}g(k)e^{-\lambda}\tfrac{\lambda^k}{(k-1)!}=\lambda\sum_{j\ge0}g(j+1)e^{-\lambda}\tfrac{\lambda^j}{j!}=E[\lambda g(X+1)]$. $g$가 유계이면 두 급수가 절대수렴한다.

(b) $EX^3=E[X\cdot X^2]=\lambda E(X+1)^2=\lambda(EX^2+2EX+1)=\lambda(\lambda^2+\lambda+2\lambda+1)=\lambda^3+3\lambda^2+\lambda$이다. $EX^2=\lambda+\lambda^2$은 정리 2.2다.

(c) $g=\mathbf 1_{\{k+1\}}$이면 왼쪽은 $\lambda P(X=k)$, 오른쪽은 $(k+1)P(X=k+1)$이다. 따라서 $P(X=k+1)=\tfrac\lambda{k+1}P(X=k)$이고, $k$에 대한 귀납으로 $P(X=k)=\tfrac{\lambda^k}{k!}P(X=0)$이다 [T3]. 확률의 합이 1이므로 $P(X=0)\sum_k\tfrac{\lambda^k}{k!}=1$, 곧 $P(X=0)=e^{-\lambda}$이다. 이 항등식이 Poisson 근사의 오차를 재는 Stein–Chen 방법의 출발점이다.

최종답 (b) $\lambda^3+3\lambda^2+\lambda$

C7 섞으면 0이 늘어난다 ★★

[T4] · 정리 5.2 · 20분

$\Lambda\ge0$이 $E\Lambda=\mu<\infty$인 확률변수이고, $\Lambda=\lambda$가 주어지면 $X\sim\mathrm{Poi}(\lambda)$이다.

1. (a)

   $\Var X\ge EX$이고, 등호는 $\Var\Lambda=0$일 때뿐임을 보여라.

2. (b)

   $P(X=0)\ge e^{-\mu}$임을 보여라. 같은 평균의 Poisson보다 0이 많다.

3. (c)

   노트 예제 6.3의 may 자료에서 0의 상대도수 $\tfrac{156}{262}$와 $e^{-0.656}$을 비교하고, (b)로 해석하라.

힌트

(b) $P(X=0)=E\,e^{-\Lambda}$이고 $x\mapsto e^{-x}$는 볼록이다. Jensen 부등식 [T4].

풀이

(a) 정리 5.2로 $\Var X=E\Lambda+\Var\Lambda\ge E\Lambda=EX$이고, 등호는 $\Var\Lambda=0$, 곧 $\Lambda$가 상수일 때뿐이다.

(b) 반복기댓값으로 $P(X=0)=E[P(X=0\mid\Lambda)]=Ee^{-\Lambda}$이다. $e^{-x}$는 볼록이므로 Jensen 부등식으로 $Ee^{-\Lambda}\ge e^{-E\Lambda}=e^{-\mu}$이다. 등호는 역시 $\Lambda$가 상수일 때뿐이다.

(c) $\tfrac{156}{262}\approx0.595$이고 $e^{-0.656}\approx0.519$이다. 관측된 0의 비율이 같은 평균의 Poisson보다 크다. (b)에 따르면 이것은 조각마다 위험률이 다른 혼합이라는 모형과 맞는다. 노트 연습 6.3에서 0의 비율로 추정한 $\lambda$가 평균보다 작았던 것도 같은 현상이다.

C8 음이항의 꼬리와 이항 ★

정리 1.3 · 15분

$Y\sim\mathrm{NB}(r,p)$이고 $B\sim\mathrm b(k+r,p)$이다.

1. (a)

   $P(Y\le k)=P(B\ge r)$임을 같은 사건을 두 가지로 읽어 보여라.

2. (b)

   $r=3$, $p=\tfrac12$, $k=2$이면 $P(Y\le2)$는 얼마인가?

힌트

같은 시행열 위에서 “$r$번째 성공 전의 실패가 $k$개 이하”와 “처음 $k+r$번에 성공이 $r$개 이상”을 비교한다. 정리 3.2의 증명과 같은 생각이다.

풀이

(a) 같은 독립 시행열에서 $\{Y\le k\}$는 $r$번째 성공이 $(k+r)$번째 시행까지 나온다는 사건이다. 그것은 처음 $k+r$번 안에 성공이 $r$번 이상이라는 사건과 같다. 처음 $k+r$번의 성공 수는 $\mathrm b(k+r,p)$이다.

(b) $P(\mathrm b(5,\allowbreak \tfrac12)\ge3)=\tfrac{10+5+1}{32}=\tfrac12$이다. 대칭으로 $P(\mathrm b(5,\allowbreak \tfrac12)\ge3)=P(\mathrm b(5,\allowbreak \tfrac12)\le2)$이므로 $\tfrac12$이다. 정리 3.2가 연속 시간에서 감마와 Poisson을 잇는 것처럼, 이 등식은 이산 시간에서 음이항과 이항을 잇는다.

최종답 (b) $\tfrac12$

C9 사건 수를 알 때의 위치 ★★

정의 3.1 · 20분

비율 $\lambda$의 Poisson 과정에서 $0<s<t$이다.

1. (a)

   $P(T_1\le s\mid N(t)=1)=\tfrac st$임을 보여라. 사건이 하나 있었다는 것을 알면 그 위치는 $(0,t)$ 위의 균등분포다.

2. (b)

   $N(t)=n$이 주어지면 $N(s)\sim\mathrm b(n,s/t)$임을 보여라. $\lambda$가 사라진다.

3. (c)

   $t=1$, $s=0.3$, $n=5$이면 $P(N(s)=2\mid N(t)=5)$는?

힌트

$\{N(s)=k,\allowbreak \ N(t)=n\}=\{N(s)=k,\allowbreak \ N(t)-N(s)=n-k\}$이고 두 구간의 수는 독립이다(정의 3.1(i)).

풀이

(a) $\{T_1\le s,\allowbreak \ N(t)=1\}=\{N(s)=1,\allowbreak \ N(t)-N(s)=0\}$이므로 정의 3.1로

$$P(T_1\le s\mid N(t)=1)=\frac{\lambda se^{-\lambda s}\cdot e^{-\lambda(t-s)}}{\lambda te^{-\lambda t}}=\frac st .$$

(b) 같은 방법으로

$$P(N(s)=k\mid N(t)=n)=\frac{e^{-\lambda s}\frac{(\lambda s)^k}{k!}e^{-\lambda(t-s)}\frac{(\lambda(t-s))^{n-k}}{(n-k)!}}{e^{-\lambda t}\frac{(\lambda t)^n}{n!}}=\binom nk\Bigl(\frac st\Bigr)^k\Bigl(1-\frac st\Bigr)^{n-k} .$$

노트 연습 2.4와 같은 계산이다. (c) $\tbinom52(0.3)^2(0.7)^3=0.3087$.

최종답 (c) $\tbinom52(0.3)^2(0.7)^3=0.3087$

C10 $\Gamma(\tfrac12)$Γ(tfrac12)를 베타로 ★★

[T7] · 정리 4.2 · 20분

가우스 적분을 쓰지 않고 $\Gamma(\tfrac12)=\sqrt\pi$를 증명한다.

1. (a)

   $x=\sin^2\theta$로 치환해 $B(\tfrac12,\allowbreak \tfrac12)=\int_0^1x^{-1/2}(1-x)^{-1/2}dx$를 계산하라.

2. (b)

   정리 4.2로 $\Gamma(\tfrac12)^2=B(\tfrac12,\allowbreak \tfrac12)\Gamma(1)$을 보이고 $\Gamma(\tfrac12)=\sqrt\pi$를 얻어라. 양의 제곱근을 고르는 근거는?

3. (c)

   거꾸로 $\int_{-\infty}^\infty e^{-z^2/2}dz=\sqrt{2\pi}$를 (b)에서 얻어라.

힌트

(a) $dx=2\sin\theta\cos\theta\,d\theta$이고 $x^{-1/2}(1-x)^{-1/2}=\tfrac1{\sin\theta\cos\theta}$이다. (c)는 정리 3.5(c)의 증명을 거꾸로 읽는다.

풀이

(a) $\theta\in(0,\tfrac\pi2)$에서 $x=\sin^2\theta$는 증가하는 일대일 대응이고 $dx=2\sin\theta\cos\theta\,d\theta$이므로 $B(\tfrac12,\allowbreak \tfrac12)=\int_0^{\pi/2}\tfrac{2\sin\theta\cos\theta}{\sin\theta\cos\theta}d\theta=\pi$이다.

(b) 정리 4.2로 $B(\tfrac12,\allowbreak \tfrac12)=\tfrac{\Gamma(1/2)^2}{\Gamma(1)}$이고 $\Gamma(1)=1$이므로 $\Gamma(\tfrac12)^2=\pi$이다. $\Gamma(\tfrac12)$는 양의 함수의 적분이므로 양수이고 $\sqrt\pi$이다. 정리 4.2의 증명은 3회 정리 5.1(변수변환)과 감마 밀도의 정규화만 썼고 가우스 적분은 쓰지 않았다.

(c) $x=z^2/2$로 치환하면 $\Gamma(\tfrac12)=\sqrt2\int_0^\infty e^{-z^2/2}dz$이므로 $\int_0^\infty e^{-z^2/2}dz=\sqrt{\pi/2}$이고, 대칭으로 전체 적분은 $\sqrt{2\pi}$이다.

최종답 (a) $\pi$

워크북 PDF풀이판 PDF답 확인