2회 · 기댓값·부등식·대수의 법칙 · 워크북

B. 빈칸 증명

노트의 단계형 증명을 책을 덮고 다시 쓴다. 같은 정리를 여러 번 만나며 도움이 줄어든다. 1 단계는 주어지고 근거만 빈칸이다. 2 단계의 이름만 주어진다. 3 전략만 주어진다. 근거에는 정의나 정리의 번호, 도구 번호를 쓴다.

B1 꼬리 공식, 근거 채우기 ★

1 · 정리 1.13(b) · 15분

$X\ge0$이 밀도 $f$를 가지면 $EX=\int_0^\infty P(X>x)\,dx$이다. 각 단계의 근거를 써라.

1. $P(X>x)=\int_x^\infty f(t)\,dt$이다.왜?1회 정리 6.7(c)

2. 영역 $\{0\le x<t\}$ 위에서 $f(t)$를 두 순서로 적분한다.

   $$\begin{align*} \int_0^\infty P(X>x)\,dx&=\int_0^\infty\int_x^\infty f(t)\,dt\,dx\\ &=\int_0^\infty\Bigl(\int_0^tdx\Bigr)f(t)\,dt \tag*{\htmlClass{why}{\htmlClass{why-q}{\text{왜?}}\htmlClass{why-a}{\text{Tonelli, $f\ge0$ \htmlClass{tool}{\href{/read/00/6}{\text{[T6]}}}}}}}\\ &=\int_0^\infty t\,f(t)\,dt=EX \tag*{\htmlClass{why}{\htmlClass{why-q}{\text{왜?}}\htmlClass{why-a}{\text{정의 1.5, $X\ge0$}}}} \end{align*}$$

3. $P(X>x)=1-F(x)$이다.왜?여사건, 1회 정리 4.3(c)

마지막으로, 순서를 바꿀 때 쓴 조건은 무엇이고 부호가 섞인 $X$에 이 계산을 그대로 쓸 수 없는 이유는 무엇인지 두 줄로 써라.

힌트

둘째 단계의 둘째 줄에서 영역을 $t$를 먼저 고정해 읽는다. 0부터 $t$까지의 $x$가 남는다.

풀이

빈칸의 빨간 글씨가 근거다. 순서를 바꿀 때 쓴 조건은 피적분함수가 음이 아니라는 것뿐이다(그래서 양변이 $\infty$여도 등식이 성립한다). 부호가 섞이면 $\int\!\!\int$의 두 순서가 다른 값을 줄 수 있고(도구 상자 T6의 반례), $EX$가 존재하지 않을 수도 있다. 그때는 $X=X^+-X^-$로 나눠 각각에 쓴다.

B2 Jensen 부등식, 근거 채우기 ★★

1 · 정리 5.9 · 15분

$\varphi$가 열린 구간 $I$에서 볼록이고 $P(X\in I)=1$, $E|X|<\infty$, $E|\varphi(X)|<\infty$이면 $\varphi(EX)\le E\varphi(X)$이다. 근거를 채워라.

1. $\mu=EX$는 $I$ 안에 있다. 끝점이면 $X-\alpha>0$인데 $E(X-\alpha)=0$이 되어 모순이다.왜?Markov와 1회 정리 4.7

2. $I$에서 $\varphi(x)\ge\ell(x)=\varphi(\mu)+b(x-\mu)$인 $b$가 있다.왜?보조정리 5.8

3. $E\,\varphi(X)\ge E\,\ell(X)$이다.왜?단조성, 정리 1.10(b)

4. $E\,\ell(X)=\varphi(\mu)+b(EX-\mu)=\varphi(\mu)$이다.왜?선형성, 정리 1.10(a)

5. 3에서 $E\,\ell(X)$가 존재한다.왜?$E|X|<\infty$

힌트

근거는 짧게 쓴다. 5는 $|\ell(x)|\le|\varphi(\mu)|+|b|(|x|+|\mu|)$에서 나온다.

풀이

빈칸의 빨간 글씨가 근거다. 1의 자세한 논리: $\mu=\alpha$이면 $Y=X-\alpha$는 확률 1로 양수이고 $EY=0$이다. Markov 부등식으로 $P(Y\ge\tfrac1n)\le n\,EY=0$이고, $\{Y\ge\tfrac1n\}\uparrow\{Y>0\}$이므로 연속성으로 $P(Y>0)=0$이 되어 $P(Y>0)=1$과 모순이다.

B3 확률적분변환, 근거 채우기 ★★

1 · 정리 4.7(b) · 20분

$F$가 연속인 분포함수이면 $F(X)\sim\mathrm U(0,1)$이다. $0<u<1$을 고정한다. 근거를 채워라.

1. $\{F(X)<u\}=\{X<F^-(u)\}$이다.왜?보조정리 4.6의 대우 [T2]

2. $P(X<F^-(u))=F(F^-(u))$이다.왜?1회 정리 6.3(d), $F$ 연속

3. $F(F^-(u))\ge u$이다.왜?하한의 정의, $F$의 오른쪽 연속

4. $F(F^-(u))\le u$이다.왜?$x<F^-(u)$이면 $F(x)<u$, $F$ 연속

5. $P(F(X)\le u)=\lim_nP\bigl(F(X)<u+\tfrac1n\bigr)=u$이다.왜?1회 정리 4.7(b)

힌트

$F$의 연속성은 두 번 쓰인다. 한 번은 $P(X<x)=P(X\le x)$에, 한 번은 $F(F^-(u))\le u$에.

풀이

빈칸의 빨간 글씨가 근거다. $F$가 뛰는 점이 있으면 2와 4가 모두 깨진다. 노트 연습 4.7의 Bernoulli 예에서 $F(X)$는 $\tfrac12$과 1의 두 값만 갖는다.

B4 꼬리 공식, 단계의 이름만 ★★

2 · 정리 1.13 · 25분

정리 1.13의 (a)와 (b)를 증명하라. 각 단계 아래에 식과 근거를 써라.

1. (a) $P(X\ge k)$를 확률질량함수의 합으로 쓴다

2. 이중합으로 쓰고 항 $p(j)$가 몇 번 나오는지 센다

3. 순서를 바꿔 $EX$를 얻는다

4. (b) $P(X>x)$를 밀도의 적분으로 쓴다

5. 적분 영역을 그리고 순서를 바꾼다

6. 조건 확인: 순서를 바꿀 수 있는 근거

힌트

B1에서 채운 근거를 다시 보지 않고 쓴다. (a)에서 $\sum_{k=1}^j1=j$가 기댓값의 “값”을 만든다.

풀이

1. $P(X\ge k)=\sum_{j\ge k}p(j)$.(P3)

2. $\sum_{k\ge1}P(X\ge k)=\sum_{k\ge1}\sum_{j\ge k}p(j)$이고 $p(j)$는 $k=1,\dots,j$에서 $j$번 나온다.셈

3. $=\sum_jj\,p(j)=EX$.음이 아닌 이중합, 1회 4.6절 상자

4. $P(X>x)=\int_x^\infty f(t)\,dt$.1회 정리 6.7(c)

5. $\int_0^\infty\!\int_x^\infty f(t)\,dt\,dx=\int_0^\infty\!\bigl(\int_0^tdx\bigr)f(t)\,dt=\int_0^\infty tf(t)\,dt$.Tonelli [T6]

6. 항과 피적분함수가 음이 아니다. 양변이 $\infty$여도 성립한다.[T6]

B5 Jensen 부등식, 단계의 이름만 ★★

2 · 정리 5.9 · 25분

정리 5.9를 증명하라. 보조정리 5.8(받침선)은 써도 된다.

1. $\mu=EX$가 $I$ 안에 있음을 보인다

2. 받침선을 잡는다

3. 단조성으로 기댓값을 비교한다

4. 받침선의 기댓값을 계산한다

5. 조건 확인: 두 기댓값이 존재하는가

6. 오목인 경우

힌트

첫 단계는 B2의 풀이에 있는 Markov와 연속성의 논리다. 끝점이 $\pm\infty$이면 확인할 것이 없다.

풀이

노트 정리 5.9의 단계형 증명과 같다. 단계별 근거는 B2를 본다. 마지막 단계: $\varphi$가 오목이면 $-\varphi$가 볼록이므로 $-\varphi(EX)\le E(-\varphi(X))$, 곧 $\varphi(EX)\ge E\varphi(X)$이다.

B6 받침선과 Jensen, 전략만 ★★★

3 · 보조정리 5.8, 정리 5.9 · 35분

보조정리 5.8과 정리 5.9를 모두 증명하라.

전략 볼록이면 $\mu$ 왼쪽의 기울기들이 오른쪽의 기울기들보다 작다. 그 사이의 기울기 $b$로 받침선을 만들고, 받침선의 기댓값을 계산한다.

힌트

보조정리는 두 단계다. (1) $x<\mu<y$에서 기울기의 부등식을 볼록성에 $\lambda=\tfrac{y-\mu}{y-x}$를 넣어 얻는다. (2) 왼쪽 기울기들의 상한을 $b$로 잡는다.

풀이

보조정리: $x<\mu<y$이면 $\mu=\lambda x+(1-\lambda)y$, $\lambda=\tfrac{y-\mu}{y-x}$이고 볼록성으로 $\varphi(\mu)\le\lambda\varphi(x)+(1-\lambda)\varphi(y)$이다. 양변에 $y-x$를 곱해 정리하면 $(y-x)\varphi(\mu)\le(y-\mu)\varphi(x)+(\mu-x)\varphi(y)$, 곧 $\tfrac{\varphi(\mu)-\varphi(x)}{\mu-x}\le\tfrac{\varphi(y)-\varphi(\mu)}{y-\mu}$이다. 왼쪽 기울기들은 오른쪽 기울기 하나로 위로 유계이므로 상한 $b$가 있고, 모든 $x<\mu<y$에서 왼쪽 기울기 $\le b\le$ 오른쪽 기울기이다. 각각에 $\mu-x>0$, $y-\mu>0$을 곱하면 $\varphi(x)\ge\varphi(\mu)+b(x-\mu)$, $\varphi(y)\ge\varphi(\mu)+b(y-\mu)$이다. $I$가 열린 구간이어서 $\mu$의 양쪽에 점이 있다는 것이 쓰였다. 정리는 B2와 B5의 풀이와 같다.

B7 역변환 표집과 확률적분변환, 전략만 ★★★

3 · 보조정리 4.6, 정리 4.7 · 35분

보조정리 4.6과 정리 4.7의 (a)(b)를 모두 증명하라.

전략 하한의 정의와 $F$의 오른쪽 연속성으로 $F(F^-(u))\ge u$를 얻는 것이 보조정리의 전부다. 정리는 이 보조정리로 사건을 바꿔 쓴다.

힌트

보조정리의 ($\Rightarrow$)에서 먼저 집합 $\{x:F(x)\ge u\}$가 비어 있지 않고 아래로 유계임을 1회 정리 6.3(b)로 확인한다.

풀이

보조정리: ($\Leftarrow$) $u\le F(x)$이면 $x$는 집합 $\{x':F(x')\ge u\}$에 속하므로 하한 $F^-(u)\le x$이다. ($\Rightarrow$) 그 집합은 $F\to1>u$이므로 비어 있지 않고, $F\to0<u$이므로 아래로 유계다. 하한으로 가는 수열 $x_n\downarrow F^-(u)$, $F(x_n)\ge u$를 잡으면 오른쪽 연속성으로 $F(F^-(u))\ge u$이다. $F^-(u)\le x$이면 $F$가 비감소이므로 $F(x)\ge u$이다. 정리 (a)는 $P(F^-(U)\le x)=P(U\le F(x))=F(x)$이고, (b)는 B3의 단계와 같다.

워크북 PDF풀이판 PDF답 확인