수리통계학

테마

7회 · 극한의 언어 · 워크북

B. 빈칸 증명 ​

노트의 단계형 증명을 책을 덮고 다시 쓴다. 같은 정리를 여러 번 만나며 도움이 줄어든다. 1 단계는 주어지고 근거만 빈칸이다. 2 단계의 이름만 주어진다. 3 전략만 주어진다. 근거에는 앞 회차의 정리 번호, 이 회차의 정리 번호, 도구 번호를 쓴다.

B1 중심극한정리, 근거 채우기 ★★ ​

1 · 정리 3.1 · 20분

iid이고 mgf가 ∣t∣<h|t|<h에서 존재하며 평균 μ\mu, 분산 σ2>0\sigma^2>0이면 Zn=n(Xˉn−μ)/σ→DN(0,1)Z_n=\sqrt n(\bar X_n-\mu)/\sigma\xrightarrow{D}\N(0,\allowbreak 1)이다. 각 단계의 근거를 써라.

  1. Yi=(Xi−μ)/σY_i=(X_i-\mu)/\sigma는 iid, 평균 0, 분산 1이고 mgf가 ∣s∣<σh|s|<\sigma h에서 존재한다.왜?2회 정리 3.6 (아핀변환의 mgf)

  2. ψ=log⁡MY\psi=\log M_Y에 대해 ψ(0)=0\psi(0)=0, ψ′(0)=0\psi'(0)=0, ψ′′(0)=1\psi''(0)=1이다.왜?2회 정리 3.3, 따름정리 3.4

  3. log⁡MZn(t)=n ψ(t/n)\log M_{Z_n}(t)=n\,\psi(t/\sqrt n)이다.왜?2회 정리 3.6, 독립(3회 정리 3.4)

  4. ψ(s)=12ψ′′(ξn)s2\psi(s)=\tfrac12\psi''(\xi_n)s^2인 ξn\xi_n이 00과 s=t/ns=t/\sqrt n 사이에 있다.왜?Taylor 정리 [T8], 2

  5. nψ(t/n)=t22ψ′′(ξn)→t22n\psi(t/\sqrt n)=\tfrac{t^2}2\psi''(\xi_n)\to\tfrac{t^2}2이다.왜?ξn→0\xi_n\to0, ψ′′\psi''는 0에서 연속

  6. MZn(t)→et2/2M_{Z_n}(t)\to e^{t^2/2}이므로 Zn→DN(0,1)Z_n\xrightarrow{D}\N(0,1)이다.왜?2.3절의 상자, 5회 정리 1.8(ii)

힌트

mgf에 관한 근거는 모두 2회에 있다. 5에서 ∣ξn∣≤∣t∣/n|\xi_n|\le|t|/\sqrt n이다.

풀이

빈칸의 빨간 글씨가 근거다. 노트 정리 3.1의 증명과 같다. 4에서 s=t/ns=t/\sqrt n이 ψ\psi의 정의역 (−σh,σh)(-\sigma h,\sigma h) 안에 있어야 하는데, ∣t∣<σh|t|<\sigma h이면 모든 n≥1n\ge1에서 그렇다.

B2 확률수렴은 분포수렴, 근거 채우기 ★★ ​

1 · 정리 2.3(a) · 15분

Xn→PXX_n\xrightarrow{P}X이면 Xn→DXX_n\xrightarrow{D}X이다. 근거를 써라.

  1. {Xn≤x}⊂{X≤x+ε}∪{∣Xn−X∣≥ε}\{X_n\le x\}\subset\{X\le x+\varepsilon\}\cup\{|X_n-X|\ge\varepsilon\}이다.왜?원소 추적 [T1]: Xn≤xX_n\le x, ∣Xn−X∣<ε|X_n-X|<\varepsilon이면 X<x+εX<x+\varepsilon

  2. {X≤x−ε}⊂{Xn≤x}∪{∣Xn−X∣≥ε}\{X\le x-\varepsilon\}\subset\{X_n\le x\}\cup\{|X_n-X|\ge\varepsilon\}이다.왜?같은 원소 추적

  3. F(x−ε)−P(∣Xn−X∣≥ε)≤Fn(x)≤F(x+ε)+P(∣Xn−X∣≥ε)F(x-\varepsilon)-P(|X_n-X|\ge\varepsilon)\le F_n(x)\le F(x+\varepsilon)+P(|X_n-X|\ge\varepsilon)이다.왜?1회 정리 4.3(d)(g)

  4. F(x−ε)≤lim inf⁡nFn(x)≤lim sup⁡nFn(x)≤F(x+ε)F(x-\varepsilon)\le\liminf_nF_n(x)\le\limsup_nF_n(x)\le F(x+\varepsilon)이다.왜?확률수렴, [T5]

  5. xx가 FF의 연속점이면 lim⁡nFn(x)=F(x)\lim_nF_n(x)=F(x)이다.왜?ε↓0\varepsilon\downarrow0, 연속점의 정의

힌트

3은 포함관계에 단조성과 Boole 부등식을 쓴 것이다.

풀이

빈칸의 빨간 글씨가 근거다. 5에서 연속점이 필요한 것은 F(x−ε)→F(x−)F(x-\varepsilon)\to F(x-)이기 때문이다. 오른쪽 끝 F(x+ε)→F(x)F(x+\varepsilon)\to F(x)는 오른쪽 연속성으로 언제나 성립한다.

B3 델타 방법, 근거 채우기 ★★ ​

1 · 정리 4.4 · 15분

n(Yn−θ)→DN(0,σ2)\sqrt n(Y_n-\theta)\xrightarrow{D}\N(0,\allowbreak \sigma^2)이고 gg가 θ\theta에서 미분가능하면 n(g(Yn)−g(θ))→DN(0,g′(θ)2σ2)\sqrt n(g(Y_n)-g(\theta))\xrightarrow{D}\N(0,\allowbreak g'(\theta)^2\sigma^2)이다. 근거를 써라.

  1. h(y)=g(y)−g(θ)y−θh(y)=\tfrac{g(y)-g(\theta)}{y-\theta} (y≠θy\ne\theta), h(θ)=g′(θ)h(\theta)=g'(\theta)는 θ\theta에서 연속이다.왜?미분의 정의

  2. Yn−θ=1n⋅n(Yn−θ)→P0Y_n-\theta=\tfrac1{\sqrt n}\cdot\sqrt n(Y_n-\theta)\xrightarrow{P}0이다.왜?정리 2.5 (확률적 유계 × 0으로 가는 수)

  3. h(Yn)→Pg′(θ)h(Y_n)\xrightarrow{P}g'(\theta)이다.왜?연속사상 정리 1.3(a)

  4. n(g(Yn)−g(θ))=h(Yn)⋅n(Yn−θ)\sqrt n(g(Y_n)-g(\theta))=h(Y_n)\cdot\sqrt n(Y_n-\theta)이다.왜?hh의 정의, y=θy=\theta에서도 양변 0

  5. 극한은 g′(θ)⋅N(0,σ2)=N(0,g′(θ)2σ2)g'(\theta)\cdot\N(0,\allowbreak \sigma^2)=\N(0,\allowbreak g'(\theta)^2\sigma^2)이다.왜?Slutsky 정리 4.2, 5회 정리 3.8

힌트

2는 분포수렴하는 수열이 확률적으로 유계라는 것에서 나온다.

풀이

빈칸의 빨간 글씨가 근거다. 미분가능성만 쓰고 g′g'의 연속성은 쓰지 않았다. 3은 hh가 θ\theta 한 점에서 연속이면 충분하다.

B4 중심극한정리, 단계의 이름만 ★★ ​

2 · 정리 3.1 · 30분

정리 3.1을 증명하라. 단계의 이름만 주어진다. 각 단계 아래에 식과 근거를 써라.

  1. 표준화한다

  2. 로그 mgf의 0에서의 값과 두 도함수를 적는다

  3. 독립합의 mgf로 log⁡MZn\log M_{Z_n}을 쓴다

  4. 나머지항이 있는 Taylor 전개를 한다

  5. nn을 곱한 것의 극한을 구한다

  6. mgf의 극한에서 분포수렴으로 간다

힌트

B1에서 채운 근거를 다시 보지 말고 쓴다. 넷째 단계에서 1차 항이 없어지는 이유를 적는다.

풀이

B1의 여섯 단계와 같다. 핵심 식은 nψ(t/n)=t22ψ′′(ξn)n\psi(t/\sqrt n)=\tfrac{t^2}2\psi''(\xi_n)이다. 넷째 단계에서 상수항은 ψ(0)=log⁡1=0\psi(0)=\log1=0, 1차 항은 ψ′(0)=EY=0\psi'(0)=EY=0으로 사라진다. 평균을 빼지 않으면 1차 항 n t μ/σ\sqrt n\,t\,\mu/\sigma가 발산한다. 분산 1로 나누지 않으면 극한은 eσ2t2/2e^{\sigma^2t^2/2}, 곧 N(0,σ2)\N(0,\sigma^2)이다.

B5 두 수렴의 관계, 단계의 이름만 ★★ ​

2 · 정리 2.3 · 25분

정리 2.3의 (a)와 (b)를 증명하라.

  1. (a) 두 포함관계를 쓴다

  2. (a) 확률을 취해 Fn(x)F_n(x)를 끼운다

  3. (a) 상극한·하극한을 취하고 ε↓0\varepsilon\downarrow0

  4. (b) 상수의 분포함수와 그 연속점을 적는다

  5. (b) {∣Xn−c∣≥ε}\{|X_n-c|\ge\varepsilon\}을 분포함수로 덮는다

  6. (b) 극한을 취한다

힌트

(b)의 덮기에서 c+εc+\varepsilon 대신 c+ε2c+\tfrac\varepsilon2를 쓰는 이유를 생각한다. P(Xn≥c+ε)P(X_n\ge c+\varepsilon)은 분포함수의 값이 아니다.

풀이

(a)는 B2의 풀이와 같다. (b): 상수 cc의 분포함수는 cc에서만 뛰므로 cc가 아닌 모든 점이 연속점이다. {∣Xn−c∣≥ε}⊂{Xn≤c−ε}∪{Xn>c+ε2}\{|X_n-c|\ge\varepsilon\}\subset\{X_n\le c-\varepsilon\}\cup\{X_n>c+\tfrac\varepsilon2\}이므로 P(∣Xn−c∣≥ε)≤Fn(c−ε)+1−Fn(c+ε2)→0+1−1=0P(|X_n-c|\ge\varepsilon)\le F_n(c-\varepsilon)+1-F_n(c+\tfrac\varepsilon2)\to0+1-1=0이다.

B6 중심극한정리, 전략만 ★★★ ​

3 · 정리 3.1 · 35분

정리 3.1을 증명하라. 정의역에 관한 조건 확인도 함께 쓴다.

전략 표준화한 합의 mgf의 로그를 nψ(t/n)n\psi(t/\sqrt n)으로 쓰고, ψ\psi를 0 근처에서 2차까지 전개한다. 2차 항만 nn을 곱해도 남는다.

힌트

단계는 여섯이다. 조건 확인에서는 t/nt/\sqrt n이 ψ\psi의 정의역 안에 있는지, log⁡MY\log M_Y가 정의되는지, mgf의 수렴이 0을 포함하는 열린 구간에서 성립하는지를 본다.

풀이

노트 정리 3.1의 단계형 증명과 조건 확인 단락이 답이다. 근거는 B1의 풀이에 있다.

B7 델타 방법, 전략만 ★★ ​

3 · 정리 4.4 · 30분

정리 4.4를 증명하라. 그리고 g(y)=∣y∣g(y)=|y|, θ=0\theta=0이면 증명의 어느 단계가 무너지는지 밝혀라.

전략 차분몫 h(y)=g(y)−g(θ)y−θh(y)=\tfrac{g(y)-g(\theta)}{y-\theta}를 확률변수 계수로 보고, 그 계수가 g′(θ)g'(\theta)로 확률수렴함을 보인 뒤 Slutsky를 쓴다.

힌트

g(y)=∣y∣g(y)=|y|이면 h(y)=sign(y)h(y)=\mathrm{sign}(y)이다. 이 hh는 0에서 연속인가?

풀이

증명은 B3의 다섯 단계와 같다. g(y)=∣y∣g(y)=|y|, θ=0\theta=0이면 h(y)=sign(y)h(y)=\mathrm{sign}(y)이고 h(0)h(0)을 어떻게 정해도 0에서 연속이 아니다. 따라서 1과 3이 무너진다. 실제로 n∣Yn∣→Dσ∣Z∣\sqrt n|Y_n|\xrightarrow{D}\sigma|Z|이고(연속사상), 이것은 정규가 아니라 반정규분포다(C5).

워크북 PDF풀이판 PDF답 확인