Skip to content

5회 · 정규분포의 탄생과 Galton의 타원 · 워크북

B. 빈칸 증명 ​

노트의 단계형 증명을 책을 덮고 다시 쓴다. 같은 정리를 여러 번 만나며 도움이 줄어든다. 1 단계는 주어지고 근거만 빈칸이다. 2 단계의 이름만 주어진다. 3 전략만 주어진다. 근거에는 정의나 정리의 번호, 도구 번호를 쓴다.

B1 정리 C, 근거 채우기 ★★ ​

1 · 정리 3.13 · 20분

X=(X1′,X2′)′∼Nn(μ,Σ)\X=(\X_1\T,\allowbreak \X_2\T)\T\sim\N_n(\bmu,\allowbreak \Sigma), Σ22≻0\Sigma_{22}\succ0, B=Σ12Σ22−1B=\Sigma_{12}\Sigma_{22}^{-1}, W=X1−BX2\W=\X_1-B\X_2이다. 각 단계의 근거를 써라.

  1. (W,X2)′=TX(\W,\X_2)\T=T\X, T=(I−B0I)T=\smat{I&-B\\0&I}이므로 (W,X2)(\W,\X_2)는 결합정규다.왜?정리 3.8 (정리 A)

  2. Cov⁡(W,X2)=Σ12−BΣ22=0\Cov(\W,\allowbreak \X_2)=\Sigma_{12}-B\Sigma_{22}=0이다.왜?공분산의 쌍선형성, BB의 정의

  3. W⊥X2\W\perp\X_2이다.왜?1 2, 정리 3.11 (정리 B)

  4. EW=μ1−Bμ2E\W=\bmu_1-B\bmu_2이고 Cov⁡W=Σ11−BΣ21−Σ12B′+BΣ22B′=Σ11⋅2\Cov\W=\Sigma_{11}-B\Sigma_{21}-\Sigma_{12}B\T+B\Sigma_{22}B\T=\Sigma_{11\cdot2}이다.왜?보조정리 3.1

  5. X1=W+BX2\X_1=\W+B\X_2이므로 X1∣X2=x2∼N(μ1+B(x2−μ2), Σ11⋅2)\X_1\mid\X_2=\x_2\sim\N(\bmu_1+B(\x_2-\bmu_2),\allowbreak \,\Sigma_{11\cdot2})이다.왜?3: 조건을 걸어도 W\W의 분포는 그대로

힌트

3의 근거에는 “결합정규”라는 가정이 들어간다. 무상관만으로는 독립이 나오지 않는다(노트 5.1절).

풀이

빈칸의 빨간 글씨가 근거다. 4의 마지막 등호는 BΣ21=Σ12B′=BΣ22B′=Σ12Σ22−1Σ21B\Sigma_{21}=\Sigma_{12}B\T=B\Sigma_{22}B\T=\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}이어서 세 항 가운데 둘이 지워지기 때문이다. 5는 X2=x2\X_2=\x_2에서 X1=W+Bx2\X_1=\W+B\x_2이고, 3의 독립 때문에 W\W의 조건부분포가 무조건부 분포 N(μ1−Bμ2,Σ11⋅2)\N(\bmu_1-B\bmu_2,\allowbreak \Sigma_{11\cdot2})와 같다는 것이다.

B2 국소 de Moivre–Laplace, 근거 채우기 ★★ ​

1 · 정리 1.2 · 25분

Sn∼Bin(n,p)S_n\sim\mathrm{Bin}(n,p), δ=k−np=xknpq\delta=k-np=x_k\sqrt{npq}, ∣xk∣≤A|x_k|\le A이다. 각 단계의 근거를 써라.

  1. P(Sn=k)=n2πk(n−k)(npk)k(nqn−k)n−k(1+O(n−1))P(S_n=k)=\sqrt{\tfrac{n}{2\pi k(n-k)}}\bigl(\tfrac{np}{k}\bigr)^k\bigl(\tfrac{nq}{n-k}\bigr)^{n-k}\bigl(1+O(n^{-1})\bigr)이다.왜?보조정리 1.1 (Stirling)

  2. n2πk(n−k)=12πnpq(1+O(n−1/2))\sqrt{\tfrac{n}{2\pi k(n-k)}}=\tfrac{1}{\sqrt{2\pi npq}}\bigl(1+O(n^{-1/2})\bigr)이다.왜?k(n−k)=n2pq(1+O(n−1/2))k(n-k)=n^2pq(1+O(n^{-1/2})), δ=O(n)\delta=O(\sqrt n)

  3. u=δnpu=\tfrac{\delta}{np}, v=δnqv=\tfrac{\delta}{nq}이면 log⁡(나)=−klog⁡(1+u)−(n−k)log⁡(1−v)\log(\text{나})=-k\log(1+u)-(n-k)\log(1-v)이다.왜?로그의 성질

  4. log⁡(1+w)=w−w22+R(w)\log(1+w)=w-\tfrac{w^2}2+R(w), ∣R(w)∣≤∣w∣3|R(w)|\le|w|^3을 넣는다.왜?Taylor 전개, ∣w∣≤12|w|\le\tfrac12 [T8]

  5. log⁡(나)=−δ22n(1p+1q)+O(n−1/2)=−δ22npq+O(n−1/2)\log(\text{나})=-\tfrac{\delta^2}{2n}\bigl(\tfrac1p+\tfrac1q\bigr)+O(n^{-1/2})=-\tfrac{\delta^2}{2npq}+O(n^{-1/2})이다.왜?±δ\pm\delta 소거, 1p+1q=1pq\tfrac1p+\tfrac1q=\tfrac1{pq}

  6. (나)=e−xk2/2(1+O(n−1/2))(\text{나})=e^{-x_k^2/2}\bigl(1+O(n^{-1/2})\bigr)이고, 오차는 ∣xk∣≤A|x_k|\le A에서 균등하다.왜?eh=1+O(h)e^h=1+O(h), 상수가 AA와 pp에만 의존

힌트

2에서 (1+h)−1/2=1+O(h)(1+h)^{-1/2}=1+O(h)를 쓴다. 4의 조건 ∣u∣,∣v∣≤12|u|,|v|\le\tfrac12은 nn이 충분히 크면 성립한다.

풀이

빈칸의 빨간 글씨가 근거다. 노트 정리 1.2의 단계형 증명과 같다. 5의 나머지항은 k∣R(u)∣≤k∣u∣3=O(n⋅n−3/2)k|R(u)|\le k|u|^3=O(n\cdot n^{-3/2})와 δ3/n2=O(n−1/2)\delta^3/n^2=O(n^{-1/2})로 모두 O(n−1/2)O(n^{-1/2})이다.

B3 가우스 적분과 정규 mgf, 근거 채우기 ★★ ​

1 · 정리 1.8(i)(ii) · 20분

정리 1.8의 (i)과 (ii)의 증명이다. 각 단계의 근거를 써라.

  1. I=∫e−z2/2dzI=\int e^{-z^2/2}dz이면 I2=∫R2e−(z12+z22)/2dz1dz2I^2=\int_{\R^2}e^{-(z_1^2+z_2^2)/2}dz_1dz_2이다.왜?Tonelli, 피적분함수 ≥0\ge0 [T6]

  2. I2=∫02π ⁣∫0∞e−r2/2 r dr dφ=2πI^2=\int_0^{2\pi}\!\int_0^\infty e^{-r^2/2}\,r\,dr\,d\varphi=2\pi이다.왜?극좌표, 야코비안 rr [T7]

  3. tx−(x−μ)22σ2=−(x−μ−σ2t)22σ2+μt+σ2t22tx-\frac{(x-\mu)^2}{2\sigma^2}=-\frac{(x-\mu-\sigma^2t)^2}{2\sigma^2}+\mu t+\frac{\sigma^2t^2}2이다.왜?완전제곱

  4. MX(t)=eμt+σ2t2/2M_X(t)=e^{\mu t+\sigma^2t^2/2}이다.왜?3, 평균 μ+σ2t\mu+\sigma^2t인 정규밀도의 적분, (i)

  5. EZ4=4!⋅122 2!=3EZ^4=4!\cdot\frac1{2^2\,2!}=3이다.왜?et2/2e^{t^2/2}와 ∑EZmtm/m!\sum EZ^mt^m/m!의 계수 비교

힌트

1에서 I2=(∫e−z12/2dz1)(∫e−z22/2dz2)I^2=\bigl(\int e^{-z_1^2/2}dz_1\bigr)\bigl(\int e^{-z_2^2/2}dz_2\bigr)을 이중적분으로 바꾸는 근거가 필요하다. 이상적분이므로 순서를 바꾸는 정리를 쓴다.

풀이

빈칸의 빨간 글씨가 근거다. 1의 Tonelli는 음이 아닌 함수의 반복적분은 순서와 상관없이 이중적분과 같다는 것이다. 피적분함수가 양수이므로 조건을 따로 확인할 필요가 없다. 5의 계수 비교가 정당한 것은 MZM_Z가 모든 tt에서 유한해 거듭제곱급수로 전개되고, 그 계수가 EZm/m!EZ^m/m!이기 때문이다(보조정리 0.1(b)).

B4 정리 C, 단계의 이름만 ★★ ​

2 · 정리 3.13 · 30분

정리 3.13을 증명하라. 단계의 이름만 주어진다. 각 단계 아래에 식과 근거를 써라.

  1. 잔차 W\W를 정의하고 (W,X2)(\W,\X_2)가 결합정규임을 보인다

  2. W\W와 X2\X_2가 무상관임을 계산한다

  3. 결합정규에서 무상관은 독립임을 쓴다

  4. W\W의 평균과 공분산을 구한다

  5. X1=W+BX2\X_1=\W+B\X_2에서 조건부분포를 읽는다

힌트

B1에서 채운 근거를 다시 보지 말고 쓴다. Cov⁡W\Cov\W를 계산할 때 네 항 가운데 셋이 같은 행렬이다.

풀이

B1의 단계와 같다. 1 W=X1−BX2\W=\X_1-B\X_2, B=Σ12Σ22−1B=\Sigma_{12}\Sigma_{22}^{-1}이고 (W,X2)=TX(\W,\X_2)=T\X이므로 정리 3.8로 결합정규. 2 Cov⁡(W,X2)=Σ12−BΣ22=0\Cov(\W,\allowbreak \X_2)=\Sigma_{12}-B\Sigma_{22}=0. 3 정리 3.11로 W⊥X2\W\perp\X_2. 4 EW=μ1−Bμ2E\W=\bmu_1-B\bmu_2, Cov⁡W=Σ11−Σ12Σ22−1Σ21\Cov\W=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21} (보조정리 3.1). 5 X2=x2\X_2=\x_2이면 X1=W+Bx2\X_1=\W+B\x_2이고 W\W의 분포는 조건에 영향받지 않으므로 N(μ1+B(x2−μ2),Σ11⋅2)\N(\bmu_1+B(\x_2-\bmu_2),\allowbreak \Sigma_{11\cdot2}).

B5 국소 de Moivre–Laplace, 단계의 이름만 ★★★ ​

2 · 정리 1.2 · 35분

정리 1.2를 증명하라. δ=k−np\delta=k-np로 두고 시작한다.

  1. Stirling 공식으로 앞인수와 거듭제곱 부분으로 나눈다

  2. 앞인수를 12πnpq\frac1{\sqrt{2\pi npq}}로 근사한다

  3. 거듭제곱 부분의 로그를 u,vu,v로 쓴다

  4. log⁡(1+w)\log(1+w)를 2차까지 전개하고 두 줄을 더한다

  5. 나머지항의 크기를 센다

  6. 지수를 취하고 균등성을 확인한다

힌트

4에서 −(np+δ)(δnp−δ22n2p2)-(np+\delta)\bigl(\tfrac{\delta}{np}-\tfrac{\delta^2}{2n^2p^2}\bigr)을 전개하면 δ2\delta^2 항이 두 번 나온다. 둘을 합치면 −δ22np-\tfrac{\delta^2}{2np}이다.

풀이

노트 정리 1.2의 단계형 증명과 같다. 4의 두 줄은

−δ−δ22np+O(δ3n2),+δ−δ22nq+O(δ3n2)-\delta-\frac{\delta^2}{2np}+O\Bigl(\frac{\delta^3}{n^2}\Bigr),\qquad +\delta-\frac{\delta^2}{2nq}+O\Bigl(\frac{\delta^3}{n^2}\Bigr)

이고, 더하면 −δ22npq+O(n−1/2)-\frac{\delta^2}{2npq}+O(n^{-1/2})이다. 균등성은 모든 O(⋅)O(\cdot)의 상수가 AA와 pp에만 의존한다는 것이다. 이 균등성이 따름정리 1.3(적분형)에서 합의 오차를 하나로 묶게 한다(노트 연습 1.13).

B6 정리 C, 전략만 ★★ ​

3 · 정리 3.13 · 35분

정리 3.13을 두 가지로 증명하라.

전략 (증명 1) 잔차 W=X1−BX2\W=\X_1-B\X_2를 X2\X_2와 무상관이 되게 만들고, 결합정규이므로 독립임을 쓴다. (증명 2, Σ≻0\Sigma\succ0) 보조정리 3.3(e)의 이차형식 분해와 (b)의 행렬식 분해로 결합밀도를 “조건부밀도 × 주변밀도”로 쪼갠다.

힌트

증명 2에서는 x~=x−μ\tilde\x=\x-\bmu로 두고 x~1−Bx~2=x1−μ1⋅2\tilde\x_1-B\tilde\x_2=\x_1-\bmu_{1\cdot2}임을 확인한다.

풀이

증명 1은 B4의 풀이와 같다. 증명 2: x~′Σ−1x~=(x~1−Bx~2)′Σ11⋅2−1(x~1−Bx~2)+x~2′Σ22−1x~2\tilde\x\T\Sigma^{-1}\tilde\x=(\tilde\x_1-B\tilde\x_2)\T\Sigma_{11\cdot2}^{-1}(\tilde\x_1-B\tilde\x_2)+\tilde\x_2\T\Sigma_{22}^{-1}\tilde\x_2(보조정리 3.3(e))이고 ∣Σ∣=∣Σ22∣ ∣Σ11⋅2∣|\Sigma|=|\Sigma_{22}|\,|\Sigma_{11\cdot2}|(보조정리 3.3(b))이다. 정리 3.6의 밀도에 넣으면 f(x)f(\x)가 N(μ1⋅2,Σ11⋅2)\N(\bmu_{1\cdot2},\allowbreak \Sigma_{11\cdot2})의 밀도와 N(μ2,Σ22)\N(\bmu_2,\Sigma_{22})의 밀도의 곱이 된다. 둘째 인수는 따름정리 3.9의 주변밀도이므로 첫째 인수가 f(x)/f2(x2)f(\x)/f_2(\x_2), 곧 조건부밀도다.

B7 가우스 적분과 정규 mgf, 전략만 ★★ ​

3 · 정리 1.8(i)(ii) · 35분

정리 1.8의 (i)과 (ii)를 증명하라. (ii)에서는 E(X−μ)4=3σ4E(X-\mu)^4=3\sigma^4까지 보인다.

전략 (i)은 적분을 제곱해 극좌표로 바꾼다. (ii)는 지수를 완전제곱해 (i)로 돌아가고, 적률은 mgf의 거듭제곱급수 계수로 읽는다.

힌트

(i)의 마지막에 z=(x−μ)/σz=(x-\mu)/\sigma로 치환해 ∫f=1\int f=1까지 보인다. (ii)의 4차 적률은 Z=(X−μ)/σZ=(X-\mu)/\sigma로 표준화해 E(X−μ)4=σ4EZ4E(X-\mu)^4=\sigma^4EZ^4로 쓴다.

풀이

B3의 풀이와 노트 정리 1.8의 증명과 같다. 단계는 (i) Tonelli [T6] → 극좌표 [T7] → I2=2πI^2=2\pi → 치환, (ii) 완전제곱 → (i)로 적분 → MXM_X → MZ(t)=et2/2=∑t2k/(2kk!)M_Z(t)=e^{t^2/2}=\sum t^{2k}/(2^kk!)의 t4t^4 계수 18=EZ4/4!\tfrac18=EZ^4/4!에서 EZ4=3EZ^4=3, 따라서 E(X−μ)4=3σ4E(X-\mu)^4=3\sigma^4이다.