수리통계학

테마

5회 · 정규분포의 탄생과 Galton의 타원 · 노트

7 정리와 역사 노트 ​

7.1 한 장 요약 ​

식증명의 핵심
de MoivreP(Sn=k)≈12πnpq e−(k−np)2/(2npq)P(S_n=k)\approx\tfrac{1}{\sqrt{2\pi npq}}\,e^{-(k-np)^2/(2npq)}Stirling + log⁡(1+u)\log(1+u) 전개
Gauss평균이 언제나 MLE ⇒\Rightarrow 오차는 정규Cauchy 함수방정식
정규 혼합X∼N(0,σ12)X\sim\N(0,\sigma_1^2), Y∣X∼N(X,σ22)⇒Y∼N(0,σ12+σ22)Y\mid X\sim\N(X,\allowbreak \sigma_2^2)\Rightarrow Y\sim\N(0,\allowbreak \sigma_1^2+\sigma_2^2)반복기댓값
안정 ⇒\Rightarrow 회귀Var⁡C=Var⁡P⇒r=1−σE2/σ2<1\Var C=\Var P\Rightarrow r=\sqrt{1-\sigma_E^2/\sigma^2}<1분산의 대수
정의MX(t)=et′μ+12t′ΣtM_{\X}(\bt)=e^{\bt\T\bmu+\tfrac12\bt\T\Sigma\bt}구성 μ+AZ\bmu+A\Z
정리 ACX+b∼N(Cμ+b, CΣC′)C\X+\bb\sim\N(C\bmu+\bb,\allowbreak \,C\Sigma C\T)mgf에 C′tC\T\bt
Cramér–Wold결합정규   ⟺  \iff 모든 a′X\ba\T\X가 정규MX(t)=Mt′X(1)M_{\X}(\bt)=M_{\bt\T\X}(1)
정리 B결합정규에서 X1⊥X2  ⟺  Σ12=0\X_1\perp\X_2\iff\Sigma_{12}=0mgf 분해
정리 CX1∣x2∼N(μ1+Σ12Σ22−1(x2−μ2), Σ11−Σ12Σ22−1Σ21)\X_1\mid\x_2\sim\N\bigl(\bmu_1+\Sigma_{12}\Sigma_{22}^{-1}(\x_2-\bmu_2),\allowbreak \ \Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\bigr)W=X1−BX2⊥X2\W=\X_1-B\X_2\perp\X_2 또는 블록 분해
정밀도Σ11⋅2=Λ11−1\Sigma_{11\cdot2}=\Lambda_{11}^{-1}, Xi⊥Xj∣나머지  ⟺  Λij=0X_i\perp X_j\mid\text{나머지}\iff\Lambda_{ij}=0블록 역행렬
정리 D(X−μ)′Σ−1(X−μ)∼χ2(n)(\X-\bmu)\T\Sigma^{-1}(\X-\bmu)\sim\chi^2(n)백색화 + Z2∼χ2(1)Z^2\sim\chi^2(1)
회귀E[ZY∣ZX=z]=ρzE[Z_Y\mid Z_X=z]=\rho z, E[ZX∣ZY=z]=ρzE[Z_X\mid Z_Y=z]=\rho z정리 C, n=2n=2
접점회귀선 = 수직 접점의 자취받침선 또는 ∂Q/∂w=0\partial Q/\partial w=0

7.2 Stigler의 명명 법칙 ​

Stigler's law of eponymy “어떤 과학 법칙도 처음 발견한 사람의 이름을 달고 있지 않다.” Stigler(1980)는 이 법칙조차 사회학자 Merton이 먼저 말했다고 덧붙였다.

  • 가우스(정규) 분포: de Moivre(1733)가 이항의 근사로 먼저 얻었다.

  • Pearson 상관계수 rr: 개념과 이름은 Galton(1888), 이변량 정규의 그 모수는 Bravais(1846). Pearson(1896)도 Bravais를 인용했다.

  • 이변량 정규분포: Galton의 질문에 Dickson이 답하기 전에 오차론에서 Laplace, Bravais 등이 이미 다뤘다.

7.3 7 Pillars 지도에 칠할 칸 ​

Stigler(2016)의 일곱 기둥 가운데 이번 회차는 Regression이다. 그 장의 요지는 Galton의 통찰이 회귀는 두 방향이라는 것, 그리고 조건부분포로 생각하는 습관이 다변량 분석과 베이즈 추론의 출발점이 되었다는 것이다. 2.2절의 축소(따름정리 2.2)가 그 씨앗이고, 16회에서 Stein의 축소추정량이 바로 이 회귀임을 본다(Stigler 1990).

7.4 다음 회 — Student의 t와 신뢰구간 (1876 → 1937) ​

Guinness 양조장의 Gosset은 표본 4개로, σ\sigma도 모른 채 평균의 오차를 말해야 했다. 그 열쇠인 “정규표본에서 Xˉ\bar X와 S2S^2는 독립”은 오늘의 정리 B로 증명된다. (Xˉ, X1−Xˉ,…,Xn−Xˉ)(\bar X,\allowbreak \,X_1-\bar X,\allowbreak \dots,\allowbreak X_n-\bar X)는 정리 A에 의해 결합정규이고, Cov⁡(Xˉ,Xi−Xˉ)=σ2n−σ2n=0\Cov(\bar X,\allowbreak X_i-\bar X)=\tfrac{\sigma^2}{n}-\tfrac{\sigma^2}{n}=0이기 때문이다.

참고문헌 ​

  • Hogg, R. V., McKean, J. W., Craig, A. T. Introduction to Mathematical Statistics, 6th ed. Pearson, 2005. (다룰 내용의 범위를 정할 때 참고)

  • Stigler, S. M. The History of Statistics: The Measurement of Uncertainty before 1900. Harvard, 1986. Ch. 4, 5, 8.

  • Stigler, S. M. The Seven Pillars of Statistical Wisdom. Harvard, 2016. Ch. 5.

  • Stigler, S. M. A Galtonian perspective on shrinkage estimators. Statistical Science 5 (1990).

  • de Moivre, A. The Doctrine of Chances, 2nd ed. 1738.

  • Gauss, C. F. Theoria Motus Corporum Coelestium. 1809.

  • Quetelet, A. Lettres sur la théorie des probabilités. 1846.

  • Galton, F. Regression towards mediocrity in hereditary stature. J. Anthropological Institute 15 (1886).

  • Galton, F. Co-relations and their measurement. Proc. Royal Society 45 (1888).

  • Pearson, K. On lines and planes of closest fit to systems of points in space. Philosophical Magazine 2 (1901).

이 절을 PDF로 보기 (44쪽)노트북 7절
이 회차에서 읽은 절 0개 · 회차 차례