5회 강의노트 · 1733 → 1901

정규분포의 탄생과

Galton의 타원

정규분포는 처음에 관측 오차의 분포였다. 이 노트는 de Moivre의 근사와 Gauss의 특성화에서 출발해 Galton이 유전 자료에서 본 동심 타원까지 따라가고, 두 시대를 다변량 정규분포의 조건부분포라는 하나의 정리로 묶는다.

노트 읽기 워크북 풀기 노트북

58쪽노트 · 8절

48개정리 · 정의 · 예제

53문항노트의 연습

34문항워크북

42개최종답 확인

읽은 절0 / 8

푼 문항0 / 34

맞힌 최종답0 / 42

강의노트PDF · 58쪽워크북PDF · 24쪽워크북 풀이판PDF · 16쪽노트북ipynb · 3.0 MB

개관연표직접 해 보기정리 지도차례정리 목록연습워크북노트북

개관

선수 지식

1–4회 (특히 2회 mgf, 3회 야코비안·전분산 공식·가우스 적분, 4회 감마와 $\chi^2$)

연표 정규분포는 오차에서 태어나 유전에서 회귀를 낳았다

직접 해 보기

정리 지도

노트와 워크북에 적힌 번호 참조를 모두 세어 그렸다. 왼쪽은 이 회차가 근거로 쓰는 앞 회차, 오른쪽은 이 회차의 상자를 근거로 쓰는 뒤 회차다.

차례

1. 0들어가며2쪽정리 3연습 2PDF 1쪽
2. 1정규분포는 어떻게 태어났나11쪽정리 7정의 1예제 1연습 14PDF 3쪽
3. 2Galton의 문제: 변이는 어떻게 유전되는가7쪽정리 3예제 2연습 10PDF 14쪽
4. 3다변량 정규분포14쪽정리 17정의 1예제 2연습 17PDF 21쪽
5. 4계산 — 정리를 알고리즘으로2쪽연습 3PDF 35쪽
6. 5부숴보기 — 가정을 하나씩 빼면4쪽정리 3예제 3연습 4PDF 37쪽
7. 6Beautiful insights — 정리 C는 어디에나 있다3쪽정리 2연습 3PDF 41쪽
8. 7정리와 역사 노트2쪽PDF 44쪽

정리 · 정의 · 예제

번호	내용	연습 · 문항	뒤 회차	PDF
보조정리 0.1	적률생성함수(mgf)의 성질 — 2회 3절, 3회 정리 3.4	1		2쪽
보조정리 0.2	변수변환 공식 — 3회 정리 5.1	1		2쪽
보조정리 0.3	반복기댓값과 전분산 공식 — 3회 정리 2.5 · 2.6	2		3쪽
보조정리 1.1	Stirling 공식	2	3	4쪽
정리 1.2	국소 de Moivre–Laplace 정리	8		5쪽
따름정리 1.3	적분형 de Moivre–Laplace 정리	4	2	6쪽
보조정리 1.4	Cauchy 함수방정식	1		7쪽
정리 1.5	Gauss의 특성화	1	3	8쪽
예제 1.6	구간화된 자료의 정규 적합		2	10쪽
정의 1.7	정규분포		1	11쪽
정리 1.8	단변량 정규분포의 네 가지 사실	6	7	11쪽
따름정리 1.9	$\chi^2(n)$	2	3	13쪽
정리 2.1	정규의 정규 혼합	2		17쪽
따름정리 2.2	거꾸로 본 조건부분포: 축소	3	3	17쪽
명제 2.3	안정은 회귀를 강요한다	1		18쪽
예제 2.4	중간부모 모형	2		19쪽
예제 2.5	예측과 거꾸로 예측			20쪽
보조정리 3.1	선형변환의 평균과 공분산	3	11	22쪽
보조정리 3.2	스펙트럼 분해, 제곱근, Cholesky	1	7	22쪽
보조정리 3.3	블록 행렬과 Schur 보수	3		23쪽
정의 3.4	다변량 정규분포 (mgf에 의한 정의)	2	1	24쪽
정리 3.5	존재와 모수의 의미			24쪽
정리 3.6	밀도	1		25쪽
예제 3.7	이변량 정규 밀도 — Dickson의 식	1		25쪽
정리 3.8	정리 A: 선형변환	11	28	26쪽
따름정리 3.9	주변분포	1		26쪽
정리 3.10	Cramér–Wold 판정	2	2	27쪽
정리 3.11	정리 B: 독립 $\Leftrightarrow$ 무상관	6	7	27쪽
따름정리 3.12	성분의 상호 독립	1	6	28쪽
정리 3.13	정리 C: 조건부분포	8	1	28쪽
따름정리 3.14	조건부분포의 세 성질	3		30쪽
정리 3.15	정밀도행렬 표현	3	1	30쪽
예제 3.16	$3\times3$ 손계산	3		31쪽
정리 3.17	정리 D: 이차형식은 $\chi^2$	3	7	32쪽
따름정리 3.18	확률 타원	2		32쪽
따름정리 3.19	이변량 회귀식	5	3	33쪽
정리 3.20	접점의 자취			33쪽
알고리즘 4.1	표본 추출			36쪽
알고리즘 4.2	로그밀도			36쪽
알고리즘 4.3	조건부분포			36쪽
예제 5.1	부호를 섞은 쌍	1		38쪽
예제 5.2	스위치 쌍			38쪽
명제 5.3	오염된 정규의 적률	1		39쪽
명제 5.4	두 정규 혼합의 평균과 분산	2		40쪽
예제 5.5	GaltonFamilies의 아들과 딸	1		40쪽
명제 5.6	특이 정규분포의 받침		1	41쪽
명제 6.1	제1 주성분은 수직거리를 최소화한다			42쪽
명제 6.2	두 다변량 정규 사이의 KL 발산	3	2	44쪽

연습 53문항 · 풀이는 연습 상자 안에 접어 두었다

0절 들어가며

0.1극좌표의 야코비안0.2벡터의 전분산 공식

1절 정규분포는 어떻게 태어났나

1.13차 항의 계수1.2수치로 확인하기1.3Stirling의 상수를 de Moivre로 구하기1.4Laplace 오차의 MLE는 중앙값1.5$n=2$만으로는 부족하다1.6균등하지 않은 사전분포1.7Quetelet 표 계산1.8Sheppard 보정1.9짝수 적률1.10로그정규분포1.11정규 꼬리의 부등식(Mills 비)1.12합성곱으로 직접1.13적분형 de Moivre–Laplace 정리의 증명1.14Cauchy 함수방정식의 증명

2절 Galton의 문제: 변이는 어떻게 유전되는가

2.1가운데 칸2.2기울어진 판2.3기울기로 확인2.4측정을 늘리면2.5설명되는 분산2.6부부의 키가 상관되면2.7예측구간2.8정규의 정규 혼합: 증명2.9축소: 증명2.10안정은 회귀를 강요한다: 증명

3절 다변량 정규분포

3.1$2\times2$에서 확인3.2정밀도행렬의 블록3.3인수분해와 $\rho=0$3.4사분면 확률3.5선형결합 하나3.6특이 공분산과 상수 선형결합3.7합과 차3.8다른 조건 걸기3.9조건을 더 걸면3.10최선의 예측과 최선의 선형 예측3.11조건부 독립 $\Leftrightarrow\Lambda_{ij}=0$3.12Galton의 95% 타원3.13모든 방향을 동시에3.14기울기의 순서3.15시험–재시험 모형3.16Cramér–Wold 판정의 증명3.17확률 타원의 증명

4절 계산 — 정리를 알고리즘으로

4.1예제 3.16을 코드로4.2KL 발산 구현4.3아들과 딸

5절 부숴보기 — 가정을 하나씩 빼면

5.1제곱의 공분산5.2오염된 이변량 정규의 꼬리5.3혼합분산의 수치5.4직선 위의 정규

6절 Beautiful insights — 정리 C는 어디에나 있다

6.1이차형식의 기댓값6.2VAE의 KL 항6.3주성분의 기울기

워크북 34문항 · 푼 문항 0

칸을 누르면 문제 · 힌트 · 접어 둔 풀이가 있는 페이지로 간다. 별은 난이도(★ 계산 · ★★ 증명 · ★★★ 도전), 열쇠는 그 자리에서 확인하는 최종답의 수다. 답 확인 · PDF · 풀이판 PDF

A 계산 드릴 0 / 14

A1★이항분포의 정규 근사 2A2★mgf로 적률 구하기 2A3★두 정규의 제곱합 2A4★두 선형결합의 결합분포 4A5★독립이 되는 계수 2A6★이변량 조건부분포 3A7★★등상관 세 변수 2A8★★정밀도행렬에서 읽기 3A9★90% 확률 타원 2A10★두 정규의 혼합 2A11★오염된 정규의 첨도 2A12★★시험과 재시험 3A13★사분면 확률 2A14★두 정규 사이의 KL 1

B 빈칸 증명 0 / 7

B1★★정리 C, 근거 채우기B2★★국소 de Moivre–Laplace, 근거 채우기B3★★가우스 적분과 정규 mgf, 근거 채우기B4★★정리 C, 단계의 이름만B5★★★국소 de Moivre–Laplace, 단계의 이름만B6★★정리 C, 전략만B7★★가우스 적분과 정규 mgf, 전략만

C 증명 문제 0 / 9

C1★★Stein 항등식C2★★Box–Muller 변환C3★★정규표본의 평균과 잔차C4★★주변은 정규, 상관은 $\rho$, 결합정규는 아니다 1C5★★편상관계수C6★★조건을 더 걸면 분산은 줄어든다C7★★정규 꼬리를 넘어선 양은 지수분포에 가깝다C8★★★이차형식이 $\chi^2$이 되는 조건C9★★축소의 이득과 손해

D 퀄형 0 / 4

D1★★★이변량 정규의 최댓값 2D2★★★가운데 이항계수와 되돌아옴 2D3★★★정규 계층모형의 예측분포 3D4★★★선택된 집단의 회귀 2

노트북

노트와 같은 절 번호, 같은 정리 번호로 원자료를 재현하고 정리를 시뮬레이션으로 확인한다. 실행 결과까지 이 사이트에서 볼 수 있다.

실행 결과까지 보기 내려받기 · 3.0 MB