테마
4회 · 셈하는 분포와 섞인 분포 · 노트
0 들어가며
여는 질문. 1875년부터 1894년까지 20년 동안, 프로이센 군대의 군단마다 해마다 말에 차여 죽은 병사의 수가 기록되었다. 어떤 해, 어떤 군단에서는 한 명도 죽지 않았고, 어떤 곳에서는 네 명이 죽었다. 이 수는 어떤 법칙을 따르는가? 법칙이 있다면, 한 군단에서 한 해에 네 명 이상이 죽는 일은 얼마나 드물어야 하는가?
러시아 출신의 통계학자 Ladislaus von Bortkiewicz는 1898년 Das Gesetz der kleinen Zahlen(작은 수의 법칙)에서 이 기록을 분석했다. 말에 차여 죽는 일은 병사 한 명에게는 아주 드문 일이지만 한 군단에는 병사가 많다. 드물고 서로 무관한 사건을 많이 모아 세면, 그 수는 하나의 분포를 따른다. 그 분포를 1837년에 이름 붙인 사람이 Poisson이고, 그보다 120여 년 앞서 그 식을 처음 쓴 사람이 de Moivre였다(2절).
Poisson 분포는 혼자가 아니다. 그 사건이 일어나기를 기다리는 시간은 지수분포와 감마분포를 따르고(3절), 성공 확률 자체를 모를 때 그 확률에 대한 믿음은 베타분포가 된다(4절). 이 분포들은 서로의 극한, 합, 비로 이어진 하나의 가족이다(그림 0.1). 그리고 가족의 서로 다른 구성원이 섞이면, 셈한 수의 분산이 평균보다 커진다(5절). Bortkiewicz의 자료에서도, 18세기 영어 문헌의 단어 수에서도 그 흔적이 보인다(6절).
학습 목표
- 1.
이항·음이항·초기하·다항 분포를 Bernoulli 시행에서 유도하고 평균·분산·mgf를 구한다.
- 2.
이항분포의 Poisson 극한을 증명하고, Poisson 분포의 합과 나누기(thinning)를 mgf로 다룬다.
- 3.
Poisson 과정의 대기시간이 지수·감마분포임을 보이고, 감마함수와 분포를 세운다.
- 4.
두 감마의 비에서 베타분포를 얻고, Bayes의 당구대와 Laplace의 계승규칙을 유도한다.
- 5.
혼합분포의 평균과 분산을 전분산 공식으로 구하고, Poisson–감마 혼합이 음이항임을 증명한다.
- 6.
원자료에서 분산/평균 비로 Poisson 모형을 시험하고, 과산포를 음이항으로 설명한다.
0.1 1–3회에서 가져오는 것
| 앞 회차 | 내용 |
|---|---|
| 1회 정리 1.4 · 1.6 | 조합의 수 , 이항정리 |
| 2회 정리 2.4 · 예제 1.4 | 이항분포 의 평균 ·분산 , 기하분포의 평균 |
| 2회 정리 3.3 · 3.6 · 상자 | mgf에서 적률, 아핀 변환, mgf의 유일성 |
| 2회 정리 4.3 · 4.7 | 단조변환의 밀도, 역변환 표집 |
| 3회 정리 2.5 · 2.6 | 반복기댓값, 전분산 공식 |
| 3회 정리 3.4 · 4.2 | 독립합의 분산과 mgf의 곱, 공분산의 계산 규칙 |
| 3회 정리 5.1 · 5.3 · 5.5 | 야코비안 변수변환, 가우스 적분 , 합성곱 |
| 3회 예제 3.5 · 5.7 | iid 최댓값의 분포, 지수분포의 합의 밀도 |
0.2 분포의 가족과 모수
이 회차에서 다루는 것은 하나하나의 분포가 아니라 모수로 이름 붙인 분포의 가족이다. 는 과 를 정하면 하나의 분포가 되는, 분포들의 모임이다. 통계학의 일은 대개 “자료가 이 가족의 한 구성원에서 나왔다”고 보고 모수를 거꾸로 추정하는 것이다(8회 이후). 그러려면 먼저 각 가족이 어떤 상황에서 나오는지, 평균과 분산이 모수와 어떻게 이어지는지 알아야 한다. 이 노트의 각 절은 같은 순서로 쓴다. 어떤 실험에서 나오는가 → pmf 또는 pdf → 평균·분산·mgf → 다른 가족과의 관계.