테마
1회 · 확률이란 무엇인가 · 노트
4 Kolmogorov의 공리 (1933)
역사 Andrei Kolmogorov는 1933년 독일어로 낸 얇은 책 Grundbegriffe der Wahrscheinlichkeitsrechnung에서 확률을 측도의 한 종류로 정의했다. 확률이 “무엇인가”(같은 경우의 비율? 상대도수의 극한? 믿음의 정도?)는 묻지 않고, 확률이 “어떤 규칙을 따르는가”만 정했다. 1919년 Richard von Mises는 상대도수의 극한으로 확률을 정의하려 했지만 그 극한이 존재하는 수열을 정확히 정하는 데서 어려움을 겪었다. Kolmogorov의 공리는 해석과 무관하게 받아들여졌고, 오늘날 확률론의 표준이 되었다.
4.1 표본공간과 사건
정의 4.1 (표본공간 · 사건 · σ-대수) 표본공간 는 실험에서 일어날 수 있는 모든 결과 의 집합이다. 의 부분집합들의 모임 가 다음 세 조건을 만족하면 를 σ-대수라 하고, 의 원소를 사건이라 한다.
- (i)
.
- (ii)
이면 .
- (iii)
이면 .
σ-대수는 사건의 모임이 확률을 말하는 데 필요한 연산에 닫혀 있도록 한다. De Morgan의 법칙(보조정리 0.1)으로 이므로 가산 교집합에도 닫혀 있고, 을 넣으면 유한 합집합에도 닫혀 있다(연습 4.2).
가 유한하거나 셀 수 있으면 보통 의 모든 부분집합을 사건으로 삼는다. 가 원이나 구간처럼 셀 수 없을 때는 그럴 수 없는 경우가 있다(7.2절). 그래서 사건의 모임을 따로 정한다.
4.2 확률의 공리
정의 4.2 (확률) σ-대수 위의 함수 가 다음을 만족하면 를 확률이라 하고, 를 확률공간이라 한다.
- (P1)
모든 사건 에 대해 .
- (P2)
.
- (P3)
(가산가법성) 가 쌍마다 서로소인 사건이면
세 공리는 상대도수가 갖는 성질을 옮긴 것이다. 비율은 음수가 아니고, 전체의 비율은 1이며, 겹치지 않는 경우들의 비율은 더해진다. (P3)에서 무한히 많은 사건을 허용한 것이 중요하다. 이 덕분에 극한을 다룰 수 있고(정리 4.7), 이것을 유한한 경우로 줄이면 무엇이 무너지는지는 7.1절에서 본다.
4.3 공리에서 나오는 성질
정리 4.3 (기본 성질) 가 확률공간이고 가 사건이면
- (a)
.
- (b)
(유한가법성) 이 쌍마다 서로소이면 .
- (c)
(여사건) .
- (d)
(단조성) 이면 이고, 따라서 .
- (e)
.
- (f)
.
- (g)
(Boole 부등식) .
증명 전략 구하려는 사건을 서로소인 조각들의 합집합으로 쓰고 (P3)을 쓴다. 조각이 유한개이면 나머지 자리에 공집합을 채운다. (a)를 먼저 증명해야 이 채우기를 쓸 수 있다. 단계별 증명은 연습 4.12(유도형)에서 직접 쓴다. 완성된 증명은 그 연습의 풀이에 있다.
예제 4.4 (적어도 한 장의 에이스) 잘 섞은 52장에서 5장을 뽑는다(모든 5장 조합이 같은 확률이라는 균등 모형, 4.6절). 에이스가 적어도 한 장 나올 확률은 여사건(에이스가 한 장도 없다)으로 계산하는 편이 쉽다. 에이스가 아닌 48장에서 5장을 고르는 방법은 가지이므로, 정리 4.3(c)로
4.4 포함배제의 원리
정리 4.3(f)를 사건이 여럿인 경우로 넓힌다. 사건 에 대해
로 둔다. , 이고, 는 개 항의 합이다.
정리 4.5 (포함배제) 사건 에 대해
증명 전략 에 대한 귀납법 [T3]. 사건을 하나 더하는 단계에서 두 사건의 공식(정리 4.3(f))을 쓰고, 그때 새로 생기는 교집합들에 귀납 가정을 한 번 더 쓴다.
이면 양변이 이고, 이면 정리 4.3(f)이다.기저
개의 사건에서 식이 성립한다고 하고 으로 둔다.
정리 4.3(f)이다.분배법칙 [T1]
3의 개 사건 에 귀납 가정을 쓴다.
귀납 가정에도 귀납 가정을 쓴다. 그러면 2의 오른쪽은 가운데 몇 개를 고른 교집합의 확률들에 부호를 붙여 더한 것이다.귀납 가정
개짜리 교집합 하나가 어디서 어떤 부호로 나오는지 센다.
을 포함하지 않으면 의 전개에서만 부호 로 한 번 나온다.
하나뿐이면() 로 한 번 나오고, 부호는 이다.
과 다른 개의 교집합이면 4를 거쳐 에서 부호 로 한 번 나온다.
어느 경우든 개짜리 교집합은 부호 로 한 번 나오므로 개에 대한 식이 성립한다.6, 귀납 [T3]
증명 양변에 를 곱하면 왼쪽은 합집합의 원소 수, 오른쪽은 이다. 정확히 개의 사건에 속한 점 는 개짜리 교집합 가운데 개에 속하므로 오른쪽에서
번 세어진다(따름정리 1.7). 어느 사건에도 속하지 않는 점은 번 세어진다. 따라서 양변이 같다. 이 증명은 2회의 지시함수와 기댓값으로 일반적인 확률공간에도 그대로 옮겨진다.
예제 4.6 (Montmort의 짝 맞추기 (1708)) 문제. 부터 까지 적힌 카드 장을 잘 섞어(모든 가지 순서가 같은 확률) 한 장씩 뒤집으며 을 센다. 센 수와 카드의 수가 적어도 한 번 일치할 확률 은?
로 두면 구하는 것은 이다. 를 고정하면 그 자리는 정해지고 나머지 장은 아무렇게나 놓이므로
포함배제로
이므로 , 곧 이다. 교대급수의 꼬리는 첫 항보다 작으므로 이다. 카드가 13장이면 로 극한과 정도만 다르다. 놀랍게도 답은 에 거의 의존하지 않는다.
역사 Pierre Rémond de Montmort는 1708년 Essay d'analyse sur les jeux de hazard에서 13장으로 하는 카드놀이 “Treize”의 이 문제를 풀었다. 1713년 2판에는 Nicolaus Bernoulli와 주고받은 일반해가 실렸다.
4.5 확률의 연속성
사건의 열 가 이면 증가한다고 하고 으로 쓴다. 이면 감소한다고 하고 으로 쓴다.
정리 4.7 (확률의 연속성) (a) 이면 . (b) 이면 .
증명 전략 증가하는 열을 서로소인 조각으로 쪼갠다. 그러면 은 급수의 부분합이 되고, 는 그 급수의 합이 된다. 감소하는 열은 여사건을 취해 증가하는 열로 바꾼다.
(a)
, ()로 둔다. 은 “번째에 새로 들어온 부분”이다.정의
들은 쌍마다 서로소다. 이면 이고 이기 때문이다.열이 증가한다 [T1]
이고 이다. 이면 인 가장 작은 이 있고, 그때 이다.원소 추적 [T1]
1–3을 공리에 넣는다.
이므로 이다. 극한은 증가하며 다가간다.단조성, 정리 4.3(d)
(b)
연속성은 가산가법성의 다른 얼굴이다. 유한가법성에 연속성을 더하면 거꾸로 가산가법성이 나온다(연습 4.11). 6.2절에서 분포함수의 성질을 모두 이 정리로 증명한다.
예제 4.8 (언젠가는 앞면이 나온다) 공정한 동전을 끝없이 던진다. 을 처음 번이 모두 뒷면인 사건이라 하면 이고(5.4절의 독립), 이며 은 한 번도 앞면이 나오지 않는 사건이다. 정리 4.7(b)로
확률이 0인 사건이 반드시 공집합인 것은 아니다. 뒷면만 끝없이 나오는 결과 은 의 원소다.
증명 없이 쓰는 사실 (무한히 던지는 동전의 확률공간) 처음 몇 번의 결과에 대해서는 독립인 공정한 동전처럼 행동하는 확률 가 무한 수열의 공간 위에 (적절한 σ-대수와 함께) 존재한다. 이것은 Kolmogorov(1933)의 확장 정리의 한 경우이고, 측도론에서 증명한다. 직관적으로는 에서 고르게 고른 수를 이진법으로 쓴 자릿수가 바로 그런 동전이다.
4.6 이산 확률공간과 고전적 정의
정리 4.9 (이산 확률공간) 가 유한하거나 셀 수 있고 , 이라 하자. 의 모든 부분집합 에 대해
로 정하면 는 ( 모든 부분집합 위의) 확률이다.
증명 모든 부분집합의 모임은 σ-대수다. (P1)은 에서, (P2)는 에서 나온다. (P3): 가 쌍마다 서로소이면 에 속한 는 정확히 하나의 에 속하므로, 합 를 별로 묶으면 이다. 음이 아닌 항의 급수는 묶는 방법과 순서에 상관없이 같은 값을 갖는다(아래 상자).
증명 없이 쓰는 사실 (음이 아닌 급수의 재배열) 음이 아닌 항들의 급수는 항의 순서를 바꾸거나 항들을 (유한하거나 무한한) 묶음으로 나눠 묶음별로 먼저 더해도 같은 값(무한대일 수도 있다)을 갖는다. 해석학 교재의 표준 결과이고, 2회 이후 기댓값의 계산에서도 계속 쓴다.
따름정리 4.10 (고전적 정의) 가 개의 원소를 갖고 이면 .
증명 정리 4.9에서 .
Cardano부터 Laplace까지의 “유리한 경우 ÷ 전체 경우”는 이렇게 공리의 한 특수한 경우가 된다. 그것을 쓸 수 있는가, 곧 결과들이 정말 같은 정도로 일어나는가는 공리가 아니라 모형의 가정이다(예제 1.8).
예제 4.11 (생일 문제) 명의 생일이 365일 가운데 고르고 서로 무관하다고 하자(윤일과 계절 차이는 무시한다). 모형은 위의 균등 확률이다. 생일이 모두 다른 결과의 수는 정리 1.2의 순열 수 이므로
이면 로 처음 을 넘는다. 이므로 곱은 보다 작고, 따라서
쌍의 수 이 으로 자라기 때문에 생각보다 빨리 1에 가까워진다.
Bertrand의 역설, 다시 가 원이나 원판이면 결과가 셀 수 없이 많아 정리 4.9를 쓸 수 없다. “고르게 퍼져 있다”는 “길이(또는 넓이)에 비례하는 확률”이라는 뜻이고, 이런 확률이 존재한다는 것은 측도론의 결과다(Lebesgue 측도). Bertrand의 세 방법은 서로 다른 와 서로 다른 를 고른 것이다. 공리는 셋을 모두 허락하고, 어느 것을 쓸지는 모형을 세우는 사람이 정한다.
연습문제
연습 4.1 (De Morgan 연습 ★) 을 보이고, 가 서로소인 합집합임을 보여라.
풀이
보조정리 0.1을 에 쓰면 이다. 이고, 이므로 서로소다. 같은 식으로 도 서로소인 합집합이다.
연습 4.2 (σ-대수의 성질 ★) σ-대수 가 , 유한 합집합, 가산 교집합, 차집합 에 닫혀 있음을 보여라.
풀이
. 유한 합집합은 을 넣은 가산 합집합이다. 가산 교집합은 (De Morgan)이고, 차집합은 이다.
연습 4.3 (두 사건의 계산 ★) , , 이다. , , 그리고 정확히 하나만 일어날 확률을 구하라.
풀이
. . 정확히 하나만 일어날 확률은 .
연습 4.4 (하트가 적어도 한 장 ★) 52장에서 5장을 뽑을 때 하트가 적어도 한 장 나올 확률을 구하라.
풀이
하트가 아닌 39장에서 5장을 뽑는 경우의 여사건이므로
연습 4.5 (Bonferroni 부등식 ★★) 임을 에 대한 귀납법으로 보여라. (포함배제를 에서 자르면 위로, 에서 자르면 아래로 어긋난다.)
풀이
연습 4.6 (네 장의 짝 맞추기 ★) 카드 4장일 때 하나도 맞지 않는 순서를 모두 적어 그 수가 임을 확인하라.
풀이
하나도 맞지 않는 순서는 2143, 2341, 2413, 3142, 3412, 3421, 4123, 4312, 4321의 9가지다. 공식은 .
연습 4.7 (정확히 개가 맞을 확률 ★★) Montmort의 문제에서 정확히 장이 맞을 확률이 다음과 같음을 보이고, 일 때 로 감을 보여라. (이 극한은 4회의 Poisson 분포다.)
풀이
맞는 자리가 정확히 ()인 순서는 의 자리를 고정하고 나머지 장을 하나도 맞지 않게 놓는 것이다. Montmort의 결과로 장을 하나도 맞지 않게 놓는 방법은 가지이므로
연습 4.8 (99%가 되려면 ★) 생일 문제에서 같은 생일인 쌍이 있을 확률이 처음으로 를 넘는 을 구하라.
풀이
이면 , 이면 이므로 이다. 1년이 365일인데 57명이면 거의 확실하다.
연습 4.9 (확률 1인 사건들의 교집합 ★★) 모든 에 대해 이면 임을 보여라.
풀이
여사건과 Boole 부등식으로 이다.
연습 4.11 (연속성 가산가법성 ★★★) 가 (P1), (P2), 유한가법성을 만족하고, 이면 이라 하자. 가 가산가법성 (P3)을 만족함을 보여라.
풀이
가 쌍마다 서로소이고 라 하자. 로 두면 이다(어떤 도 모든 에 속할 수는 없다. 이면 ). 은 서로소인 유한 합집합이므로 유한가법성으로
에서 이므로 .
연습 4.12 (공리에서 기본 성질로 ★★ 유도형) 정리 4.3을 다음 순서로 증명하라. 각 단계에서 쓴 공리나 앞 단계를 밝혀라.
- (a)
, 에 (P3)을 써서 을 얻고, 을 보여라. 이면 무엇이 틀리는가?
- (b)
유한개 뒤에 공집합을 채워 (P3)과 (a)에서 유한가법성을 얻어라.
- (c)
와 의 관계에서 여사건의 공식을 얻어라.
- (d)
이면 가 서로소인 합집합임을 보이고 단조성을 얻어라.
- (e)
(d)와 (P2)에서 을 얻어라.
- (f)
가 서로소인 합집합임을 보이고 (d)를 에 써서 (f)를 얻어라.
- (g)
, 로 두고, 들이 쌍마다 서로소이며 , 임을 보여 Boole 부등식을 얻어라.
풀이
(a) , 은 쌍마다 서로소이고 합집합이 이므로 (P3)에서 , 곧 이다. (P1)로 이다. 이면 부분합 가 무한대로 가서 급수가 발산하므로 이다. (b) 으로 두면 는 쌍마다 서로소이고 합집합은 이다. (P3)과 (a)로 이다. (c) 와 는 서로소이고 합집합이 이므로 (b)와 (P2)로 이다. (d) 이면 이고, 이다. (b)로 이고, (P1)로 이므로 이다. (e) (P1)로 이고, 에 (d)와 (P2)를 쓰면 이다. (f) 이고 이다. (b)로 이고, 에 (d)를 쓰면 이다. (g) 이면 이고 이므로 이다. 은 정의에서 바로 나온다. 이면 인 가장 작은 에서 이므로 이다. (P3)과 (d)로 이다.