1회 · 확률이란 무엇인가 · 노트

6 확률변수와 분포함수

실험의 결과 그 자체보다 결과에 붙은 수가 관심인 경우가 많다. 주사위 4번에서 나온 6의 개수, 현의 길이, 사람이 죽은 나이. 결과에 수를 붙이는 함수가 확률변수이고, 그 수가 어떻게 퍼져 있는지를 한 함수로 요약한 것이 분포함수다. 2회부터의 모든 내용이 이 두 정의 위에 선다.

6.1 확률변수

정의 6.1 (확률변수) 확률공간 $(\Omega,\cF,P)$ 위의 함수 $X:\Omega\to\R$가 모든 실수 $x$에 대해

$$\{X\le x\}:=\{\omega\in\Omega:\ X(\omega)\le x\}\in\cF$$

를 만족하면 $X$를 확률변수라 한다.

조건은 “$X$가 $x$ 이하다”가 언제나 확률을 말할 수 있는 사건이라는 뜻이다. 이것만 요구해도 $\{X<x\}=\bigcup_n\{X\le x-\tfrac1n\}$, $\{X=x\}=\{X\le x\}\setminus\{X<x\}$, $\{a<X\le b\}=\{X\le b\}\setminus\{X\le a\}$가 모두 사건이 된다(σ-대수의 성질, 연습 4.2). 확률변수는 이름과 달리 “변수”가 아니라 함수다. 무작위성은 $\omega$에 있고, $X$는 정해진 규칙이다.

그림 6.1 확률변수 $X$는 결과 $\omega$에 실수를 붙이는 함수다. $\{X\le x\}$는 $(-\infty,x]$로 보내지는 결과들의 집합이다.

정의 6.2 (분포함수) 확률변수 $X$의 분포함수(cumulative distribution function, cdf)는 $F_X(x)=P(X\le x)$, $x\in\R$이다. 혼동이 없으면 $F$로 쓴다.

6.2 분포함수의 성질

정리 6.3 (분포함수의 성질) 분포함수 $F$는 다음을 만족한다.

1. (a)

   (비감소) $x<y$이면 $F(x)\le F(y)$.

2. (b)

   (양 끝) $\lim_{x\to-\infty}F(x)=0$, $\lim_{x\to\infty}F(x)=1$.

3. (c)

   (오른쪽 연속) 모든 $x$에서 $\lim_{y\downarrow x}F(y)=F(x)$.

4. (d)

   (왼쪽 극한과 점의 확률) $F(x-):=\lim_{y\uparrow x}F(y)=P(X<x)$이고, 따라서 $P(X=x)=F(x)-F(x-)$, $P(a<X\le b)=F(b)-F(a)$.

증명 전략 $F$의 극한을 사건열의 극한으로 바꾸고 연속성(정리 4.7)을 쓴다. (a)로 $F$가 비감소이므로, 한쪽 극한은 존재하고 단조롭게 다가가는 수열 하나를 따라 구한 값과 같다 [T5]. 그래서 (b)–(d)에서는 수열 하나만 따라간다.

(a)

1. $x<y$이면 $\{X\le x\}\subset\{X\le y\}$이다. $X(\omega)\le x$이면 $X(\omega)\le y$이기 때문이다.원소 추적 [T1]

2. $F(x)=P(X\le x)\le P(X\le y)=F(y)$이다.단조성, 정리 4.3(d)

(b)

1. $\{X\le-n\}$은 감소하고 $\bigcap_n\{X\le-n\}=\emptyset$이다. $X(\omega)$는 실수이므로 모든 $n$에서 $X(\omega)\le-n$일 수는 없다.(a)의 1, 아르키메데스 성질

2. $F(-n)\to P(\emptyset)=0$이다.연속성, 정리 4.7(b)

3. $\{X\le n\}\uparrow\Omega$이므로 같은 방법으로 $F(n)\to P(\Omega)=1$이다.정리 4.7(a)

(c)

1. $x_n=x+\tfrac1n$이면 $\{X\le x_n\}\downarrow\{X\le x\}$이다. $X(\omega)\le x+\tfrac1n$이 모든 $n$에서 성립하면 $X(\omega)\le x$이기 때문이다.극한과 부등식 [T5]

2. $F(x+\tfrac1n)\to F(x)$이다.정리 4.7(b)

(d)

1. $x_n=x-\tfrac1n$이면 $\{X\le x_n\}\uparrow\{X<x\}$이다. $X(\omega)<x$이면 충분히 큰 $n$에서 $X(\omega)\le x-\tfrac1n$이기 때문이다.[T1], [T5]

2. $F(x-)=\lim_nF(x-\tfrac1n)=P(X<x)$이다.정리 4.7(a)

3. $\{X=x\}=\{X\le x\}\setminus\{X<x\}$이므로 $P(X=x)=F(x)-F(x-)$이다.정리 4.3(d)

4. $\{a<X\le b\}=\{X\le b\}\setminus\{X\le a\}$이므로 $P(a<X\le b)=F(b)-F(a)$이다.정리 4.3(d)

분포함수는 왼쪽에서는 끊길 수 있지만 오른쪽에서는 늘 이어져 있고, 끊긴 높이가 그 점의 확률이다. 오른쪽 연속인 이유는 정의에서 “$\le$”를 썼기 때문이다.

증명 없이 쓰는 사실 (분포함수가 분포를 정한다) 두 확률변수의 분포함수가 같으면, 직선의 모든 “보통의” 집합 $B$(구간들로부터 합집합·여집합을 셀 수 있는 번 반복해 만든 Borel 집합)에서 $P(X\in B)=P(Y\in B)$이다. 거꾸로 (a)–(c)를 만족하는 함수는 모두 어떤 확률변수의 분포함수다. 둘 다 측도론의 Carathéodory 확장 정리에서 나온다. 이 과정에서는 “분포”를 분포함수(또는 아래의 pmf·pdf)로 다룬다.

6.3 이산 확률변수와 연속 확률변수

정의 6.4 (이산 확률변수와 확률질량함수) 확률변수 $X$가 유한하거나 셀 수 있는 집합 $\{x_1,x_2,\dots\}$ 안의 값만 확률 1로 가지면 $X$를 이산이라 하고, $p(x)=P(X=x)$를 확률질량함수(pmf)라 한다. 이때 모든 $B\subset\R$에 대해 $P(X\in B)=\sum_{x_i\in B}p(x_i)$이고, 분포함수는 계단 $F(x)=\sum_{x_i\le x}p(x_i)$이다.

식 $P(X\in B)=\sum_{x_i\in B}p(x_i)$는 $\{X\in B\}$를 서로소인 사건 $\{X=x_i\}$, $x_i\in B$로 나누고 (P3)을 쓰면 나온다.

예제 6.5 (주사위 4번에서 나온 6의 개수) 예제 5.12의 모형에서 $K=$ 6의 개수라 하자. $K=k$인 결과는 6이 나올 $k$자리를 고르고($\tbinom4k$가지) 나머지 $4-k$자리에 6이 아닌 수를 넣는($5^{4-k}$가지) 것이므로

$$P(K=k)=\binom4k\frac{5^{4-k}}{6^4}=\binom4k\Bigl(\frac16\Bigr)^k\Bigl(\frac56\Bigr)^{4-k},\qquad k=0,1,2,3,4 .$$

값은 차례로 $0.482,\allowbreak \ 0.386,\allowbreak \ 0.116,\allowbreak \ 0.015,\allowbreak \ 0.001$이고, $P(K\ge1)=1-0.482=0.518$이 de Méré의 내기 1이다. 이 꼴의 분포가 4회의 이항분포다.

정의 6.6 (연속 확률변수와 확률밀도함수) 음이 아니고 적분 가능한 함수 $f$가 있어 모든 $x$에서

$$F(x)=\int_{-\infty}^{x}f(t)\,dt$$

이면 $X$를 연속이라 하고, $f$를 확률밀도함수(pdf)라 한다.

정리 6.7 (밀도의 성질) $X$가 밀도 $f$를 가지면

1. (a)

   $\int_{-\infty}^{\infty}f(t)\,dt=1$.

2. (b)

   모든 $x$에서 $P(X=x)=0$.

3. (c)

   $P(a<X\le b)=P(a\le X\le b)=P(a<X<b)=\int_a^bf(t)\,dt$.

4. (d)

   $f$가 $x$에서 연속이면 $F'(x)=f(x)$.

증명 전략 모든 주장을 정리 6.3의 성질과 적분의 성질로 옮긴다. (b)에서는 적분으로 정의된 함수가 연속이라는 것을 쓴다. 단계별 증명은 연습 6.8(유도형)에서 직접 쓴다. 완성된 증명은 그 연습의 풀이에 있다.

밀도 $f(x)$ 자체는 확률이 아니다. 1보다 클 수도 있고 무한대로 갈 수도 있다. 확률은 넓이 $\int_a^bf$이고, 작은 $h$에 대해 $P(x<X\le x+h)\approx f(x)\,h$로 읽는다. 가장 간단한 예는 $(0,1)$ 위의 균등분포 $\mathrm U(0,1)$이다. $f(x)=1$ ($0<x<1$), 그 밖에서 $0$이므로 구간의 확률이 구간의 길이다.

예제 6.8 (Bertrand의 현의 길이) 반지름 $r=1$인 원에서 현의 길이 $L$의 분포함수를 세 방법 각각에서 구한다($0\le\ell\le2$).

(1) 두 끝점. 다른 끝점의 중심각 $\Phi$가 $\mathrm U(0,2\pi)$이고 $L=2\sin(\Phi/2)$이다. $\Psi=\Phi/2\sim\mathrm U(0,\allowbreak \pi)$에 대해 $\sin\Psi\le s$는 $\Psi\le\arcsin s$ 또는 $\Psi\ge\pi-\arcsin s$와 같으므로

$$F_1(\ell)=P\bigl(\sin\Psi\le\tfrac\ell2\bigr)=\frac2\pi\arcsin\frac\ell2,\qquad f_1(\ell)=\frac{2}{\pi\sqrt{4-\ell^2}} .$$

(2) 반지름 위의 점. $D\sim\mathrm U(0,1)$, $L=2\sqrt{1-D^2}$이므로 $L\le\ell\iff D\ge\sqrt{1-\ell^2/4}$이고

$$F_2(\ell)=1-\sqrt{1-\ell^2/4},\qquad f_2(\ell)=\frac{\ell}{2\sqrt{4-\ell^2}} .$$

(3) 원 안의 중점. 중점이 원판에 고르게 퍼져 있으면 중심과의 거리 $R$은 $P(R\le\rho)=\rho^2$이다(반지름 $\rho$인 원의 넓이 비). $L\le\ell\iff R^2\ge1-\ell^2/4$이므로

$$F_3(\ell)=\frac{\ell^2}{4},\qquad f_3(\ell)=\frac\ell2 .$$

세 경우 모두 $1-F(\sqrt3)$을 계산하면 $\tfrac13$, $\tfrac12$, $\tfrac14$로 3절의 답이 다시 나온다. $f_1$과 $f_2$는 $\ell\to2$에서 무한대로 가지만 적분은 1이다.

그림 6.2 세 방법으로 12만 개씩 그은 현의 길이 히스토그램과 예제 6.8의 밀도(점선). 빨간 선은 $\sqrt3$이다.

이산도 연속도 아닌 확률변수도 있다. 보험금처럼 확률 $0.3$으로 정확히 0이고, 나머지 $0.7$의 확률로는 밀도 $e^{-x}$($x>0$)를 따라 퍼지는 양이 그렇다. 분포함수는 $x\ge0$에서 $F(x)=0.3+0.7(1-e^{-x})$이고 $x=0$에서 높이 $0.3$만큼 뛴다(그림 6.3의 오른쪽).

그림 6.3 세 종류의 분포함수. 왼쪽: 계단(이산). 가운데: 연속. 오른쪽: 0에서 뛰고 그 뒤로 이어지는 혼합형. 채운 점이 함숫값, 빈 점이 왼쪽 극한이다.

연습문제

연습 6.1 (분포함수에서 확률 읽기 ★) 방법 (3)의 현의 길이 $L$에 대해 $P(0.5<L\le1.5)$, 중앙값($F(m)=\tfrac12$인 $m$), 밀도를 구하라.

풀이

$F(\ell)=\ell^2/4$($0\le\ell\le2$)이므로 $P(0.5<L\le1.5)=(2.25-0.25)/4=0.5$. 중앙값은 $m^2/4=\tfrac12$에서 $m=\sqrt2\approx1.414$. 밀도는 $f(\ell)=\ell/2$($0<\ell<2$).

연습 6.2 (뛰는 점은 셀 수 있다 ★★) 분포함수의 불연속점은 기껏해야 셀 수 있음을 보여라. (힌트: 높이가 $1/n$보다 큰 점프는 $n$개를 넘을 수 없다.)

풀이

서로 다른 점 $x_1,\dots,x_k$에서의 점프는 서로소인 사건 $\{X=x_i\}$의 확률이므로 합이 1을 넘지 않는다. 따라서 높이가 $1/n$보다 큰 점프는 $n$개보다 적다. 불연속점의 집합은 $n=1,2,\dots$에 대한 이 유한집합들의 합집합이므로 기껏해야 셀 수 있다.

연습 6.3 (혼합형의 확률 ★) 본문의 혼합형 $X$(확률 $0.3$으로 0, 나머지는 밀도 $e^{-x}$)에 대해 $P(X=0)$, $P(X\le1)$, $P(0<X\le1)$을 구하라.

풀이

$P(X=0)=0.3$(점프의 높이). $P(X\le1)=0.3+0.7(1-e^{-1})\approx0.742$. $P(0<X\le1)=F(1)-F(0)=0.7(1-e^{-1})\approx0.442$.

연습 6.4 (죽는 나이의 분포 ★) Halley의 1세 아이 한 명이 죽는 나이를 $X$라 하자(표의 상대도수를 확률로 읽는다). $P(X\ge40)$과 $P(20\le X<40)$을 구하라.

풀이

$X\ge40$은 “40세에 살아 있다”와 같으므로 $P(X\ge40)=\ell(40)/1000=0.445$. $P(20\le X<40)=(\ell(20)-\ell(40))/1000=(598-445)/1000=0.153$.

연습 6.5 (세 방법의 중앙값 ★★) 예제 6.8의 세 분포에서 현의 길이의 중앙값을 구하라. (1)과 (3)은 분포가 다른데 중앙값이 같다. 분포를 비교하는 데 중앙값 하나로 충분하지 않은 이유를 그림 6.2으로 설명하라.

풀이

$F(m)=\tfrac12$을 풀면 (1) $\tfrac2\pi\arcsin\tfrac m2=\tfrac12$에서 $m=2\sin\tfrac\pi4=\sqrt2$, (2) $\sqrt{1-m^2/4}=\tfrac12$에서 $m=\sqrt3$, (3) $m=\sqrt2$이다. (1)의 밀도는 짧은 현에서도 $1/\pi$의 높이가 있고 길이 2 근처에서 무한대로 치솟는 반면, (3)의 밀도는 0에서 출발해 직선으로 올라간다. 중앙값은 분포의 한 점만 요약하므로 모양의 차이를 보지 못한다.

연습 6.6 (분포함수의 거듭제곱 ★★) $F$가 분포함수이면 $G(x)=F(x)^n$도 분포함수의 세 성질을 만족함을 보여라. (3회에서 이것이 서로 독립인 $n$개의 최댓값의 분포함수임을 본다.)

풀이

$t\mapsto t^n$은 $[0,1]$에서 증가하고 연속이다. 따라서 $G=F^n$은 비감소이고, $\lim_{x\to-\infty}G=0^n=0$, $\lim_{x\to\infty}G=1$이며, $F$가 오른쪽 연속이므로 $G$도 오른쪽 연속이다.

연습 6.7 (제곱의 분포 ★★) $X\sim\mathrm U(0,1)$, $Y=X^2$이다. $F_Y(y)=P(X\le\sqrt y)$에서 $Y$의 분포함수와 밀도를 구하라. (2회의 변수변환 예고)

풀이

$0\le y\le1$에서 $F_Y(y)=P(X^2\le y)=P(X\le\sqrt y)=\sqrt y$이고, $y<0$이면 0, $y>1$이면 1이다. 미분하면 $f_Y(y)=\tfrac1{2\sqrt y}$($0<y<1$). $y\to0$에서 밀도가 무한대로 가지만 적분은 1이다.

연습 6.8 (밀도의 성질 증명 ★★ 유도형) $X$가 밀도 $f$를 갖는다. 정리 6.7를 다음 순서로 증명하라.

1. (a)

   정리 6.3(b)에서 $\int_{-\infty}^\infty f=1$을 얻어라. 이상적분 $\int_{-\infty}^\infty f$의 정의를 먼저 적어라.

2. (b)

   $h>0$이면 $0\le F(x)-F(x-h)=\int_{x-h}^xf(t)\,dt$이다. 이것이 $h\downarrow0$에서 0으로 감을 보이고, 정리 6.3(d)로 $P(X=x)=0$을 얻어라. ($f$가 유계가 아닐 수 있으므로, $\int_{-\infty}^xf<\infty$를 쓴다.)

3. (c)

   (b)와 정리 4.3(d)로 네 구간의 확률이 모두 $\int_a^bf$임을 보여라.

4. (d)

   $f$가 $x$에서 연속이면 $\bigl|\tfrac{F(x+h)-F(x)}h-f(x)\bigr|\le\sup_{|t-x|\le|h|}|f(t)-f(x)|$임을 보이고 $F'(x)=f(x)$를 얻어라.

풀이

(a) 이상적분은 $\int_{-\infty}^\infty f=\lim_{b\to\infty}\int_{-\infty}^bf=\lim_{b\to\infty}F(b)$이고, 정리 6.3(b)로 이 극한은 1이다. (b) $h>0$이면 $F(x)-F(x-h)=\int_{x-h}^xf(t)\,dt\ge0$이다. $\int_{-\infty}^xf=F(x)$가 유한하므로 이상적분의 정의로 $\int_{-\infty}^{x-h}f\to\int_{-\infty}^xf$ ($h\downarrow0$), 곧 $F(x-h)\to F(x)$이다. 따라서 $F(x-)=F(x)$이고, 정리 6.3(d)로 $P(X=x)=F(x)-F(x-)=0$이다. (c) $P(a<X\le b)=F(b)-F(a)=\int_a^bf$이다. $\{a\le X\le b\}=\{a<X\le b\}\cup\{X=a\}$이고 (b)로 $P(X=a)=0$이므로 확률이 같다. 나머지 두 구간도 끝점 하나를 빼거나 더한 것이므로 같다. (d) $h\ne0$이면 $F(x+h)-F(x)=\int_x^{x+h}f(t)\,dt$이고 $hf(x)=\int_x^{x+h}f(x)\,dt$이므로

$$\Bigl|\frac{F(x+h)-F(x)}h-f(x)\Bigr|=\Bigl|\frac1h\int_x^{x+h}\bigl(f(t)-f(x)\bigr)dt\Bigr|\le\sup_{|t-x|\le|h|}|f(t)-f(x)| .$$

$f$가 $x$에서 연속이면 오른쪽은 $h\to0$에서 0으로 가므로 $F'(x)=f(x)$이다.

이 절을 PDF로 보기 (35쪽)노트북 6절

이 회차에서 읽은 절 0개 · 회차 차례