6회 · Student의 t · 노트

3 $t$t 분포

3.1 정의와 밀도

정의 3.1 ($t$ 분포) $Z\sim\N(0,1)$과 $V\sim\chi^2(r)$이 독립일 때

$$T=\frac Z{\sqrt{V/r}}$$

의 분포를 자유도 $r$인 $t$ 분포 $t(r)$이라 한다.

분모의 $\sqrt{V/r}$은 평균이 1 근처인 양수이고($E(V/r)=1$), $r$이 작으면 크게 흔들린다. 분모가 우연히 작아지면 $T$가 크게 튄다. 그래서 $t$의 꼬리가 정규보다 무겁다.

정리 3.2 ($t$ 분포의 밀도) 

$$f_r(t)=\frac{\Gamma\bigl(\frac{r+1}2\bigr)}{\sqrt{r\pi}\,\Gamma\bigl(\frac r2\bigr)}\Bigl(1+\frac{t^2}r\Bigr)^{-\frac{r+1}2},\qquad t\in\R .$$

증명 전략 보조 변수를 하나 붙여 $(Z,V)\mapsto(T,W)$의 변수변환으로 결합밀도를 구하고, 보조 변수를 적분해 없앤다 [T7].

1. $Z\perp V$이므로 결합밀도는 두 밀도의 곱 $\phi(z)\cdot\tfrac{v^{r/2-1}e^{-v/2}}{\Gamma(r/2)2^{r/2}}$이다($z\in\R$, $v>0$).독립, 4회 정의 3.8

2. 보조 변수 $W=V$를 둔다. $(z,\allowbreak v)\mapsto(t,\allowbreak w)=(z/\sqrt{v/r},\allowbreak \,v)$는 $\R\times(0,\infty)$를 자기 자신 위로 일대일로 보내고, 역변환은 $z=t\sqrt{w/r}$, $v=w$이다.역변환 [T7]

3. 역변환의 편미분 행렬은 위삼각이고 대각 성분이 $\sqrt{w/r}$와 1이므로 야코비안은 $\sqrt{w/r}$이다.삼각행렬의 행렬식

4. 변수변환 공식으로 결합밀도를 얻는다.

   $$f_{T,W}(t,w)=\frac1{\sqrt{2\pi}}e^{-\frac{t^2w}{2r}}\cdot\frac{w^{r/2-1}e^{-w/2}}{\Gamma(r/2)2^{r/2}}\cdot\sqrt{\frac wr} .$$

   3회 정리 5.1

5. $w$로 적분한다. $w$의 지수는 $\tfrac{r+1}2-1$이고 지수함수는 $e^{-w(1+t^2/r)/2}$이므로

   $$\int_0^\infty w^{\frac{r+1}2-1}e^{-w\frac{1+t^2/r}2}\,dw=\Gamma\Bigl(\frac{r+1}2\Bigr)\Bigl(\frac2{1+t^2/r}\Bigr)^{\frac{r+1}2} .$$

   감마 적분, 4회 정의 3.4

6. 상수를 모으면 $\tfrac{2^{(r+1)/2}}{\sqrt{2\pi}\,\sqrt r\,2^{r/2}}=\tfrac1{\sqrt{r\pi}}$이고 결론이 나온다.계산

조건 확인 $f_{T,W}\ge0$이므로 $w$로 적분한 것이 $T$의 주변밀도라는 것은 Tonelli 정리로 조건 없이 성립한다 [T6]. 5의 감마 적분은 $\tfrac{r+1}2>0$이고 $1+t^2/r>0$이므로 모든 $t$에서 유한하다.

3.2 성질

정리 3.3 ($t$ 분포의 성질) $T\sim t(r)$이면

1. (a)

   분포는 0에 대해 대칭이다.

2. (b)

   $E|T|^k<\infty\iff k<r$. 따라서 $r>1$이면 $ET=0$, $r>2$이면 $\Var T=\dfrac r{r-2}$.

3. (c)

   $r=1$이면 Cauchy 분포다.

4. (d)

   $r\to\infty$이면 모든 $t$에서 $f_r(t)\to\phi(t)$.

증명 전략 (a)와 (c)는 밀도의 모양에서 바로 나온다. (b)는 꼬리의 차수를 비교 판정에 넣고 [T5], 분산은 $T=Z/\sqrt{V/r}$의 독립인 두 인수의 기댓값으로 구한다. (d)는 밀도의 두 인수의 극한을 따로 구한다 [T8]. 단계별 증명은 연습 3.5(유도형)에서 직접 쓴다. 완성된 증명은 그 연습의 풀이에 있다.

그림 3.1 왼쪽: $t(r)$의 밀도와 표준정규(점선). 오른쪽: 꼬리 확률 $P(|T|>c)$의 로그. $r=3$이면 $c=3$에서 정규보다 20배쯤 크다.

(d)의 직관은 이렇다. $V/r$은 $\chi^2(r)/r$이고, 이것은 독립인 $Z_i^2$ $r$개의 평균이므로 대수의 법칙(2회 정리 6.3)으로 1로 간다. 분모가 1로 가면 $T$는 $Z$가 된다. 7회의 Slutsky 정리가 이 직관을 정리로 만든다. 자유도 30이면 $t_{30,\,0.025}=2.04$로 1.96과 거의 같다. “30개 이상이면 정규”라는 경험칙의 근거다. 그러나 30개라도 꼬리 깊은 곳은 다르다. $P(|T|>4)$는 자유도 30에서 정규의 약 6배, 자유도 10에서 약 40배다.

3.3 Student의 $t$t

정리 3.4 (Student의 $t$) $X_1,\allowbreak \dots,\allowbreak X_n\iid\N(\mu,\allowbreak \sigma^2)$이면

$$T=\frac{\bar X-\mu}{S/\sqrt n}\ \sim\ t(n-1) .$$

증명 전략 분자와 분모를 $\sigma/\sqrt n$으로 나눠 정의 3.1의 모양을 만든다. 모르는 $\sigma$는 이때 소거된다.

1. 분자와 분모를 $\sigma/\sqrt n$으로 나눈다.

   $$T=\frac{(\bar X-\mu)/(\sigma/\sqrt n)}{\sqrt{\frac{(n-1)S^2/\sigma^2}{n-1}}}=\frac Z{\sqrt{V/(n-1)}},\qquad Z=\frac{\bar X-\mu}{\sigma/\sqrt n},\quad V=\frac{(n-1)S^2}{\sigma^2} .$$

2. $Z\sim\N(0,1)$이다.정리 2.2(a)

3. $V\sim\chi^2(n-1)$이다.정리 2.2(c)

4. $Z$는 $\bar X$의 함수이고 $V$는 $S^2$의 함수이므로 $Z\perp V$이다.정리 2.2(b), 3회 정리 3.4(a)

5. 1–4로 $T$는 정의 3.1의 $t(n-1)$이다.정의 3.1

$\sigma$가 분자와 분모에서 모두 소거되었다. 그래서 $T$의 분포는 모르는 $\sigma$에 의존하지 않는다. 이것이 Student의 결과가 쓸모 있는 이유이고, 5절의 “축량”의 원형이다.

Student의 $z$와 Fisher의 $t$ Student(1908)는 $z=(\bar x-\mu)/s'$, $s'^2=\tfrac1n\sum(x_i-\bar x)^2$ ($n$으로 나눈 표준편차)의 분포를 구해 $n=10$까지의 표를 만들었다. Fisher(1925)는 $t=z\sqrt{n-1}$로 바꿔, 하나의 표로 평균의 비교, 회귀계수, 두 표본의 차이를 모두 다룰 수 있게 했다. 자유도라는 개념과 $t$라는 글자가 이때 자리 잡았다.

연습문제

연습 3.1 (감마의 비 ★★) 5회 보조정리 1.1(Stirling)로 $x\to\infty$에서 $\tfrac{\Gamma(x+\frac12)}{\Gamma(x)\sqrt x}\to1$임을 보이고, 정리 3.3(d)의 상수가 $\tfrac1{\sqrt{2\pi}}$로 감을 결론지어라.

풀이

Stirling을 $\Gamma(x)=\Gamma(x+1)/x$와 $\Gamma(x+\tfrac12)=\Gamma\bigl((x-\tfrac12)+1\bigr)$에 쓰면

$$\begin{align*} \Gamma(x)\sqrt x&\sim\frac{\sqrt{2\pi x}\,x^xe^{-x}}x\,\sqrt x=\sqrt{2\pi}\,x^xe^{-x},\\ \Gamma(x+\tfrac12)&\sim\sqrt{2\pi(x-\tfrac12)}\,\bigl(x-\tfrac12\bigr)^{x-\frac12}e^{-(x-\frac12)}=\sqrt{2\pi}\,\bigl(x-\tfrac12\bigr)^{x}e^{-x+\frac12}. \end{align*}$$

비는 $\bigl(1-\tfrac1{2x}\bigr)^{x}e^{1/2}\to e^{-1/2}e^{1/2}=1$이다. $x=r/2$로 두면 $t(r)$의 상수는 $\tfrac{\Gamma(x+1/2)}{\Gamma(x)\sqrt{2\pi x}}\to\tfrac1{\sqrt{2\pi}}$.

연습 3.2 (정규의 분산 혼합 ★★★) $W\sim\Gamma(\tfrac r2,\allowbreak \tfrac2r)$ (평균 1)이고 $W=w$일 때 $T\sim\N(0,1/w)$이면 $T\sim t(r)$임을 보여라. (힌트: $T=Z/\sqrt W$로 쓸 수 있다.) $t$ 분포는 “정밀도가 무작위인 정규”들의 혼합이다(4회 5절).

풀이

$\Gamma(\tfrac r2,\tfrac2r)$는 $\Gamma(\tfrac r2,2)/r$, 곧 $V/r$ ($V\sim\chi^2(r)$)이다. $W=w$일 때 $T\sim\N(0,1/w)$라는 것은 $T=Z/\sqrt W$ ($Z\sim\N(0,1)$, $Z\perp W$)와 같은 결합분포를 준다. 따라서 $T=Z/\sqrt{V/r}\sim t(r)$. 직접 적분해도 된다: $\int_0^\infty\sqrt{\tfrac w{2\pi}}e^{-wt^2/2}f_W(w)\,dw$는 감마 적분이 되어 정리 3.2의 밀도를 준다.

연습 3.3 ($t(2)$의 분포함수 ★★) $f_2(t)=\tfrac1{(2+t^2)^{3/2}}$임을 확인하고 $F_2(t)=\tfrac12\bigl(1+\tfrac t{\sqrt{2+t^2}}\bigr)$임을 보여라. $t_{2,\,0.025}=4.303$을 이 식으로 확인하라.

풀이

$r=2$이면 상수는 $\tfrac{\Gamma(3/2)}{\sqrt{2\pi}\Gamma(1)}=\tfrac{\sqrt\pi/2}{\sqrt{2\pi}}=\tfrac1{2\sqrt2}$이고 $\bigl(1+\tfrac{t^2}2\bigr)^{-3/2}=\tfrac{2^{3/2}}{(2+t^2)^{3/2}}$이므로 $f_2(t)=(2+t^2)^{-3/2}$. $\tfrac d{dt}\tfrac t{\sqrt{2+t^2}}=\tfrac{2}{(2+t^2)^{3/2}}$이고 $t\to-\infty$에서 $\tfrac t{\sqrt{2+t^2}}\to-1$이므로 $F_2(t)=\tfrac12\bigl(1+\tfrac t{\sqrt{2+t^2}}\bigr)$. $t=4.303$이면 $\tfrac{4.303}{\sqrt{20.52}}=0.950$이므로 $F_2=0.975$.

연습 3.4 (꼬리의 비 ★) 노트북으로 $P(|T|>3)$과 $P(|T|>4)$를 $r=3,10,30$과 표준정규에서 구해 비를 표로 만들어라.

풀이

	$r=3$	$r=10$	$r=30$	$\N(0,1)$
$P(|T|>3)$	0.0577 (21배)	0.0133 (4.9배)	0.0054 (2.0배)	0.0027
$P(|T|>4)$	0.0280 (442배)	0.0025 (40배)	0.00038 (6.0배)	0.000063

꼬리로 갈수록 비가 커진다. $t$의 꼬리는 거듭제곱 $|t|^{-(r+1)}$로, 정규의 꼬리는 $e^{-t^2/2}$로 줄기 때문이다.

연습 3.5 ($t$ 분포의 성질 증명 ★★ 유도형) 정리 3.3를 다음 순서로 증명하라. $f_r$은 정리 3.2의 밀도다.

1. (a)

   정리의 (a): $f_r(-t)=f_r(t)$를 확인하라.

2. (b)

   정리의 (b) 앞부분: $|t|\to\infty$에서 $|t|^{r+1}f_r(t)$가 양의 상수로 감을 보이고, 비교 판정으로 $\int|t|^kf_r(t)\,dt<\infty\iff k<r$을 결론지어라 [T5].

3. (c)

   정리의 (b) 뒷부분: $r>2$이면 $ET^2=EZ^2\cdot E(r/V)$임을 독립으로 보이고, 감마 적분으로 $E(1/V)=\tfrac1{r-2}$를 계산해 $\Var T=\tfrac r{r-2}$를 얻어라. $r>1$이면 $ET=0$인 이유도 밝혀라.

4. (d)

   정리의 (c): $r=1$을 넣어 $f_1(t)=\tfrac1{\pi(1+t^2)}$를 확인하라.

5. (e)

   정리의 (d): $\log\bigl(1+\tfrac{t^2}r\bigr)^{-(r+1)/2}\to-\tfrac{t^2}2$를 $\log(1+x)=x+O(x^2)$로 보이고 [T8], 상수의 극한은 연습 3.1로 구하라.

풀이

상수를 $c_r=\tfrac{\Gamma((r+1)/2)}{\sqrt{r\pi}\,\Gamma(r/2)}$로 쓴다. (a) $f_r(t)=c_r(1+t^2/r)^{-(r+1)/2}$는 $t^2$에만 의존하므로 $f_r(-t)=f_r(t)$이고 분포는 0에 대해 대칭이다. (b) $|t|^{r+1}f_r(t)=c_r\bigl(\tfrac{t^2}{1+t^2/r}\bigr)^{(r+1)/2}\to c_r\,r^{(r+1)/2}=:L>0$이다. 따라서 어떤 $t_0$가 있어 $|t|\ge t_0$에서 $\tfrac L2|t|^{-(r+1)}\le f_r(t)\le2L|t|^{-(r+1)}$이다. $|t|\le t_0$ 부분의 적분은 유한하고, $\int_{t_0}^\infty t^{k-r-1}\,dt$는 $k-r-1<-1$, 곧 $k<r$일 때만 유한하다. 비교 판정으로 $E|T|^k<\infty\iff k<r$이다. (c) $T^2=Z^2\cdot\tfrac rV$이고 $Z^2\perp\tfrac rV$이므로 3회 정리 3.4(b)로 $ET^2=EZ^2\cdot E\tfrac rV$이다(두 인수가 음이 아니므로 값이 무한대여도 등식이 성립한다). 감마 적분과 $\Gamma(x+1)=x\Gamma(x)$로

$$E\frac1V=\int_0^\infty\frac1v\cdot\frac{v^{r/2-1}e^{-v/2}}{\Gamma(r/2)2^{r/2}}\,dv=\frac{\Gamma(r/2-1)\,2^{r/2-1}}{\Gamma(r/2)\,2^{r/2}}=\frac1{2(r/2-1)}=\frac1{r-2}\qquad(r>2).$$

따라서 $ET^2=\tfrac r{r-2}$이다. $r>1$이면 (b)로 $E|T|<\infty$이고 (a)의 대칭으로 $ET=0$이므로 $\Var T=ET^2=\tfrac r{r-2}$이다. (d) $r=1$이면 $c_1=\tfrac{\Gamma(1)}{\sqrt\pi\,\Gamma(1/2)}=\tfrac1\pi$이고 $f_1(t)=\tfrac1{\pi(1+t^2)}$, 곧 Cauchy 밀도다. (e) $\log(1+x)=x+O(x^2)$이므로 $-\tfrac{r+1}2\log\bigl(1+\tfrac{t^2}r\bigr)=-\tfrac{r+1}2\bigl(\tfrac{t^2}r+O(r^{-2})\bigr)\to-\tfrac{t^2}2$이다. 상수는 $x=r/2$로 두면 $c_r=\tfrac{\Gamma(x+1/2)}{\Gamma(x)\sqrt x}\cdot\tfrac1{\sqrt{2\pi}}$이고, 연습 3.1로 첫 인수는 1로 간다. 따라서 모든 $t$에서 $f_r(t)\to\tfrac1{\sqrt{2\pi}}e^{-t^2/2}=\phi(t)$이다.

이 절을 PDF로 보기 (10쪽)노트북 3절

이 회차에서 읽은 절 0개 · 회차 차례