4회 · 셈하는 분포와 섞인 분포 · 노트

8 Beautiful insights — 같은 가족, 오늘의 문제

8.1 계승규칙과 add-one smoothing

언어 모형이 단어 다음에 올 단어의 확률을 상대도수 $\tfrac{c_w}{N}$으로 추정하면, 훈련 자료에 한 번도 없던 단어의 확률은 0이 된다. 그러면 그 단어가 들어간 문장 전체의 확률이 0이 되어 모형이 무너진다. Laplace의 처방은 모든 단어에 가상의 관측 1을 더하는 것이다. 어휘가 $V$개이면

$$\hat p_w=\frac{c_w+1}{N+V} .$$

이것은 따름정리 4.6을 $V$개의 범주로 넓힌 것이다. 균등한 Dirichlet 사전분포(연습 4.5)의 사후 평균이다. 더하는 수를 $\alpha$로 바꾸면(Lidstone) 사전분포의 강도를 조절하는 것이 된다. 분류 신경망의 label smoothing도 같은 생각이다. 정답 범주의 확률 1을 $1-\varepsilon$으로, 나머지에 $\varepsilon/(V-1)$씩 나눠 주어 모형이 지나친 확신을 갖지 않게 한다.

8.2 베타–이항과 Thompson 샘플링

광고 두 개 가운데 어느 쪽의 클릭률이 높은지 실험하며 동시에 많이 클릭되게 하고 싶다(다중 슬롯머신 문제). Thompson(1933)의 방법은 각 광고의 클릭률에 $\mathrm{Beta}(1,1)$ 사전분포를 주고, 매번 (1) 각 광고의 사후분포 $\mathrm{Beta}(1+s_i,1+f_i)$에서 클릭률을 하나씩 뽑아, (2) 뽑힌 값이 가장 큰 광고를 보여 주고, (3) 결과로 사후분포를 고친다(정리 4.5). 확신이 없는 광고는 사후분포가 넓어 가끔 큰 값이 뽑히므로 탐색되고, 좋은 광고는 점점 자주 선택된다. 켤레 사전분포 덕분에 갱신이 덧셈 두 번이다. 노트북에서 구현한다.

8.3 셈 자료의 회귀 — Poisson과 음이항

셈 자료를 설명변수로 설명하는 Poisson 회귀는 $\log EY=\beta_0+\beta_1x$로 놓는다(일반화 선형모형, 13회). 실제 자료는 거의 언제나 과산포여서, 유전체학의 RNA-seq(유전자마다 읽힌 조각의 수)에서는 음이항 회귀가 표준이다(DESeq2, edgeR). 정리 5.3의 그림, 곧 “표본마다 생물학적 변동이 감마처럼 흩어져 있고, 주어진 발현량에서는 Poisson 측정 잡음”이 그 근거다.

8.4 혼합 모형 — GMM과 전문가 혼합

정규 혼합(5.3절)은 군집 분석의 기본 모형이다(가우스 혼합 모형, GMM). 각 관측이 어느 성분에서 왔는지(잠재변수 $\Theta$)를 모르는 것이 어려움이고, 10회의 EM 알고리즘이 이것을 “$\Theta$를 추측하고(E), 모수를 고치기(M)”의 반복으로 푼다. 신경망의 전문가 혼합(mixture of experts)은 혼합 비율 $\pi_k$를 입력 $x$의 함수(게이트)로 만든 것이다. 큰 언어 모형이 매 토큰마다 일부 전문가만 쓰는 구조가 이것이다.

연습문제

연습 8.1 (스무딩의 효과 ★) 어휘 $V=10{,}000$, 훈련 단어 $N=10^6$개에서 단어 $w$가 0번, 다른 단어 $u$가 1,000번 나왔다. add-one 추정 $\hat p_w$, $\hat p_u$를 상대도수와 비교하라. 흔한 단어의 확률은 얼마나 줄어드나?

풀이

$\hat p_w=\tfrac1{1{,}010{,}000}\approx9.9\times10^{-7}$ (상대도수 0). $\hat p_u=\tfrac{1001}{1{,}010{,}000}\approx9.91\times10^{-4}$ (상대도수 $10^{-3}$), 약 $0.9\%$ 줄었다. 흔한 단어에서 조금씩 떼어 처음 보는 단어 1만 개에 나눠 주는 셈이다.

연습 8.2 (Thompson의 첫걸음 ★★) 광고 A는 10번 보여 3번, B는 2번 보여 1번 클릭되었다. 사후분포가 $\mathrm{Beta}(4,8)$과 $\mathrm{Beta}(2,2)$일 때, 다음에 B가 선택될 확률 $P(p_B>p_A)$를 노트북의 시뮬레이션으로 구하라. B의 사후 평균이 A보다 크지만 확률은 1에 가깝지 않은 이유를 말하라.

풀이

$P(p_B>p_A)=\int f_B(x)F_A(x)\,dx\approx0.725$. B의 사후 평균 $0.5$는 A의 $\tfrac13$보다 크지만, B는 두 번밖에 보지 않아 사후분포가 넓다. Thompson 샘플링은 약 $27\%$의 확률로 여전히 A를 보여 준다.

이 절을 PDF로 보기 (33쪽)노트북 8절

이 회차에서 읽은 절 0개 · 회차 차례