14회 · 분산분석과 실험설계 · 노트

0 들어가며

여는 질문. 새 비료가 밀 수확을 얼마나 늘리는지 알고 싶다. 그런데 같은 밭 안에서도 땅심이 다르고, 해마다 날씨가 다르며, 같은 처치를 해도 수확은 들쭉날쭉하다. 비료의 효과를 땅과 날씨와 우연에서 어떻게 떼어 내는가? 그리고 그 판단을 무엇이 보증하는가?

1919년 29세의 Ronald Fisher는 런던 북쪽 Rothamsted 농사시험장에 통계 담당으로 왔다. 그곳에는 1843년부터 쌓인 밀 수확 기록이 있었다. 같은 밭(Broadbalk)의 여러 구획에 서로 다른 거름을 70년 넘게 주어 온 기록이다. Fisher의 첫 일은 그 숫자들에서 거름의 효과와 해마다의 날씨를 떼어 내는 것이었다. 그는 곧 문제가 분석에 있지 않고 실험을 설계하는 방식에 있음을 깨달았다. 처치를 사람이 고른 자리에 놓으면, 땅심의 차이가 처치의 효과로 둔갑한다. 무엇으로도 그 둔갑을 분석 단계에서 되돌릴 수 없다.

Fisher의 답은 두 가지였다. 하나는 무작위화다. 처치를 놓을 자리를 동전이나 카드로 정하면, 땅심이 처치와 상관될 길이 끊기고, 오차의 크기를 정직하게 잴 수 있다. 다른 하나는 분산분석이다. 수확의 전체 변동을 처치, 블록, 오차의 몫으로 나누는 계산인데, 13회의 언어로는 서로 직교하는 사영들의 피타고라스다. 1925년의 연구자를 위한 통계적 방법과 1935년의 실험의 설계가 이 둘을 세상에 퍼뜨렸다. 그 끝에 1954년 미국에서 180만 명의 아이가 참가한 Salk 소아마비 백신 시험이 있다.

이 노트는 그 순서를 따른다. 1절은 잠재적 결과로 무작위화를 정의하고, Neyman(1923)의 분산 공식과 Fisher의 무작위화 검정을 증명한다. 2절은 일원분산분석을 사영으로 세우고, 비중심 분포로 검정력과 표본 크기를 계산한다. 3절은 블록과 이원분산분석, 분할구 설계를 다룬다. 4절은 여러 비교를 동시에 할 때의 Bonferroni·Tukey·Scheffé, 5절은 Fisher의 설계 원리를 숫자로 확인한다. 6절은 Salk 시험, 7절은 무작위화와 균형이 깨질 때, 8절은 하이퍼파라미터 탐색과 A/B 테스트 속의 실험설계다.

학습 목표

1. 1.

   잠재적 결과로 처치효과를 정의하고, 무작위 배정 아래 평균 차이의 불편성과 Neyman의 분산 공식, 무작위화 검정의 정확성을 증명한다.

2. 2.

   일원·이원분산분석을 직교사영의 분해로 유도하고, 비중심 $\chi^2$와 $F$로 검정력과 표본 크기를 계산한다.

3. 3.

   블록 설계와 분할구 설계에서 오차를 어느 층에서 재야 하는지 판단한다.

4. 4.

   Bonferroni·Tukey·Scheffé의 동시추론을 증명하고, 가족 단위 오류율을 시뮬레이션으로 확인한다.

5. 5.

   Mercer–Hall 균일성 시험과 Salk 백신 시험으로 무작위화·블록·요인설계의 값을 숫자로 보고, 같은 원리를 하이퍼파라미터 탐색과 A/B 테스트에 쓴다.

그림 0.1 이번 회차 정리들의 의존 관계. 화살표는 “증명에 쓰인다”는 뜻이다.

0.1 1–13회에서 가져오는 것

앞 회차	내용
4회 정의 1.4 · 정리 1.5	초기하분포와 그 평균·분산
5회 정리 3.8 · 3.11 · 3.17	정규의 선형변환, 무상관이면 독립, 이차형식의 $\chi^2$
6회 정의 3.1 · 4.1	$t$ 분포와 $F$ 분포
8회 정의 3.2 · 정리 4.2 · 5.1	크기와 검정력, $p$-값의 균등성, Pearson의 $\chi^2$
13회 보조정리 2.4 · 정리 2.5	대칭 멱등행렬과 사영, hat 행렬
13회 정리 4.1 · 4.5 · 4.9	이차형식의 $\chi^2$ 판정, Cochran의 정리, 일반선형가설의 $F$
13회 명제 5.6	누락변수의 치우침 (7절)

0.2 표기

처치(처리)는 $t$개, 처치 $i$를 받은 단위(밭의 구획, 환자)는 $n_i$개, 모두 $N=\sum n_i$개다. 관측은 $y_{ij}$ ($i$번째 처치의 $j$번째 단위)로 쓰고, 점으로 평균을 표시한다. $\bar y_{i\cdot}=\tfrac1{n_i}\sum_jy_{ij}$, $\bar y_{\cdot\cdot}=\tfrac1N\sum_{i,j}y_{ij}$. 제곱합은 $\SS$로 쓴다. 13회처럼 관측 전체를 벡터 $\y\in\R^N$로 보고, 사영행렬로 제곱합을 쓴다. $J=\one\one\T/N$은 전체 평균으로의 사영이다.

이 절을 PDF로 보기 (1쪽)노트북 0절

이 회차에서 읽은 절 0개 · 회차 차례