14회 · 분산분석과 실험설계 · 노트

7 부숴보기 — 설계가 깨질 때

7.1 무작위화를 빼면: 땅심이 효과로 둔갑한다

예제 7.1 (체계적 배치) Mercer–Hall의 균일성 시험에는 처치가 없다. 그런데 열 14–25(12열, 240구획)를 “비료”, 열 1–13(260구획)을 “대조”라 부르고 두 표본 $t$ 검정을 하면, 차이는 $-0.33$파운드, $t=-8.55$, $p=1.5\times10^{-16}$이다. 존재하지 않는 효과가 압도적으로 “유의”하다. 밭의 한쪽이 원래 덜 비옥했기 때문이다(그림 1.1 왼쪽). 같은 밭을 위아래로 나누면 $t=-0.77$로 아무 일도 없다. 체계적 배치가 괜찮은지는 땅심의 경향이 어느 방향인지에 달려 있고, 실험자는 그것을 모른다. 250구획을 무작위로 골라 같은 검정을 2만 번 하면 $|t|>1.96$의 비율이 0.050이다. 정리 1.7가 약속한 대로다.

무작위화하지 않은 비교에서는 처치와 함께 움직이는 모든 것이 처치의 효과로 섞인다. 13회 명제 5.6의 누락변수 치우침이 땅심이라는 보이지 않는 변수로 나타난 것이다. 무작위 배정은 처치를 땅심과 독립으로 만들어 그 치우침의 기댓값을 0으로 만든다.

7.2 오차층을 틀리면: 의사반복

예제 7.2 (귀리의 품종을 세구로 검정하면) 예제 3.5의 품종은 주구 18개에 무작위로 배치되었다. 72세구를 모두 독립인 단위로 보고 블록, 품종, 질소, 상호작용을 뺀 잔차(평균제곱 254.2, 자유도 55)로 품종을 검정하면 $F=3.51$, $p=0.037$이다. 올바른 주구 오차(601.3, 자유도 10)로는 $F=1.49$, $p=0.27$이다. 품종의 비교에 쓸 수 있는 독립 단위는 18개 주구뿐인데, 세구를 반복으로 세면 반복 수를 네 배로 부풀리게 된다. Hurlbert(1984)는 생태학 논문의 상당수가 이런 의사반복을 저지른다고 보고했다.

7.3 균형을 깨면: 제곱합이 순서에 따라 달라진다

정리 3.2은 균형에 기댔다. 칸마다 관측 수가 다르면 $V_A$와 $V_B$가 직교하지 않고, “A의 제곱합”이 하나로 정해지지 않는다.

명제 7.3 (순차 제곱합) $\col(X_0)\subset\col(X_0,X_A)$ 등으로 모형을 키워 갈 때, A를 B보다 먼저 넣은 제곱합 $\SS(A\mid X_0)=\|(H_{0A}-H_0)\y\|^2$과 B 뒤에 넣은 $\SS(A\mid X_0,\allowbreak B)=\|(H_{0AB}-H_{0B})\y\|^2$은 일반적으로 다르다. A와 B의 공간이 $X_0$를 뺀 뒤 서로 직교하면 둘은 같다.

증명 직교하면 $H_{0AB}=H_0+(H_{0A}-H_0)+(H_{0B}-H_0)$이고 $H_{0AB}-H_{0B}=H_{0A}-H_0$이다. 직교하지 않으면 13회 정리 5.3(FWL)으로 $\SS(A\mid X_0,B)$는 A를 B에 대해 잔차화한 뒤의 제곱합이므로 다르다.

예제 7.4 (귀리 7구획을 잃으면) 귀리 자료에서 세구 7개(2, 31, 45, 50, 54, 58, 61번 행)를 빼면 균형이 깨진다. 블록을 먼저 넣은 뒤의 품종의 제곱합은 질소보다 먼저 넣으면 1026.3, 질소 뒤에 넣으면 1742.4다. 질소는 15044.4와 15760.5다. 통계 소프트웨어의 “Type I·II·III 제곱합”은 이 순서 문제에 대한 서로 다른 관행이다. 균형 설계는 이 문제를 처음부터 없앤다.

7.4 분산이 다르면: 작은 집단이 시끄러울 때

예제 7.5 (Box (1954)의 경고) 세 집단의 크기가 5, 10, 20이고 표준편차가 3, 2, 1이며 평균은 모두 같다고 하자. 5% $F$ 검정의 실제 크기는 0.20이다(4만 번 반복). 표준편차를 1, 2, 3으로 뒤집으면(큰 집단이 시끄러우면) 0.014가 된다. 합동 분산 $\SS_W/(N-t)$가 큰 집단의 분산에 끌려가기 때문이다. 집단 크기가 같으면 이 효과는 훨씬 작다. 균형 설계는 여기서도 보험이다.

연습문제

연습 7.1 (가짜 효과의 크기 ★) 예제 7.1의 $t=-8.55$를 정리 1.4의 무작위화 표준편차 $\sqrt{S^2(1/240+1/260)}$와 비교하라. 차이 $-0.33$은 무작위 배치였다면 몇 표준편차인가?

풀이

$S^2=0.2100$이면 무작위 배치의 표준편차는 $\sqrt{0.21(1/240+1/260)}=0.041$이고, $-0.33$은 약 $-8$ 표준편차다. 우연으로는 일어날 수 없는 크기다. 두 표본 $t$가 이를 그대로 보여 준 것이다.

연습 7.2 (의사반복의 자유도 ★) 품종 비교에 쓸 수 있는 독립 단위가 18개이고 블록이 6개, 품종이 3개라면 오차 자유도가 10임을 보여라. 72세구를 단위로 세면 자유도가 몇으로 부풀었는가?

풀이

주구 오차는 블록 $\times$ 품종이므로 $(6-1)(3-1)=10$이다. 72세구를 단위로 세면 잔차 자유도가 55로 부풀었다.

연습 7.3 (작은 불균형 ★★) $2\times2$ 배치에서 칸의 관측 수가 $\smat{2&1\\1&1}$이고 칸 평균이 모두 같지 않을 때, 명제 7.3의 두 제곱합이 다를 수 있음을 숫자 예로 보여라.

풀이

칸의 값을 A1B1: 0, 0, A1B2: 1, A2B1: 1, A2B2: 2라 하자(A와 B의 효과가 각각 1인 가법 자료). A를 먼저 넣으면 A1 평균 $1/3$, A2 평균 $3/2$, 전체 평균 $0.8$이므로 $\SS(A)=3(1/3-0.8)^2+2(1.5-0.8)^2=1.633$. B를 먼저 넣은 모형의 잔차제곱합은 $1.167$이고 가법 모형은 정확히 맞으므로 $\SS(A\mid B)=1.167$이다. 둘이 다르다.

연습 7.4 (합동 분산의 치우침 ★★) 예제 7.5에서 $E\,\SS_W/(N-t)$와 $E\,\SS_B/(t-1)$을 13회 보조정리 3.1로 계산하라. 둘의 비가 1보다 크면 $F$ 검정이 너무 자주 기각한다.

풀이

평균이 같으면 $E\,\SS_W=\sum(n_i-1)\sigma_i^2$, $E\,\SS_B=\sum\sigma_i^2(1-n_i/N)$이다. $(n_i)=(5,10,20)$, $(\sigma_i)=(3,2,1)$이면 $E\,\SS_W/32=91/32=2.84$, $E\,\SS_B/2=11.0/2=5.5$로 비가 1.93이다. 뒤집으면 $6.59$와 $3.79$로 비가 0.57이다. 비가 1보다 크면 $F$가 너무 커서 크기가 0.20으로, 작으면 0.014로 간다.

이 절을 PDF로 보기 (31쪽)노트북 7절

이 회차에서 읽은 절 0개 · 회차 차례