14회 · 분산분석과 실험설계 · 노트

5 설계의 원리 — 반복, 무작위화, 국소 관리

역사 Fisher는 1926년 밭 실험의 배치에서 설계의 원리 셋을 내놓았다. 오차를 재기 위한 반복, 그 측정을 정당하게 만드는 무작위화, 오차를 줄이는 국소 관리(블록)다. 같은 글에서 그는 한 번에 한 요인만 바꾸라는 오랜 격언을 정면으로 반박했다. “자연은 논리적으로 신중하게 짠 질문지에 가장 잘 답한다. 질문을 하나만 던지면, 다른 주제를 먼저 다룰 때까지 대답을 거부하는 일이 많다.” Student(Gosset)는 마지막까지 체계적 배치를 옹호했다. 처치를 번갈아 배치하면 땅의 경향이 고르게 나뉜다는 것이다. 두 사람의 논쟁은 Gosset가 죽은 1937년까지 이어졌다.

5.1 국소 관리: 짝과 블록

정리 5.1 (짝 설계의 효율) $2m$개 단위가 $m$개 짝 $(a_i,b_i)$로 나뉘어 있고, 처치효과가 모든 단위에서 $\tau$로 같다고 하자($a_i,b_i$는 대조 아래의 잠재적 결과).

1. (a)

   완전무작위설계($m$개를 처치)의 $\hat\tau$는 불편이고 $\Var\hat\tau=2S^2/m$이다. $S^2$은 $2m$개 값의 분산(분모 $2m-1$)이다.

2. (b)

   짝마다 동전으로 한쪽을 처치하는 설계의 $\hat\tau$(짝 차이의 평균)는 불편이고 $\Var\hat\tau=2S_w^2/m$이다. $S_w^2=\tfrac1{2m}\sum_i(a_i-b_i)^2$은 짝 안의 분산이다.

따라서 짝 설계의 상대효율은 $S^2/S_w^2$이고, 짝 안의 상관을 $\rho$라 하면 대략 $1/(1-\rho)$이다.

증명 전략 (a)는 정리 1.4에 효과가 일정하다는 조건을 넣는다. (b)는 짝마다의 동전을 $\pm1$의 독립 변수로 쓰면 $\hat\tau-\tau$가 독립인 항의 평균이 된다. 단계별 증명은 연습 5.5(유도형)에서 직접 쓴다. 완성된 증명은 그 연습의 풀이에 있다.

예제 5.2 (Mercer–Hall의 짝과 블록) 균일성 시험의 각 행에서 이웃한 두 열(1–2, 3–4, …, 23–24)을 짝으로 묶으면 짝이 240개, 짝 안의 상관은 $0.33$이다. $S^2=0.2123$, $S_w^2=0.1433$이므로 짝 설계의 상대효율은 1.48이고, $1/(1-\rho)=1.49$와 거의 같다. 짝으로 묶은 실험 하나는 무작위 배치 실험 1.48개의 값이 있다. 무작위 배정을 되풀이해 잰 분산의 비도 1.5 근처다(노트북). 이웃한 다섯 구획을 블록으로 삼아 가짜 처치 5개를 블록마다 무작위 배치하면 오차의 평균제곱이 0.210(완전무작위)에서 0.167(블록)로 줄어 상대효율이 1.26이다. 두 설계 모두 무작위화가 있으므로 5% 검정의 실제 크기는 0.05다.

블록은 공짜가 아니다. 오차의 자유도를 블록 수만큼 쓴다. 블록 안의 단위들이 서로 닮지 않았다면 자유도만 잃는다. Mercer–Hall의 밭에서는 이웃한 구획이 닮았으므로 블록이 이득이었다. 2절의 그림 1.1의 왼쪽이 그 이유를 보여 준다.

5.2 요인설계: 한 번에 여러 질문을

정리 5.3 (요인설계의 효율) 요인 $k$개가 각각 두 수준이고 단위가 $N$개, 오차의 분산이 $\sigma^2$이며 효과가 더해진다고 하자.

1. (a)

   $2^k$개 조합에 $N/2^k$개씩 배치하는 요인설계에서, 요인 하나의 주효과(높은 수준의 평균 $-$ 낮은 수준의 평균)의 분산은 $4\sigma^2/N$이다.

2. (b)

   기준 조합 하나와 요인을 하나씩만 바꾼 조합 $k$개에 $N/(k+1)$개씩 배치하는 한 번에 한 요인(OFAT) 설계에서, 주효과(바꾼 조합 $-$ 기준 조합)의 분산은 $2(k+1)\sigma^2/N$이다.

따라서 같은 $N$으로 요인설계의 효율은 $(k+1)/2$배이고, 요인설계만 상호작용을 추정할 수 있다.

증명 전략 두 추정량 모두 독립인 두 평균의 차이므로, 각 평균에 들어가는 단위의 수만 세면 분산이 나온다. 요인설계에서는 모든 단위가 높은 수준 쪽이나 낮은 수준 쪽에 들어간다. 단계별 증명은 연습 5.6(유도형)에서 직접 쓴다. 완성된 증명은 그 연습의 풀이에 있다.

요인설계에서는 모든 단위가 모든 주효과의 추정에 쓰인다. Fisher가 “숨은 반복”이라 부른 것이다. 요인이 셋이면 효율이 2배, 다섯이면 3배다.

예제 5.4 (npk: 완두의 질소·인·칼륨) 교과서에 자주 나오는 완두 실험(R의 npk 자료)은 질소(N), 인(P), 칼륨(K)을 각각 주거나 주지 않은 $2^3$ 요인설계를 6개 블록, 24구획에 배치했다. 블록 하나에 구획이 4개뿐이어서 8조합을 다 넣을 수 없다. 그래서 블록마다 8조합의 절반만 넣되, NPK 삼중 상호작용의 부호가 같은 4조합끼리 묶었다. 그 대가로 NPK 상호작용은 블록 차이와 구별되지 않는다(교락). 주효과는(구획당 파운드)

$$\begin{gather*} \mathrm N:\ +5.62\ \ (F=12.26,\ p=0.004),\qquad \mathrm K:\ -3.98\ \ (F=6.17,\ p=0.029),\\ \mathrm P:\ -1.18\ \ (F=0.54,\ p=0.47) \end{gather*}$$

이다. 오차는 블록과 주효과·이중 상호작용을 뺀 자유도 12, 평균제곱 15.44다. 24구획 모두가 세 주효과의 추정에 쓰였다.

그림 5.1 왼쪽: Mercer–Hall의 480구획(240짝)에서 가짜 처치효과 $\hat\tau$의 무작위화 분포. 짝 안에서 무작위화한 설계(파랑)가 완전무작위설계(주황)보다 좁다(정확한 분산비 1.48). 오른쪽: npk 실험의 주효과와 이중 상호작용 추정값과 $\pm2$ 표준오차.

연습문제

연습 5.1 (짝 안의 분산 ★) 짝의 두 값 $a,b$가 같은 분산 $\sigma^2$과 상관 $\rho$를 가지면 $E(a-b)^2=2\sigma^2(1-\rho)$임을 보이고, 정리 5.1의 효율 $1/(1-\rho)$를 얻어라. $\rho<0$이면 어떻게 되는가?

풀이

평균이 같으면 $E(a-b)^2=\Var(a-b)=2\sigma^2-2\rho\sigma^2$이므로 $S_w^2\approx\sigma^2(1-\rho)$이고 효율은 $1/(1-\rho)$이다. $\rho<0$이면(짝의 두 단위가 반대로 움직이면) 효율이 1보다 작아 짝을 짓는 것이 손해다.

연습 5.2 (세 요인의 요인설계 ★★) $k=3$, $N=24$에서 정리 5.3의 두 분산을 비교하라. 요인설계로 NP 상호작용 $\tfrac12[(\text{N과 P 둘 다})-(\text{N만})-(\text{P만})+(\text{둘 다 없음})]$을 추정할 때의 분산은?

풀이

요인설계는 $4\sigma^2/24=\sigma^2/6$, OFAT는 $2\cdot4\sigma^2/24=\sigma^2/3$로 효율이 2배다. 상호작용 추정량은 6구획씩의 평균 네 개에 $\pm\tfrac12$을 곱한 것이므로 분산이 $4\cdot\tfrac14\cdot\sigma^2/6=\sigma^2/6$으로 주효과와 같다.

연습 5.3 (교락 ★) npk 실험에서 블록 1, 5, 6은 NPK의 부호가 $-1$인 4조합, 블록 2, 3, 4는 $+1$인 4조합을 받았다. NPK 상호작용의 추정량이 “블록 2·3·4의 평균 $-$ 블록 1·5·6의 평균”과 같음을 보이고, 왜 블록 차이와 구별할 수 없는지 설명하라.

풀이

NPK의 추정량은 NPK 부호가 $+1$인 12구획의 평균에서 $-1$인 12구획의 평균을 뺀 것이다. 블록마다 한 부호만 있으므로 이것은 블록 2·3·4의 평균 $-$ 블록 1·5·6의 평균이다. 블록 효과가 그대로 더해지므로 NPK 효과와 블록 차이를 가를 수 없다.

연습 5.4 (OFAT가 놓치는 것 ★★) 두 요인 A, B의 평균 수확이 (A 없음, B 없음) 10, (A만) 10, (B만) 10, (둘 다) 16이라 하자. 기준 조합에서 하나씩만 바꾸는 실험은 어떤 결론을 내리는가? 요인설계는 무엇을 보는가?

풀이

기준(10)에서 A만 바꿔도 10, B만 바꿔도 10이므로 OFAT는 “A도 B도 효과 없음”이라 결론짓는다. 요인설계는 두 요인을 함께 바꾼 16을 보고, 주효과(각 $+3$)와 상호작용(곱의 효과)이 있음을 안다. 효과가 상호작용으로만 있으면 OFAT는 그것을 볼 수 없다.

연습 5.5 (짝 설계의 효율: 증명 ★★ 유도형) 정리 5.1를 다음 순서로 증명하라.

1. (a)

   효과가 모든 단위에서 $\tau$이면 $S_1^2=S_0^2=S^2$, $S_\tau^2=0$임을 보이고, 정리 1.4에 $n_T=n_C=m$을 넣어 (a)를 얻어라.

2. (b)

   짝 $i$의 동전을 $\sigma_i=\pm1$(처치가 $a$쪽이면 $+1$)로 두면, 짝 안의 관측 차이(처치 $-$ 대조)가 $\tau+\sigma_i(a_i-b_i)$임을 보여라.

3. (c)

   $\sigma_i$들이 독립이고 평균 0, 분산 1임을 써서 $\hat\tau=\tau+\tfrac1m\sum_i\sigma_i(a_i-b_i)$의 평균과 분산 $2S_w^2/m$을 구하라.

4. (d)

   짝의 두 값이 분산 $S^2$, 상관 $\rho$를 가지면 $S_w^2\approx S^2(1-\rho)$임을 보이고 상대효율 $1/(1-\rho)$를 얻어라.

풀이

(a) $y_i(1)=y_i(0)+\tau$이면 두 잠재적 결과의 분산이 같아 $S_1^2=S_0^2=S^2$이고, $\tau_i$가 상수이므로 $S_\tau^2=0$이다. 정리 1.4에 $n_T=n_C=m$을 넣으면 $\Var\hat\tau=S^2/m+S^2/m=2S^2/m$이고 불편성도 그 정리에서 나온다. (b) $\sigma_i=+1$이면 처치는 $a_i$쪽이고 관측 차이는 $(a_i+\tau)-b_i$이다. $\sigma_i=-1$이면 $(b_i+\tau)-a_i$이다. 두 경우 모두 $\tau+\sigma_i(a_i-b_i)$이다. (c) $\hat\tau=\tfrac1m\sum_i\bigl(\tau+\sigma_i(a_i-b_i)\bigr)=\tau+\tfrac1m\sum_i\sigma_i(a_i-b_i)$이다. $E\sigma_i=0$이므로 평균은 $\tau$이고, $\sigma_i$들이 독립이고 분산이 1이므로 분산은 $\tfrac1{m^2}\sum_i(a_i-b_i)^2=\tfrac{2S_w^2}m$이다. (d) $a,b$의 분산이 $S^2$, 상관이 $\rho$이고 평균이 같으면 $E(a-b)^2=2S^2(1-\rho)$이므로 $S_w^2=\tfrac1{2m}\sum(a_i-b_i)^2\approx S^2(1-\rho)$이다. 상대효율은 $\tfrac{2S^2/m}{2S_w^2/m}\approx\tfrac1{1-\rho}$이다.

연습 5.6 (요인설계의 효율: 증명 ★ 유도형) 정리 5.3을 다음 순서로 증명하라.

1. (a)

   요인설계에서 한 요인의 높은 수준과 낮은 수준에 각각 $N/2$개의 단위가 있음을 보이고, 주효과 추정량의 분산 $4\sigma^2/N$을 구하라.

2. (b)

   가법 모형에서 다른 요인들의 효과가 두 평균의 차에서 지워짐을 보여라. 다른 요인의 각 수준이 두 쪽에 몇 번씩 나오는지 센다.

3. (c)

   OFAT에서 주효과 추정량이 단위 $N/(k+1)$개짜리 두 평균의 차임을 보이고 분산 $2(k+1)\sigma^2/N$을 구하라.

4. (d)

   두 분산의 비가 $(k+1)/2$임을 확인하고, OFAT로는 상호작용을 추정할 수 없는 이유를 설명하라.

풀이

(a) $2^k$개 조합 가운데 한 요인이 높은 수준인 것이 절반이므로 높은 수준에 $\tfrac N{2^k}\cdot2^{k-1}=N/2$개, 낮은 수준에도 $N/2$개가 있다. 두 평균은 서로 다른 단위의 평균이어서 독립이므로 차의 분산은 $\sigma^2(2/N+2/N)=4\sigma^2/N$이다. (b) 높은 수준 쪽의 $N/2$개 안에서 다른 요인 B의 두 수준은 $N/4$개씩 나온다. 낮은 수준 쪽도 같다. 가법 모형에서 B의 효과 $\pm\beta$는 두 평균에 똑같이 $\tfrac{(N/4)\beta+(N/4)(-\beta)}{N/2}=0$으로 들어가므로 차에서 지워진다. 모든 다른 요인이 같다. (c) OFAT의 주효과는 요인 하나만 바꾼 조합의 평균에서 기준 조합의 평균을 뺀 것이고, 두 조합에는 $N/(k+1)$개씩 있다. 분산은 $\sigma^2\cdot2(k+1)/N$이다. (d) $\tfrac{2(k+1)\sigma^2/N}{4\sigma^2/N}=\tfrac{k+1}2$이다. 상호작용 $(\alpha\beta)$를 보려면 두 요인을 함께 바꾼 조합이 있어야 하는데, OFAT의 조합은 기준에서 요인을 하나만 바꾼 것들이라 그런 조합이 없다.

이 절을 PDF로 보기 (24쪽)노트북 5절

이 회차에서 읽은 절 0개 · 회차 차례