15회 · 가정이 틀리면 · 노트

1 순열과 순위 (1935–1956)

역사 14회에서 Fisher(1935)는 Darwin의 옥수수에 무작위화 검정을 썼다. 1937년 E. J. G. Pitman은 같은 생각을 두 표본, 상관, 분산분석으로 넓히고 “어떤 모집단에서 온 표본에도 쓸 수 있는 유의성 검정”이라 불렀다. 그러나 순열을 모두 세는 계산은 손으로 할 수 없었다. 1945년 American Cyanamid의 화학자 Frank Wilcoxon은 한 쪽짜리 논문에서 관측값을 순위로 바꾸면 순열분포가 자료와 무관한 표 하나로 정해진다는 것을 보였다. 1947년 Mann과 Whitney가 두 표본의 경우를 정리했고, Hodges와 Lehmann(1956, 1963)은 이 검정들이 정규분포에서도 거의 손해가 없음을 증명하고 거기서 추정량을 만들었다.

1.1 교환가능성과 순열검정

정의 1.1 (교환가능) 확률벡터 $(Z_1,\dots,Z_N)$의 결합분포가 성분의 순서를 어떻게 바꿔도 같으면 교환가능하다고 한다. 독립이고 같은 분포를 따르면 교환가능하다.

정리 1.2 (두 표본 순열검정) $X_1,\dots,X_m\iid F$, $Y_1,\dots,Y_n\iid G$가 독립이고 $H_0:F=G$라 하자. 합친 표본 $\Z=(X_1,\allowbreak \dots,\allowbreak X_m,\allowbreak Y_1,\allowbreak \dots,\allowbreak Y_n)$의 성분을 $m$개와 $n$개로 나누는 $\binom Nm$가지 방법($N=m+n$) 위에서 통계량 $T$의 분포를 만들고, 관측된 나눔의 $T$가 그 분포에서 차지하는 위쪽 꼬리 확률을 $p$-값으로 쓰면, $H_0$ 아래 $P(p\le\alpha)\le\alpha$이다.

증명 전략 합친 표본의 값들(순서 없는 다중집합)을 조건으로 둔다. 그러면 귀무가설 아래 나눔은 $\binom Nm$가지 위에서 균등하고, 14회 정리 1.7의 상황이 된다. 조건부 한계의 기댓값을 취해 무조건 한계를 얻는다.

1. $H_0$ 아래 $\Z$의 $N$개 성분은 iid이므로 교환가능하다.정의 1.1

2. 합친 표본의 값들의 다중집합을 $\mathcal V$라 하고, 그 값들에 크기 순서로 이름 $1,\dots,N$을 붙인다. 순열로 섞어도 $\mathcal V$는 그대로이므로, $\mathcal V$가 주어졌을 때 처음 $m$자리에 오는 이름의 집합은 $\binom Nm$가지 부분집합 위에서 균등하다.1, 순열에 불변인 사건 [T1]

3. 조건부로 이것은 배정이 유한집합 위에서 균등하게 뽑히는 14회 정리 1.7의 상황이다. 따라서 $P(p\le\alpha\mid\mathcal V)\le\alpha$이다.14회 정리 1.7

4. $P(p\le\alpha)=E\bigl[P(p\le\alpha\mid\mathcal V)\bigr]\le\alpha$이다.반복기댓값, 3회 정리 2.5

14회의 무작위화 검정은 확률의 출처가 실험자의 동전이었다. 여기서는 출처가 표본추출과 교환가능성이다. 계산은 같다.

1.2 순위합: Wilcoxon과 Mann–Whitney

보조정리 1.3 (순위는 균등한 순열이다) $Z_1,\dots,Z_N$이 교환가능하고 같은 값이 나올 확률이 0이면, 순위 벡터 $(R_1,\dots,R_N)$ ($R_i$는 $Z_i$보다 작거나 같은 성분의 수)는 $\{1,\dots,N\}$의 $N!$개 순열 위에서 균등분포다.

증명 전략 순열로 섞은 벡터는 원래 벡터와 같은 분포를 갖고, 그 순위 벡터는 원래 순위 벡터를 같은 순열로 섞은 것이다. 그래서 순위 벡터의 분포는 섞기에 불변이고, 섞기에 불변인 순열 위의 분포는 균등분포뿐이다.

1. 동점의 확률이 0이므로 확률 1로 $\mathbf R=(R_1,\dots,R_N)$은 $\{1,\dots,N\}$의 순열이다.가정

2. 순열 $\pi$에 대해 $\Z^\pi=(Z_{\pi(1)},\allowbreak \dots,\allowbreak Z_{\pi(N)})$의 순위 벡터는 $(R_{\pi(1)},\allowbreak \dots,\allowbreak R_{\pi(N)})=\mathbf R\circ\pi$이다. $Z_{\pi(i)}$보다 작거나 같은 성분의 수는 섞기 전과 같기 때문이다.순위의 정의 [T1]

3. $\Z^\pi$와 $\Z$는 같은 분포이므로 모든 순열 $\mathbf r$에 대해 $P(\mathbf R=\mathbf r)=P(\mathbf R\circ\pi=\mathbf r)=P(\mathbf R=\mathbf r\circ\pi^{-1})$이다.교환가능, 2

4. 순열 $\mathbf r$, $\mathbf s$가 주어지면 $\mathbf s=\mathbf r\circ\pi^{-1}$인 순열 $\pi$가 있으므로 $P(\mathbf R=\mathbf r)=P(\mathbf R=\mathbf s)$이다. 확률은 모두 $1/N!$이다.순열은 합성에 대해 군 [T1]

(8회 보조정리 8.1은 이 균등분포의 한 성분의 주변분포다.)

정의 1.4 (Wilcoxon 순위합과 Mann–Whitney) 합친 표본에서의 순위로 $W=\sum_{i=1}^mR(X_i)$를 Wilcoxon 순위합, $U=\#\{(i,j):X_i>Y_j\}$를 Mann–Whitney 통계량이라 한다.

정리 1.5 (순위합의 귀무분포) $F=G$가 연속이면

1. (a)

   $W=U+m(m+1)/2$이다.

2. (b)

   $W$의 분포는 $F$와 무관하고, $EW=\dfrac{m(N+1)}2$, $\Var W=\dfrac{mn(N+1)}{12}$이며, $EW$를 중심으로 대칭이다.

3. (c)

   일반적으로(귀무가설과 무관하게) $U/(mn)$은 $P(X>Y)$의 불편추정량이다.

증명 전략 (a)는 $X$의 순위를 “자기보다 작은 $X$의 수 + 자기보다 작은 $Y$의 수 + 1”로 쪼개 센다. (b)는 보조정리 1.3로 $W$를 $\{1,\dots,N\}$에서 비복원으로 뽑은 $m$개의 합으로 바꾼다. (c)는 지시변수의 합의 기댓값이다.

(a)

1. $X$ 표본에서 $k$번째로 작은 값 $X_{(k)}$의 합친 순위는 $(k-1)+\#\{j:Y_j<X_{(k)}\}+1$이다.순위의 정의, 동점 없음

2. $k=1,\dots,m$에 대해 더하면 $W=\sum_{k=1}^mk+\sum_k\#\{j:Y_j<X_{(k)}\}=\tfrac{m(m+1)}2+U$이다.정의 1.4

(b)

1. $(R(X_1),\dots,R(X_m))$은 $\{1,\dots,N\}$에서 $m$개를 비복원으로 뽑은 것과 같은 분포이고, 이 분포는 $F$와 무관하다.보조정리 1.3의 주변분포

2. 모집단 $\{1,\dots,N\}$의 평균은 $\tfrac{N+1}2$, 분산(분모 $N$)은 $\tfrac{N^2-1}{12}$이다.$\sum k^2=\tfrac{N(N+1)(2N+1)}6$ [T3]

3. 비복원 표본합의 공식으로

   $$EW=m\cdot\frac{N+1}2,\qquad \Var W=m\cdot\frac{N^2-1}{12}\cdot\frac{N-m}{N-1}=\frac{mn(N+1)}{12} .$$

   4회 정리 1.5, 14회 보조정리 1.3

4. 순위 $r$을 $N+1-r$로 바꾸는 대응은 순열 위의 균등분포를 보존하고 $W$를 $m(N+1)-W$로 보낸다. 따라서 둘은 같은 분포이고 $W$는 $EW$에 대해 대칭이다.1

(c)

1. $U=\sum_{i,j}\mathbf 1\{X_i>Y_j\}$이므로 $EU=\sum_{i,j}P(X_i>Y_j)=mn\,P(X>Y)$이다.기댓값의 선형성, 2회

$U/(mn)$은 12회 8절의 AUC, 곧 “양성 하나와 음성 하나를 뽑았을 때 양성의 점수가 더 클 확률”의 추정량이다. 분류기의 AUC를 보고하는 것은 두 점수 분포의 Mann–Whitney 통계량을 보고하는 것이다. 정확한 귀무분포는 $W$의 값마다 그 값을 갖는 부분집합의 수를 세는 점화식으로 계산한다(연습 1.2). 표본이 크면 정규근사를 쓴다.

예제 1.6 (Michelson의 다섯 묶음) Michelson의 1879년 측정 100개는 시간 순서대로 20개씩 다섯 묶음으로 나뉜다(MichelsonSets). 첫 묶음(평균 852.5)과 마지막 묶음(839.5)을 Wilcoxon–Mann–Whitney로 비교하면 $U=225.5$, $U/(mn)=0.564$, 양쪽 $p=0.50$이다($t$ 검정은 0.56). 다섯 묶음 전체의 Kruskal–Wallis 순위검정(분산분석의 순위판)은 $p=0.93$이다. 묶음 사이에는 차이가 없다. 3회에서 본 117 km/s의 편향은 실험 내내 같은 크기로 있었다.

1.3 부호순위와 Hodges–Lehmann 추정

정의 1.7 (Wilcoxon 부호순위) 짝 차이 $d_1,\dots,d_n$에서 $|d_i|$들의 순위를 $R_i^+$라 하고 $T^+=\sum_{d_i>0}R_i^+$를 부호순위 통계량이라 한다.

정리 1.8 (부호순위의 귀무분포) $d_i$들이 독립이고 각각 0에 대해 대칭인 연속분포를 따르면 $T^+=\sum_{k=1}^nk\,I_k$이고 $I_1,\dots,I_n$은 독립인 $\mathrm{Bernoulli}(1/2)$이다. 따라서

$$ET^+=\frac{n(n+1)}4,\qquad \Var T^+=\frac{n(n+1)(2n+1)}{24}.$$

증명 전략 대칭이면 각 차이의 부호는 절댓값과 독립인 공정한 동전이다. 절댓값들이 순위를 정하고, 부호들이 그 순위를 더할지 말지를 정한다.

1. $d_i$와 $-d_i$가 같은 분포이므로 모든 $B\subset(0,\infty)$에서 $P(d_i>0,\allowbreak |d_i|\in B)=P(d_i<0,\allowbreak |d_i|\in B)=\tfrac12P(|d_i|\in B)$이다. 곧 부호 $\mathrm{sign}(d_i)$는 $|d_i|$와 독립이고 $\pm1$이 반반이다.대칭, $P(d_i=0)=0$ [T1]

2. $d_i$들이 독립이므로 부호 $n$개와 절댓값 $n$개는 서로 독립이고, 부호들은 iid다.1, 독립

3. $I_k$를 “절댓값이 $k$번째로 작은 차이가 양수”의 지시변수라 하자. 어느 차이가 $k$번째인지는 절댓값들이 정하므로, 절댓값들이 주어졌을 때 $I_1,\dots,I_n$은 독립인 $\mathrm{Bernoulli}(1/2)$이다. 이 조건부 분포가 절댓값과 무관하므로 무조건으로도 그렇다.2

4. $T^+=\sum_{d_i>0}R_i^+=\sum_{k=1}^nk\,I_k$이다.정의 1.7

5. 따라서

   $$ET^+=\frac12\sum_{k=1}^nk=\frac{n(n+1)}4,\qquad \Var T^+=\frac14\sum_{k=1}^nk^2=\frac{n(n+1)(2n+1)}{24} .$$

   독립합의 분산, 2회 정리 2.8

정의 1.9 (Hodges–Lehmann 추정량) 짝 차이의 Walsh 평균 $(d_i+d_j)/2$ ($i\le j$, 모두 $n(n+1)/2$개)의 중앙값을 Hodges–Lehmann 추정량이라 한다. 두 표본에서는 모든 $Y_j-X_i$의 중앙값이다.

$T^+$는 $(d_i+d_j)/2>0$인 Walsh 평균의 개수와 같다(연습 1.3). 그래서 “$d_i-\theta$의 부호순위 검정이 기각하지 않는 $\theta$”들의 집합(신뢰구간)은 정렬한 Walsh 평균의 양 끝을 잘라 얻고, 그 중심이 Hodges–Lehmann 추정량이다. 검정을 뒤집어 추정량을 만든 것이다.

예제 1.10 (Darwin의 옥수수, 세 번째) Darwin의 15쌍(14회 예제 1.9)에서 양수인 차이의 순위합은 $T^+=96$ (가능한 최대 120)이고, 정확한 양쪽 $p$-값은 $0.041$이다. 무작위화 검정 0.0527, $t$ 검정 0.0497과 비슷하다. Walsh 평균 120개의 중앙값인 Hodges–Lehmann 추정은 3.13인치(평균 2.62, 중앙값 3.0)이고, $P(T^+\le25)=0.024$를 써서 Walsh 평균의 26번째와 95번째 값으로 만든 95.2% 구간은 $[0.50,\ 5.19]$다. 음수인 두 차이($-8.4$, $-6.0$)가 평균을 끌어내리지만, 부호순위는 그것들을 크기 대신 절댓값의 순위 14와 10으로만 센다($T^-=24$).

연습문제

연습 1.1 (작은 표의 귀무분포 ★) $m=2$, $n=3$이면 $\binom52=10$가지 순위 집합의 $W$를 모두 써서 귀무분포를 만들고, $EW=6$, $\Var W=3$을 확인하라.

풀이

$\{1,\dots,5\}$에서 두 개를 고른 합은 3, 4, 5, 6, 5, 6, 7, 7, 8, 9이므로 $W$는 3, 4, 8, 9에서 $1/10$, 5, 6, 7에서 $2/10$의 확률이다. $EW=60/10=6$, $EW^2=390/10=39$이므로 $\Var W=3$. 정리의 식 $m(N+1)/2=6$, $mn(N+1)/12=3$과 같다.

연습 1.2 (점화식 ★★) $N_{m,n}(w)$를 $\{1,\dots,m+n\}$에서 고른 $m$개의 합이 $w$인 경우의 수라 하면 $N_{m,n}(w)=N_{m-1,n}(w-m-n)+N_{m,n-1}(w)$임을 보여라(가장 큰 순위 $m+n$이 $X$의 것인지 아닌지로 나눈다).

풀이

순위 $m+n$(가장 큰 값)이 $X$의 것이면 나머지 $m-1$개의 $X$ 순위는 $\{1,\dots,m+n-1\}$에서 합 $w-m-n$을 이루고, $Y$의 것이면 $m$개의 $X$ 순위가 $\{1,\dots,m+n-1\}$에서 합 $w$를 이룬다. 두 경우는 겹치지 않는다.

연습 1.3 (Walsh 평균 ★★) 동점이 없으면 $T^+=\#\{(i,\allowbreak j):i\le j,\allowbreak \ d_i+d_j>0\}$임을 보여라. ($|d_i|$의 순위가 $k$인 양수 $d_i$는 자기 자신을 포함해 절댓값이 자기 이하인 $k$개의 $d_j$와 짝을 이룰 때 합이 양수다.)

풀이

$d_i+d_j>0$이려면 두 수 가운데 절댓값이 큰 쪽이 양수여야 한다. 절댓값의 순위가 $k$인 양수 $d_i$는 절댓값이 자기 이하인 $k$개의 $d_j$(자기 포함)와 짝을 이룰 때 합이 양수이고, 그 짝들에서 절댓값이 큰 쪽은 $d_i$다. 따라서 합이 양수인 짝의 수는 양수 $d_i$들의 순위의 합 $T^+$다.

연습 1.4 (AUC의 분산 ★) $H_0$ 아래 $U/(mn)$의 분산이 $\tfrac{N+1}{12mn}$임을 정리 1.5로 보여라. 양성과 음성이 각각 100개인 분류기의 AUC가 0.5에서 얼마나 멀어야 5%에서 “우연보다 낫다”고 할 수 있는가?

풀이

$U=W-m(m+1)/2$이므로 $\Var(U/mn)=\tfrac{mn(N+1)/12}{(mn)^2}=\tfrac{N+1}{12mn}$. $m=n=100$이면 $\sqrt{201/120000}=0.041$이고, $1.96\times0.041=0.080$이므로 AUC가 $0.58$보다 커야(또는 0.42보다 작아야) 5%에서 우연과 구별된다.

이 절을 PDF로 보기 (3쪽)노트북 1절

이 회차에서 읽은 절 0개 · 회차 차례