증명 도구 상자 · 노트

4 T4 부등식과 볼록성

확률의 한계(Markov, Chebyshev), 추정량의 오차, 극한의 증명은 대부분 부등식을 잇는 일이다. 2회의 Markov·Chebyshev·Jensen 부등식, 3회의 Cauchy–Schwarz 부등식이 이 절의 도구를 확률변수에 옮긴 것이다.

4.1 더하고 빼기와 삼각부등식

보조정리 4.1 (삼각부등식) 실수 $a,b$에 대해 $|a+b|\le|a|+|b|$이고 $\bigl||a|-|b|\bigr|\le|a-b|$이다.

증명 전략 $-|a|\le a\le|a|$를 두 수에 대해 더한다. 둘째 식은 첫 식을 $a=(a-b)+b$에 쓴다.

1. $-|a|\le a\le|a|$, $-|b|\le b\le|b|$를 더하면 $-(|a|+|b|)\le a+b\le|a|+|b|$이다.절댓값의 정의

2. 따라서 $|a+b|\le|a|+|b|$이다.$|y|\le c\iff-c\le y\le c$

3. $|a|=|(a-b)+b|\le|a-b|+|b|$이므로 $|a|-|b|\le|a-b|$이다. $a$와 $b$를 바꾸면 $|b|-|a|\le|a-b|$이다.2

두 양의 차를 다룰 때, 사이에 중간 항을 더하고 빼서 차를 둘로 쪼갠 뒤 삼각부등식을 쓴다. 이것을 더하고 빼기(add and subtract)라 한다.

예제 4.2 (곱의 차) $|a_nb_n-ab|$를 $|a_n-a|$와 $|b_n-b|$로 누른다. $a_nb$를 더하고 빼면

$$|a_nb_n-ab|=|a_n(b_n-b)+(a_n-a)b|\le|a_n|\,|b_n-b|+|b|\,|a_n-a| .$$

더하고 빼기, 삼각부등식

$|a_n|$이 유계이면 오른쪽의 두 항이 각각 작아진다. 수열의 곱의 극한(정리 5.3)과 Slutsky형 논증이 모두 이 한 줄에서 출발한다.

4.2 Cauchy–Schwarz 부등식

정리 4.3 (Cauchy–Schwarz (합)) 실수 $a_1,\dots,a_n$, $b_1,\dots,b_n$에 대해

$$\Bigl(\sum_{i=1}^na_ib_i\Bigr)^2\le\Bigl(\sum_{i=1}^na_i^2\Bigr)\Bigl(\sum_{i=1}^nb_i^2\Bigr).$$

등호는 한 벡터가 다른 벡터의 상수배일 때와 그때뿐이다.

증명 전략 음이 아닌 이차식 $q(t)=\sum_i(a_it-b_i)^2$의 판별식이 양수일 수 없다.

1. $\sum a_i^2=0$이면 모든 $a_i=0$이므로 양변이 0이다. 이제 $A=\sum a_i^2>0$이라 하자.경우 나누기

2. 모든 실수 $t$에서

   $$0\le q(t)=\sum_i(a_it-b_i)^2=At^2-2Bt+C,\qquad B=\sum a_ib_i,\ C=\sum b_i^2 .$$

   제곱의 합은 음이 아니다

3. $q$가 실근을 둘 갖지 않으므로 판별식은 $4B^2-4AC\le0$, 곧 $B^2\le AC$이다.이차식의 판별식

4. 등호이면 판별식이 0이므로 $q(t_0)=0$인 $t_0$이 있고, 모든 $i$에서 $b_i=t_0a_i$이다. 거꾸로 $b_i=ta_i$이면 양변이 $t^2A^2$으로 같다.2

같은 증명이 $q(t)=E(tX-Y)^2$에 대해 $\bigl(E\,XY\bigr)^2\le EX^2\,EY^2$을 준다(3회). 증명에서 쓴 것은 “제곱의 평균은 음이 아니다”뿐이기 때문이다.

4.3 볼록성과 Jensen 부등식

정의 4.4 (볼록함수) 구간 $I$ 위의 함수 $\varphi$가 모든 $x,y\in I$와 $\lambda\in[0,1]$에서

$$\varphi\bigl(\lambda x+(1-\lambda)y\bigr)\le\lambda\varphi(x)+(1-\lambda)\varphi(y)$$

를 만족하면 $\varphi$를 볼록(convex)하다고 한다. $-\varphi$가 볼록하면 $\varphi$를 오목(concave)하다고 한다.

보조정리 4.5 (이계도함수 판정) $\varphi$가 $I$에서 두 번 미분가능하고 $\varphi''\ge0$이면 $\varphi$는 볼록하다.

증명 전략 $z=\lambda x+(1-\lambda)y$에서 접선이 그래프 아래에 있음을 보이고, 두 점에서의 부등식을 $\lambda$, $1-\lambda$로 섞는다.

1. Taylor 정리(Lagrange 나머지항)로, $x$와 $z$ 사이의 어떤 $\xi$에 대해

   $$\varphi(x)=\varphi(z)+\varphi'(z)(x-z)+\tfrac12\varphi''(\xi)(x-z)^2\ \ge\ \varphi(z)+\varphi'(z)(x-z).$$

   Taylor [T8], $\varphi''\ge0$

2. 같은 이유로 $\varphi(y)\ge\varphi(z)+\varphi'(z)(y-z)$이다.1

3. 1에 $\lambda$, 2에 $1-\lambda$를 곱해 더하면, $\lambda(x-z)+(1-\lambda)(y-z)=0$이므로 $\lambda\varphi(x)+(1-\lambda)\varphi(y)\ge\varphi(z)$이다.$z$의 정의

정리 4.6 (유한 Jensen 부등식) $\varphi$가 $I$에서 볼록하고 $x_1,\dots,x_n\in I$, $\lambda_i\ge0$, $\sum_i\lambda_i=1$이면

$$\varphi\Bigl(\sum_{i=1}^n\lambda_ix_i\Bigr)\le\sum_{i=1}^n\lambda_i\varphi(x_i).$$

증명 전략 $n$에 대한 귀납법. 마지막 점을 떼어 내고 나머지를 하나의 점으로 묶으면 두 점의 경우가 된다.

1. $n=1$은 자명하고 $n=2$는 볼록성의 정의다.기저 [T3]

2. $n$에서 성립한다고 하자. $\lambda_{n+1}=1$이면 자명하므로 $\lambda_{n+1}<1$이라 하고 $s=1-\lambda_{n+1}=\sum_{i\le n}\lambda_i$, $y=\sum_{i\le n}(\lambda_i/s)x_i$로 둔다. $y$는 $x_1,\dots,x_n$의 가중평균이므로 $I$에 속한다.구성

3. 두 점 $y$, $x_{n+1}$에 볼록성을 쓰고, $y$에 귀납 가정을 쓴다.

   $$\begin{align*} \varphi\Bigl(\sum_{i=1}^{n+1}\lambda_ix_i\Bigr)=\varphi\bigl(sy+\lambda_{n+1}x_{n+1}\bigr) &\le s\,\varphi(y)+\lambda_{n+1}\varphi(x_{n+1}) \tag*{\htmlClass{reason}{\text{볼록성}}}\\ &\le s\sum_{i\le n}\frac{\lambda_i}{s}\varphi(x_i)+\lambda_{n+1}\varphi(x_{n+1}) \tag*{\htmlClass{reason}{\text{귀납 가정}}} \end{align*}$$

   마지막 줄이 $\sum_{i\le n+1}\lambda_i\varphi(x_i)$이다.

따름정리 4.7 (산술–기하 평균) $x_1,\dots,x_n>0$이면 $(x_1x_2\cdots x_n)^{1/n}\le\tfrac1n(x_1+\cdots+x_n)$이다.

증명 $\varphi(x)=-\log x$는 $\varphi''(x)=1/x^2>0$이므로 볼록하다(보조정리 4.5). 정리 4.6을 $\lambda_i=\tfrac1n$으로 쓰면 $-\log\bigl(\tfrac1n\sum x_i\bigr)\le-\tfrac1n\sum\log x_i=-\log(x_1\cdots x_n)^{1/n}$이고, $\log$가 증가하므로 결론이 나온다.

4.4 지수와 로그의 부등식

보조정리 4.8 ($1+x\le e^x$) 모든 실수 $x$에서 $1+x\le e^x$이고, $x>0$에서 $\log x\le x-1$이다. 두 등호는 각각 $x=0$, $x=1$에서만 성립한다.

증명 $g(x)=e^x-1-x$는 $g'(x)=e^x-1$이 $x<0$에서 음수, $x>0$에서 양수이므로 $x=0$에서만 최솟값 $g(0)=0$을 갖는다. 둘째 식은 첫 식에 $x-1$을 넣고 로그를 취한 것이다.

예제 4.9 (곱을 지수로 누르기) $p_i\in[0,1]$이면 보조정리 4.8를 $x=-p_i$에 쓰고 곱해

$$\prod_{i=1}^n(1-p_i)\le\exp\Bigl(-\sum_{i=1}^np_i\Bigr).$$

1회의 생일 문제에서 $\prod_{i<n}(1-i/365)\le e^{-n(n-1)/730}$가 이 부등식이다. 반대 방향의 한계는 연습 4.8에 있다.

예제 4.10 (망원 합) $\tfrac1{k(k+1)}=\tfrac1k-\tfrac1{k+1}$이므로 $\sum_{k=1}^n\tfrac1{k(k+1)}=1-\tfrac1{n+1}$이다. 이웃한 항이 서로 지워지는 합을 망원 합(telescoping sum)이라 한다. $k\ge2$에서 $\tfrac1{k^2}<\tfrac1{k(k-1)}$이므로

$$\sum_{k=1}^n\frac1{k^2}<1+\sum_{k=2}^n\Bigl(\frac1{k-1}-\frac1k\Bigr)=2-\frac1n<2 .$$

값을 정확히 몰라도 유계임을 보일 수 있다(T5의 단조수렴).

흔한 실수 (1) 음수를 곱하거나 역수를 취하면 부등호가 뒤집힌다. $a<b$에서 $1/a>1/b$는 $a,b$의 부호가 같을 때만 맞다. $a=-1$, $b=2$이면 $1/a=-1<\tfrac12=1/b$이다. (2) 제곱하려면 양변이 음이 아니어야 한다. $-3<2$이지만 $9>4$이다. (3) 산술–기하 평균은 음이 아닌 수에서만 성립한다. $x_1=x_2=-1$이면 $\sqrt{x_1x_2}=1>-1=\tfrac12(x_1+x_2)$이다.

연습문제

연습 4.1 (인수분해로 누르기 ★) $|x-3|<1$이면 $|x^2-9|<7$임을 보여라.

풀이

$|x^2-9|=|x-3|\,|x+3|$이다. $|x-3|<1$이면 $2<x<4$이므로 $|x+3|<7$이고, $|x^2-9|<1\cdot7$이다.

연습 4.2 (산술–기하 평균 ★) $a,b>0$이면 $(a+b)\bigl(\tfrac1a+\tfrac1b\bigr)\ge4$임을 보이고 등호 조건을 구하라.

풀이

$(a+b)(\tfrac1a+\tfrac1b)=2+\tfrac ab+\tfrac ba$이고, $\tfrac ab+\tfrac ba-2=\tfrac{(a-b)^2}{ab}\ge0$이므로 4 이상이다. 등호는 $a=b$일 때만이다.

연습 4.3 (합의 제곱 ★) Cauchy–Schwarz로 $\bigl(\sum_{i=1}^na_i\bigr)^2\le n\sum_{i=1}^na_i^2$을 보이고 등호 조건을 구하라. 이것을 표본평균과 표본 제곱평균의 부등식 $\bar a^2\le\overline{a^2}$로 읽어라.

풀이

$b_i=1$로 두면 $(\sum a_i)^2\le(\sum a_i^2)\cdot n$이다. 등호는 $(a_i)$가 $(1,\dots,1)$의 상수배, 곧 모든 $a_i$가 같을 때다. 양변을 $n^2$으로 나누면 $\bar a^2\le\overline{a^2}$이고, 차 $\overline{a^2}-\bar a^2$이 표본분산(분모 $n$)이다.

연습 4.4 (망원 합 계산 ★) $\sum_{k=1}^n\tfrac1{k(k+2)}$를 닫힌 꼴로 구하고 $n\to\infty$의 극한을 구하라.

풀이

$\tfrac1{k(k+2)}=\tfrac12\bigl(\tfrac1k-\tfrac1{k+2}\bigr)$이고 두 칸씩 떨어진 항이 지워지므로

$$\sum_{k=1}^n\frac1{k(k+2)}=\frac12\Bigl(1+\frac12-\frac1{n+1}-\frac1{n+2}\Bigr)=\frac{n(3n+5)}{4(n+1)(n+2)}\to\frac34 .$$

연습 4.5 (Gibbs 부등식 ★★) $p_i,q_i>0$이고 $\sum_ip_i=\sum_iq_i=1$이면 $\sum_ip_i\log(q_i/p_i)\le0$임을 $\log x\le x-1$로 보이고, 등호 조건을 구하라.

풀이

$\log x\le x-1$을 $x=q_i/p_i$에 쓰고 $p_i>0$을 곱해 더하면

$$\sum_ip_i\log\frac{q_i}{p_i}\le\sum_ip_i\Bigl(\frac{q_i}{p_i}-1\Bigr)=\sum_iq_i-\sum_ip_i=0 .$$

등호는 모든 $i$에서 $q_i/p_i=1$일 때만이다(보조정리 4.8의 등호 조건).

연습 4.6 (세 평균 ★★) $x_1,\dots,x_n>0$에 대해 (a) $\bigl(\tfrac1n\sum x_i\bigr)^2\le\tfrac1n\sum x_i^2$을 Jensen으로 보이고, (b) 조화평균 $n/\sum(1/x_i)$가 기하평균 이하임을 따름정리 4.7으로 보여라.

풀이

(a) $\varphi(x)=x^2$은 $\varphi''=2>0$이므로 볼록하고, 정리 4.6을 $\lambda_i=\tfrac1n$으로 쓴다. (b) 따름정리 4.7을 $1/x_i$에 쓰면 $(\prod1/x_i)^{1/n}\le\tfrac1n\sum1/x_i$이다. 양변의 역수를 취하면 $n/\sum(1/x_i)\le(\prod x_i)^{1/n}$이다.

연습 4.7 ($(1+1/n)^n$은 증가한다 ★★) 수 $n+1$개 $1,\allowbreak \ 1+\tfrac1n,\allowbreak \dots,\allowbreak 1+\tfrac1n$에 산술–기하 평균을 써서 $(1+\tfrac1n)^n\le(1+\tfrac1{n+1})^{n+1}$을 보여라. $1+\tfrac1n$ 대신 $1+\tfrac xn$ ($x\ge0$)을 $n$개 쓰면 $(1+\tfrac xn)^n$도 $n$에 대해 증가함을 보여라.

풀이

$n+1$개의 수 $1$과 $1+\tfrac1n$($n$개)의 산술평균은 $\tfrac{1+n+1}{n+1}=1+\tfrac1{n+1}$이고 기하평균은 $(1+\tfrac1n)^{n/(n+1)}$이다. 산술–기하 평균으로 $(1+\tfrac1n)^{n/(n+1)}\le1+\tfrac1{n+1}$이고, 양변을 $n+1$제곱한다. $1+\tfrac xn$을 쓰면 산술평균이 $\tfrac{1+n+x}{n+1}=1+\tfrac x{n+1}$이므로 같은 방법으로 $(1+\tfrac xn)^n\le(1+\tfrac x{n+1})^{n+1}$이다.

연습 4.8 (로그의 아래 한계 ★★) $0\le x\le\tfrac12$이면 $\log(1-x)\ge-x-x^2$임을 보여라. 이것으로 $i/N\le\tfrac12$인 범위에서 $\prod_{i<n}(1-i/N)\ge\exp\bigl(-\sum_{i<n}(i/N+i^2/N^2)\bigr)$을 보여라.

풀이

$h(x)=\log(1-x)+x+x^2$이면 $h(0)=0$이고

$$h'(x)=-\frac1{1-x}+1+2x=\frac{x(1-2x)}{1-x}\ge0\qquad(0\le x\le\tfrac12)$$

이므로 $h\ge0$이다. 곱의 로그는 로그의 합이므로 $\prod_{i<n}(1-i/N)=\exp\bigl(\sum_{i<n}\log(1-i/N)\bigr)\ge\exp\bigl(-\sum_{i<n}(i/N+i^2/N^2)\bigr)$이다. 예제 4.9의 위 한계와 함께 생일 문제의 확률을 위아래로 끼운다.

연습 4.9 (Minkowski 부등식 ★★) $\sqrt{\sum(a_i+b_i)^2}\le\sqrt{\sum a_i^2}+\sqrt{\sum b_i^2}$을 Cauchy–Schwarz로 보여라.

풀이

Cauchy–Schwarz로

$$\sum(a_i+b_i)^2=\sum a_i^2+2\sum a_ib_i+\sum b_i^2\le\sum a_i^2+2\sqrt{\textstyle\sum a_i^2\sum b_i^2}+\sum b_i^2=\Bigl(\sqrt{\textstyle\sum a_i^2}+\sqrt{\textstyle\sum b_i^2}\Bigr)^2 .$$

양변의 제곱근을 취한다(양변이 음이 아니다).

연습 4.10 (Cauchy의 앞뒤 귀납 ★★★) Jensen 없이 산술–기하 평균을 증명한다. (a) $n=2$를 보여라. (b) $n=2^m$에서 성립하면 $n=2^{m+1}$에서 성립함을 보여라. (c) $n$에서 성립하면 $n-1$에서 성립함을 보여라. (힌트: $x_n=\tfrac1{n-1}(x_1+\cdots+x_{n-1})$을 덧붙인다.) (d) 모든 $n$에서 성립하는 이유를 설명하라.

풀이

(a) $(\sqrt{x_1}-\sqrt{x_2})^2\ge0$을 전개하면 $\sqrt{x_1x_2}\le\tfrac12(x_1+x_2)$이다. (b) $2^{m+1}$개를 앞뒤 절반으로 나누고 각 절반의 기하평균을 $G_1,G_2$, 산술평균을 $A_1,A_2$라 하자. 전체의 기하평균은 $\sqrt{G_1G_2}\le\tfrac12(G_1+G_2)\le\tfrac12(A_1+A_2)$이고 마지막 값이 전체의 산술평균이다. 첫 부등호가 (a), 둘째가 $2^m$에서의 가정이다. (c) $x_1,\dots,x_{n-1}$의 산술평균을 $A$라 하고 $x_n=A$를 덧붙이면 $n$개의 산술평균도 $A$이다. $n$에서의 부등식으로 $(x_1\cdots x_{n-1}A)^{1/n}\le A$, 곧 $x_1\cdots x_{n-1}\le A^{n-1}$이다. (d) 임의의 $n$에 대해 $2^m\ge n$인 $m$이 있다. (a)와 (b)로 $2^m$에서 성립하고, (c)를 $2^m-n$번 써서 $n$까지 내려온다.

이 절을 PDF로 보기 (12쪽)

이 회차에서 읽은 절 0개 · 회차 차례