보강 4-3. 의심한다 - 선형대수 — 서술과 파이썬 구현

앞의 두 편에서 마흔여섯 문제를 옮겨 적었다. 상황을 보고 미지수를 세우고, 없던 미지수를 발명하고, 무엇을 최소로 할지 정했다.

이제 마지막 일이 남았다. 나온 숫자를 믿어도 되는지 스스로 재는 것.

0. 눈에 먼저 들어오는 요약¶

숫자를 받으면 사람은 가장 보기 쉬운 것부터 본다. 대각선, 대각합, 왼쪽 위 소행렬식, 고윳값 목록, 잔차가 직교하는지. 전부 계산하기 쉽고 전부 뜻이 있다.

문제는 그것들이 묻고 싶었던 것과 다른 것을 답한다는 데 있다.

왼쪽이 먼저 눈에 들어오는 요약이고, 가운데가 그것을 무심코 읽는 방식이고,
오른쪽이 그 읽기가 왜 틀리는지다. 다섯 다 계산한 지점에서는 참인 문장이다. — Figure 1:왼쪽이 먼저 눈에 들어오는 요약이고, 가운데가 그것을 무심코 읽는 방식이고, 오른쪽이 그 읽기가 왜 틀리는지다. **다섯 다 계산한 지점에서는 참인 문장이다.**

이 편의 열두 문제가 Figure 1의 다섯 줄을 하나씩 부순다.

5막 · 의심한다¶

47. 표가 대각선 기준으로 안 맞는다 ★★★

세우기 어긋남이 0.5 로 일정하다. 잡음이라면 그렇게 규칙적일 리가 없다. 무엇을 빼야 대칭이 드러나는가.

사다리	이 문제에서
① 세로로 세울 것	값을 흔들었을 때의 판매 변화
② 이미 아는 수	관측된 반응표 $D$ , 판매량, 소득 반응
③ 규칙 한 줄	관측 = 보상 반응 − 소득 효과
④ 어느 상자	상자 5 (대칭·정부호를 판정한다)
⑤ 선대가 답하지 않는 것	이론이 대칭이라고 한 것은 관측표가 아니다

이론이 대칭이라고 말하는 것은 값이 오를 때 실질 구매력을 보정해 준 뒤의 반응이다. 관측되는 반응은 거기서 소득이 줄어든 효과가 빠져 있다.

D = S - \left(\frac{\partial \vv{x}}{\partial m}\right)\vv{x}^{\mathsf T}

(2)

(2)의 $S$ 가 이론이 말하는 표이고, 뒤의 항이 소득 효과다. 뒤의 항은 대칭일 이유가 전혀 없다. 바깥곱을 전치해 보면 알 수 있다.

\left(\vv{u}\vv{x}^{\mathsf T}\right)^{\mathsf T} = \vv{x}\vv{u}^{\mathsf T}

(3)

(3)의 우변이 좌변과 같으려면 $\vv{u}$ 와 $\vv{x}$ 가 평행해야 한다. 소득 반응과 판매량이 그럴 이유는 없다. 그리고 이 항은 랭크 1이므로, 대칭인 $S$ 에서 랭크 1만큼 어긋난 것이 관측표다.

이 예제의 수치를 넣어 보자. 판매량이 $\vv{x} = (2,2,2)$ 이고 소득 반응이 $(0.5,\ 0.25,\ 0.25)$ 이면

\left(\frac{\partial \vv{x}}{\partial m}\right)\vv{x}^{\mathsf T} = \begin{bmatrix}1&1&1\\0.5&0.5&0.5\\0.5&0.5&0.5\end{bmatrix}

(4)

이고, (4)의 표를 $D$ 에 더하면 숨어 있던 $S$ 가 나온다.

S = D + \left(\frac{\partial \vv{x}}{\partial m}\right)\vv{x}^{\mathsf T} = \begin{bmatrix}-2&1&1\\1&-2&1\\1&1&-2\end{bmatrix} = \vv{1}\vv{1}^{\mathsf T} - 3I

(5)

(5)의 $S$ 는 정확히 대칭이다. 연구원 말과 달리 자료를 더 모아도 $D$ 는 대칭이 안 된다. 빼야 할 것을 안 뺐기 때문이다.

어긋남의 크기도 설명된다. $D_{21} - D_{12} = 0.5$ 인데

D_{21} - D_{12} = \left(\frac{\partial x_1}{\partial m} - \frac{\partial x_2}{\partial m}\right)\!\cdot\!(-x) = (0.5 - 0.25)\times 2 = 0.5

(6)

로 (6)의 계산이 정확히 맞는다. 잡음이 아니라 계산 가능한 양이다.

$S$ 가 드러나면 이론의 나머지도 확인할 수 있다. 고윳값이 $0, -3, -3$ 이라 준음정부호이고, 0에 붙은 고유벡터가 $\vv{1}/\sqrt3$ 이므로

S\vv{p} = \vv{0}, \qquad \vv{p} = (1,1,1)

(7)

이다. (7)의 식은 "모든 값이 같은 비율로 오르면 아무것도 안 바뀐다"는 뜻이고, 그래서 랭크가 $n-1$ 을 넘을 수 없다.

관측표 $D$ 로는 이 확인을 못 한다. $D$ 의 행 합이 $(-3,\ -1.5,\ -1.5)$ 라 $D\vv{p} \ne \vv{0}$ 이기 때문이다.

빠지기 쉬운 곳 — "이론이 대칭이라고 했다"를 관측표에 그대로 적용하는 것. 이론의 문장이 어느 대상을 두고 한 말인지를 먼저 확인해야 한다.

회수 : L06 영공간 · L14 직교 · L25 대칭 · L27 준정부호

48. 시험 하나가 결론의 절반을 쥐고 있다 ★★☆

세우기 가중치를 준 적이 없는 것은 맞다. 그런데도 네 시험의 영향력이 같은가. 그것을 재는 숫자가 계 안에 이미 있다.

사다리	이 문제에서
① 세로로 세울 것	절편과 기울기, 둘
② 이미 아는 수	네 번의 수명
③ 규칙 한 줄	시험 하나마다 한 줄, 네 줄
④ 어느 상자	상자 3
⑤ 선대가 답하지 않는 것	어느 시험이 옳은지. 영향력이 크다고 신뢰할 만한 것은 아니다

A = \begin{bmatrix}1&1\\1&2\\1&3\\1&6\end{bmatrix}, \qquad A^{\mathsf T}A = \begin{bmatrix}4&12\\12&50\end{bmatrix}, \qquad \det = 200 - 144 = 56

(8)

영향력을 재는 것은 투영행렬의 대각 성분이다.

P = A\left(A^{\mathsf T}A\right)^{-1}A^{\mathsf T}, \qquad h_{ii} = \left[P\right]_{ii}

(9)

(9)의 $h_{ii}$ 를 지렛대값이라 부른다. 왜 그것이 영향력인지는 한 줄이면 나온다. 예측이 $\vv{p} = P\vv{b}$ 이므로

\frac{\partial p_i}{\partial b_i} = P_{ii} = h_{ii}

(10)

이다. (10)의 미분이 뜻하는 바는 이렇다. $i$ 번째 관측을 1만큼 밀면 그 자리 예측이 $h_{ii}$ 만큼 따라온다. $h_{ii}$ 가 1에 가까우면 그 점은 자기 자신을 그대로 예측하고, 곧 잔차가 거의 0으로 나와 이상해도 안 보인다.

계산하면

h_{ii} = \frac{50 - 24x_i + 4x_i^2}{56} \qquad\Longrightarrow\qquad \vv{h} = \frac{1}{56}(30,\ 18,\ 14,\ 50) = (0.536,\ 0.321,\ 0.250,\ 0.893)

(11)

이다. (11)에서 넷째 시험 하나가 0.893 이다.

합을 세어 보면 뜻이 더 분명해진다.

\sum_i h_{ii} = \tr P = \rank A = 2

(12)

(12)의 등식이 L15의 사실이다. 투영행렬의 대각합은 사영하는 공간의 차원이다. 총량 2가 고정돼 있고, 넷째 시험이 그중 44.6%를 가져갔다.

담당자 말이 맞다. 가중치를 준 적이 없다. 그런데도 설계가 이미 가중치를 줬다.

세 설계 모두 대각합이 랭크와 같다. 다른 것은 누가 그 총량을 가져가느냐다.
부하를 1,2,3,6 으로 고르면 마지막 하나가 절반 가까이 쥔다. — Figure 2:세 설계 모두 대각합이 랭크와 같다. 다른 것은 **누가 그 총량을 가져가느냐**다. 부하를 1,2,3,6 으로 고르면 마지막 하나가 절반 가까이 쥔다.

어떻게 고치는가. 부하를 $1,2,3,4$ 로 고르게 놓으면

\vv{h} = (0.7,\ 0.3,\ 0.3,\ 0.7), \qquad \sum h_{ii} = 2

(13)

로 (13)의 최대가 0.7로 내려간다. 합은 여전히 2다. 총량은 못 줄이고 분배만 고칠 수 있다.

시험을 다섯 번으로 늘리면 총량은 그대로 2인데 나눌 곳이 늘어 각자가 작아진다.

빠지기 쉬운 곳 — 지렛대값이 크다고 그 관측이 틀린 것은 아니다. 멀리 있는 점은 기울기를 정확히 재는 데 오히려 유리하다(상황의 D-최적 설계가 그 이야기였다). 위험한 것은 그 점이 틀렸을 때 아무도 못 알아챈다는 쪽이다. 잔차가 작게 나오기 때문이다.

회수 : L09 독립 · L10 네 부분공간 · L15 투영 · L16 최소제곱

49. 왼쪽 위부터 잘라 보았더니 마지막이 0이다 ★★☆

세우기 절차서는 양의 정부호를 판정하는 규칙이다. 0이 나오는 경우까지 그 규칙으로 판정할 수 있는가.

사다리	이 문제에서
① 세로로 세울 것	판정할 것은 표 자체
② 이미 아는 수	반응표 $-S$
③ 규칙 한 줄	주소행렬식, 또는 피벗, 또는 고윳값
④ 어느 상자	상자 5
⑤ 선대가 답하지 않는 것	절차서의 규칙이 어느 경우까지 유효한지

세 가지 방법으로 재 본다.

\text{선행 주소행렬식} = 2,\ 3,\ 0 \qquad \text{피벗} = 2,\ \tfrac32,\ 0 \qquad \text{고윳값} = 0,\ 3,\ 3

(15)

(15)의 셋이 같은 이야기를 한다. $-S$ 는 준양정부호이지 양정부호가 아니다. 따라서 $S$ 는 준음정부호이고, 영공간이 $\operatorname{span}\{(1,1,1)\}$ 로 1차원이다.

이 표에서는 절차서가 우연히 옳은 결론을 냈다. 그런데 규칙 자체가 틀렸다.

옳은 규칙은 무엇인가. 준정부호를 주소행렬식으로 판정하려면 선행만이 아니라 모든 주소행렬식을 봐야 한다. 이 표에서는

1\text{차} : 2,2,2 \qquad 2\text{차} : 3,3,3 \qquad 3\text{차} : 0

(17)

로 (17)의 일곱 개가 전부 0 이상이다. 개수를 세어 보면

\sum_{k=1}^{n}\binom{n}{k} = 2^{n} - 1

(18)

이다. (18)의 값이 $n=3$ 이면 7, $n=10$ 이면 1023 이다. 금방 손으로 못 할 일이 된다.

$K$ 를 같은 방법으로 재면 1차에 0 과 -1 이 나온다. -1 이 음수이므로 걸린다.

빠지기 쉬운 곳 — 절차서를 만든 사람은 정부호를 염두에 두었을 것이다. 그때는 규칙이 옳다. 경계에 있는 표가 들어올 줄 몰랐던 것이고, 경제 자료에서는 동차성 때문에 그 경계가 오히려 정상이다.

회수 : L18 행렬식 · L19 여인수 · L27 정부호의 다섯 조건

50. 봉우리는 찾았는데 거기 가 본 적이 없다 ★★★

세우기 하나는 그 점이 정말 봉우리인가이고, 다른 하나는... 무엇인가.

사다리	이 문제에서
① 세로로 세울 것	최적 좌표 $\vv{x}$ , 둘
② 이미 아는 수	1차 계수 $\vv{b} = (0, 6)$
③ 규칙 한 줄	정류 조건 $2B\vv{x} = -\vv{b}$ , 두 줄
④ 어느 상자	상자 1 (그리고 판정은 상자 5)
⑤ 선대가 답하지 않는 것	모형이 그 좌표에서도 맞는지. 외삽은 통계의 문제다

2차 계수를 모아 대칭행렬로 쓴다. 교차항 계수 2를 절반씩 나눠 넣는 것이 규약이다.

B = \begin{bmatrix}-2&1\\1&-2\end{bmatrix}, \qquad \vv{b} = (0,\ 6)

(20)

(20)에서 정류 조건 $2B\vv{x} = -\vv{b}$ 를 풀면

\vv{x}^{*} = (1,\ 2), \qquad y^{*} = 80 + 12 - 2 - 8 + 4 = 86

(21)

이다. (21)의 엔지니어 계산은 맞다.

첫째 확인 — 봉우리인가. $B$ 의 고윳값을 구하면

\lambda(B) = -1\ (\text{고유벡터 } (1,1)), \qquad -3\ (\text{고유벡터 } (1,-1))

(22)

로 (22)의 둘 다 음수라 봉우리가 맞다.

그런데 두 방향의 떨어지는 속도가 다르다. 최적점에서 $\vv{v}$ 방향으로 $t$ 만큼 움직였을 때 수율 변화가

y(\vv{x}^{*} + t\vv{v}) - y^{*} = t^2\,\vv{v}^{\mathsf T}B\vv{v} = t^2\lambda\,\lVert\vv{v}\rVert^2

(23)

이므로, (23)에서 $\lambda$ 가 곧 떨어지는 속도다. $(1,1)$ 방향은 -1, $(1,-1)$ 방향은 -3 이라 $(1,1)$ 쪽으로 세 배 완만하다. 이것이 능선이다. 온도와 압력을 같이 올리거나 같이 내리면 수율이 잘 안 떨어진다.

둘째 확인 — 거기 가 본 적이 있는가. 실험은 $x_1, x_2 \in [-1, 1]$ 에서 돌렸다. 그런데 최적점의 압력 좌표가 2다.

점선 사각형이 실제로 실험한 범위다. 봉우리가 그 밖에 있다.
모형은 사각형 안의 자료로 맞춘 것이므로 밖에서도 맞는다는 보장이 없다. — Figure 3:점선 사각형이 실제로 실험한 범위다. **봉우리가 그 밖에 있다.** 모형은 사각형 안의 자료로 맞춘 것이므로 밖에서도 맞는다는 보장이 없다.

모형이 밖에서도 2차식일 이유가 없다. 압력을 2까지 올리면 다른 현상이 끼어들 수 있고, 그것은 자료가 말해 주지 않는다. 옳은 다음 걸음은 그 방향으로 실험을 몇 번 더 돌려 보는 것이지 바로 설정을 바꾸는 것이 아니다.

한걸음 더 — 계수 하나가 두 가지를 동시에 뒤집는다. 교차항 계수만 2에서 6으로 키우면 2차 표가 이렇게 된다.

B' = \begin{bmatrix}-2&3\\3&-2\end{bmatrix}, \qquad \lambda(B') = 1,\ -5

(24)

(24)의 하나가 양수이므로 안장점이다. $(1,1)$ 방향으로 가면 수율이 오히려 오른다.

그런데 바뀌는 것이 성격만이 아니다. 정류 조건 $2B'\vv{x} = -\vv{b}$ 를 다시 풀면

\vv{x}^{*\prime} = (-1.8,\ -1.2), \qquad y = 76.4

(25)

로 (25)의 위치가 통째로 옮겨 간다. 1차 계수 $\vv{b}$ 는 그대로인데 2차 계수 하나가 최적 위치를 사분면 반대쪽으로 보냈다.

대각 성분은 두 경우 다 -2 로 그대로다. 대각만 보면 둘을 못 가른다.

회수 : L06 영공간 · L16 최소제곱 · L20 부피 · L21 고윳값 · L25 대칭 · L27 정부호

51. 이 표대로면 물건이 만들어지기는 하는가 ★★★

세우기 심사위원의 규칙은 무엇의 충분조건인가. 그리고 진짜로 봐야 하는 것은 무엇인가.

사다리	이 문제에서
① 세로로 세울 것	총산출 $\vv{x}$
② 이미 아는 수	최종수요 $\vv{d} \ge \vv{0}$
③ 규칙 한 줄	$(I-A)\vv{x} = \vv{d}$
④ 어느 상자	상자 5 (성립 조건을 판정한다)
⑤ 선대가 답하지 않는 것	계수가 옳게 측정됐는지. 판정은 표를 믿는다는 전제 위에 선다

물어야 할 것은 이것이다. 어떤 $\vv{d} \ge \vv{0}$ 에 대해서도 $\vv{x} \ge \vv{0}$ 인가. 그러려면 $(I-A)^{-1}$ 의 성분이 전부 0 이상이어야 한다.

그 판정 조건이 호킨스-사이먼 조건이다.

\det\left[(I-A)_{1:k,\,1:k}\right] > 0 \qquad (k = 1, 2, \dots, n)

(26)

(26)의 선행 주소행렬식이 전부 양수면 된다. 세 표를 재 보자.

표	열 합	선행 주소행렬식	$\rho(A)$	$(I-A)^{-1}$ 이 전부 양수
첫째	$(0.8, 0.8, 0.8)$	$0.5,\ 0.23,\ 0.1$	0.800	그렇다
둘째	$(1.3, 1.2, 0.8)$	$0.5,\ 0.23,\ \mathbf{-0.024}$	1.037	아니다
셋째	$(1.1, 1.1, 0.8)$	$0.5,\ 0.23,\ 0.019$	0.969	그렇다

둘째는 반려가 맞다. 셋째 주소행렬식이 음수이고 $\rho(A) > 1$ 이라 급수가 발산한다. $(I-A)^{-1}$ 을 구해 보면 성분이 전부 음수로 나온다.

셋째는 반려하면 안 된다. 열 합이 1을 넘는 열이 둘이나 있는데도 선행 주소행렬식이 전부 양수이고 $\rho(A) = 0.969 < 1$ 이다. 성립한다.

Important

심사위원의 규칙이 왜 대체로 통했는가. 열 합이 전부 1보다 작으면

\rho(A) \le \lVert A \rVert_1 = \max_j \sum_i A_{ij}

(27)

이 성립하기 때문이다. (27)의 부등식은 어떤 행렬 노름이든 $\rho \le \lVert A\rVert$ 라는 사실에서 온다. 열 합이 전부 1보다 작으면 오른쪽이 1보다 작아 $\rho < 1$ 이 따라 나온다. 충분조건이다.

반대쪽은 어떤가. 성분이 음이 아닌 행렬에서는 다음이 성립한다.

\min_j \sum_i A_{ij} \ \le\ \rho(A) \ \le\ \max_j \sum_i A_{ij}

(28)

(28)의 왼쪽 부등식이 말하는 것은 "열 합의 최소가 1을 넘으면 $\rho > 1$ "까지다. 일부 열이 1을 넘는 것만으로는 아무것도 못 말한다.

셋째 표가 정확히 그 사이에 있다. 열 합의 최소가 0.8, 최대가 1.1이라 $0.8 \le \rho \le 1.1$ 까지만 말할 수 있고, 실제 값 0.969는 그 안이다.

빠지기 쉬운 곳 — 충분조건을 필요조건처럼 쓰는 것. "이러면 된다"와 "이래야만 된다"는 다른 문장이다. 규칙이 쉬울수록 그 구분을 잊기 쉽다.

회수 : L18 행렬식 · L19 주소행렬식 · L21 스펙트럼 반지름 · L27 정부호 판정

52. 두 시장 다 자기 값에는 얌전한데 같이 놓으면 터진다 ★★☆

세우기 대각 성분도 같고 대각합도 같다. 그런데 무엇이 다른가.

사다리	이 문제에서
① 세로로 세울 것	평균에서의 편차 $\vv{e}_t$ , 둘
② 이미 아는 수	초기 편차
③ 규칙 한 줄	$\vv{e}_{t+1} = M\vv{e}_t$
④ 어느 상자	상자 4
⑤ 선대가 답하지 않는 것	계수가 몇 해나 유지되는지

두 행렬 다 $aI + b(\vv{1}\vv{1}^{\mathsf T} - I)$ 꼴이라 고유벡터가 같다. $(1,1)$ 과 $(1,-1)$ 을 넣어 보면

M\begin{bmatrix}1\\1\end{bmatrix} = (a+b)\begin{bmatrix}1\\1\end{bmatrix}, \qquad M\begin{bmatrix}1\\-1\end{bmatrix} = (a-b)\begin{bmatrix}1\\-1\end{bmatrix}

(30)

이다. (30)에서 대각이 $a$ , 비대각이 $b$ 다. 다른 것은 고윳값뿐이다.

\lambda(M_{\text{갑}}) = 0.4 \pm 0.3 = 0.7,\ 0.1 \qquad \lambda(M_{\text{을}}) = 0.4 \pm 0.8 = 1.2,\ -0.4

(31)

(31)에서 을의 큰 고윳값이 1.2로 1을 넘는다. 발산한다.

초기 편차를 $\vv{e}_0 = (2, 0)$ 으로 두고 고유기저로 펼치면

\vv{e}_0 = (1,1) + (1,-1) \qquad\Longrightarrow\qquad \vv{e}_t = \lambda_1^{\,t}(1,1) + \lambda_2^{\,t}(1,-1)

(32)

이므로 (32)에 다섯 해를 넣으면

\vv{e}_5^{\text{갑}} = 0.7^5(1,1) + 0.1^5(1,-1) = (0.168,\ 0.168)

(33)

\vv{e}_5^{\text{을}} = 1.2^5(1,1) + (-0.4)^5(1,-1) = (2.478,\ 2.499)

(34)

가 된다. 갑은 편차가 168원까지 줄고, 을은 2500원 가까이 커진다.

대각합이 무엇을 말했는가. 대각합은 고윳값의 합이다(L21). $0.7 + 0.1 = 0.8$ 이고 $1.2 + (-0.4) = 0.8$ 로 둘 다 같다. 합이 같아도 개별 값은 얼마든지 갈릴 수 있다.

가르는 것은 행렬식이다. $\det M_{\text{갑}} = 0.16 - 0.09 = 0.07$ 이고 $\det M_{\text{을}} = 0.16 - 0.64 = -0.48$ 이다. 고윳값의 곱이 음수면 하나는 음수이고, 합이 0.8이니 다른 하나는 0.8보다 크다.

빠지기 쉬운 곳 — "자기 반응이 1보다 작다"를 안정성으로 읽는 것. 자기 반응은 대각 성분이고, 안정성을 정하는 것은 고윳값이다. 비대각이 충분히 크면 대각이 아무리 작아도 터진다.

회수 : L21 고윳값과 대각합 · L22 $A^k$ 의 거동

53. 센서 둘이 거의 같은 것을 재고 있다 ★★★

상황

설비에 진동 센서 둘을 달았다. 위치가 가까워서 읽는 값이 거의 같다. 다섯 달치 편차 자료가 이렇다.

	1월	2월	3월	4월	5월
센서 1	3	4	0	−4	−3
센서 2	4	3	0	−3	−4

두 센서로 고장 위험을 설명하는 식을 맞췄더니 첫 달에는 계수가 $(1, 1)$ 로 반듯하게 나왔다. 다음 달 자료를 넣었더니 $(2, 0)$ 이 됐다.

담당자가 당황한다. “한 달 만에 2번 센서가 쓸모없어진 겁니까.”

세우기 두 센서의 상관이 0.96이다. 그 사실이 계수의 무엇을 정하는가.

사다리	이 문제에서
① 세로로 세울 것	두 센서의 계수
② 이미 아는 수	정규방정식의 우변
③ 규칙 한 줄	$Z^{\mathsf T}Z\vv{\beta} = Z^{\mathsf T}\vv{y}$
④ 어느 상자	상자 3 (그리고 진단은 상자 5)
⑤ 선대가 답하지 않는 것	어느 센서가 원인인지. 갈라낼 수 없는 것을 갈랐다고 읽으면 안 된다

Z^{\mathsf T}Z = \begin{bmatrix}50&48\\48&50\end{bmatrix}

(35)

(35)의 행렬이 대칭이라 고윳값이 손으로 나온다. $(1,1)$ 에 $50+48 = 98$ , $(1,-1)$ 에 $50-48 = 2$ 다.

\lambda = 98,\ 2 \qquad\Longrightarrow\qquad \sigma(Z) = \sqrt{98} = 7\sqrt2,\ \ \sqrt2

(36)

(36)에서 조건수가 나온다.

\kappa(Z) = \frac{7\sqrt2}{\sqrt2} = 7, \qquad \kappa\!\left(Z^{\mathsf T}Z\right) = 7^2 = 49

(37)

(37)의 제곱 관계가 보강 2에서 본 것이다. 이유는 특이값에 있다.

\sigma_i\!\left(Z^{\mathsf T}Z\right) = \sigma_i(Z)^2 \qquad\Longrightarrow\qquad \kappa\!\left(Z^{\mathsf T}Z\right) = \frac{\sigma_1^2}{\sigma_2^2} = \kappa(Z)^2

(38)

(38)의 관계 때문에 정규방정식을 세우는 순간 조건수가 제곱된다. $Z$ 로는 7배였던 증폭이 $Z^{\mathsf T}Z$ 에서는 49배가 된다.

이제 무슨 일이 있었는지 보인다. 우변이 $(98, 98)$ 에서 $(100, 96)$ 으로 바뀌었다.

\underbrace{b_1 + b_2 : 196 \to 196}_{\text{합은 그대로}} \qquad \underbrace{b_1 - b_2 : 0 \to 4}_{\text{차는 } 4 \text{ 만큼 튀었다}}

(39)

(39)의 대비가 핵심이다. 고유기저로 풀면 왜 그런지 보인다. $Z^{\mathsf T}Z$ 의 고유벡터가 $(1,1)$ 과 $(1,-1)$ 이므로 우변을 그 방향으로 쪼개 각각 고윳값으로 나누면 된다.

\beta_1 + \beta_2 = \frac{b_1+b_2}{98}, \qquad \beta_1 - \beta_2 = \frac{b_1-b_2}{2}

(40)

(40)에서 합은 98로 나뉘고 차는 2로 나뉜다. 우변의 차가 4 흔들리면 계수의 차는 2 흔들리고, 우변의 합이 4 흔들려도 계수의 합은 0.04밖에 안 움직인다. 작은 고윳값 쪽이 49배 예민하다.

\vv{\beta} = (1,1) \ \longrightarrow\ (2,0)

(41)

(41)에서 합 $\beta_1+\beta_2$ 는 2로 그대로이고 차만 벌어졌다.

가운데 그림에서 단위원이 길쭉한 타원으로 간다. 긴 축이 \sigma_1, 짧은 축이
\sigma_2 다. 짧은 축 방향으로는 작은 입력 변화가 큰 계수 변화로 증폭된다. — Figure 4:가운데 그림에서 단위원이 길쭉한 타원으로 간다. 긴 축이 $\sigma_1$ , 짧은 축이 $\sigma_2$ 다. 짧은 축 방향으로는 작은 입력 변화가 큰 계수 변화로 증폭된다.

담당자에게 뭐라고 답하는가. 2번 센서가 쓸모없어진 것이 아니다. 두 센서의 몫을 애초에 갈라낼 수 없었다. 갈라낼 수 있는 것은 합뿐이고, 그 합은 두 달 다 2로 안정적이다.

빠지기 쉬운 곳 — 계수가 흔들리는 것을 보고 "자료가 나쁘다"고 하는 것. 자료는 멀쩡하다. 묻는 방식이 잘못됐다. 갈라낼 수 없는 것을 갈라내라고 요구하면 답은 늘 불안정하다.

회수 : L29 SVD · L33 의사역행렬 · L35 주성분 · L36 조건수

54. 세 시장 다 자기 반응이 같은데 하나만 터진다 ★★★

세우기 대각 성분이 같고 대각합도 같다. 그러면 무엇이 남아 있는가.

사다리	이 문제에서
① 세로로 세울 것	균형에서의 편차, 둘
② 이미 아는 수	조정 규칙 $J$
③ 규칙 한 줄	$d\vv{p}/dt = J\vv{p}$
④ 어느 상자	상자 4
⑤ 선대가 답하지 않는 것	선형화가 균형에서 얼마나 멀리까지 유효한지

$2\times2$ 에서 고윳값은 대각합과 행렬식만으로 정해진다.

\lambda^2 - (\tr J)\lambda + \det J = 0 \qquad\Longrightarrow\qquad \lambda^2 + 4\lambda + \det J = 0

(43)

(43)에서 대각합이 같으니 남은 자유도는 행렬식 하나뿐이다.

\det J_a = 4 - 1 = 3, \qquad \det J_b = 4 + 9 = 13, \qquad \det J_c = 4 - 9 = -5

(44)

(44)의 셋을 (43)에 넣는다. 근의 공식에서 판별식이

\Delta = (\tr J)^2 - 4\det J = 16 - 4\det J

(45)

이므로 (45)의 값이 각각 $16-12=4$ , $16-52=-36$ , $16+20=36$ 이다. 부호가 갈리는 지점이 $\det J = 4$ 이고, 안정과 발산이 갈리는 지점이 $\det J = 0$ 이다.

\lambda_a = -1,\ -3 \qquad \lambda_b = -2 \pm 3i \qquad \lambda_c = 1,\ -5

(46)

(46)의 셋이 완전히 다른 이야기를 한다.

$a$ — 실수 음수 둘. 단조로 잦아든다.
$b$ — 실부가 -2 인 켤레복소. 나선을 그리며 잦아든다. 회전 주기는 $2\pi/3 \approx 2.09$ 다.
$c$ — 하나가 +1 이다. 발산한다.

셋 다 대각이 (-2,-2) 이고 대각합이 -4 다. 그런데 흐름이 전혀 다르다.
가르는 것은 행렬식이고, 그것이 비대각의 곱에 들어 있다. — Figure 5:셋 다 대각이 $(-2,-2)$ 이고 대각합이 -4 다. 그런데 흐름이 전혀 다르다. 가르는 것은 **행렬식**이고, 그것이 비대각의 곱에 들어 있다.

담당자가 놓친 것. 연속시간의 안정 조건은 모든 고윳값의 실부가 음수다. $2\times2$ 에서는 그것이 다음과 같다.

\tr J < 0 \quad\text{그리고}\quad \det J > 0

(47)

(47)의 두 조건이 다 필요하다. 담당자는 앞의 하나만 봤고, $J_c$ 는 뒤의 조건에서 걸린다.

한걸음 더 — 이산이면 조건이 또 다르다. $\vv{x}_{t+1} = A\vv{x}_t$ 의 조건은 $\lvert\lambda\rvert < 1$ 이고, 연속의 $\operatorname{Re}\lambda < 0$ 과 모양이 다르다. 복소평면에서 하나는 원 안이고 하나는 왼쪽 반평면이다. 상황에서 그 차이가 결론을 뒤집는 경우를 본다.

회수 : L21 고윳값 · L23 $e^{At}$ · L25 대칭 · L26 복소 고윳값

55. 앞으로 굴리면 반드시 폭발하는 계획 ★★★

상황

세 부문 생산계획을 세우는 프로그램이 있다. 원래는 $(I-A)\vv{x} = \vv{d}$ 를 한 번에 풀었는데, 새 담당자가 “앞으로 굴리는” 방식으로 바꿨다. 다음 기 생산을 이번 기에서 추정해 나가는 방식이다.

식을 정리하면 $\vv{x}_{t+1} = M\vv{x}_t - B^{-1}\vv{c}$ 이고, 조정 계수를 $B = 0.5I$ 로 두면

M = 3I - 2A = \begin{bmatrix}2&-0.2&-0.6\\-0.4&2&-0.2\\-0.2&-0.4&2.2\end{bmatrix}

(48)

담당자가 열 기간을 돌려 보고 놀란다. “생산량이 30배 가까이 부풀었습니다. 조정 계수를 키우면 잡히겠죠?”

세우기 원래 계는 $\rho(A) = 0.8$ 로 멀쩡했다. 앞으로 굴리는 순간 무엇이 달라졌는가.

사다리	이 문제에서
① 세로로 세울 것	기간별 생산량
② 이미 아는 수	투입계수 $A$ 와 조정 계수 $\beta$
③ 규칙 한 줄	$\vv{x}_{t+1} = M\vv{x}_t + \text{상수}$
④ 어느 상자	상자 4
⑤ 선대가 답하지 않는 것	이 방식을 왜 골랐는지. 계산 편의가 안정성을 사지 못한다

고윳값이 어떻게 옮겨 갔는지 보자. $M = 3I - 2A$ 이므로 $A\vv{v} = \lambda\vv{v}$ 이면

M\vv{v} = (3 - 2\lambda)\vv{v} \qquad\Longrightarrow\qquad \mu = 3 - 2\lambda

(49)

(49)의 사상이 고유벡터는 그대로 두고 고윳값만 옮기는 사상이다. $A$ 의 고윳값이 $0.8,\ 0.3\pm0.1i$ 였으므로

\mu = 1.4,\quad 2.4 \mp 0.2i \qquad\Longrightarrow\qquad \lvert\mu\rvert = 1.4,\quad 2.408

(50)

이다. (50)의 셋 다 단위원 밖이다. 발산이 확정이다.

담당자의 "30배"는 절반만 맞다. $1.4^{10} = 28.9$ 는 가장 느린 성분이고, 지배하는 성분은

2.408^{10} = 6{,}564

(51)

로 (51)의 값이 실제 폭발 규모다. 열 기간이면 6천 배다. 30배로 끝난 것은 초기 조건이 느린 고유벡터 쪽에 치우쳐 있었기 때문이고, 조금만 더 돌리면 드러난다.

조정 계수를 키우면 잡히는가. $B = \beta I$ 로 두면

\mu = 1 + \frac{1-\lambda}{\beta}

(52)

이다. (52)의 식을 실수 고윳값에 대해 보면 결론이 바로 나온다.

\mu - 1 = \frac{1-\lambda}{\beta} \qquad\Longrightarrow\qquad \lambda < 1 \ \text{ 이고 } \ \beta > 0 \ \Longrightarrow\ \mu > 1

(53)

(53)의 오른쪽이 $\beta$ 와 무관하다. $\beta$ 를 키우면 $\mu$ 가 1에 가까워질 뿐 1 아래로는 못 내려간다.

$\beta$	$\mu$ 의 절댓값
0.5	$1.4,\ 2.408$
2	$1.10,\ 1.354$
10	$1.02,\ 1.071$

어떤 $\beta$ 로도 안 잡힌다. 이 방식 자체가 틀렸다.

안장경로 — “수렴하는 초기값을 찾으면 되지 않나”

$\mu$ 중 일부가 1 안쪽이면 그 고유벡터 방향으로 출발했을 때는 수렴한다. 그 방향을 안장경로라 부른다.

예로 $J = \begin{bmatrix}3.5&-1.5\\3&-1\end{bmatrix}$ 은 고윳값이 2 와 0.5 이고 0.5 에 붙은 고유벡터가 $(1,2)$ 다. 정확히 $(1,2)$ 방향으로 출발하면 수렴한다.

그런데 초기값을 $(1,2) + \varepsilon(1,1)$ 로 아주 조금만 어긋나게 잡으면, 스무 기 뒤에 수렴 성분은 $0.5^{20} = 9.5\times10^{-7}$ 로 사라지고 발산 성분은 $\varepsilon \cdot 2^{20}$ 으로 부푼다. $\varepsilon = 10^{-6}$ 이면 그 값이 1.05 다.

반올림 오차만으로도 안장경로에서 밀려난다. 종이 위에서만 되는 방법이다.

회수 : L21 고윳값 · L22 $A^k$ · L23 안정성 · L28 유사변환

56. 잔차가 딱 직교하는데 왜 숫자를 못 믿는가 ★★★

세우기 잔차가 직교하는 것은 사실이다. 그런데 그 사실이 무엇을 보증하는가.

사다리	이 문제에서
① 세로로 세울 것	속도의 계수 하나
② 이미 아는 수	사용량
③ 규칙 한 줄	관측 하나마다 한 줄, 네 줄
④ 어느 상자	상자 3
⑤ 선대가 답하지 않는 것	직교는 계산이 강제한 것이지 확인된 가정이 아니다

먼저 참값을 알고 시작하자(현실에서는 모른다). 속도 편차 $\vv{x} = (3,1,-1,-3)$ , 숨은 요인 $\vv{v} = (1,-1,1,-1)$ 에 대해 참 관계가 $\vv{y} = 2\vv{x} + \vv{v}$ 라 하자.

\vv{y} = (7,\ 1,\ -1,\ -7)

(54)

통상 계산을 하면

\hat\beta = \frac{\vv{x}^{\mathsf T}\vv{y}}{\vv{x}^{\mathsf T}\vv{x}} = \frac{44}{20} = 2.2

(55)

이다. (55)의 값이 참값 2보다 0.2 위다. 왜인가.

\hat\beta = \frac{\vv{x}^{\mathsf T}(2\vv{x} + \vv{v})}{\vv{x}^{\mathsf T}\vv{x}} = 2 + \frac{\vv{x}^{\mathsf T}\vv{v}}{\vv{x}^{\mathsf T}\vv{x}} = 2 + \frac{4}{20} = 2.2

(56)

(56)에서 $\vv{x}^{\mathsf T}\vv{v} = 4 \ne 0$ 이 편의의 정체다. 설명변수가 숨은 요인과 상관돼 있다.

어떻게 고치는가. 요금제 $\vv{z} = (1,1,-1,-1)$ 을 쓴다. 이것은 속도와는 상관되지만 숨은 요인과는 상관이 없다.

\vv{z}^{\mathsf T}\vv{x} = 8, \qquad \vv{z}^{\mathsf T}\vv{y} = 16 \qquad\Longrightarrow\qquad \hat\beta_{\text{IV}} = \frac{16}{8} = 2.0

(58)

(58)의 계산이 참값을 되찾는다. 왜 그런지는 (56)의 전개와 같은 방식으로 풀면 나온다.

\hat\beta_{\text{IV}} = \frac{\vv{z}^{\mathsf T}(2\vv{x}+\vv{v})}{\vv{z}^{\mathsf T}\vv{x}} = 2 + \frac{\vv{z}^{\mathsf T}\vv{v}}{\vv{z}^{\mathsf T}\vv{x}}

(59)

(59)의 둘째 항이 0이 되려면 $\vv{z}^{\mathsf T}\vv{v} = 0$ 이어야 한다. 여기서는 $\vv{z} = (1,1,-1,-1)$ 과 $\vv{v} = (1,-1,1,-1)$ 의 내적이 $1-1-1+1 = 0$ 이라 성립한다.

도구가 갖춰야 할 두 조건이 여기 다 있다. 숨은 요인과는 직교하고( $\vv{z}\perp\vv{v}$ ), 설명변수와는 직교하지 않아야 한다( $\vv{z}^{\mathsf T}\vv{x} \ne 0$ ).

두 단계로 나눠도 같다. 먼저 속도를 요금제 위로 사영하면 $\hat{\vv{x}} = (2,2,-2,-2)$ 이고, 그것으로 사용량을 재면 $32/16 = 2.0$ 이다. 두 번의 투영이다(상황의 FWL과 같은 구조).

도구를 아무거나 쓰면 되는가. $\vv{z}' = (1,-1,-1,1)$ 을 써 보면

\vv{z}'^{\mathsf T}\vv{x} = 3 - 1 + 1 - 3 = 0

(60)

으로 (60)의 내적이 0이라 나눗셈 자체가 불가능하다. 도구가 설명변수와 상관이 없으면 아무 정보도 못 준다.

빠지기 쉬운 곳 — 최소제곱이 보장하는 것과 확인해야 하는 것을 섞는 것. 보장되는 것은 잔차가 열공간에 수직이라는 것뿐이다. 확인해야 하는 것은 열공간 밖에 숨은 것이 설명변수와 상관되지 않았다는 것이고, 그것은 자료가 아니라 상황에 대한 지식으로만 판단할 수 있다.

회수 : L08 해집합 · L15 투영 · L16 최소제곱 · L36 조건수

57. 두 표는 고윳값이 같으니 같은 표라고 해도 되는가 ★★☆

세우기 고윳값이 같은 것은 사실이다. 왜 같은가, 그리고 무엇이 다른가.

사다리	이 문제에서
① 세로로 세울 것	판정할 것은 두 표의 관계
② 이미 아는 수	중간거래표 $Z$ 와 총산출 $\vv{x}$
③ 규칙 한 줄	두 표의 정의
④ 어느 상자	상자 4 (스펙트럼을 본다)
⑤ 선대가 답하지 않는 것	어느 표가 경제적으로 옳은지. 그건 무엇을 묻느냐에 달렸다

두 표를 이어 보면 관계가 바로 나온다.

B = \hat{x}^{-1}Z = \hat{x}^{-1}\left(A\hat{x}\right) = \hat{x}^{-1}A\hat{x}

(62)

(62)의 관계가 유사변환이다(L28). 그러니 고윳값이 같은 것은 우연이 아니라 정의에서 따라 나오는 것이고, 연구원이 소수점까지 같다고 놀랄 일이 아니다.

그런데 유사변환은 성분을 옮긴다. 실제로 계산하면

A = \begin{bmatrix}0.5&0.1&0.3\\0.2&0.5&0.1\\0.1&0.2&0.4\end{bmatrix}, \qquad B_{12} = \frac{32}{420} = \frac{8}{105} = 0.0762

(63)

로 (63)에서 $A_{12} = 0.1$ 과 다르다. 대각만 겹치고 나머지는 다르다.

더 중요한 것이 있다. $A$ 의 열 합이 전부 0.8 로 균일했다. 그것이 "1원어치를 만드는 데 0.8원이 든다"는 뜻이었다. $B$ 의 행 합을 재 보면

\left(\tfrac{16}{21},\ \tfrac{27}{32},\ \tfrac{21}{26}\right) = (0.762,\ 0.844,\ 0.808)

(64)

로 (64)의 값이 균일하지 않다.

스펙트럼은 보존되고 합계의 균일성은 보존되지 않는다.

유사변환이 무엇을 지키는지는 특성다항식으로 바로 나온다.

\det\!\left(\hat{x}^{-1}A\hat{x} - \lambda I\right) = \det\!\left(\hat{x}^{-1}(A - \lambda I)\hat{x}\right) = \det(A - \lambda I)

(65)

(65)의 등식에서 $\det\hat{x}^{-1}\cdot\det\hat{x} = 1$ 이 상쇄됐다. 특성다항식이 같으니 고윳값, 대각합, 행렬식, 랭크가 전부 같다. 지키지 않는 것은 성분, 행·열의 합, 대칭성, 노름이다.

두 표로 계산할 수 있는 것 중 고윳값에만 의존하는 것(수렴 여부, 총승수)은 같은 답을 준다. 성분에 의존하는 것(어느 부문이 어느 부문에 얼마나 기대는가)은 다른 답을 준다.

그러니 연구원의 결론은 절반만 맞다. " $\rho$ 가 같으니 둘 다 수렴한다"는 맞고, "어느 쪽을 써도 결과가 같다"는 틀렸다.

빠지기 쉬운 곳 — 고윳값을 행렬의 요약으로 여기는 것. 요약은 맞지만 되돌릴 수 있는 요약이 아니다. 같은 스펙트럼을 갖는 행렬이 무수히 많고, 유사변환이 그 무수히 많음을 만든다.

회수 : L03 역행렬 · L21 고윳값 · L28 유사변환

58. 이 공장은 요소 값이 변하면 정말 배합을 바꿀 수 있는가 ★★★

세우기 둘째 물음부터 답해야 한다. 이 표가 표로서 갖춰야 할 성질이 무엇인가.

사다리	이 문제에서
① 세로로 세울 것	요소별 투입 변화
② 이미 아는 수	요소 값, 현재 투입, 반응표
③ 규칙 한 줄	값이 같은 비율로 오르면 배합이 안 바뀐다
④ 어느 상자	상자 5
⑤ 선대가 답하지 않는 것	표를 어떻게 추정했는지. 대칭·영공간은 검증이지 보장이 아니다

표가 갖춰야 할 성질 셋을 확인한다.

하나, 대칭. $M = M^{\mathsf T}$ 인가. 성분을 보면 그렇다. 상황에서 본 것과 같은 이유로 이 대칭성은 이론이 요구하는 것이고, 관측표가 아니라 보정된 표에서만 성립한다.

둘, 영공간에 값벡터가 있는가.

M\vv{w} = \begin{bmatrix}-4+4+0\\2-10+8\\0+8-8\end{bmatrix} = \vv{0}

(67)

(67)의 등식이 성립한다. 모든 값이 같은 비율로 오르면 배합이 안 바뀐다는 경제학의 문장이 그대로 확인됐다.

셋, 준음정부호인가. 고윳값을 구한다. 대각합이 -13 이고 2차 주소행렬식의 합이 $16 + 16 + 4 = 36$ 이며 행렬식이 0이므로

\lambda^3 + 13\lambda^2 + 36\lambda = \lambda(\lambda+4)(\lambda+9) = 0 \qquad\Longrightarrow\qquad \lambda = 0,\ -4,\ -9

(68)

이다. (68)의 셋이 전부 0 이하라 준음정부호다. 세 성질을 다 통과했다.

이제 첫째 물음. $\rank M = 2 = n - 1$ 이다. 영공간이 딱 1차원이고 그것이 값벡터 방향이므로, 그 방향을 뺀 모든 방향으로 반응할 수 있다. 가장 유연한 경우다.

성분을 읽으면 더 구체적이다.

M_{13} = 0 \qquad\Longrightarrow\qquad \text{노동과 에너지는 서로 대체하지 않는다}

(69)

M_{23} = 4 \qquad\Longrightarrow\qquad \text{자본과 에너지는 강하게 대체한다}

(70)

(69)의 값과 (70)의 값을 그대로 비교할 수는 없다. 단위가 다르기 때문이다. 크기를 지우려면 투입량과 총비용으로 정규화한다. 총비용은

c = \vv{w}^{\mathsf T}\vv{x} = 1(12) + 2(8) + 2(6) = 40

(71)

이고, (71)의 값으로 나누면

\sigma_{ij} = \frac{c\,M_{ij}}{x_ix_j} \qquad\Longrightarrow\qquad \sigma_{12} = \frac56, \quad \sigma_{13} = 0, \quad \sigma_{23} = \frac{10}{3}

(72)

이다. 에너지 값이 오르면 자본으로 갈아탈 수 있다((72)의 $\sigma_{23} = 3.33$ ). 노동으로는 못 갈아탄다.

한걸음 더 — 꿈쩍하지 않는 공장은 어떻게 생겼는가. $M = 0$ 이면 랭크 0이고 어떤 값 변화에도 배합이 안 바뀐다. 요소를 고정 비율로만 쓰는 공정이 그렇다. 그 사이의 랭크 1도 있다. 랭크가 유연성의 척도다.

빠지기 쉬운 곳 — 세 성질을 통과했다고 표가 옳은 것은 아니다. $M\vv{w} = \vv{0}$ 과 대칭성은 추정 과정에서 강제로 넣을 수도 있는 것이다. 상황의 대칭 사영이 정확히 그 일을 했다. 통과가 검증이 되려면 강제하지 않고도 통과했는지를 알아야 한다.

회수 : L09 독립 · L10 랭크와 영공간 · L25 대칭 · L27 준정부호

코다 · 표시가 없다¶

마지막 두 문제다. 막도 상자도 적혀 있지 않다.

59. ★★★

사다리	이 문제에서
① 세로로 세울 것	라인별 출동 횟수 $\vv{x}$ , 셋
② 이미 아는 수	공정마다 한 번씩, $\vv{b} = (1,1,1)$
③ 규칙 한 줄	공정 하나마다 한 줄, 세 줄이고 셋 다 독립
④ 어느 상자	상자 1
⑤ 선대가 답하지 않는 것	답이 정수여야 한다는 것. 그건 계 밖의 요구다

행을 공정으로 잡으면 이렇게 된다.

M\vv{x} = \vv{b}, \qquad M = \begin{bmatrix}1&0&1\\1&1&0\\0&1&1\end{bmatrix}, \qquad \vv{b} = (1,1,1)

(73)

(73)의 행렬식이 $\det M = 2$ 다. 가역이므로 답이 하나뿐이고

\vv{x} = M^{-1}\vv{b} = \left(\tfrac12,\ \tfrac12,\ \tfrac12\right)

(74)

이다. 프로그램은 멀쩡하다. (74)의 답이 유일한 답이고 정수해는 없다.

어제와 무엇이 달랐는가. 크래머 공식(L20)으로 보면 분모가 $\det M$ 이다.

x_j = \frac{\det M_j}{\det M}

(75)

(75)의 분자는 정수 행렬의 행렬식이라 늘 정수다. 그러니

\det M = \pm 1 \qquad\Longrightarrow\qquad \vv{x} \text{ 가 정수}

(76)

가 (76)처럼 따라 나온다. 우변이 어떤 정수 벡터든 그렇다. 곧 모든 정사각 부분행렬의 행렬식이 $0, \pm1$ 뿐인 행렬이면 어떤 정수 우변에도 정수해가 나온다. 그런 행렬을 완전단모듈이라 한다.

이 $M$ 의 부분행렬식을 전부 세면 $\{-1, 0, 1, 2\}$ 가 나온다. 2가 있어서 완전단모듈이 아니다.

어디서 2가 오는가. 삼각형은 길이 3인 홀수 사이클이다. 사이클을 한 바퀴 돌며 $+1, -1$ 을 번갈아 붙이려 하면 홀수라서 마지막에 맞아떨어지지 않는다.

4-사이클로 바꿔 보면 부분행렬식이 $\{-1, 0, 1\}$ 뿐이고 완전단모듈이다.

그래서 담당자는 무엇을 해야 하는가. 0.5회는 실행할 수 없으므로 정수 제약을 명시적으로 넣어야 하고, 그 순간 정수계획이 되어 이 책 밖이다. 답을 세어 보자. 라인 하나로는 공정 둘밖에 못 덮으므로 셋을 덮으려면 둘이 필요하고,

\text{정수 최적} = 2 \times 30 = 60, \qquad \text{선형계} = \vv{1}^{\mathsf T}\vv{x}\times 30 = 1.5 \times 30 = 45

(77)

(77)의 두 값이 다르다.

그 차이 15만원이 "정수여야 한다"는 요구의 값이다. 선형계가 낸 45만원은 닿을 수 없는 아래 한계이지 실행 가능한 계획이 아니다.

회수 : L12 결합행렬 · L18 행렬식 · L19 여인수 · L20 크래머

60. ★★★

사다리	이 문제에서
① 세로로 세울 것	두 공정의 재고 편차
② 이미 아는 수	조정 규칙 $A$
③ 규칙 한 줄	이산이면 $\vv{x}_{t+1} = A\vv{x}_t + \vv{d}$ , 연속이면 $d\vv{x}/dt = (A-I)\vv{x} + \vv{d}$
④ 어느 상자	상자 4
⑤ 선대가 답하지 않는 것	현실이 이산인지 연속인지. 그건 공정이 정하지 계가 정하지 않는다

고윳값부터 구한다. $A$ 가 대칭이라 손으로 나온다.

\lambda = -0.5 \pm 1 = 0.5,\ -1.5

(79)

이제 두 조건을 나란히 놓는다.

\text{이산} : \max_i \lvert\lambda_i\rvert < 1 \qquad\qquad \text{연속} : \max_i \operatorname{Re}\lambda_i < 1

(80)

(80)의 두 조건이 복소평면에서 모양이 다르다. $\lambda = a + bi$ 로 적으면

\text{이산} : a^2 + b^2 < 1 \qquad\qquad \text{연속} : a < 1

(81)

이다. (81)의 왼쪽은 원 안이고 오른쪽은 수직선 왼쪽 전체다. 원은 수직선 왼쪽에 통째로 들어가므로, 이산이 수렴하면 연속도 반드시 수렴한다. 반대는 성립하지 않는다. 그 틈에 이 문제가 놓여 있다.

\lvert-1.5\rvert = 1.5 > 1 \qquad\Longrightarrow\qquad \text{이산은 발산}

(82)

\operatorname{Re}(0.5) = 0.5 < 1, \quad \operatorname{Re}(-1.5) = -1.5 < 1 \qquad\Longrightarrow\qquad \text{연속은 수렴}

(83)

두 보고서가 다 옳다. (82)의 결론과 (83)의 결론이 서로 모순이 아니다.

$\vv{d} = (1,1)$ 이면 고정점이 $\vv{x}^{*} = (2,2)$ 다. 초기 편차 $(2,0)$ 에서 출발해 실제로 따라가 보면

	이산 (주)	연속 (같은 시간)
$t=1$	거리 2.00	거리 0.689
$t=2$	거리 2.50	거리 0.375
$t=4$	거리 5.13	거리 0.147
$t=8$	거리 25.63	거리 0.021

여덟 주에 열두 배라는 첫 보고서가 맞고, 둘째도 맞다.

어느 쪽이 옳은 모형인가. 그것은 선형대수가 답하지 않는다. 공정이 실제로 주 단위로 계획을 고치면 이산이고, 연속으로 흘러가면 연속이다. 현장에 가서 봐야 하는 물음이다.

회수 : L21 고윳값 · L22 $A^k$ · L23 $e^{At}$ · L25 대칭

이 편의 회수표¶

문제	현실의 말	선형대수의 말	상자	회수
47	표가 대칭이 아니다	$D = S - (\partial\vv{x}/\partial m)\vv{x}^{\mathsf T}$	5	L06 L14 L25 L27
48	어느 시험이 크게 기여했나	$h_{ii}$ , $\sum h_{ii} = \rank$	3	L09 L10 L15 L16
49	마지막이 0인데 괜찮나	선행만으로는 준정부호를 못 잰다	5	L18 L19 L27
50	봉우리인가, 가 봤나	$\lambda(B)$ 와 실험 범위	1·5	L06 L16 L20 L21 L25 L27
51	열 합이 1을 넘는다	호킨스-사이먼, $\rho(A)$	5	L18 L19 L21 L27
52	대각합이 같다	$\det$ 가 가른다	4	L21 L22
53	계수가 한 달 만에 뒤집혔다	$\kappa(Z)=7$ , $\kappa(Z^{\mathsf T}Z)=49$	3·5	L29 L33 L35 L36
54	자기 반응이 같은데 하나만 터진다	$\tr<0$ 그리고 $\det>0$	4	L21 L23 L25 L26
55	앞으로 굴리니 폭발한다	$\mu = 3-2\lambda$ , 안장경로	4	L21 L22 L23 L28
56	잔차가 직교하는데 왜	직교는 계산이 강제한 것	3	L08 L15 L16 L36
57	고윳값이 같으니 같은 표인가	유사변환은 성분을 옮긴다	4	L03 L21 L28
58	이 표를 믿어도 되나	대칭·영공간·준정부호 셋	5	L09 L10 L25 L27
59	왜 0.5회가 나오나	완전단모듈과 홀수 사이클	1	L12 L18 L19 L20
60	두 보고서가 반대다	$\lvert\lambda\rvert<1$ 과 $\operatorname{Re}\lambda<1$	4	L21 L22 L23 L25

경제 7문제, 산업공학 7문제다.

예순 문제가 서른일곱 강의를 어떻게 되짚었나¶

세 편의 회수표를 그대로 세어 그린 것이다. 손으로 적은 숫자가 아니라
원고에서 읽어 온 것이라, 문제를 고치면 그림도 따라 바뀐다. — Figure 6:세 편의 회수표를 그대로 세어 그린 것이다. 손으로 적은 숫자가 아니라 원고에서 읽어 온 것이라, 문제를 고치면 그림도 따라 바뀐다.

몇 가지가 눈에 띈다.

L03(역행렬)이 가장 많이 불렸다. 레온티예프 역행렬, 기본행렬, 잠재가격, 승수 — 전부 $(I - \text{무언가})^{-1}$ 이었다.

L07(피벗과 자유변수)과 L09(독립)가 그다음이다. 답이 하나로 안 정해지는 상황이 현실에 그만큼 흔하다는 뜻이다.

그리고 한 번도 안 불린 강의가 있다. L13과 L32는 중간 정리라 그 자체로 회수할 도구가 없으니 당연하다. 그런데 L31(기저 변환과 영상 압축) 과 L37(그래프 라플라시안) 은 다르다.

예순 문제 전체 색인¶

편	막	번호	하는 일
보강 4-1	1막	1–10	받아 적는다 — 이름 붙은 양을 세로로 세운다
	2막	11–22	옮겨 적는다 — 되먹임·조정·적합을 등식으로
	코다	23–24	표시 없음 (하나는 상자 0)
보강 4-2	3막	25–34	미지수를 만든다 — 없던 미지수를 발명한다
	4막	35–44	기준을 만든다 — 무엇을 최소로 할지 정한다
	코다	45–46	표시 없음
보강 4-3	5막	47–58	의심한다 — 함께 옳아야 하는 것을 나열한다
	코다	59–60	표시 없음

여러 번 나온 장면¶

같은 숫자가 여러 막에서 다시 나왔다. 장면이 도구를 정하는 것이 아니라 물음이 정한다는 것을 보이기 위해서였다.

장면	나온 곳	매번 무엇을 물었나
3부문 산업연관표	1, 11, 38, 51, 57	푼다 → 급수 → 최소노름 → 성립하는가 → 유사변환
유리 새시 공장	26, 27, 28	여유변수 → 축 교환 → 쌍대
광고비와 매출	18, 41	갈라낼 수 있나 → 통제란 무엇인가
$\vv{1}\vv{1}^{\mathsf T}$ 꼴	2, 3, 47, 49	값 → 수량 → 슬러츠키 → 준정부호

마치며...¶

세 편에 걸쳐 예순 문제를 옮겨 적었다. 마지막 막에서 배운 것을 한 줄씩 적어 둔다.

먼저 눈에 들어오는 요약은 대개 다른 것을 답한다. 대각합은 고윳값의 합이지 안정성이 아니고(상황, 상황), 선행 주소행렬식은 정부호를 판정하지 준정부호를 판정하지 않는다(상황).
계산이 강제한 것과 확인된 것은 다르다. 최소제곱의 잔차가 직교하는 것은 계산의 정의이지 모형의 증거가 아니다(상황).
충분조건을 필요조건으로 쓰면 멀쩡한 것을 반려한다(상황).
같은 계도 갱신 방식이 다르면 결론이 반대가 될 수 있다(상황).
갈라낼 수 없는 것을 갈라내라고 요구하면 답은 늘 불안정하다(상황).

그리고 이 다섯 줄을 관통하는 한 문장이 있다.

답이 나왔다는 것과 답이 뜻을 갖는다는 것은 다른 일이다.

그리고 문제편이 끝난다¶

보강 4를 시작할 때 이렇게 적었다. “핵심은 문제를 푸는 법이 아니라, 상황을 보고 이것이 $A\vv{x}=\vv{b}$ 임을 알아채는 법이다.”

예순 번 사다리를 채웠다. 그때마다 같은 다섯 칸이었다.

세로로 세울 것은 무엇인가
이미 아는 수는 무엇인가
둘을 잇는 규칙 한 줄은 무엇인가, 몇 줄인가, 독립인 것은 몇 줄인가
이것은 여섯 상자 중 어디인가
선형대수가 답하지 않는 것은 무엇인가

첫째 칸에서 막힌 적이 많았다. 미지수가 이름을 갖고 있지 않아서 상황에서는 게임의 값을, 상황에서는 노는 시간을, 상황에서는 배율을 직접 만들어야 했다.

넷째 칸에서는 상자 0을 두 번 만났다. 상황의 주문량과 상황의 정수 요구다. 선형대수가 아니라는 것을 알아채는 것도 번역의 일부였다.

그리고 다섯째 칸이 예순 번 반복됐다. 부호, 인과, 외삽, 정수성, 시간의 이산성, 표본으로 추정한 표. 이것들이 예외가 아니라 규칙이라는 것을 보이려는 것이 이 문제집의 목적이었다.

서른네 편의 본편과 세 편의 보강편, 그리고 세 편의 문제편이 지났다.

책의 앞부분에서 우리는 행렬이 주어진 뒤의 이야기를 했다. 푸는 법, 분해하는 법, 무너지는 자리. 뒷부분에서는 방향을 뒤집어 행렬이 놓이기 전의 이야기를 했다. 표와 문서와 사람의 말에서 행렬을 꺼내는 일이다.

두 방향을 다 걸어 봤으면 이제 혼자 걸을 수 있다.

세상은 정리된 행렬로 오지 않는다. “옆집 값을 모르면 우리 값을 못 정하겠는데요” 같은 문장으로 온다. 그 문장을 듣고 종이에 세로줄 하나를 긋는 일, 그것이 이 책이 마지막으로 가르치려 한 것이다.

긴 여정에 함께해 주어 고맙습니다.

이번 글의 내용을 파이썬으로 확인해 보려면 보강 4-3 실습 노트북으로 넘어가면 된다. 열넷의 답을 전부 검산하고, 대각합이 같은 세 행렬이 어떻게 갈리는지 직접 돌려 보고, 같은 표를 이산과 연속으로 굴렸을 때 결론이 반대가 되는 것을 확인할 수 있다. 마지막 셀은 예순 문제 전체의 회수 지도를 원고에서 직접 읽어 찍는다.