Lecture 18. 행렬식의 성질

L9에서 세 벡터가 만드는 평행육면체를 슬라이더로 눌러 납작하게 만들어 보았다. 도형이 완전히 평평해지는 순간 어떤 숫자가 0이 되는 것을 확인했는데, 그때는 그 숫자를 그냥 det 라고 부르고 지나갔다. 이제 그 빚을 갚을 차례이다.

그런데 행렬식을 배우려고 하면 곧 열 개가 넘는 성질의 목록을 만나게 된다. 행을 바꾸면 부호가 바뀌고, 같은 행이 둘이면 0이 되고, 삼각행렬이면 대각을 곱하면 되고, 소거해도 변하지 않고. 이것을 다 외워야 하는가.

외울 필요가 없다. 열 개가 넘는 성질이 전부 단 세 개의 규칙에서 흘러나온다. 이번 강의의 목표는 성질을 아는 것이 아니라 세 개에서 열 개가 나오는 과정을 직접 따라가는 것이다.

1. 세 개의 공리¶

행렬식을 정의하라고 하면 무엇부터 정해야 하는가. 정사각행렬 $A$ 에 수 하나를 붙이는 규칙을 만들되, 세 가지만 정하면 나머지가 전부 따라온다.

2. 세 개에서 흘러나오는 것들¶

세 개로 정말 충분한지 하나씩 확인하자. 각 유도는 두세 줄이면 끝난다.

성질 1 — 같은 행이 둘이면 0¶

두 행이 같은 행렬 $A$ 에서 그 두 행을 맞바꿔 보자. 행렬은 그대로이므로 행렬식도 그대로인데, 공리 ②에 의해 부호가 바뀌어야 한다.

성질 2 — 0인 행이 있으면 0¶

공리 ③의 첫 식에서 $t = 0$ 으로 두면 된다. 어떤 행이 영벡터이면 그 행을 $0 \cdot \vv{r}$ 로 볼 수 있고, 밖으로 나온 0이 전체를 0으로 만든다.

성질 3 — 소거해도 변하지 않는다¶

$i$ 행의 $t$ 배를 $j$ 행에 더하는 연산을 생각하자. 공리 ③의 두 번째 식으로 쪼개면

이 되는데, 오른쪽 두 번째 행렬은 $i$ 행과 $j$ 행이 같으므로 성질 1에 의해 0이다. 따라서 첫 항만 남는다.

성질 4 — 특이하면 0¶

$A$ 가 특이하면 랭크가 $n$ 보다 작으므로 소거하면 0인 행이 생긴다(L7). 소거는 행렬식을 바꾸지 않고(성질 3), 0인 행이 있으면 0이므로(성질 2) 결론이 나온다.

성질 5 — 삼각행렬이면 대각의 곱¶

상삼각행렬 $U$ 를 보자. 먼저 대각 성분이 전부 0이 아닌 경우이다.

$3 \times 3$ 으로 직접 해 보자. 아래쪽은 이미 0이니 손댈 것이 없고, 위쪽만 지우면 된다.

3행의 $u_{23}/u_{33}$ 배를 2행에서 빼면 $u_{23}$ 이 지워진다. 3행의 $u_{13}/u_{33}$ 배를 1행에서 빼면 $u_{13}$ 이 지워진다. 마지막으로 2행의 $u_{12}/u_{22}$ 배를 1행에서 빼면 $u_{12}$ 가 지워진다. 세 번 모두 다른 행의 배수를 더하는 연산이므로 성질 3에 의해 행렬식이 한 번도 변하지 않는다.

이제 공리 ③의 첫 식을 쓴다. 다만 한 행씩 세 번 써야 한다. 공리 ③은 한 행에 대한 규칙이지 행렬 전체에 대한 규칙이 아니기 때문이다.

공리 ①로 $\det I = 1$ 이므로 $\det U = u_{11}u_{22}u_{33}$ 이다. $n \times n$ 에서도 소거를 $\binom{n}{2}$ 번, 대각 빼내기를 $n$ 번 하면 똑같이 끝난다.

남은 것은 대각에 0이 있는 경우이다. 이때는 위의 소거를 할 수 없으니 따로 봐야 한다. $u_{kk} = 0$ 이라 하자. $U$ 의 앞 $k$ 개 열을 보면, $j \le k$ 인 $j$ 열은 위에서 $j$ 번째 성분까지만 0이 아니고 그 아래는 전부 0이다. 그런데 $k$ 열은 $k$ 번째 성분마저 0이므로 $k-1$ 번째 성분까지만 살아 있다. 곧 $k$ 개의 열이 모두 $\vv{e}_1, \dots, \vv{e}_{k-1}$ 이 치는 $k-1$ 차원 공간 안에 들어간다. $k$ 개의 벡터가 $k-1$ 차원 안에 있으니 L9에 의해 종속이고, $U$ 는 특이하다.

특이하므로 성질 4에 의해 $\det U = 0$ 이다. 그런데 대각의 곱도 $u_{kk} = 0$ 을 포함하니 0이다. 양쪽이 다 0이라 (8)의 식이 이 경우에도 그대로 성립한다.

세 개가 정말 값을 정하는가¶

$2 \times 2$ 로 확인해 보자. 공리 ③이 한 행에 대한 규칙이므로, 한 행씩 두 번에 걸쳐 쪼개야 한다. 한꺼번에 하는 것이 아니다.

첫 행을 좌표축 방향으로 나눈다.

공리 ③을 첫 행에만 적용한다. 둘째 행 $(c, d)$ 는 그대로 매달고 간다.

항이 둘이 되었다. 이제 각 항의 둘째 행에 같은 일을 한다. 이번에는 첫 행이 고정이다.

두 결과를 (10)의 자리에 도로 넣으면 항이 넷이 된다. 행이 둘이고 각각 두 갈래로 갈라졌으니 $2 \times 2 = 4$ 이다.

이제 네 행렬의 행렬식을 하나씩 따진다. 넷 다 성분이 0 아니면 1인 행렬이라 공리만으로 값이 정해진다.

살아남은 두 항만 적으면 끝이다.

익숙한 공식이 세 개의 공리에서 나왔다. 외운 것이 아니라 유도된 것이다.

3. 곱과 전치¶

두 가지가 더 필요하다. 둘 다 뒤에서 거듭 쓰이므로 여기서 제대로 증명해 둔다.

곱의 행렬식은 행렬식의 곱이다¶

이 등식은 성분을 늘어놓고 확인할 수 있는 종류가 아니다. $3 \times 3$ 만 해도 양변이 각각 여섯 항이라 손으로 맞춰 보는 것이 고역이다. 그런데 공리 세 개가 값을 하나로 정한다는 방금의 사실을 쓰면 계산 없이 끝난다.

준비물은 L3의 행 관점이다. $AB$ 의 $i$ 행은 $A$ 의 $i$ 행에 $B$ 를 곱한 것이었다.

이 한 줄이 증명 전체를 굴린다. $A$ 의 한 행을 건드리면 $AB$ 의 같은 행 하나만 건드려지고 나머지 행은 꿈쩍도 하지 않는다는 뜻이기 때문이다. 공리 ②와 ③이 전부 "한 행"에 대한 이야기였으니 딱 맞는 재료이다.

이제 $\det B \neq 0$ 인 $B$ 를 하나 붙박아 두고, $A$ 만 변수로 보는 함수를 하나 만든다.

$B$ 는 고정이므로 $\det B$ 는 그냥 0이 아닌 상수이다. 이 $D$ 가 세 공리를 만족하는지 하나씩 확인하자.

① 기준. $A = I$ 를 넣으면 $IB = B$ 이므로

② 교환. $A$ 의 $i$ 행과 $j$ 행을 맞바꿨다고 하자. (16)에 의해 $AB$ 의 $i$ 행과 $j$ 행도 정확히 맞바꿔지고, 다른 행은 그대로이다. $\det$ 이 공리 ②를 만족하니 $\det(AB)$ 의 부호가 뒤집히고, 상수로 나눈 $D$ 도 부호가 뒤집힌다.

③ 선형성. $A$ 의 $i$ 행이 $t\vv{r}$ 이면 (16)에 의해 $AB$ 의 $i$ 행은 $(t\vv{r})B = t(\vv{r}B)$ 이다. $A$ 의 $i$ 행이 $\vv{r} + \vv{r}'$ 이면 $AB$ 의 $i$ 행은 $(\vv{r} + \vv{r}')B = \vv{r}B + \vv{r}'B$ 이다.

$A$ 의 $i$ 행에서 일어난 일이 $AB$ 의 $i$ 행에서 똑같은 모양으로 일어나고 나머지 행은 고정이다. $\det$ 이 각 행에 대해 선형이므로 $\det(AB)$ 도 $A$ 의 $i$ 행에 대해 선형이고, 상수로 나눈 $D$ 도 그렇다.

세 개가 다 맞았다. 세 공리를 만족하는 함수는 하나뿐이므로 $D$ 는 행렬식일 수밖에 없다.

양변에 $\det B$ 를 곱하면 (15)의 식이다.

남은 것은 $\det B = 0$ 인 경우이다. 이때는 (17)의 분모가 0이라 위의 논리를 쓸 수 없으니 따로 본다. $\det B = 0$ 이면 성질 4의 역((23)에서 곧 확인한다)에 의해 $B$ 가 특이이므로 $B\vv{x} = \vv{0}$ 인 $\vv{x} \neq \vv{0}$ 이 있다. 그 $\vv{x}$ 를 $AB$ 에 넣어 보자.

$AB$ 도 같은 $\vv{x}$ 를 0으로 보내므로 특이이고, 성질 4에 의해 $\det(AB) = 0$ 이다. 오른쪽도 $\det A \cdot 0 = 0$ 이라 양변이 모두 0으로 맞는다.

따름 — 역행렬의 행렬식¶

$AA^{-1} = I$ 의 행렬식을 보면

이다. 이 한 줄에서 성질 4의 역이 나온다. $A$ 가 가역이면 (22)의 왼쪽 곱이 1이므로 $\det A \neq 0$ 이어야 한다. 0이면 어떤 수를 곱해도 1이 될 수 없기 때문이다. 성질 4는 "특이 $\Rightarrow$ 행렬식 0"이었으니, 둘을 합치면 화살표가 양쪽으로 간다.

마지막 고리는 L6과 L7의 결론이다. 가역이라는 것과 영공간이 원점뿐이라는 것이 같은 말이었다.

전치해도 행렬식은 그대로이다¶

이것도 증명하고 넘어가자. 재료는 L4의 $PA = LU$ 와 방금 얻은 곱셈 규칙이다.

$P$ 를 오른쪽으로 넘기면 $A = P^{-1}LU$ 이고, 전치하면 순서가 뒤집힌다.

순열행렬은 $P^{\mathsf{T}} = P^{-1}$ 이었으므로(L5) $\left(P^{-1}\right)^{\mathsf{T}} = P$ 이다. 이제 (15)의 규칙으로 양변을 조각내고 조각마다 값을 따진다. 세 조각 모두 이미 아는 것들이다.

• $U^{\mathsf{T}}$ 는 하삼각행렬이고 대각은 $U$ 의 대각과 글자 그대로 같다. 성질 5가 상삼각에서와 똑같이 적용되므로 $\det U^{\mathsf{T}} = \det U$ 이다.

• $L^{\mathsf{T}}$ 는 상삼각행렬이고 대각이 전부 1이다. 성질 5에 의해 $\det L^{\mathsf{T}} = 1$ 이고, $\det L$ 도 같은 이유로 1이다.

• $\det P = \pm1$ 이므로 $1/\det P = \det P$ 이고, (22)에 의해 $\det\left(P^{-1}\right) = 1/\det P = \det P$ 이다.

두 값을 나란히 계산해 보자. 먼저 전치한 쪽이다.

그리고 원래 쪽이다.

두 오른쪽이 글자 그대로 같다. 그러므로 (24)의 등식이 성립한다.

사소해 보이지만 쓸모가 크다. 행에 대해 성립하는 모든 성질이 열에 대해서도 그대로 성립한다는 뜻이기 때문이다. 열을 교환해도 부호가 바뀌고, 같은 열이 둘이면 0이다. $A$ 의 열은 $A^{\mathsf{T}}$ 의 행이고, 두 행렬의 행렬식이 같으니 그렇게 된다.

4. 실제 계산은 피벗의 곱이다¶

L4에서 소거를 $PA = LU$ 로 정리했다. 양변에 행렬식을 취하고 (15)의 성질을 쓰자.

오른쪽 두 조각은 모두 삼각행렬이라 성질 5로 값을 안다. $L$ 은 대각이 전부 1이므로 $\det L = 1$ 이고, $\det U$ 는 피벗의 곱이다. 왼쪽의 $P$ 는 $I$ 의 행을 몇 번 바꾼 것이라 공리 ②에 의해 교환 횟수만큼 부호가 뒤집힌다.

L2에서 쓰던 행렬로 확인해 보자. 소거하면 피벗이 $1, 2, 5$ 였고 행 교환은 없었다.

5. 행렬식의 정체는 부피이다¶

지금까지는 대수였다. 이 수가 무엇을 뜻하는지 보자.

$2 \times 2$ 행렬 $M$ 을 단위 정사각형에 적용하면 평행사변형이 된다. 그 넓이가 $|\det M|$ 이다.

부호는 방향을 말한다. 꼭짓점을 $1 \to 2 \to 3 \to 4$ 로 도는 순서가 반시계에서 시계로 뒤집히면 음수이다. 거울에 비친 것과 같다.

넓이가 정말 $|ad - bc|$ 인가¶

그림을 믿고 넘어갈 일이 아니다. 직접 계산해서 확인하자. 두 행 $\vv{u} = (a, b)$ 와 $\vv{v} = (c, d)$ 가 만드는 평행사변형의 넓이는 밑변 곱하기 높이이다. $\vv{u}$ 를 밑변으로 잡고 두 벡터의 사잇각을 $\theta$ 라 하면 높이가 $\lVert\vv{v}\rVert\sin\theta$ 이다.

$\sin$ 은 다루기 번거로우니 제곱해서 $\sin^2\theta = 1 - \cos^2\theta$ 로 바꾼다. L14에서 $\cos\theta = (\vv{u}\cdot\vv{v}) / (\lVert\vv{u}\rVert\lVert\vv{v}\rVert)$ 였다.

$\cos^2\theta$ 를 넣을 때 분모의 $\lVert\vv{u}\rVert^2\lVert\vv{v}\rVert^2$ 이 앞의 것과 약분되어 사라진 결과이다. 이제 성분을 넣고 전개한다.

$a^2c^2$ 과 $b^2d^2$ 이 양쪽에서 지워지고, 남은 세 항이 완전제곱이 된다.

넓이는 음수가 아니므로 제곱근을 씌울 때 절댓값이 붙는다.

$2 \times 2$ 에서는 그림이 아니라 계산으로 확인되었다. 그런데 $3 \times 3$ 에서 같은 일을 하려면 평행육면체의 부피 공식을 세우고 $n!$ 개의 항과 맞춰야 하는데, 이것은 감당할 수 없는 일이다. $n$ 차원에서 계산을 한 줄도 하지 않고 증명하는 방법이 L20 3절에 있다. 방금 (13) 아래에서 확인한 유일성이 그 열쇠이다.

이 그림에서 보면 성질 3이 왜 당연한지도 눈에 들어온다.

$\vv{r}_2$ 에 $\vv{r}_1$ 의 배수를 더하면 꼭짓점이 $\vv{r}_1$ 과 나란한 직선을 따라 미끄러진다. 밑변도 높이도 그대로이니 넓이가 변할 리 없다.

그리고 성질 4도 그림으로 읽힌다. 특이하다는 것은 두 행이 한 직선 위에 놓인다는 뜻이고, 그러면 평행사변형이 납작해져 넓이가 0이 된다. L9에서 슬라이더로 눌러 보던 그 순간이다.

6. 자주 하는 오해¶

$\det(A + B) = \det A + \det B$ 가 아니다¶

공리 ③에 "선형"이라는 말이 있어 생기는 착각이다. $2 \times 2$ 로 확인하면 바로 깨진다.

공리 ③은 한 행만 두 벡터의 합일 때의 이야기이다. $A + B$ 는 $n$ 개의 행이 전부 합이라 쪼개면 $2^n$ 개가 나오고, 그중 두 개만 $\det A$ 와 $\det B$ 이다.

행렬식이 크다고 좋은 행렬이 아니다¶

행렬식은 가역인지 아닌지만 말해 준다. 얼마나 안정적으로 풀리는지와는 상관이 없다.

거의 0인 행렬식이지만 이 행렬은 완벽하게 가역이고 풀기도 쉽다. 모든 방향을 똑같이 줄였을 뿐이라 되돌리기만 하면 된다. 안정성을 재는 수는 행렬식이 아니라 조건수이고, 그 이야기는 L33에서 한다.

$\det A = 0$ 은 "해가 없다"가 아니다¶

L8에서 본 대로 특이행렬에서는 해가 없거나 무한히 많다. 어느 쪽인지는 $\vv{b}$ 가 열공간 안에 있는지에 달려 있고, 행렬식은 그것을 말해 주지 않는다.

마치며...¶

이번 강의에서 다룬 것을 정리하면 다음과 같다.

그런데 우리는 아직 행렬식을 정의하지 않았다. 성질만 나열했을 뿐이다. 세 개의 공리를 만족하는 수가 정말 존재하는지, 존재한다면 $n \times n$ 에서 그 공식이 무엇인지는 아직 답하지 않았다. $2 \times 2$ 는 $ad - bc$ 였는데 $10 \times 10$ 은 무엇인가.

다음 강의에서 그 공식을 유도한다. 그리고 동시에 그 공식을 절대 쓰면 안 되는 이유도 함께 배우게 된다.

이번 강의의 내용을 파이썬으로 확인해 보려면 L18 실습 노트북으로 넘어가면 된다. 단위 정사각형이 어떤 평행사변형으로 가는지 그려 보고, 무작위 행렬로 일곱 가지 성질을 한꺼번에 검산하며, 소거해서 얻은 피벗의 곱이 정말 np.linalg.det 와 같은지 확인할 수 있다.