Lecture 7. Ax = 0 풀기 : 피벗 변수와 특수해

지난 강의에서 영공간이 부분공간이라는 것은 확인했다. 그러나 그것이 점 하나인지 직선인지 평면인지는 예제에서 눈으로 읽었을 뿐이다. 세 번째 열이 앞의 두 열의 합이라는 관계가 눈에 보였기 때문에 가능했던 것이고, 그런 관계가 보이지 않으면 쓸 수 없는 방법이다.

이번 강의에서는 영공간을 소거로 구하는 절차를 다룬다. 도구는 L2에서 쓴 것과 같지만 다른 점이 하나 있다. 지금까지는 소거가 끝까지 진행되는 경우만 다루었는데, 이번에는 피벗 자리에 0이 나와서 그 열을 건너뛰어야 하는 경우를 정면으로 다룬다.

그리고 그 과정에서 랭크(rank)라는 숫자가 나온다. 앞으로 자주 쓰게 될 숫자이다.

1. 소거를 끝까지 — 사다리꼴¶

다음 행렬을 예로 삼는다. $3 \times 4$ 이므로 미지수가 넷이고 식이 셋이다.

$A\vv{x} = \vv{0}$ 을 풀 것이므로 우변은 계속 0이다. 소거를 해도 0은 0으로 남으니 증강행렬을 쓸 필요가 없다. 계수행렬만 본다.

첫 번째 피벗은 $(1,1)$ 자리의 1 이다. 곱수는 각각 $2/1 = 2$ 와 $3/1 = 3$ 이다.

이제 두 번째 열로 가야 하는데 문제가 생긴다. 두 번째 피벗이 놓일 자리인 $(2,2)$ 성분이 0 이고, 그 아래 $(3,2)$ 성분도 0 이다. L2에서 본 두 경우 중 행을 바꿔도 살릴 수 없는 쪽이다.

이럴 때는 그 열을 포기하고 오른쪽 열로 넘어간다. 세 번째 열의 $(2,3)$ 성분이 2 이므로 여기가 두 번째 피벗이 된다. 곱수는 $2/2 = 1$ 이다.

마지막 행이 통째로 0이 되었다. 세 번째 식이 앞의 두 식으로 만들어지는 식이었다는 뜻이다.

이렇게 각 행의 첫 0이 아닌 성분이 위 행보다 오른쪽에 있고 0인 행이 아래로 몰린 형태를 사다리꼴(echelon form)이라 한다.

(5)에서 피벗은 $(1,1)$ 과 $(2,3)$ 에 있으므로 피벗 열은 1열과 3열이고, 자유 열은 2열과 4열이다.

2. 랭크와 자유변수¶

(1)의 랭크는 2 이다. 행이 세 개인데 랭크가 2인 것은, 세 식 중 하나가 나머지로 만들어져서 실제로 서로 다른 이야기를 하는 식이 둘뿐이라는 뜻이다.

피벗은 행마다 많아야 하나이고 열마다도 많아야 하나이므로

이다. 그리고 피벗 열이 $r$ 개이므로 나머지 열, 즉 자유 열은 $n - r$ 개이다. 이 예제에서는 $4 - 2 = 2$ 개이다.

왜 자유 변수인가¶

$U\vv{x} = \vv{0}$ 을 식으로 풀어 써 보면 이유가 보인다. 0인 행은 $0 = 0$ 이라 아무 조건도 주지 않으므로 남는 것은 피벗이 있는 두 행뿐이다.

식이 둘인데 미지수는 넷이다. 여기서 자유 변수 $x_2$ 와 $x_4$ 에 아무 값이나 넣어 보자. 그러면 두 번째 식에서 $x_3$ 가 정해지고, 그것을 첫 번째 식에 넣으면 $x_1$ 이 정해진다.

즉 자유 변수를 정하면 피벗 변수가 따라서 결정된다. 자유 변수는 우리가 고를 수 있고 피벗 변수는 고를 수 없다. 이것이 두 이름의 뜻이다.

일반적으로도 같다. 사다리꼴에서 $i$ 번째 피벗이 있는 행은 그 피벗 변수 하나와 그보다 오른쪽에 있는 변수들만 담고 있으므로, 아래에서 위로 올라가며 피벗 변수를 하나씩 확정할 수 있다. L2의 후진 대입과 같은 구조이고, 다만 자유 변수가 상수처럼 따라다닐 뿐이다.

3. 특수해 구하기¶

자유 변수에 넣을 값은 무엇이든 되지만, 다루기 쉬운 값을 고르는 것이 좋다. 관례는 이렇다. 자유 변수 하나에만 1 을 주고 나머지 자유 변수에는 0 을 준다. 자유 변수가 $n-r$ 개이므로 이렇게 하면 해가 $n-r$ 개 나온다. 이것들을 특수해(special solution)라 한다.

첫 번째 특수해¶

$x_2 = 1$, $x_4 = 0$ 으로 두고 (7)에 넣는다. 두 번째 식부터 푼다.

이제 첫 번째 식에 $x_2 = 1$, $x_3 = 0$, $x_4 = 0$ 을 넣는다.

두 번째 특수해¶

이번에는 $x_2 = 0$, $x_4 = 1$ 로 둔다.

검산¶

원래 행렬로 확인해 보자. $A\vv{s}_1$ 은 열들의 선형결합이다.

두 번째 열이 첫 번째 열의 2배라는 사실이 $\vv{s}_1$ 에 담겨 있었던 것이다. $\vv{s}_2$ 도 마찬가지로 확인된다.

왜 이것이 영공간 전체인가¶

특수해 두 개를 구했다. 그런데 이것들의 선형결합이 영공간 전체라는 보장이 있는가. 확인해 보자.

$\vv{x}$ 를 영공간의 아무 원소라 하고, 그 자유 변수 값을 $x_2 = f_1$, $x_4 = f_2$ 라 하자. 여기서 다음 벡터를 만든다.

$\vv{y}$ 는 영공간 원소들의 선형결합이므로 영공간에 있다. 그리고 자유 변수 자리를 보면, $\vv{s}_1$ 은 $(x_2, x_4) = (1, 0)$ 이고 $\vv{s}_2$ 는 $(0, 1)$ 이므로

이다. 즉 $\vv{y}$ 의 자유 변수는 모두 0이다. 이제 (7)에 $y_2 = y_4 = 0$ 을 넣으면

이 되어 피벗 변수도 전부 0이다. 따라서 $\vv{y} = \vv{0}$ 이고, (17)에서

를 얻는다. 영공간의 어떤 원소도 특수해들의 선형결합으로 쓰인다.

이 논증에서 자유 변수의 개수가 둘이라는 것은 어디에도 쓰이지 않았다. 자유 변수가 몇 개든 같은 방식으로 성립한다.

4. 기약 사다리꼴과 영공간 행렬¶

소거를 조금 더 밀고 가면 특수해가 아예 행렬에서 읽힌다.

(5)의 $U$ 에서 두 가지를 더 한다. 피벗을 1로 맞추고, 피벗 위쪽도 0으로 만든다. 먼저 두 번째 행을 피벗 2 로 나눈다.

이제 첫 번째 행에서 두 번째 행의 2배를 뺀다. 세 번째 열을 0으로 만들기 위해서이다.

이 형태를 기약 사다리꼴(reduced row echelon form, RREF)이라 한다. 피벗이 모두 1이고, 피벗이 있는 열은 그 피벗을 빼면 전부 0이다.

$[\,I \;\; F\,]$ 로 보기¶

피벗 열인 1열과 3열을 앞으로 모으고 자유 열인 2열과 4열을 뒤로 보내면 구조가 드러난다. 변수 순서도 $(x_1, x_3, x_2, x_4)$ 로 함께 바꾼다.

이제 $\vv{x}$ 도 피벗 변수 묶음과 자유 변수 묶음으로 나눠 쓰자. L3의 블록 곱셈을 쓰면

이므로 다음을 얻는다.

자유 변수를 정하면 피벗 변수가 따라온다는 2절의 이야기가 행렬 하나로 정리되었다.

영공간 행렬¶

특수해는 자유 변수 묶음에 $I$ 의 열을 차례로 넣은 것이다. 그러므로 특수해들을 열로 나란히 세운 행렬은 다음과 같다.

정말 영공간에 들어가는지는 블록 곱셈으로 바로 확인된다.

변수 순서를 원래대로 $(x_1, x_2, x_3, x_4)$ 로 되돌리면 $N$ 의 두 열은 각각 $(-2, 1, 0, 0)$ 과 $(2, 0, -2, 1)$ 이다. 3절에서 손으로 구한 (11)의 $\vv{s}_1$, (14)의 $\vv{s}_2$ 와 같다.

5. 랭크와 영공간의 차원¶

특수해는 자유 변수마다 하나씩이므로 $n - r$ 개이다. 그리고 3절에서 이것들의 선형결합이 영공간 전체라는 것을 보았다. 남은 것은 이 $n - r$ 개에 군더더기가 없는지 확인하는 일이다.

$c_1\vv{s}_1 + \cdots + c_{n-r}\vv{s}_{n-r} = \vv{0}$ 이라 하자. 이 벡터의 $i$ 번째 자유 변수 자리를 보면, $\vv{s}_j$ 의 그 자리는 $j = i$ 일 때 1이고 아니면 0이므로 합은 $c_i$ 이다. 전체가 영벡터이니 그 자리도 0이어야 하고, 따라서

이다. 즉 어느 하나도 나머지로 만들어지지 않는다. 이런 성질을 가지면서 공간 전체를 만들어내는 벡터들의 모임을 기저(basis)라 하고, 그 개수를 차원(dimension)이라 한다. 정확한 정의는 다음다음 강의에서 다루지만, 여기서 얻은 결과는 다음과 같다.

랭크가 1 줄어들 때마다 자유 변수가 하나 늘고, 영공간이 한 차원씩 자란다. $n = 3$ 인 경우로 그려 보면 다음과 같다.

L6에서 확인한 것과도 맞는다. 랭크가 $n$ 이면 자유 변수가 없어 영공간이 원점뿐이고, 그때만 역행렬이 존재할 수 있다. 랭크가 하나라도 모자라면 영공간이 원점보다 커지고 역행렬이 없다.

마치며...¶

이번 강의에서 다룬 것을 정리하면 다음과 같다.

절차를 한 줄로 쓰면 이렇다. 소거해서 피벗을 세면 랭크가 나오고, 피벗이 없는 열마다 특수해가 하나씩 나오며, 그것들의 선형결합이 영공간 전체이다.

지금까지는 우변이 0인 경우만 다루었다. 실제 문제에서 우변이 0인 경우는 드물다. 그런데 L6에서 이미 우변이 0이 아닐 때의 해집합이 $\vv{x}_p + N(A)$ 라는 것을 보았다. 오른쪽 절반은 이번 강의에서 구하는 방법을 익힌 셈이다.

다음 강의에서는 나머지 절반인 $\vv{x}_p$ 를 구하고, 랭크에 따라 해의 개수가 어떻게 달라지는지 정리한다.

이번 강의의 내용을 파이썬으로 확인해 보려면 L7 실습 노트북으로 넘어가면 된다. 사다리꼴을 만드는 함수와 특수해를 구하는 함수를 직접 짜고, sympy 의 기약 사다리꼴 및 scipy 의 영공간과 대조해 볼 수 있다.