A3 · 출력의 평가를 입력으로 옮기면 무엇을 알 수 있을까?#
자원 사용량으로 비용을 계산하는 규칙이 있다고 합시다. 생산계획을 자원량으로 바꾸고 다시 비용으로 바꾸어도 되지만, 두 계산을 합쳐 생산량에서 곧바로 비용을 계산할 수도 있습니다. 이때 평가 규칙의 계수는 어떤 방향으로 이동할까요?
이번 단원에서는 이 과정을 전치사상으로 정의합니다. 이어서 같은 도구로 해의 존재 조건, 행계수와 열계수의 같음, 회귀모형에서 구분할 수 있는 계수의 결합을 설명합니다. A2의 쌍대기저·소멸자와 A1의 선형사상·기저 확장을 사용합니다. 내적과 직교사영은 증명의 전제가 아닙니다.
1. 자원을 평가하는 가격을 생산활동별 가격으로 바꾸기#
B3의 네 활동 모형을 그대로 사용합니다. 입력은 \(x\in\mathbb R^4\), 출력은 노동·원료·점수 기록 \(b\in\mathbb R^3\)입니다.
점수는 노동과 원료를 정해진 환산계수로 점수 단위로 바꾸어 합한 기록이므로 수치상 \(S=L+M\)입니다. 단위가 다른 물리량을 아무 계수 없이 더한 것이 아닙니다.
출력의 평가를 \(g(L,M,S)=2L+M\)으로 정합시다. 계수의 단위는 각 자원 단위당 화폐입니다. \(g\)에 생산계획의 출력을 대입하면
생산활동별 평가 계수는 \((2,1,3,5)\)입니다. 행렬로 쓰면
평가 계수를 모두 열로 기록하면 같은 식이
입니다. 전치행렬이 나타난 이유는 출력의 평가를 입력의 평가로 바꾸고 있기 때문입니다. 입력벡터 자체를 역으로 복원한 것이 아닙니다.
2. 계산 방향과 평가 방향을 따로 적기#
\(T:V\to W\)는 입력 상태를 출력 상태로 보냅니다. 출력의 범함수 \(g\in W^*\)를 고르면, 입력에 대한 평가 \(g\circ T\)는 \(V^*\)의 원소입니다. 따라서
로 정의합니다. 이때 \(T'\)가 전치사상입니다.
구체적인 값 하나를 확인해 봅시다. \(x=(1,2,1,0)\)이면 \(Tx=(2,3,5)\)입니다. 출력에서 계산하면 \(g(Tx)=2\cdot2+3=7\)입니다. 입력에서 계산하면 \((T'g)(x)=2\cdot1+1\cdot2+3\cdot1+5\cdot0=7\)입니다.
그림 25 전치사상은 출력벡터를 입력벡터로 돌려보내는 역함수가 아닙니다. 출력의 평가 규칙을 입력에 적용 가능한 평가 규칙으로 바꿉니다. 두 경로의 최종 숫자는 같습니다.#
앞의 \(g\)는 \((2,1,0)\)으로 표현했습니다. \((1,0,1)\)이라는 출력 평가도 같은 생산활동별 가격을 만듭니다.
이기 때문입니다. 두 출력 범함수는 \(\mathbb R^3\) 전체에서는 다르지만, 실제 가능한 출력 평면에서는 같습니다. 그 차이 \(w=(-1,-1,1)\)이 주는 평가는
이며 모든 가능한 출력에서 0입니다. 이것이 \(\ker T'\)의 구체적인 원소입니다.
3. 불가능한 기록에는 모순을 보여 주는 평가가 있다#
\(Ax=b\)를 풀려고 하는데 \(b=(6,4,11)\)이라고 합시다. 소거법을 끝까지 하지 않아도
인 벡터를 이용할 수 있습니다. 각 성분을 확인하면
따라서 어떤 입력을 넣어도
입니다. 그런데 요구한 출력에서는
해가 있다면 같은 값이 0이면서 1이어야 합니다. 모순이므로 해가 없습니다. 이 \(w\)는 불가능성을 확인하는 짧은 증거입니다.
\(b=(6,4,10)\)이면 이 검사는 0을 줍니다. 이번 모형에서는 이 조건 하나가 충분합니다. \(x=(6,4,0,0)\)를 넣어 직접 해를 구성할 수 있기 때문입니다. 일반적인 행렬에서도 출력을 모두 소멸시키는 범함수들이 요구한 \(b\)를 모두 소멸시키면 해가 존재한다는 사실이 성립합니다. 단, 모든 범함수를 검사한다는 양화 조건을 빼면 안 됩니다. 마지막 절에서 분리 보조정리로 충분성을 증명합니다.
4. 입력에서 필요한 평가가 출력만으로 계산될 조건#
이번에는 생산량을 정확히 몰라도 어떤 비용 \(f_c(x)=c^\top x\)를 계산하고 싶다고 합시다. 출력만으로 계산할 수 있으려면 같은 출력을 주는 모든 입력에서 비용도 같아야 합니다.
B3의 핵은
로 생성됩니다. 따라서 필요조건은
즉,
이 조건이면 실제로
따라서 충분하기도 합니다. 출력 평가의 계수를 \((c_1,c_2,0)\)으로 고르면 \(A^\top(c_1,c_2,0)^\top=c\)입니다.
반면 활동 3의 생산량 하나만 읽는 \(c=(0,0,1,0)\)은 \(c^\top h_1=1\)이어서 출력만으로 계산할 수 없습니다. 해에 \(t h_1\)을 더하면 출력은 그대로지만 활동 3의 양은 \(t\)만큼 달라집니다.
여기서 두 질문을 구별하세요. 하나는 어떤 \(b\)가 실제 출력이 될 수 있는지입니다. 다른 하나는 어떤 입력 평가 \(c\)를 출력만으로 계산할 수 있는지입니다. 전자는 \(\ker T'\), 후자는 \(\operatorname{im}T'\)와 연결됩니다.
5. 네 부분공간은 두 공간이 아니라 네 자리에 놓인다#
우리 행렬 \(A\)의 열은
입니다. 첫 두 열은 첫 두 성분을 비교하면 독립이므로 상의 차원은 2입니다. 핵 차원은 \(4-2=2\)입니다.
전치의 핵은 \(A^\top(\alpha,\beta,\gamma)^\top=0\)에서 구할 수 있습니다. 첫째·둘째 성분이 \(\alpha+\gamma=0\), \(\beta+\gamma=0\)이므로
나머지 두 식은 이 조건에서 자동으로 0입니다. 따라서 전치의 핵 차원은 1입니다. 전치의 정의역은 3차원인 출력 쌍대공간이므로 상 차원은 \(3-1=2\)입니다.
공간 |
어디의 원소인가? |
이번 예의 의미 |
차원 |
|---|---|---|---|
\(\ker T\) |
입력 공간 \(V=\mathbb R^4\) |
기록에 보이지 않는 생산량 변화 |
2 |
\(\operatorname{im}T\) |
출력 공간 \(W=\mathbb R^3\) |
가능한 자원·점수 기록 |
2 |
\(\ker T'\) |
출력 쌍대 \(W^*\) |
모든 가능한 기록에서 0인 평가 |
1 |
\(\operatorname{im}T'\) |
입력 쌍대 \(V^*\) |
출력만으로 계산할 수 있는 입력 평가 |
2 |
그림 26 상태를 보내는 \(T\)와 평가를 보내는 \(T'\)의 방향이 반대입니다. 핵·상 사이의 관계는 소멸자 관계이며, 이 단계에서는 내적이나 직각을 정의하지 않았습니다.#
행렬의 행들은 원래 입력 공간의 범함수입니다. 행을 전치하여 열로 표시하면 \(A^\top\)의 열들이 됩니다. 따라서 행들이 생성하는 공간의 차원은 \(\operatorname{rank}T'\)입니다. 다음 증명에서 이것이 \(\operatorname{rank}T\)와 같음을 보이므로 행계수와 열계수가 같습니다.
6. 회귀계수 전체는 몰라도 일부 결합은 알 수 있다#
설명변수 \(t=0,1,2\)에서 반응을 관측하고, 잡음 없는 교육용 선형모형을
로 적읍시다. \(t\)는 무차원이며 각 항은 반응과 같은 단위입니다. 세 계수를 사용했지만 세 번째 설명변수 \(1+t\)는 앞의 두 설명변수의 합입니다.
반응이 \(y=(2,5,8)\)이면 모형식을 묶어서
로 씁니다. \(t=0\)에서 \(\beta_0+\beta_2=2\), \(t=1\)과 \(t=0\)의 차이에서 \(\beta_1+\beta_2=3\)입니다. 따라서 모든 계수 해는
각 계수는 유일하지 않습니다. 그러나 두 결합
는 각각 2,3으로 유일합니다. 이들은 관측의 선형결합으로 표현됩니다.
첫 결합의 입력 계수는 \((1,0,1)\)이고 \(X^\top(1,0,0)^\top=(1,0,1)^\top\)입니다. 둘째 결합은 \((0,1,1)\)이고
입니다. 둘 다 전치의 상에 들어 있습니다.
반면 \(\beta_2\)만 읽는 계수 \((0,0,1)\)은 핵 방향 \((-1,-1,1)\)에 값 1을 주므로 전치의 상에 없습니다. 관측으로 이 계수 하나만 분리할 수 없습니다.
그림 27 왼쪽에서는 계수들이 변하지만 오른쪽의 예측은 같습니다. 관측으로 구별되는 것은 각 계수 자체가 아니라 \(\beta_0+\beta_2\)와 \(\beta_1+\beta_2\)입니다.#
잡음이 있는 모형에서 \(E[y]=X\beta\)라고 가정한다면 \(X^\top w=c\)일 때 \(E[w^\top y]=c^\top\beta\)도 성립합니다. 이는 기대값의 선형성에서 나오지만, 분산이 최소인지나 인과적으로 해석할 수 있는지는 다른 가정과 증명이 필요합니다. 이 단원은 정확한 선형 식별 구조를 다룹니다.
7. 두 계산을 합성하면 전치의 순서는 왜 반대인가?#
\(T:V\to W\), \(S:W\to Z\)를 순서대로 적용하고 최종 출력의 범함수 \(h\in Z^*\)를 평가합시다.
라는 한 숫자가 나옵니다. 먼저 \(h\)를 \(W\) 위의 평가로 옮기면 \(S'h=h\circ S\)입니다. 이것을 다시 \(V\)로 옮기면 \(T'(S'h)=(h\circ S)\circ T\)입니다. 따라서
이것은 행렬 전치 공식을 외운 결과가 아니라 입력에서 실제 평가되는 숫자를 비교한 결과입니다.
행렬 예를 하나 확인하겠습니다.
입력에 \(A\) 다음 \(B\)를 적용하면
한편
로 일치합니다. 순서를 바꾸지 않은 \(B^\top A^\top\)는 \(\begin{pmatrix}7&3\\2&1\end{pmatrix}\)이어서 다릅니다.
8. 전치와 수반, 등식과 비음수 제약을 구별하기#
전치는 범함수의 합성으로 정의되었으므로 내적이 필요하지 않습니다. 반면 수반은 내적을 지정한 뒤
를 만족하는 사상입니다. 실제 차이를 2차원 예로 확인해 봅시다. \(T(x_1,x_2)=x_1+x_2\)이고 입력 내적을
로, 출력 내적은 통상적인 실수 곱으로 정합니다. 이때 \(T^*y=(y/2,y)\)이면
수반의 열은 \((1/2,1)\)입니다. 그러나 표준 쌍대기저에서 전치행렬은 \((1,1)^\top\)입니다. 서로 다른 공간과 추가 구조를 사용한 계산입니다. 일반 수반 이론은 H2에서 증명합니다.
또한 \(Ax=b\)의 실수 해 존재와 \(x\ge0\)까지 만족하는 해 존재는 다릅니다. \(A=(1,1)^\top\), \(b=(-1,-1)^\top\)이면 실수 해 \(x=-1\)이 있지만 비음수 해는 없습니다. \(w=(1,0)^\top\)를 고르면
\(x\ge0\)인 해가 있다면 \(w^\top b=(A^\top w)x\ge0\)이어야 하므로 모순입니다. 이런 부호를 이용한 증거는 등식의 전치핵 증거와 다릅니다. 이 계산은 증거의 충분성을 보여 주지만, 모든 비음수 해 부재에 이런 증거가 존재한다는 Farkas 정리 전체를 증명한 것은 아닙니다. 그 방향은 최적화 단원에서 다룹니다.
9. 계산 확인과 전체 풀이#
from sympy import Matrix, symbols, zeros
A=Matrix([[1,0,1,2],[0,1,1,1],[1,1,2,3]])
w=Matrix([-1,-1,1])
assert A.T*w==zeros(4,1)
assert (w.T*Matrix([6,4,11]))[0]==1
assert A.T*Matrix([2,1,0])==Matrix([2,1,3,5])
assert A.rank()==A.T.rank()==2
X=Matrix([[1,0,1],[1,1,2],[1,2,3]])
s=symbols("s")
assert X*Matrix([2-s,3-s,s])==Matrix([2,5,8])
assert X.T*Matrix([1,0,0])==Matrix([1,0,1])
assert X.T*Matrix([-1,1,0])==Matrix([0,1,1])
assert X*Matrix([-1,-1,1])==zeros(3,1)
print("전치, 가해성 증거, 회귀계수 결합 검산 통과")
전치, 가해성 증거, 회귀계수 결합 검산 통과
문제 1 · 불가능성 증거#
\(b=(3,7,9)\)가 생산 모형의 출력이 될 수 있는지 판정하세요.
풀이. \(w^\top b=-3-7+9=-1\)입니다. 모든 실제 출력에서는 \(w^\top Ax=0\)이므로 해가 없습니다. \((3,7,10)\)이라면 \(x=(3,7,0,0)\)이 해입니다.
문제 2 · 출력에서 계산 가능한 비용#
\(c=(1,2,3,4)\)와 \(d=(1,2,3,5)\) 중 어느 것이 출력만으로 계산 가능한가요?
풀이. \(c\)는 \(c_3=c_1+c_2=3\), \(c_4=2c_1+c_2=4\)를 만족하므로 \(c^\top x=L+2M\)입니다. \(d\)는 둘째 조건을 어기며 \(d^\top h_2=-2-2+5=1\)입니다. 따라서 같은 출력을 유지하면서 \(d\)의 값을 바꿀 수 있습니다.
문제 3 · 관측 평균의 식별#
6절의 모형에서 \(\beta_0+\beta_1+2\beta_2\)가 유일한지, 관측값으로 어떻게 계산하는지 쓰세요.
풀이. 이 결합은 \(\alpha+\gamma\)이므로 \(2+3=5\)입니다. 직접 \(s\)를 대입하면 \((2-s)+(3-s)+2s=5\)입니다. \(t=1\)에서 \(y(1)=\beta_0+\beta_1+2\beta_2\)이므로 두 번째 관측 하나로 계산합니다. 입력 계수 \((1,1,2)\)는 \(X^\top(0,1,0)^\top\)입니다.
문제 4 · 행계수와 열계수#
\(C=\begin{pmatrix}1&2&3\\2&4&6\end{pmatrix}\)의 네 공간 차원을 구하세요.
풀이. 둘째 행이 첫째 행의 두 배이므로 행계수는 1입니다. 열들은 \((1,2)\)의 1,2,3배이므로 열계수도 1입니다. 입력 차원은 3이어서 \(\dim\ker C=2\), 출력 차원은 2이어서 \(\dim\ker C^\top=1\)입니다. 두 상의 차원은 각각 1입니다.
10. 지금까지의 내용을 수학의 언어로 정리해 봅시다#
출력을 평가하는 규칙을 입력으로 옮기면서 확인한 사실들을 정리합니다. 일반 정리는 같은 체 \(F\) 위의 유한차원 공간 \(V,W\)를 대상으로 합니다. 이번 증명에서는 행계수=열계수를 미리 가정하지 않습니다.
10.1 전치사상의 정의와 성질#
정의 13 (전치사상)
선형사상 \(T:V\to W\)의 전치사상은 \(T':W^*\to V^*\), \(T'(g)=g\circ T\)입니다.
\(g\circ T\)가 선형인 이유는 \(g(T(ax+by))=g(aTx+bTy)=ag(Tx)+bg(Ty)\)입니다. 또한 범함수 입력에 대해 \(T'(ag+bh)(x)=a g(Tx)+b h(Tx)\)이므로 \(T'\) 자체도 선형입니다.
정리 36 (합·배수·합성의 전치)
크기가 맞는 선형사상들에 대해 \((S+T)'=S'+T'\), \((aT)'=aT'\), \((UT)'=T'U'\)입니다.
증명. 모든 범함수 \(g\)와 입력 \(x\)에서 \([(S+T)'g](x)=g(Sx+Tx)=g(Sx)+g(Tx)\)이므로 첫 식입니다. \([(aT)'g](x)=g(aTx)=a g(Tx)\)이므로 둘째 식입니다. \(h\)가 \(U\)의 출력공간의 범함수이면
이므로 셋째 식입니다. 임의의 범함수와 입력에서 값이 같아 사상 자체가 같습니다. \(\square\)
10.2 왜 쌍대기저에서 전치행렬인가?#
입력 기저를 \((v_j)\), 출력 기저를 \((w_i)\), 대응하는 쌍대기저를 \((\varphi_j),(\psi_i)\)라고 합시다. \(Tv_j=\sum_i a_{ij}w_i\)이면
A2의 범함수 표현에 의해
따라서 \(T'\) 행렬의 \(i\)번째 열, \(j\)번째 성분이 \(a_{ij}\)이며 원래 행렬의 행·열 위치가 바뀝니다. 이것이 \([T']=[T]^\top\)의 증명입니다. 쌍대공간에 임의의 다른 기저를 사용하면 추가 기저변환이 필요합니다.
10.3 전치핵과 전치상의 소멸자 표현#
정리 37 (네 부분공간의 관계)
\(\ker T'=(\operatorname{im}T)^0\)이고 \(\operatorname{im}T'=(\ker T)^0\)입니다.
증명. \(g\in\ker T'\)라는 말은 \(T'g=0\), 즉 모든 \(v\)에서 \(g(Tv)=0\)이라는 뜻입니다. 이는 상의 모든 원소를 \(g\)가 소멸시킨다는 조건과 같으므로 첫 등식입니다.
둘째 등식의 한쪽 포함부터 보겠습니다. \(f=T'g\)이고 \(v\in\ker T\)이면 \(f(v)=g(Tv)=g(0)=0\)입니다. 따라서 \(\operatorname{im}T'\subseteq(\ker T)^0\)입니다.
역으로 \(f\in(\ker T)^0\)라고 합시다. 우선 상 위에서
로 정의합니다. 같은 출력 \(Tv=Tu\)를 다른 입력으로 나타내면 \(v-u\in\ker T\)이므로 \(f(v)-f(u)=f(v-u)=0\)입니다. 따라서 잘 정의됩니다. 또한
이므로 상 위의 선형범함수입니다.
이제 \(\operatorname{im}T\)의 기저를 \(W\)의 기저로 확장합니다. 원래 기저에서는 \(g_0\)의 값을 사용하고, 추가 기저에서는 0을 지정하여 A1의 확장 정리로 \(W\) 전체의 범함수 \(g\)를 얻습니다. 모든 \(v\)에서 \(g(Tv)=g_0(Tv)=f(v)\)이므로 \(T'g=f\)입니다. 역포함이 증명되었습니다. \(\square\)
이 증명은 행계수와 열계수의 같음을 먼저 사용하지 않았습니다. 따라서 다음 차원 증명이 순환논증이 되지 않습니다.
10.4 행계수와 열계수#
정리 38 (전치는 계수를 보존한다)
\(\operatorname{rank}T'=\operatorname{rank}T\)입니다. 따라서 모든 유한 행렬의 행계수와 열계수는 같습니다.
증명. 앞 정리와 A2의 소멸자 차원 공식, B3의 차원정리를 차례로 적용하면
표현행렬의 열공간 차원은 상의 차원이고, 전치행렬의 열들은 원래 행렬의 행을 열로 기록한 것입니다. 따라서 행계수=열계수가 따라옵니다. \(\square\)
이 결과로 \(T\)가 단사일 조건은 \(\operatorname{rank}T=\dim V\)이며 이는 \(\operatorname{rank}T'=\dim V^*\), 즉 \(T'\)의 전사성과 같습니다. \(T\)가 전사일 조건은 \(\operatorname{im}T=W\)이며, 그 소멸자가 \(\{0\}\)인 조건과 같아 \(T'\)의 단사성과 동치입니다. 후자의 역은 소멸자 차원 공식에서 바로 확인됩니다.
10.5 유한차원 선형 가해성의 대안#
정리 39 (등식 가해성의 판정)
\(T:V\to W\)와 \(b\in W\)에 대해 다음은 동치입니다.
\(Tx=b\)인 \(x\)가 존재합니다.
모든 \(g\in\ker T'\)에 대해 \(g(b)=0\)입니다.
해가 없으면 \(T'g=0\), \(g(b)=1\)인 \(g\)가 존재합니다.
증명. \(b=Tx\)이고 \(T'g=0\)이면 \(g(b)=g(Tx)=(T'g)(x)=0\)이므로 필요조건입니다.
해가 없으면 \(b\notin\operatorname{im}T\)입니다. A2의 분리 보조정리를 \(U=\operatorname{im}T\)에 적용하면 \(U\)를 소멸시키고 \(b\)에 값 1을 주는 \(g\)가 존재합니다. 첫 관계에 의해 \(g\in\ker T'\)입니다. 따라서 조건 2가 실패합니다. 그 대우로 조건 2가 성립하면 해가 존재합니다. \(\square\)
첫 경우와 이런 증거가 있는 경우는 동시에 성립할 수 없습니다. \(b=Tx\)이면 \(g(b)=0\)이어야 해서 \(g(b)=1\)과 모순입니다. 복소수에서도 같은 대수적 명제가 성립하며, 이 증명에는 켤레나 양수·음수의 순서가 필요하지 않습니다.
10.6 관측으로 결정되는 선형결합#
정리 40 (입력 평가의 관측 가능성)
\(f\in V^*\)에 대해 다음 세 조건은 동치입니다.
\(Tu=Tv\)이면 \(f(u)=f(v)\)입니다.
\(f\in(\ker T)^0\)입니다.
어떤 \(g\in W^*\)에 대해 \(f=T'g\)입니다.
증명. 조건 1에서 \(u\in\ker T\), \(v=0\)을 넣으면 \(f(u)=f(0)=0\)이므로 조건 2입니다. 조건 2에서 \(Tu=Tv\)이면 \(u-v\in\ker T\)이고 \(f(u)-f(v)=f(u-v)=0\)이므로 조건 1입니다. 조건 2와 3의 동치는 전치상의 소멸자 표현입니다. \(\square\)
출력 평가 \(g\)가 유일할 필요는 없습니다. 두 선택의 차이는 \(T'\)의 핵에 들어 있습니다. 반대로 \(T'g=T'h\)이면 \(g-h\in\ker T'\)이므로 모든 실제 출력에서 두 평가가 같습니다. 2절의 \((2,1,0)\)과 \((1,0,1)\)이 바로 이 경우입니다.
실제 질문 |
확인할 수학적 조건 |
|---|---|
이 기록이 실제 출력일 수 있는가? |
\(b\in\operatorname{im}T\) |
불가능함을 한 계산으로 보일 수 있는가? |
\(T'g=0\), \(g(b)\ne0\) |
입력 전체 없이 이 비용만 알 수 있는가? |
\(f\in\operatorname{im}T'\) |
같은 출력을 만드는 입력 변화는 무엇인가? |
\(\ker T\) |
출력 평가의 중복은 무엇인가? |
\(\ker T'\) |
전치사상은 출력의 제약과 입력에서 관측 가능한 결합을 연결합니다. 다음 장에서는 한 사상을 반복 적용할 때 유지되는 부분공간과 다항식 관계를 살펴봅니다. A4로 이어 읽기.