H2 · 같은 관측을 내적으로 표현하면 어떤 벡터가 될까?#
A2에서는 선형 관측을 벡터 자체와 구별했습니다. 상태 \(x\)를 읽어 숫자를 만드는 것은 범함수 \(\varphi\)이고, 상태가 사는 공간 \(V\)와 범함수가 사는 공간 \(V^*\)는 역할이 다릅니다. 그런데 표준 좌표에서는 \(\varphi(x)=a^{\mathsf T}x\)라고 적다 보니 관측과 벡터 \(a\)를 같은 것으로 취급하기 쉽습니다.
H1에서 내적을 정했으므로 이제 그 대응을 정확히 만들 수 있습니다. 어떤 내적을 선택했는지에 따라 같은 관측을 표현하는 벡터가 달라집니다. 이 사실이 Riesz 표현정리의 출발점이며, 전치사상과 수반사상의 차이를 설명해 줍니다.
공간은 특별히 표시하지 않으면 유한차원 실수 또는 복소수 내적공간입니다. H1과 같이 첫째 인수가 선형입니다. \(A^{\mathsf H}=\overline A^{\mathsf T}\)는 행렬의 켤레전치이고, 별표 \(T^*\)는 이 단원에서 정의할 사상의 수반입니다. 역행렬이나 쌍대공간 표기와 구별합니다.
1. ‘첫 성분을 읽는다’는 관측을 두 내적으로 표현하기#
\(x=(x_1,x_2)^{\mathsf T}\)는 단위를 정규화한 두 상태의 편차이고, 관측은 \(\varphi(x)=x_1\)입니다. 표준내적에서는
이번에는 같은 좌표에서
를 사용해 봅시다. 이 식이 실제 내적인지 먼저 확인합니다.
음수가 아니고 0이면 \(x_1=0\), 이어 \(x_2=0\)입니다. 대칭성과 쌍선형성도 성분식에서 확인됩니다. 이 내적은 상태의 첫 성분과 두 성분의 합을 제곱하여 비용을 매기는 선택입니다.
\(\varphi(x)=\langle x,w\rangle_G\)가 모든 \(x\)에서 성립하려면
이어야 합니다. 풀어 쓰면 \(2w_1+w_2=1\), \(w_1+w_2=0\)입니다. 둘째 식에서 \(w_2=-w_1\), 첫 식에 넣으면 \(w_1=1\)이므로
검산하면 \((1,-1)G=(1,0)\)입니다. 관측 \(\varphi\)는 바뀌지 않았지만 그 관측의 Riesz 표현자는 \(e_1\)에서 \((1,-1)\)로 바뀌었습니다.
그림 64 등위선 \(x_1=c\)는 두 내적에서 같습니다. 표준내적의 표현자 \(e_1\)과 \(G\)-내적의 표현자 \((1,-1)\)가 다릅니다. 두 번째 화살표가 화면의 수직선에 유클리드 직교하지 않아도, \(G\)-내적에서는 핵 방향 \((0,1)\)과 직교합니다.#
2. 내적을 바꾸는 것과 기저를 바꾸는 것은 다르다#
1절에서는 같은 좌표에서 실제로 크기와 각도를 재는 규칙을 바꿨습니다. 다른 상황도 있습니다. 표준 유클리드 공간에서 비정규직교 기저
를 고르면 기저행렬은 \(B=\left[\begin{smallmatrix}1&0\\1&1\end{smallmatrix}\right]\)이고
물리적 내적을 바꾸지 않아도 기저좌표 \(\xi,\eta\)에서는
로 보입니다. 같은 \(G\)가 나타나지만 ‘내적 자체를 바꿨다’와 ‘같은 내적을 새 좌표로 썼다’는 구별해야 합니다.
예를 들어 첫 물리 좌표를 읽는 관측은 \(B\xi\)의 첫 성분 \(\xi_1\)입니다. 새 기저에서 표현자의 좌표는 \((1,-1)\)이지만 물리 벡터는
로 원래와 같습니다. 이 계산은 좌표만 바뀐 경우입니다.
3. 함수의 한 점 평가도 벡터로 표현할 수 있을까?#
\(V=P_1(\mathbb R)\), 즉 \(p(t)=a+bt\)인 다항식 공간에 H1의 내적 \(\langle p,q\rangle=\int_0^1p(t)q(t)\,dt\)를 줍니다. \(t\)는 무차원 구간 좌표입니다. 관측 \(\varphi(p)=p(0)=a\)를 어떤 다항식 \(k(t)=c+dt\)와의 내적으로 쓰고 싶습니다.
모든 \(a,b\)에 이 값이 \(a\)이려면
첫 식에서 \(c=1-d/2\)를 둘째에 넣으면 \(1/2-d/4+d/3=0\), 즉 \(d/12=-1/2\)입니다. 따라서 \(d=-6\), \(c=4\)이고
\(k\)의 제곱노름은
이므로 \(\|k\|=2\)입니다. Cauchy–Schwarz에 의해 \(|p(0)|\le2\|p\|\), 그리고 \(p=k/2\)에서 등호에 도달합니다.
이 결과는 일차 이하 다항식에서 성립합니다. 모든 다항식 공간에 똑같이 확대할 수는 없습니다. \(p_n(t)=(1-t)^n\)이면 \(p_n(0)=1\)인데
고정된 표현자 \(k\)가 모든 다항식에 대해 존재한다면 \(1=|\langle p_n,k\rangle|\le\|p_n\|\|k\|\to0\)이 되어 모순입니다. 유한차원 가정의 실제 역할입니다.
4. 복소수에서는 표현자에 켤레가 붙는다#
\(\mathbb C\)의 내적은 \(\langle z,w\rangle=z\bar w\)입니다. 관측 \(\varphi(z)=iz\)의 표현자는 \(i\)가 아니라 \(-i\)입니다.
표현자를 \(\alpha\)배 하면 관측값은 \(\bar\alpha\)배가 됩니다. 즉
실수에서는 선형이고 복소수에서는 반선형입니다. \(V\to V^*\)의 실수 선형동형과 복소 선형동형을 같은 식으로 주장하면 안 됩니다.
그럼에도 모든 복소 선형범함수는 유일한 표현자를 갖습니다. 정규직교기저 \(e_j\)를 고르면
로 구성할 수 있습니다. 둘째 인수에서 다시 켤레가 붙으므로 \(\langle v,w\rangle=\varphi(v)\)가 됩니다. 마지막 절에서 이 계산과 기저를 쓰지 않는 증명을 모두 확인합니다.
5. 출력을 읽은 관측을 입력으로 가져오기#
선형사상 \(T:V\to W\)의 출력을 벡터 \(w\in W\)로 읽으면 입력 \(v\)에 대한 숫자는
입니다. \(v\)에 선형인 범함수이므로 \(V\) 안의 어떤 벡터로 표현할 수 있습니다. 그 벡터를 \(T^*w\)라 이름 붙입니다.
수반은 출력공간에서 입력공간으로 가는 사상입니다. 역함수가 아닙니다. \(T\)가 직사각형이거나 핵이 있어도 존재합니다.
한편 A3의 전치사상은 처음부터 내적 없이 \(T'(\psi)=\psi\circ T\)로 정의했습니다. 세 단계로 읽으면
따라서
복소수에서 양쪽 Riesz 대응은 반선형이지만 두 번의 켤레가 상쇄되어 \(T^*\)는 선형입니다. 전치와 수반은 같은 기호의 다른 철자가 아니라, 내적을 통해 연결되는 서로 다른 종류의 사상입니다.
6. 왜 켤레전치만 하면 틀릴 수 있는가?#
좌표에서 내적이 \(\langle x,y\rangle_V=y^{\mathsf H}G_Vx\), \(\langle z,w\rangle_W=w^{\mathsf H}G_Wz\)이고 \(T\)의 행렬이 \(A\)라고 합시다. \(T^*\)의 행렬을 \(B\)라 두면
모든 \(x,w\)에 같아야 하므로 \(G_WA=B^{\mathsf H}G_V\). 켤레전치하면 \(A^{\mathsf H}G_W=G_VB\)이므로
정의역과 공역의 Gram 행렬이 다르면 두 개를 구별해야 합니다. 같은 공간의 같은 기저일 때만 \(G^{-1}A^{\mathsf H}G\)입니다. 정규직교기저에서는 둘 다 단위행렬이어서 \(B=A^{\mathsf H}\)가 됩니다.
1절의 \(G\)와
를 쓰면
\(v=(0,1)\), \(w=(1,0)\)로 직접 확인합시다.
반면 \(A^{\mathsf T}w=(0,1)\)로 잘못 쓰면 내적은 1입니다. 행렬 크기는 맞고 프로그램도 실행되지만 정의를 만족하지 않습니다.
그림 65 각 칸은 \(v=e_j,w=e_i\)에서 두 내적의 차입니다. 올바른 수반에서는 모든 칸이 0이고 단순 전치에서는 일부 칸이 0이 아닙니다. 일부 벡터 쌍만 맞는 것으로 수반이라고 판정할 수 없습니다.#
7. 같은 회귀 자료를 다른 내적으로 근사하기#
H1의 \(X=\left[\begin{smallmatrix}1&-1\\1&0\\1&1\end{smallmatrix}\right]\), \(y=(1,1,4)^{\mathsf T}\)를 다시 씁니다. 관측공간에서는 가운데 관측의 오차를 두 배 무겁게 세어
를 사용하고, 계수공간은 표준내적을 사용합니다. 따라서 \(X\)의 수반은 \(X^*=X^{\mathsf T}W\)입니다.
정규방정식은 \(X^*(y-X\widehat\beta)=0\)이며
따라서 \(\widehat\beta=(7/4,3/2)^{\mathsf T}\), 예측은 \((1/4,7/4,13/4)^{\mathsf T}\), 잔차는 \((3/4,-3/4,3/4)^{\mathsf T}\)입니다. 가중 직교성을 확인하면
가중 제곱오차는 \(9/16+18/16+9/16=9/4\)입니다. H1의 표준 최소제곱해를 이 가중치로 평가하면 \(1/4+2+1/4=5/2\)여서 더 큽니다. 반대로 비가중 제곱오차는 새 해가 \(27/16\)이고 이전 해는 \(3/2\)로 이전 해가 더 작습니다. 목적함수를 바꾸었으므로 무엇을 더 잘 맞추는지도 바뀝니다.
공분산이 \(\Omega=W^{-1}=\operatorname{diag}(1,1/2,1)\)라고 주어지면 이 가중치는 오차 분산의 역수입니다. 이 경우 공식을 GLS 형태로 읽을 수 있습니다. 하지만 \(\Omega\)가 알려져 있다는 가정과 추정량의 확률적 성질은 별도이며, 여기서는 가중 최적근사를 증명한 것입니다.
예측 사영은
\(P^{\mathsf T}=P\)일 필요는 없지만 \(P^{\mathsf T}W=WP\)를 만족합니다. 이것이 이 내적에서 \(P^*=P\)라는 뜻입니다.
8. 관측을 만족하는 가장 작은 상태와 라그랑주 승수#
두 제어량 \(x_1,x_2\)의 합을 1로 맞추되 비용 \(x_1^2+4x_2^2\)를 최소화한다고 합시다. 제어량은 기준량으로 나눈 수치이며 둘째 제어가 같은 크기에서 네 배 비용을 갖는 모형입니다.
출력공간 \(\mathbb R\)은 표준내적이므로
따라서
조건에 대입하면 합은 1이고 제곱노름은 \(16/25+4/25=4/5\)입니다. 임의의 다른 해는 \(x^*+(t,-t)\). 교차항은
이므로 비용은 \(4/5+5t^2\)입니다. 해가 유일합니다.
Lagrange 함수 \(L=\tfrac12x^{\mathsf T}Gx-\lambda(Ax-b)\)의 정상조건은 \(Gx=A^{\mathsf T}\lambda\), 즉 \(x=A^*\lambda\)입니다. 승수 \(\lambda\)는 제약값을 읽는 범함수의 좌표이고, 내적을 정하면 \(A^*\)를 통해 입력공간의 벡터로 표현됩니다.
그림 66 표준 길이는 \((1/2,1/2)\)에서 최소이고 가중 비용 \(x_1^2+4x_2^2\)는 \((4/5,1/5)\)에서 최소입니다. 제약은 같고 비용의 내적만 달라졌습니다.#
9. 풀 수 없는 관측은 어떤 벡터가 증명하는가?#
\(T^*w=0\)인 벡터 \(w\)는 모든 출력 \(Tv\)와 직교합니다.
따라서 \(Tv=b\)인 해가 있다면 반드시 \(\langle b,w\rangle=0\)이어야 합니다. 이런 \(w\)가 \(b\)를 0 아닌 값으로 읽으면 해가 없다는 증거가 됩니다.
H1의 \(X\)에 표준내적을 쓰면 \(w=(1,-2,1)^{\mathsf T}\)가 \(X^{\mathsf T}w=0\)을 만족합니다. \(y=(1,1,4)\)에는 \(w^{\mathsf T}y=1-2+4=3\ne0\)이므로 정확한 직선 적합은 불가능합니다. 최소제곱 잔차 \(r=w/2\)는 바로 이 설명되지 않는 방향입니다.
가중내적에서는 해 존재 자체가 바뀌지 않습니다. 다만 이를 증명하는 벡터 표현이 바뀝니다. \(W=\operatorname{diag}(1,2,1)\)에서 \(\widetilde w=W^{-1}w=(1,-1,1)\)이면
같은 범함수를 다른 내적의 벡터로 표현한 것입니다.
10. 정확산술로 내적 항등식을 검사하기#
import sympy as s
G=s.Matrix([[2,1],[1,1]])
A=s.Matrix([[0,1],[0,0]])
adj=G.inv()*A.T*G
assert adj==s.Matrix([[-2,-1],[4,2]])
assert adj.T*G==G*A
assert A*G!=G*A
X=s.Matrix([[1,-1],[1,0],[1,1]])
W=s.diag(1,2,1); y=s.Matrix([1,1,4])
Xs=X.T*W
beta=(Xs*X).inv()*Xs*y
assert beta==s.Matrix([s.Rational(7,4),s.Rational(3,2)])
r=y-X*beta
assert Xs*r==s.zeros(2,1)
P=X*(Xs*X).inv()*Xs
assert P*P==P and P.T*W==W*P
assert P.T!=P
Q=s.diag(1,4); C=s.Matrix([[1,1]])
Cs=Q.inv()*C.T
z=Cs*(C*Cs).inv()*s.ones(1,1)
assert z==s.Matrix([s.Rational(4,5),s.Rational(1,5)])
# 복소 직사각형 사상: 정의역과 공역 Gram 행렬은 서로 다르다.
T=s.Matrix([[1,s.I],[2,1],[0,1-s.I]])
GV=s.diag(2,3); GW=s.diag(1,2,4)
Ts=GV.inv()*T.H*GW
assert Ts.H*GV==GW*T
print("Riesz 좌표·실/복소 수반·가중 사영·최소노름해 검산 통과")
Riesz 좌표·실/복소 수반·가중 사영·최소노름해 검산 통과
11. 직접 써 보는 문제와 전체 풀이#
문제 1 · 같은 범함수의 두 표현자#
\(\varphi(x)=2x_1-x_2+5x_3\)를 표준내적과 \(G=\operatorname{diag}(1,4,9)\) 내적에서 표현하세요.
풀이. 표준 표현자는 \((2,-1,5)^{\mathsf T}\). 가중 표현자는 \(Gw=(2,-1,5)^{\mathsf T}\)를 풀어 \((2,-1/4,5/9)^{\mathsf T}\)입니다. \(w^{\mathsf T}G=(2,-1,5)\)로 모든 \(x\)에서 검산됩니다.
문제 2 · 다항식 미분의 유한차원 수반#
\(P_1\)의 기저 \((1,t)\)에서 미분 \(Dp=p'\)의 수반 행렬을 구하세요.
풀이. \(A=\left[\begin{smallmatrix}0&1\\0&0\end{smallmatrix}\right]\), \(G=\left[\begin{smallmatrix}1&1/2\\1/2&1/3\end{smallmatrix}\right]\), \(G^{-1}=\left[\begin{smallmatrix}4&-6\\-6&12\end{smallmatrix}\right]\). 따라서
예를 들어 \(D^*1=-6+12t\). 임의 \(p=a+bt\)에 \(\langle Dp,1\rangle=b\)이고 \(\langle p,-6+12t\rangle=a(-6+6)+b(-3+4)=b\)입니다. 이는 \(P_1\) 안의 수반이며 경계조건을 둔 무한차원 미분연산자의 수반 공식과 같다고 주장하지 않습니다.
문제 3 · 복소수 스칼라의 수반#
\(Tz=iz\)의 수반과 전치를 구하세요.
풀이. \(\langle iz,w\rangle=iz\bar w=\langle z,-iw\rangle\)이므로 \(T^*w=-iw\). 한편 범함수 \(\varphi_a(z)=az\)에 \(T'\varphi_a(z)=aiz=\varphi_{ia}(z)\)입니다. 전치의 쌍대좌표는 \(i\), 수반의 표준 벡터좌표는 \(-i\)입니다. 켤레는 Riesz 대응에서 생깁니다.
문제 4 · 일부 쌍만 검사하면?#
\(T=I_2\), \(S=\operatorname{diag}(1,2)\)가 \(\langle Tv,w\rangle=\langle v,Sw\rangle\)를 \(v,w\in\operatorname{span}(e_1)\)에서 만족합니다. \(S=T^*\)인가요?
풀이. 그 제한에서는 양변이 같지만 \(v=w=e_2\)를 넣으면 왼쪽 1, 오른쪽 2입니다. 수반의 정의는 모든 쌍에 대한 항등식입니다. 한 부분공간에서의 검산만으로 전체 사상을 식별할 수 없습니다.
문제 5 · 수반의 역과 역의 수반#
가역 \(T:V\to W\)에 \((T^{-1})^*=(T^*)^{-1}\)을 증명하세요.
풀이. 아래에서 증명할 합성법칙으로 \((T^{-1}T)^*=T^*(T^{-1})^*=I_V\)이고 \((TT^{-1})^*=(T^{-1})^*T^*=I_W\). 따라서 \((T^{-1})^*\)는 \(T^*\)의 양쪽 역입니다. \(T\)가 가역이라는 가정이 없으면 이런 표기부터 성립하지 않을 수 있습니다.
12. 지금까지의 내용을 수학의 언어로 정리해 봅시다#
관측을 내적으로 표현하고 그 관측을 입력으로 가져오는 계산을, 이제 존재·유일성 정리와 일반 공식으로 정리하겠습니다. H1의 직교분해가 이미 증명되어 있으므로 그 가정을 확인하며 사용합니다.
12.1 Riesz 표현정리의 두 증명#
정규직교기저와 직교분해의 내부 근거는 H1의 정리 67, 정리 68입니다. 전치사상의 정의는 A3의 정의 13이며 내적을 요구하지 않습니다.
정리 69 (유한차원 Riesz 표현정리)
유한차원 내적공간 \(V\)의 모든 선형범함수 \(\varphi\)에 대해 \(\varphi(v)=\langle v,w\rangle\)가 모든 \(v\)에서 성립하는 유일한 \(w\in V\)가 존재합니다.
정규직교기저를 사용하는 존재 증명. H1의 Gram–Schmidt로 기저 \(e_1,\ldots,e_n\)을 고르고 \(w=\sum_i\overline{\varphi(e_i)}e_i\)라 둡니다. \(v=\sum_i v_ie_i\)이면
두 번의 켤레가 사라지는 위치를 확인합니다.
유일성. \(w_1,w_2\)가 같은 범함수를 나타내면 모든 \(v\)에 \(\langle v,w_1-w_2\rangle=0\). \(v=w_1-w_2\)를 넣어 \(\|w_1-w_2\|^2=0\)이므로 \(w_1=w_2\)입니다.
기저 없는 존재 증명. \(\varphi=0\)이면 \(w=0\). \(\varphi\ne0\)이면 \(U=\ker\varphi\)는 차원정리로 여차원 1입니다. \(z\)를 \(\varphi(z)\ne0\)으로 고르고 H1의 직교분해 \(z=u+q\)를 사용하면 \(q\in U^\perp\), \(\varphi(q)=\varphi(z)\ne0\). 임의 \(v\)에
이므로 \(q\)와 내적하여
이제 \(w=\overline{\varphi(q)}q/\|q\|^2\)로 두면 둘째 인수의 켤레선형성으로 \(\langle v,w\rangle=\varphi(v)\). 유일성은 위와 같습니다.
\(R(w)=\langle\,\cdot\,,w\rangle\)는 이 정리에 의해 전단사이고 실수에서 선형, 복소수에서 반선형입니다. Cauchy–Schwarz로 \(\|R(w)\|_*\le\|w\|\), \(w\ne0\)일 때 \(v=w/\|w\|\)를 넣으면 값이 \(\|w\|\)이므로
\(w=0\)에서도 양변 0입니다.
무한차원에서는 선형범함수가 반드시 유계이지 않고, 유계여도 공간의 완비성 없이 모든 범함수에 같은 표현정리를 주장할 수 없습니다. 3절은 한 구체적인 비유계 평가의 반례입니다. 여기의 증명을 무한차원 Hilbert 공간 정리와 동일시하지 않습니다.
12.2 수반의 존재·선형성·유일성#
정리 70 (수반사상)
유한차원 내적공간 사이의 선형사상 \(T:V\to W\)에는 \(\langle Tv,w\rangle_W=\langle v,T^*w\rangle_V\)를 만족하는 유일한 선형사상 \(T^*:W\to V\)가 존재합니다.
증명. 고정 \(w\)에 \(v\mapsto\langle Tv,w\rangle\)는 선형범함수입니다. Riesz 정리로 유일한 표현자 \(T^*w\)를 정합니다. 덧셈에 대해
이므로 표현자 유일성에 의해 가법입니다. 스칼라배도
이므로 \(T^*(aw)=aT^*w\). 따라서 선형입니다. 다른 사상 \(S\)가 정의를 만족하면 각 \(w\)에서 같은 범함수의 표현자이므로 \(Sw=T^*w\)여서 사상도 유일합니다.
5절의 \(R_V^{-1}T'R_W\)는 모든 \(w\)에서 바로 이 표현자를 주므로 수반과 같습니다. 전치는 내적 선택 없이 정해지고, 수반은 두 공간의 내적을 선택한 뒤 정해집니다.
12.3 수반의 대수 법칙과 좌표 공식#
\(T:U\to V\), \(S:V\to W\)에
이므로 \((ST)^*=T^*S^*\)입니다. 또한
이므로 \((T^*)^*=T\). 합과 스칼라배에는
따라서 \((T+aS)^*=T^*+\bar aS^*\). 항등사상은 자기 수반입니다.
기저 \(b_i\)의 Gram 행렬은 H1과 같이 \(G_{ij}=\langle b_j,b_i\rangle\)이며 가역입니다. 두 기저좌표 \(x,w\)에서의 항등식을 기본벡터 쌍마다 대입하면 6절의 \(G_WA=B^{\mathsf H}G_V\)가 성분별로 성립합니다. 따라서 수반 좌표는 \(G_V^{-1}A^{\mathsf H}G_W\)이고, 역으로 이 행렬을 넣으면 항등식이 모든 좌표에서 성립합니다. 이로써 공식의 필요성과 충분성을 모두 확인했습니다.
12.4 네 부분공간과 해의 존재#
\(w\in\ker T^*\)이면 모든 \(v\)에 \(\langle Tv,w\rangle=0\)이므로 \(w\in(\operatorname{im}T)^\perp\). 역으로 모든 \(Tv\)와 직교하면 \(\langle v,T^*w\rangle=0\)가 모든 \(v\)에서 성립합니다. \(v=T^*w\)를 넣어 \(T^*w=0\)을 얻습니다. 따라서
\(T^*\)에 같은 결과를 적용하고 \((T^*)^*=T\)를 사용하면
유한차원에서 이중 직교여공간을 취하면
그 결과 \(\operatorname{rank}T^*=\dim V-\dim\ker T=\operatorname{rank}T\)입니다. 또한
이것이 유한차원 Fredholm 대립의 해 존재 조건입니다. 내적 없는 A3의 소멸자 조건을 Riesz 대응으로 옮긴 것과 같습니다.
12.5 최소노름해와 가중 최소제곱#
\(A:V\to W\)가 전사라고 가정합니다. 위의 관계로 \(A^*\)는 단사입니다. 만약 \(AA^*w=0\)이면
이므로 \(A^*w=0\), 이어 \(w=0\). 따라서 \(AA^*:W\to W\)는 가역입니다.
\(x^*=A^*(AA^*)^{-1}b\)는 \(Ax^*=b\)를 만족하고 \(\operatorname{im}A^*=(\ker A)^\perp\)에 속합니다. 다른 해 \(x\)는 \(x-x^*\in\ker A\)이므로
따라서 \(x^*\)가 유일한 최소노름해입니다. \(A\)가 전사가 아니면 이 역행렬 공식을 그대로 쓰지 않습니다. 풀 수 있는 \(b\)에 대해서는 정의역을 \((\ker A)^\perp\), 공역을 \(\operatorname{im}A\)로 제한한 전단사를 이용할 수 있지만, 전체 \(W\)에서 \(AA^*\)가 가역이라는 주장은 사라집니다.
열이 독립인 \(X\)와 가중 관측 내적에서는 H1의 최적근사 정리로 \(X^*(y-X\widehat\beta)=0\). \(X^*X\)의 핵은
이므로 가역입니다. 따라서 \(\widehat\beta=(X^*X)^{-1}X^*y\). 표준 계수 내적과 관측 Gram 행렬 \(W\)를 넣으면 7절의 공식이 됩니다. \(P^2=P\)는 곱의 가운데 \(X^*X\)를 소거하여 얻고, 직교사영이므로 H1의 내적 항등식에서 \(P^*=P\)입니다.
12.6 행렬식과 수반의 마지막 구별#
C5의 \(\operatorname{adj}(A)\)는 여인수를 전치한 수반행렬이라는 번역으로도 불립니다. 이번의 \(A^*\)는 내적에 대한 수반사상의 좌표입니다. 전자는 \(A\operatorname{adj}(A)=\det(A)I\), 후자는 \(\langle Ax,y\rangle=\langle x,A^*y\rangle\)로 정해집니다. 예를 들어 표준내적에서 \(A=\operatorname{diag}(2,3)\)이면 \(A^*=\operatorname{diag}(2,3)\)이지만 \(\operatorname{adj}(A)=\operatorname{diag}(3,2)\)입니다. 이름이 비슷해도 정의와 쓰임이 다릅니다.
수반은 선택한 내적에 맞추어 입력과 출력의 평가를 옮깁니다. 다음 장에서는 사상과 수반의 관계가 언제 정규직교 고유기저를 보장하는지 살펴봅니다. H3로 이어 읽기.