线性代数笔记16

2019-02-12 本文已影响1人大飞哥

第十六节

投影

两个特殊的例子，

如果b就A的列空间中，则投影就是本身
如果b垂直于A的列空间，则投影就是一个点，就是个零。

$P=A(A^TA)^{-1}A^T$

对于2来讲，b如果垂直于A的列空间，则b就在A的转置的零空间中
则又 $A^Tb=0$ ，所以又2.

对于1来讲，如果b就在A的列空间内，则b=Ax
则 $Pb=A(A^TA)^{-1}A^Tb=A(A^TA)^{-1}A^TAx=Ax$ ，所以有1.

$p+e=b$
则 $p=Pb，e=(I-P)b$
p是投影，e也是投影，（投影到 $N(A^T)$ ）
e垂直于A的列空间

最优直线

接上一节：

矩阵方程可以写成：
$\begin{bmatrix} 1 &1 \\ 1 &2 \\ 1 &3 \end{bmatrix}\begin{bmatrix} C\\ D \end{bmatrix}=\begin{bmatrix} 1\\ 2\\ 2 \end{bmatrix}$
Ax=b就有对应的了
求最小的e
$Ax-b=e$
求最小，就是向量长度最小化 $||Ax-b||^2=||e||^2=e_1^2+e_2^2+e_3^2$
这就是最小二乘了

解方程：
找到 $\hat x=\begin{bmatrix}\hat C \\\hat D \end{bmatrix}$
带入方程 $A^Tb=A^TA\hat x$
$3C+6D=5\\ 6C+14D=11$
得到
$\begin{bmatrix}\hat C \\\hat D \end{bmatrix}=\begin{bmatrix}2/3 \\1/2 \end{bmatrix}$