线性代数读书笔记（3）

乘法和逆矩阵

矩阵乘法的四种表示方法

\begin{bmatrix}A_{1, 1}&A_{1, 2}&A_{1, 3}&A_{1, 4}\\A_{2, 1}&A_{2, 2}&A_{2, 3} &A_{2, 4}\\A_{3, 1}&A_{3, 2}&A_{3, 3}&A_{3, 4}\\A_{4, 1}&A_{4, 2} &A_{4, 3}&A_{4, 4} \end{bmatrix}
\begin{bmatrix}B_{1, 1}&B_{1, 2}&B_{1, 3}&B_{1, 4}\\B_{2, 1}&B_{2, 2}&B_{2, 3} &B_{2, 4}\\B_{3, 1}&B_{3, 2}&B_{3, 3}&B_{3, 4}\\B_{4, 1}&B_{4, 2} &B_{4, 3} &B_{4, 4} \end{bmatrix}
=
\begin{bmatrix}C_{1, 1}&C_{1, 2}&C_{1, 3}&C_{1, 4}\\C_{2, 1}&C_{2, 2}&C_{2, 3} &C_{2, 4}\\C_{3, 1}&C_{3, 2}&C_{3, 3}&C_{3, 4}\\C_{4, 1}&C_{4, 2} &C_{4, 3} &C_{4, 4}\end{bmatrix}

 A * B = C

1.常规方法

• 用A的每一行乘以B的每一列

C_{3, 4} = A_{3, 1} * B_{1, 3} + A_{3, 2} * B_{2, 4} +... +  A_{3, k} * B_{k, 4} = \sum_{i=1}^{n} A_{3, i} * B_{i, 4}

2. 列方法

• n行p列的矩阵B(n*p)可以考虑成p个单独的列向量，A * B 转化为 矩阵A乘以矩阵B的每一列之和
• C中的每一列，是A中各列乘以一个列向量，等价于A的各列的线性组合，而B中的数字则表明了这是一个怎样的线性组合

\begin{bmatrix}A_{1, 1}&A_{1, 2}&A_{1, 3}&A_{1, 4}\\A_{2, 1}&A_{2, 2}&A_{2, 3} &A_{2, 4}\\A_{3, 1}&A_{3, 2}&A_{3, 3}&A_{3, 4}\\A_{4, 1}&A_{4, 2} &A_{4, 3}&A_{4, 4} \end{bmatrix}
\begin{bmatrix}B_{1, 1}&B_{1, 2}&B_{1, 3}&B_{1, 4}\\B_{2, 1}&B_{2, 2}&B_{2, 3} &B_{2, 4}\\B_{3, 1}&B_{3, 2}&B_{3, 3}&B_{3, 4}\\B_{4, 1}&B_{4, 2} &B_{4, 3} &B_{4, 4} \end{bmatrix}
=
\begin{bmatrix}
A
\begin{bmatrix}B_{1, 1} \\B_{2, 1}\\B_{3, 1}\\B_{4, 1}\end{bmatrix},
A
\begin{bmatrix}B_{1, 2}\\B_{2, 2}\\B_{3, 2}\\B_{4, 2} \end{bmatrix},
A
\begin{bmatrix}B_{1, 3}\\B_{2, 3}\\B_{3, 3}\\B_{4, 3}\end{bmatrix},
A
\begin{bmatrix}B_{1, 4}\\B_{2, 4}\\B_{3, 4}\\B_{4, 4}\end{bmatrix}
\end{bmatrix}

3. 行方法

• C中的每一行，对应的是A乘以B中的每一行，等价于B中每一行的线性组合

\begin{bmatrix}A_{1, 1}&A_{1, 2}&A_{1, 3}&A_{1, 4}\\A_{2, 1}&A_{2, 2}&A_{2, 3} &A_{2, 4}\\A_{3, 1}&A_{3, 2}&A_{3, 3}&A_{3, 4}\\A_{4, 1}&A_{4, 2} &A_{4, 3}&A_{4, 4} \end{bmatrix}
\begin{bmatrix}B_{1, 1}&B_{1, 2}&B_{1, 3}&B_{1, 4}\\B_{2, 1}&B_{2, 2}&B_{2, 3} &B_{2, 4}\\B_{3, 1}&B_{3, 2}&B_{3, 3}&B_{3, 4}\\B_{4, 1}&B_{4, 2} &B_{4, 3} &B_{4, 4} \end{bmatrix}
=
\begin{bmatrix}
\begin{bmatrix}A_{1, 1}&A_{1, 2}&A_{1, 3}&A_{1, 4}
\end{bmatrix} B\\
\begin{bmatrix}A_{2, 1}&A_{2, 2}&A_{2, 3} &A_{2, 4}
\end{bmatrix} B
\\\begin{bmatrix}A_{3, 1}&A_{3, 2}&A_{3, 3}&A_{3, 4}
\end{bmatrix} B
\\\begin{bmatrix}A_{4, 1}&A_{4, 2} &A_{4, 3}&A_{4, 4} 
\end{bmatrix} B
\end{bmatrix}

从方法2和3中可以看出 ，C中各行是B中各行的线性组合，C中各列是A中各列的线性组合

4. 列乘以行

• 使用矩阵A的列向量乘以矩阵B的行向量，得到各个矩阵相加，即为C
• 例子：

\begin{bmatrix} 2 & 7 \\ 3 & 8 \\ 4 & 9
\end{bmatrix}
\begin{bmatrix} 1 & 6 \\0 & 0
\end{bmatrix}
=
\begin{bmatrix} 2\\ 3 \\ 4
\end{bmatrix}
\begin{bmatrix} 1 & 6
\end{bmatrix}
+
\begin{bmatrix} 7 \\ 8 \\ 9 
\end{bmatrix}
\begin{bmatrix} 0 & 0
\end{bmatrix}
= 
\begin{bmatrix} 2 & 12 \\ 3 & 18 \\ 4 & 24
\end{bmatrix}

• 最终得到的结果每一列都和

  \begin{bmatrix} 2  \\ 3 \\ 4
  \end{bmatrix}
  

  同向。
  即列向量都在(2, 3, 4)这个方向上，列空间是一条直线。
  同理结果的每一行都在(1, 6) 这个方向上，行空间也是一条直线

逆矩阵

定义：

• 对于一个矩阵A，如果A可逆，则有

A A^{-1}=I=A^{-1}A

I是单位矩阵

• 一个没有逆的矩阵：

    \begin{bmatrix} 1 & 3  \\ 2 & 6
    \end{bmatrix}

• 为什么没有逆矩阵？

• 假设A乘以某个矩阵，那么结果中的各列都是A中相应列的倍数，而这不可能是单位矩阵。换种说法就是：A中的各个向量都在同一条直线上，我们无法找到对应的线性组合使它成为一个单位矩阵

• 结论：如果存在非零向量x，使得 Ax=0 ，那么矩阵A就不可逆

• 如果 Ax=0 ,假设A的逆存在，那么两边同时乘以A的逆，约去单位向量I

A^{-1}Ax=A^{-1}0 ==> x=0

而x不可能为0，与条件矛盾

逆矩阵的求解方法

• 求逆矩阵的过程就是解方程组的过程
• 例如， 求下面这个矩阵的逆矩阵：

\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}

• 即

\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}
\begin{bmatrix} a & b\\ c & d \end{bmatrix}
=
I
=
\begin{bmatrix} 1 & 0\\ 0 & 1 \end{bmatrix}

• 我们首先从列向量的角度来看，得到了两个方程

\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}
\begin{bmatrix} a \\ c \end{bmatrix}
=
\begin{bmatrix} 1 \\ 0\end{bmatrix}

\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}
\begin{bmatrix} b \\ d \end{bmatrix}
=
\begin{bmatrix} 0 \\ 1 \end{bmatrix}

求解这个方程，得到a,b,c,d的值，就能得到逆矩阵了

高斯-若尔当方法

还是上面的例子，我们通过列向量的角度得到两个方程

\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}
\begin{bmatrix} a \\ c \end{bmatrix}
=
\begin{bmatrix} 1 \\ 0\end{bmatrix}

\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}
\begin{bmatrix} b \\ d \end{bmatrix}
=
\begin{bmatrix} 0 \\ 1 \end{bmatrix}

在这里我我们使用增广矩阵将他们联系起来
[图片上传失败...(image-57d5b4-1550418477865)]

• 在上面的求解过程中，我们对
  $\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}$
  进行了消元变换使得它变成了一个单位矩阵I，相当于左乘了一大堆消元矩阵，我们将这些矩阵记作E，那么$E\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix} = I $, 所以E肯定是逆矩阵$A^{-1}$,虚线右边，单位矩阵$\begin{bmatrix} 1 & 0\\ 0 & 1 \end{bmatrix}$与$\begin{bmatrix} 1 & 3\\ 2 & 7 \end{bmatrix}$经历了同样的消元过程，最后的结果是$EI=IA^{-1}$，那么虚线右侧的矩阵就是$A^{-1}$了