MIT-18.06-线性代数（第二讲）

2022-03-01 本文已影响0人林枫bioinfo

第二讲 —— 矩阵消元

消元（Elimination）
回代（Back-Substitution）
用矩阵语言描述消元法（Elimination matrices），对应课程的核心“矩阵变换”

1. 消元法

有方程组： $\left\{ \begin{array}{c} x+2y+z=2 \\ 3x+8y+z=12 \\ 4y+z=2 \\ \end{array} \right.$ ，写成矩阵形式 $A= \begin{bmatrix} 1 & 2 & 1 \\ 3 & 8 & 1 \\ 0 & 4 & 1 \\ \end{bmatrix}$ 。第一步如何做？第一个方程成立，用该方程乘某个数，然后从第二个方程中将其减去。目的是消去方程二中的 $x$ ，即消元。

将矩阵左上角的1称为“主元一”（1st pivot），第一行不变，因为它是主元行，消元乘数为3，得到消元后的方程 $\begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 4 & 1 \\ \end{bmatrix}$ ，按顺序消元，第一步完成。严格来说，这里消元的位置是 $(2,1)$ 位置，行二列一， $(2,1)$ 位置从而得到0，因此用 $(2,1)$ 作为这一步的代号。

下一步是什么？是将第一列最下的元素也变成0，因此下一步的代号为 $(3,1)$ ，行三列一，因为已经为0，因此消元乘数为0。

下面考虑“主元二”，第二行第二列的元素2为主元二，这里希望消掉 $(3,2)$ 位置，步骤代号 $(3,2)$ ，消元乘数为2，得到 $U= \begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 0 & 5 \\ \end{bmatrix}$ ，右下角的5为“主元三”。

消元的目的是从 $A$ 到 $U$ （另：主元不能为0）

讨论消元失效的情况，失效指不能得到三个主元。假设矩阵 $A$ 左上角的元素一开始就为0，需要进行“行交换”，在下面的方程中找到合适的主元。假设矩阵 $A$ 右下角元素为-4，那将得到 $U= \begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 0 & 0 \\ \end{bmatrix}$ ，主元三将不存在，矩阵因此不可逆，消元确定失效。

“行交换”可以解决主元为0的“暂时性失效”，但当底下的行中再也没有非0元素时，消元彻底失效。

2. 回代

引入右侧向量作为新的一列， $\left[\begin{array}{ccc|c} 1 & 2 & 1 & 2 \\ 3 & 8 & 1 & 12 \\ 0 & 4 & 1 & 2 \\ \end{array}\right]$ ，称为“增广矩阵（augmented matrix）”。可以想象，对方程进行消元时，右侧向量也会同步变化。

即 $\left[\begin{array}{ccc|c} 1 & 2 & 1 & 2 \\ 3 & 8 & 1 & 12 \\ 0 & 4 & 1 & 2 \\ \end{array}\right]$ ——> $\left[\begin{array}{ccc|c} 1 & 2 & 1 & 2 \\ 0 & 2 & -2 & 6 \\ 0 & 4 & 1 & 2 \\ \end{array}\right]$ ——> $\left[\begin{array}{ccc|c} 1 & 2 & 1 & 2 \\ 0 & 2 & -2 & 6 \\ 0 & 0 & 5 & -10 \\ \end{array}\right]$ 。将最终得到的右侧向量记为 $c$ ， $c$ 是 $b$ 的最终结果，就像 $U$ 对应 $A$ 一样。

把结果写成方程，即为 $\left\{ \begin{array}{c} x+2y+z=2 \\ 2y-2z=6\\ 5z=-10 \\ \end{array} \right.$ ，这就是矩阵 $U$ 和 $c$ 的方程含义，最终得到解 $x=2,y=1,z=-2$ 。

3. 消元矩阵

分别用行和列进行矩阵操作，是线性代数的核心内容。
步骤 $(2,1)$ 的矩阵语言描述： $\begin{bmatrix} 1 & 0 & 0 \\ -3 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix} \begin{bmatrix} 1 & 2 & 1 \\ 3 & 8 & 1 \\ 0 & 4 & 1 \\ \end{bmatrix}=\begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 4 & 1 \\ \end{bmatrix}$ ， $\begin{bmatrix} 1 & 0 & 0 \\ -3 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix}$ 称为初等矩阵，记为 $E$ ，记录下标 $E_{21}$ ，表示是在位置 $(2,1)$ 上的变换。

步骤 $(3,2)$ 的矩阵语言描述： $\begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & -2 & 1 \\ \end{bmatrix} \begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 4 & 1 \\ \end{bmatrix}=\begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 0 & 5 \\ \end{bmatrix}$ ， $\begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & -2 & 1 \\ \end{bmatrix}$ 为初等矩阵 $E_{32}$ 。

综合表示，即为 $E_{32}(E_{21}A)=U$ 。也可写成( $E_{32}E_{21})A=U$ ，通过 $E_{32}E_{21}$ 计算可以得到一次性解决问题的矩阵。增减括号是矩阵乘法的一项性质，对任意矩阵乘法都适用，即“结合律”（associative law）。注意矩阵运算不符合“交换律”。

另： $\begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix}$ 是单位矩阵（identity matrix），矩阵与单位矩阵相乘等于本身。

4. 置换矩阵

$\begin{bmatrix} 0 & 1 \\ 1 & 0 \\ \end{bmatrix} \begin{bmatrix} a & b \\ c & d \\ \end{bmatrix} =\begin{bmatrix} c & d \\ a & b \\ \end{bmatrix}$ ，矩阵 $\begin{bmatrix} 0 & 1 \\ 1 & 0 \\ \end{bmatrix}$ 记为 $P$ ，代表置换（permutation）

$\begin{bmatrix} a & b \\ c & d \\ \end{bmatrix} \begin{bmatrix} 0 & 1 \\ 1 & 0 \\ \end{bmatrix} =\begin{bmatrix} b & a \\ d & c \\ \end{bmatrix}$ 。

行变换时矩阵左乘，列变换时矩阵右乘。

5. 逆矩阵

$\begin{bmatrix} 1 & 0 & 0 \\ 3 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix} \begin{bmatrix} 1 & 0 & 0 \\ -3 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix}=\begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix}$

如果原矩阵为 $E$ ，单位矩阵为 $I$ ， $E$ 的逆矩阵记为 $E^{-1}$ ，此处 $E^{-1}=\begin{bmatrix} 1 & 0 & 0 \\ 3 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix}$ 。