线性代数 4 - A 的 LU 分解

• 逆矩阵(补)
• 为什么 $(AB)^T = B^TA^T$
  • $(Ax)^T = x^TA^T$
  • $(AB)^T = B^TA^T$
• A的 LU 分解
• 置换矩阵(Permutation Matrix)

这部分主要内容是将矩阵分解为 $A = LU$, 其中 $L$ 是下三角矩阵, $U$ 是上三角矩阵

逆矩阵(补)

这部分上次内容的补充.

首先, 如果 $A$ 和 $B$ 都可逆, 那么 $AB$ 的逆是什么? 从空间变换角度考虑, 一个矩阵首先经历了 $A$ 变换, 然后又经历了 $B$ 变换. 然后我想要返回原来的状态, 那自然应该先做 $B^{-1}$ 变换, 然后做 $A^{-1}$ 变换, 也就是 $B^{-1}A^{-1}$. 那么 $(AB)^{-1} = B^{-1}A^{-1}$.

教授的原话大概是你穿了袜子在穿鞋, 那么反过来便是先拖鞋再脱袜子.

如果对 $AA^{-1} = I$ 做转置处理, 因为 $I$ 转置还是 $I$, 所以 $(AA^{-1})^{T} = I$. 又因为 $(AB)^T = B^TA^T$, 那么可得到 $(AA^{-1})^{T} = (A^{-1})^TA^T = I$.

而且, 对比 $AA^{-1} = I$ 和 $(A^{-1})^TA^T = I$, 我们可以发现 $(A^T)^{-1} = (A^{-1})^T$

为什么 $(AB)^T = B^TA^T$

$(Ax)^T = x^TA^T$

为了理解 $(AB)^T = B^TA^T$, 我们首先看看 $(Ax)^T = x^TA^T$.

根据之前介绍, $Ax$ 是 $A$ 的列的线性组合, $x^TA^T$ 是 $A^T$ 的行的线性组合. 这其实是同一组向量的相同组合! 所以 $Ax$ 转置就是将列向量变为行向量, 自然等于 $x^TA^T$.

$(AB)^T = B^TA^T$

假设 $B = \begin{bmatrix} \vec{x_1} & \vec{x_2} \end{bmatrix}$, 有两个列向量, $AB = \begin{bmatrix} A\vec{x_1} & A\vec{x_2} \end{bmatrix}$. 那么 $(AB)^T = \begin{bmatrix} \vec{x_1}^TA^T \\ \vec{x_2}^TA^T \end{bmatrix}$, 这个就是 $B^TA^T$.

A的 LU 分解

先从一个 $2 \times 2$ 矩阵着手, A = $\begin{bmatrix} 2 & 1 \\ 6 & 8 \end{bmatrix}$, 我们要将三倍的第一行从第二行移除, 正向就是 $E_{21}A = U$, 反向就是 $E_{21}^{-1}U = A$:

顺便问一句, 上面的 $E_{21}^{-1}$ 不用求逆矩阵就可以看出来, 这个能做到吗? 如果不能, 回到2. 消元法 – 2.1 向量与矩阵的乘法行的图像理解一下. 这里使用行图像理解, $E_{21}$ 第一行说明 $U$ 保持对 $A$ 第一行不变, $E_{21}$ 第二行说明对 $A$ 第二行操作为: 第一行乘以 -3 加第二行. 那么反过来, $E_{21}^{-1}$ 就是仍然保持对第一行不变, 对第二行操作取反: 第二行加回来第一行的 3 倍.

其中的 $E_{21}^{-1}$ 就是 $L$. 假设我们经过了一系列变换才将 $A$ 变为 $U$, 例如: $E_{32}E_{31}E_{21}A = U$, 那么这个时候 $L$ 就是 $E_{21}E_{31}E_{32}$

置换矩阵(Permutation Matrix)

变换用的矩阵可以看成通过将单位矩阵 $I$ 行变换得来的. 在消元法中, 如果主元不是 1, 我们通过调换行的位置来继续运算. 由于变换就是矩阵乘法, 所以变换矩阵可以用矩阵乘法的形式写出来. 这个变换矩阵就是置换矩阵.

3阶方阵 $I$ 的置换矩阵有6个： $\begin{equation} \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix} \begin{bmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix} \begin{bmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ 1 & 0 & 0 \\ \end{bmatrix} \begin{bmatrix} 1 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 0 \\ \end{bmatrix} \begin{bmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 1 & 0 & 0 \\ \end{bmatrix} \begin{bmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ \end{bmatrix} \end{equation}$

仔细观察可以发现, 这六个就是所有变换了. 那么它们相乘的结果必然不能产生新的变换, 所以它们的乘积仍在这个结果范围内.

$n$阶方阵的置换矩阵有$\binom{n}{1}=n!$个