线性代数笔记(三)——乘法和逆矩阵
这一讲是对矩阵乘法和逆矩阵的深入说明。矩阵乘法主要介绍了按不同视角来理解的多种计算方式。逆矩阵则给出了求解非奇异矩阵的逆矩阵的方法。
乘法和逆矩阵
矩阵乘法的视觉意义
矩阵乘法\(AB=C\)，其中\(A\)是\(m\times n\)阵，\(B\)是\(n\times p\)阵，我们知道得到的\(C\)是一个\(m\times p\)阵。对于\(C\)中第\(i\)行第\(j\)列元素\(C_{ij}\)。
从不同视角看矩阵乘法，我们可以给出不同的计算式：
从每个元素的角度
有： \[ c_{ij}=row_i\cdot column_j = \sum_{k=i}^na_{ik}b_{kj} \]
其中\(a_{ik}\)是矩阵\(A\)的第\(i\)行第\(k\)列元素，\(b_{kj}\)是\(B\)矩阵第\(k\)行第\(j\)列元素。 \(c_{ij}\)可以看成是\(A\)的第\(i\)行乘以\(B\)的第\(j\)列。
列的线性组合
从列的角度看，\(C\)的各列是\(A\)中各列的线性组合，组合方式由\(B\)来确定。比如\(C\)的第一列是 \(A\)中各列相对于\(B\)的第一列的一个线性组合。
\[ \begin{bmatrix} && \\ A_{col1}&A_{col2}&\cdots&A_{coln} \\ &&\end{bmatrix}\begin{bmatrix} \cdots&b_{1j}&\cdots \\ \cdots&b_{2j}&\cdots \\ \cdots&\vdots&\cdots \\ \cdots&b_{nj}&\cdots \\ \end{bmatrix}=\begin{bmatrix} && \\ \cdots&\left(b_{1j}A_{col1}+b_{2j}A_{col2}+\cdots+b_{nj}A_{coln}\right)&\cdots \\ &&\end{bmatrix} \]
上面的运算为\(B\)的第\(j\)个列向量右乘矩阵\(A\)，求得的结果就是\(C\)矩阵的第\(j\)列，即\(C\)的第\(j\)列是\(A\)的列向量以\(B\)的第\(j\)列作为系数所求得的线性组合，\(C_j=b_{1j}A_{col1}+b_{2j}A_{col2}+\cdots+b_{nj}A_{coln}\)。
行的线性组合
\(C\)的各行是\(B\)中各行的一个线性组合，组合方式由\(A\)决定。比如\(C\)的第一行是\(B\)中各行相对于\(A\)的第一行的一个线性组合。
\[ \begin{bmatrix} \vdots&\vdots&\vdots&\vdots \\ a_{i1}&a_{i2}&\cdots&a_{in} \\ \vdots&\vdots&\vdots&\vdots \end{bmatrix} \begin{bmatrix} &B_{row1}& \\ &B_{row2}& \\ &\vdots& \\ &B_{rown}& \end{bmatrix}=\begin{bmatrix} \vdots \\ \left(a_{i1}B_{row1}+a_{i2}B_{row2}+\cdots+a_{in}B_{rown}\right) \\ \vdots \end{bmatrix} \]
上面的运算为\(A\)的第\(i\)个行向量左乘矩阵\(B\)，求得的结果就是\(C\)矩阵的第\(i\)行，即\(C\)的第\(i\)行是\(B\)的行向量以\(A\)的第\(i\)行作为系数所求的的线性组合，\(C_i=a_{i1}B_{row1}+a_{i2}B_{row2}+\cdots+a_{in}B_{rown}\)。
从矩阵的角度看
\(A\)的列乘以\(B\)的行： \[ \begin{bmatrix} && \\ A_{col1}&A_{col2}&\cdots&A_{coln} \\ && \end{bmatrix} \begin{bmatrix} &B_{row1}& \\ &B_{row2}& \\ &\vdots& \\ &B_{rown}& \end{bmatrix}=A_{col1}B_{row1}+A_{col2}B_{row2}+\cdots+A_{coln}B_{rown} \]
\(A_{coli}B_{rowi}\)是一个\(m\times 1\)向量乘以一个\(1\times p\)向量，其结果是一个\(m\times p\)矩阵，而所有的\(m\times p\)矩阵之和就是计算结果。
分块来看
\[ \left[\begin{array}{c|c}A_1&A_2\\ \hline A_3&A_4\end{array}\right]\left[\begin{array}{c|c}B_1&B_2\\ \hline B_3&B_4\end{array}\right]=\left[\begin{array}{c|c}A_1B_1+A_2B_3&A_1B_2+A_2B_4\\ \hline A_3B_1+A_4B_3&A_3B_2+A_4B_4\end{array}\right] \]
简写成： \[ \left[\begin{array}{c|c}A_1&A_2\\ \hline A_3&A_4\end{array}\right]\left[\begin{array}{c|c}B_1&B_2\\ \hline B_3&B_4\end{array}\right]=\left[\begin{array}{c|c}C_1&C_2\\ \hline C_3&C_4\end{array}\right] \]
可以看到 矩阵完全可以拆成多个块，各块的关联关系也一目了然。
逆矩阵
逆矩阵分为左逆和右逆，不是所有方阵都可逆，对于方阵来说，左逆和右逆是相等的。
对这些有逆的矩阵，我们称其为可逆的或非奇异的。
如何判断一个矩阵是可逆的？从列图像来看，如果\(A^{-1}\)存在，那么有\(AA^{-1}=I\)，如果\(A\)中各列无法线性组合成单位阵，则矩阵不可逆。相反，如果可以找到非零向量\(x\)使得\(Ax=0\)有解，那么\(A\)也是不可逆的（某些列是相关的，反证法非常容易求证）。
那么如何求解一个逆矩阵呢？可以采用高斯-若尔当思想： 构造这样一个增广矩阵： \(\left[\begin{array}{cc|cc}1&3&1&0\\ 2&7&0&1\end{array}\right]\)，
右侧补充一个单位阵\(I\)，接下来用消元法将左侧变为单位矩阵：
\[ \left[\begin{array}{cc|cc}1&3&1&0\\ 2&7&0&1\end{array}\right]\xrightarrow{row_2-2row_1}\left[\begin{array}{cc|cc}1&3&1&0\\ 0&1&-2&1\end{array}\right]\xrightarrow{row_1-3row_2}\left[\begin{array}{cc|cc}1&0&7&-3\\ 0&1&-2&1\end{array}\right] \]
于是，我们就将矩阵从\(\left[\begin{array}{c|c}A&I\end{array}\right]\)变为\(\left[\begin{array}{c|c}I&A^{-1}\end{array}\right]\)
而高斯-若尔当思想的本质是使用消元矩阵\(E\)，对\(A\)进行操作，\(E\left[\begin{array}{c|c}A&I\end{array}\right]\)，利用一步步消元有\(EA=I\)，进而得到\(\left[\begin{array}{c|c}I&E\end{array}\right]\)，其实这个消元矩阵\(E\)就是\(A^{-1}\)，而高斯-若尔当法中的\(I\)只是负责记录消元的每一步操作，待消元完成，逆矩阵就自然出现了。
结论：如果矩阵可以通过行变换变成\(I\)，那么矩阵就是可逆的。