线性代数笔记(十)——四个基本子空间
这一讲系统地讲解了矩阵的四个基本子空间:行空间,列空间,零空间和左零空间。他们关系密切且极其重要,对于每个子空间,我们探索了基和维数并高度概括了其背后的关联性。
四个基本子空间
现有\(m \times n\)矩阵\(A\),已知\(rank(A)=r, r\le min(n,m)\),则有:
- 列空间\(C(A) \in \mathbb{R}^m, dim C(A)=r\)。
- 零空间\(N(A) \in \mathbb{R}^n, dim N(A)=n-r\)。
- 行空间\(C(A^T) \in \mathbb{R}^n, dim C(A^T)=r\)。
- 左零空间\(N(A^T) \in \mathbb{R}^m, dim N(A^T)=m-r\)。
根据上一讲的内容,列空间和零空间的维数和基我们都已了然于胸,而实际上,行空间和左零空间也如出一辙,不过就是把\(A\)做了转置以后,如法炮制得到的列空间和零空间。
列空间的基:主元所在列的所有向量;零空间的基:所有线性无关的特解。
事实上,除了先转置再如法炮制的法子以外,对于行空间和左零空间,我们还有更便捷的求解方法。
行空间
假如我们换个角度思考,直接来看\(A\)的行向量组,消元得到: $ A= \[\begin{bmatrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{bmatrix} \underrightarrow{消元} \begin{bmatrix} 1 & 0 & 1 & 1 \\ 0 & 1 & 1 & 0 \\ 0 & 0 & 0 & 0 \end{bmatrix}\]=R $
消元的本质是做行变换,此时A的列空间发生变化(\(C(R) \neq C(A)\)),但却并不影响行空间。可以在\(R\)中看出前两行就是行空间的一组基。所以,可以得出无论对于矩阵\(A\)还是\(R\),其行空间的一组基,可以由\(R\)矩阵的前\(r\)行向量组成。
这里的\(R\)就是第七讲提到的简化行阶梯形式。
左零空间
对于左零空间,有\(A^Ty=0 \rightarrow (A^Ty)^T=0^T\rightarrow y^TA=0\),因此得名。
从转置视角来看,零空间的向量是A列向量的线性组合得到,同理左零空间的向量就是A行向量的线性组合。由此联想到前面的\(R\)最简消元,\(R\)的最后一个零行代表着行的线性组合产生了零向量,因此有:\(EA=R\),矩阵\(E\)的最后一行向量就是将\(A\)各行组合得到零向量的方式。
还记得怎么得到\(E\)吗?采用Gauss-Jordan消元,将增广矩阵\(\left[\begin{array}{c|c}A_{m \times n} & I_{m \times m}\end{array}\right]\)中\(A\)的部分划为简化行阶梯形式\(\left[\begin{array}{c|c}R_{m \times n} & E_{m \times m}\end{array}\right]\),\(E\)将\(A\)变为\(R\)的同时,也把\(I\)变成了\(E\),化简完毕我们就得到了矩阵\(E\),而它则会把所有的行变换操作记录下来。
本例中: \[ \left[\begin{array}{c|c}A_{m \times n} & I_{m \times m}\end{array}\right]=\left[\begin{array} {c c c c|c c c} 1 & 2 & 3 & 1 & 1 & 0 & 0 \\ 1 & 1 & 2 & 1 & 0 & 1 & 0 \\ 1 & 2 & 3 & 1 & 0 & 0 & 1 \end{array}\right] \underrightarrow{消元} \left[ \begin{array} {c c c c|c c c} 1 & 0 & 1 & 1 & -1 & 2 & 0 \\ 0 & 1 & 1 & 0 & 1 & -1 & 0 \\ 0 & 0 & 0 & 0 & -1 & 0 & 1 \end{array} \right] =\left[\begin{array}{c|c}R_{m \times n} & E_{m \times m}\end{array}\right] \]
则 \[ EA=\begin{bmatrix} -1 & 2 & 0 \\ 1 & -1 & 0 \\ -1 & 0 & 1 \end{bmatrix} \cdot \begin{bmatrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{bmatrix}= \begin{bmatrix} 1 & 0 & 1 & 1 \\ 0 & 1 & 1 & 0 \\ 0 & 0 & 0 & 0 \end{bmatrix}=R \]
很明显,式中\(E\)的最后一行对\(A\)的行做线性组合后(行视角:-1个行1+0个行2+1个行3),得到\(R\)的最后一行,即\(0\)向量,也就是\(y^TA=0\)。另一方面,\(E\)的第三行对应的行向量就是矩阵\(A\)的左零空间的基,维数是1。
矩阵空间
不只是向量可以构建出空间,万物皆可构造出空间,只要满足加法和数乘的封闭性即可。
举个例子,矩阵可以同向量一样,做求和、数乘。那么什么样的矩阵构成的空间满足封闭性呢? 比如,设所有\(3 \times 3\)矩阵组成的矩阵空间为\(M\)。则上三角矩阵、对称矩阵、对角矩阵(前两者的交集)都可以构成矩阵空间。
观察一下对角矩阵,如果取:\(\begin{bmatrix} 1 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix} \quad \begin{bmatrix} 1 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 0 \end{bmatrix} \quad \begin{bmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 7 \end{bmatrix}\) ,可以发现,任何三阶对角矩阵均可用这三个矩阵的线性组合生成,因此,他们生成了三阶对角矩阵空间,即这三个矩阵是三阶对角矩阵空间的一组基。