线性代数笔记(二十八)——正定矩阵和最小值
本节回归到实数域,重点讨论了正定矩阵这一主题,将之前所掌握的主元、行列式、特征值等知识联系起来,通过正定矩阵引出函数与矩阵之间的关系,介绍如何找到函数的最小值,并给出几何解释。
正定矩阵和最小值
何为正定矩阵,先从2阶方阵入手,下面给出正定矩阵的4种判定法:
- 特征值判定:两个特征值均为正数。即,
。 - 行列式判定:
,即顺序主子式均为正值。 - 主元判定:主元皆为正数,即:
。 - 判别式:
。
此外,正定矩阵都得是正定阵。
二阶正定矩阵的探讨
对于矩阵
而如果正好填18进去,此时矩阵会变成一个奇异阵,它的行列式为0,只有一个主元2,特征值分别为0和20(由迹可以轻易算出)。对于这样的矩阵,我们可以成为半正定阵。
除了通过特征值、行列式和主元来判定,还可以用第四种判别式法来展开探讨:
实际上这里的2,12,18就分别代表了a,2b和c。这是一个标准的二次型,没有线性项,那么根据判别式法,对于
再来看看
这一二次型呈现在坐标轴上是一个马鞍面:
从不同方向观察,它有着不同的性质,鞍点是某些方向的极值,但显然它不可能恒大于0。
而对于正定矩阵来说:
它是一个开口始终朝上的二次型曲面,其最小值在原点取到,切面类似于二次函数曲线:
利用微积分的知识,我们可以知道对于
将
到n阶的推广
微积分中我们求二阶偏导数极值时的
这里主对角线的两个元素都是某一个方向上的n阶导数(上例n=2),为了存在极小值,它们必须为正。而函数的求导顺序不会改变结果,所以沿着对角线的元素天然是对称的(如上例的
这一判断也可以推广到n维方阵。