MIT 18.06 linear algebra 第二十六讲笔记

MIT 18.06 linear algebra 第二十六讲笔记

第二十六课课程要点：

• Symmetric Matrices
• Eigenvalue & Eigenvector
• start: Positive Definite Matrix

关于对称矩阵$A=A^T$有以下特性：

1. 特征值都是实数
2. 特征向量都是(可以选取出一组)正交的。

如果特征值不同的话，那么对应的特征向量是垂直的。如果特征值有重复的话，我们可以在既定平面上选取出一组相互垂直的特征向量。就前面这句话的解释为：假设有特征值$\lambda_i$与$\lambda_j$的值是相等的，那么将其代入求特征向量时$(A-\lambda I)x=0$,因为$\lambda$是重根，所以$N(A-I)$必定对应一个空间，那么我们在这个空间内选取两个相互垂直的特征向量即可。

通常来说我们可以把矩阵写为$A=S\Lambda S^{-1}$。对于对称矩阵时，我们可以选取一组标准正交的特征向量作为特征向量，因此可以有$A=Q\Lambda Q^{-1}$,又由于$Q$为标准正交向量，那么有$A=Q\Lambda Q^{-1}=Q\Lambda Q^T$。

下面证明下为何特征值是实数？
对于$Ax=\lambda x$,其存在共轭的形式$\overline{A}\overline{x}=\overline{\lambda}\overline{x}$。
如果一个实矩阵有一特征值$\lambda$和一特征向量$x$，那么它必然有另一特征值$\overline{\lambda}$和特征值$\overline{x}$。形式为$A\overline{x}=\overline{\lambda}\overline{x}\Rightarrow \overline{x}^TA^T=\overline{x}^T\overline{\lambda}$。由于矩阵$A$是对称的因此$A\overline{x}=\overline{\lambda}\overline{x}\Rightarrow \overline{x}^TA=\overline{x}^T\overline{\lambda}$。

对$Ax=\lambda x$左乘$\overline{x}$有$\overline{x}Ax=\lambda \overline{x}x$。同样对$\overline{x}^TA=\overline{x}^T\overline{\lambda}$右乘$x$,有$\overline{x}^TAx=\overline{x}^T\overline{\lambda}x$。如果$\overline{x}x\neq0$那么就可以推出$\lambda=\overline{\lambda}$。
现在看一下$\begin{bmatrix}\overline{x_1}\cdots\overline{x_n}\end{bmatrix}\begin{bmatrix}x_1\\\vdots\\x_n\end{bmatrix}=\overline{x_1}x_1+\cdots+\overline{x_n}x_n=\sum(a_i+ib_i)(a_i-ib_i)=\sum(a^2+b^2)>0$
因此我就可以得出$\overline{\lambda}=\lambda$。

Good Matrix
如果$A=A^T$，且元素为实数，那么它的特征值为实数，特征向量相互垂直，那么就可以称之为好的矩阵。如果是复数矩阵的话，那么需要满足条件为$A=\overline{A}^T$。

前提$A=A^T$
$A=Q\Lambda Q^T=\begin{bmatrix}q_1,q_2,\cdots,q_n\end{bmatrix}\begin{bmatrix}\lambda_1&&\\&\ddots&\\&&\lambda_n\end{bmatrix}\begin{bmatrix}q_1^T\\q_2^T\\\vdots\\q_n^T\end{bmatrix}=\lambda_1q_1q_1^T+\cdots+\lambda_nq_nq_n^T$。这里的$q_1q_1^T$是一个投影矩阵(一般投影矩阵的形式为$\frac{q_1q_1^T}{q_1^Tq_1}$,单是$q_i$是标准正交向量)。可见：”每个对称阵矩阵都是由一些垂直（正交向量）的投影矩阵组成。”

前提对称阵：
一个矩阵的主元中为正数的数目与特征值为正数的数目相同。# positive pivots = # positive $\lambda$。
如果没有经过换行，主元的乘积等于特征值得乘积，进而等于矩阵的行列式$detA$。

正定对称矩阵的特性（正定矩阵比定对称）：

1. 所有的特征值都是正数。
2. 所有的主元都是正数。
3. 所有的子矩阵的行列式都是正的。