矩阵的特征值和特征向量

方阵的特征值和特征向量是矩阵论的研究手段之一，它能有力地反映矩阵的零化空间，在非方阵的情形下，特征值推广为奇异值，特征向量推广为奇异向量。关于一般线性算子的特征值问题，参见特征值。

通过对有限维线性空间中线性变换的初步研究，我们知道线性变换在不同基底下的矩阵是相似的，为了对矩阵的相似化简有更好的把握，我们引入特征值和特征向量的定义，这些定义是从线性空间的角度给出的，在选定基底后同样可以引入到矩阵中去。

从矩阵的相似化简说起

如果矩阵$A$和$B$相似，就是说存在一个可逆矩阵$P$，使得

$$A = P^{-1} B P$$

特别地，如果矩阵$A$可以化成对角矩阵$D_{\lambda_k}$（即$A$和一个对角矩阵相似），那这对研究线性变换和矩阵等问题有很大帮助，因此，我们来讨论能化为对角矩阵的这样的矩阵。矩阵$A$可以化为对角矩阵，这等价于在某个基底$\eta_1, \eta_2, \cdots, \eta_n$下，与这个矩阵对应的线性变换$\mathcal{A}$满足如下条件：

$$( \mathcal{A} \eta_1, \mathcal{A} \eta_2, \cdots, \mathcal{A} \eta_n) = (\eta_1, \eta_2, \cdots, \eta_n) \begin{pmatrix} \lambda_1 \\ & \lambda_2 \\ & & \ddots \\ & & & \lambda_n \end{pmatrix}$$

按照形式矩阵的运算，可以知道

$$\mathcal{A} \eta_i = \lambda_i \eta_i,\quad i = 1, 2, \cdots, n$$

这个式子的意义也很直观，它表明：对向量$\eta_i$施加线性变换$\mathcal{A}$之后，其效果和对它数乘一个常数$\lambda_i$一样，也就是说，这个线性变换$\mathcal{A}$把$\eta_i$映到了它的同条直线上去。如果线性变换能做到这种效果，那这样的线性变换研究起来更简单。

特征值相关定义

假设同上，我们把$\lambda_i, i = 1,2,\cdots,n$称为线性变换$\mathcal{A}$的特征值，或特征根（eigenvalue）。而把对应于每个特征值$\lambda_i$而使得下式成立的非零向量$\eta_i$称为对应于$\boldsymbol{\lambda_i}$的特征向量（eigenvector）。

$$\mathcal{A} \eta_i = \lambda_i \eta_i,\quad i = 1, 2, \cdots, n$$

可以证明，线性变换$\mathcal{A}$在一个基底下的矩阵是对角矩阵，则$\mathcal{A}$一定能找到$n$个线性无关的特征向量（特别地，可以取这一组基）。反过来，如果$\mathcal{A}$能找到$n$个线性无关的特征向量，那么$\mathcal{A}$在这些线性无关的向量组组成的基下的矩阵是一个对角矩阵，而且对角线上的元素就是对应的特征值。因此，我们得到一个矩阵相似为对角矩阵的充要条件是，它有$n$个线性无关的特征向量。

特征向量的性质

1. 一个确定的特征向量只能属于唯一的一个特征值；
2. 如果$\xi$是属于$\lambda_i$的特征向量，$k \in \mathbb{P} - \{0\}$，那么$k \xi$也是属于$\lambda_i$的特征向量；
3. 如果$\xi, \eta$是属于$\lambda_i$的特征向量，$\xi + \eta \ne 0$，那么$\xi + \eta$也是属于$\lambda_i$的特征向量；
4. 如果$\xi, \eta$是分别属于$\lambda_i, \lambda_j~( i \ne j)$的特征向量，那么$\xi + \eta$一定不再是属于$\lambda_i, \lambda_j$的特征向量；
   这就说明属于同一个特征值$\lambda_i$（考虑重数）的特征向量是线性相关的，它们只相差一个常数倍，如果不考虑重数，结论不一定正确；
5. 特征值可以有重复，即一个线性变换可以有相同的多个特征值，比如$n$阶单位矩阵就有$n$重特征值$1$；

相关求解

考虑一个一般的线性变换，在选定一组基底后将它同构到矩阵$A$上，那么，对于它的一个特征根$\lambda$，有

$$\theta \ne \alpha \in \mathbb{P}^n, \quad A \alpha = \lambda \alpha$$

于是

$$\theta \ne \alpha \in \mathbb{P}^n, \quad ( \lambda E - A) \alpha = \theta$$

上式为一个齐次线性方程组，我们知道要使有非零的特征向量$\alpha$存在，则上式有非零解，故系数矩阵行列式$| \lambda E - A | = 0$，因此照此求出所有的$\lambda$即$A$的所有特征根（重根按重数计算）。

对于特征向量的求解，将每个$\lambda$代入

$$\theta \ne \alpha \in \mathbb{P}^n, \quad ( \lambda E - A) \alpha = \theta$$

中，找到$\alpha$的一个特解即可。

而对于能化为对角矩阵的矩阵$A$，若要求解$P$，使得$B = P^{-1} A P$，我们对$P$进行列分块，使得$P = (\eta_1, \eta_2, \cdots, \eta_n)$，那么，有

$$A (\eta_1, \eta_2, \cdots, \eta_n) = (\eta_1, \eta_2, \cdots, \eta_n) \begin{pmatrix} \lambda_1 \\ & \lambda_2 \\ & & \ddots \\ & & & \lambda_n \end{pmatrix}$$

即

$$A \eta_i = \lambda_i \eta_i,\quad i = 1, 2, \cdots, n$$

这表明，我们要求的$P$的分块第$i$个列向量就是$\lambda_i$所对的一个特征向量。

例如，对于矩阵$A = \begin{pmatrix} 5 & 6 & 3 \\ -1 & 0 & 1 \\ 1 & 2 & -1 \end{pmatrix}$，先求出$| \lambda E - A | = \begin{vmatrix} \lambda-5 & -6 & -3 \\ 1 & \lambda & -1 \\ -1 & -2 & \lambda+1 \end{vmatrix} = (\lambda+2)(\lambda-2)(\lambda-4) = 0$
所以，三个特征根依次是$\lambda_1 = -2, \lambda_2 = 2, \lambda_3 = 4$ 原矩阵相似于$B = \begin{pmatrix} -2 & & \\ & 2 & \\ & & 4 \end{pmatrix}$
特征向量我们只求一个，其余两个类似。
对于$\lambda_1 = -2$，设对应的特征向量是$\eta_1 = \begin{pmatrix} p_{11} \\ p_{21} \\ p_{31} \end{pmatrix}$有

$$\begin{pmatrix} -7 & -6 & -3 \\ 1 & -2 & -1 \\ -1 & -2 & -1 \\ \end{pmatrix} \begin{pmatrix} p_{11} \\ p_{21} \\ p_{31} \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}$$

解这个齐次方程组，得到一个特解为$\eta_1 = \begin{pmatrix} 0 \\ -1 \\ 2 \end{pmatrix}$
同理，得到其他两个特征值的特解为$\eta_2 = \begin{pmatrix} 2 \\ -1 \\ 0 \end{pmatrix}$和$\eta_3 = \begin{pmatrix} 9 \\ -2 \\ 1 \end{pmatrix}$。
于是，使得$B = P^{-1} A P$成立的可逆矩阵为

$$P = (\eta_1, \eta_2, \eta_3) = \begin{pmatrix} 0 & 2 & 9 \\ -1 & -1 & -2 \\ 2 & 0 & 1 \\ \end{pmatrix}$$

特征值与基底选取无关

上面定义特征值时，我们是通过给定一组基底，将线性变换同构到了矩阵上讨论，这里我们来证明不同基底下的特征值是一样的。为此，首先我们需要知道，同一线性变换在不同基底下的矩阵是相似的这一事实。 设线性变换$\mathcal{A}$在两组不同基底下的矩阵分别是$A, B$，则存在可逆矩阵$P$，使得$A = P^{-1} B P$，所以有

$$\begin{align} |\lambda E - A| & = |\lambda E - P^{-1} B P| \\ & = |P^{-1} \lambda E P - P^{-1} B P| \\ & = |P^{-1}|| \lambda E - B ||P| \\ \end{align}$$

其中第二个等号是因为$\lambda E$是数量矩阵，它和所有矩阵可交换。由于$P$可逆，$|P| \ne 0$，故

$$| \lambda E - A| = 0 \iff | \lambda E - B | = 0$$

因此，我们就说明了求解关于$\lambda$的方程时上面两个等价，因此$A$的特征根也全部是$B$的特征根，反之也成立。这样我们就证明了相似的矩阵具有相同的特征根。

上下节

• 上一节：自同构变换
• 下一节：特征子空间

参考资料

1. 郭聿琦, 岑嘉评, 王正攀, 《高等代数教程》, 科学出版社, 北京, 2014-07, ISBN 978-7-0304-0417-6.