Hermitian 矩阵的特征值和特征向量

在信号处理领域，经常碰到对称矩阵。复对称矩阵又称为Hermitian矩阵。比如 对于实观测数据x(t)，其自相关矩阵R=E[x(t)xT(t)]是实对称矩阵，而复观测信号的自相关 矩阵是Hermitian矩阵。Hermitian在计算过程中有一系列重要特性，可以大大简 化计算过程。本文总结Hermitian矩阵特征值和特征向量的一些性质。

Hermitian 矩阵A的特征值一定是实的。

令λ和u分别是Hermitian矩阵A的特征值和与之对 应的特征向量，即Au=λu 。两边同 时左乘特征向量的共轭转置，得二次型标量值函数 uTAu=λuTu，对其两边取共轭转置，得到uTAu=λTuTu 。注意内积uTu总是 实数，则有λ也一定是实数。

令λ,u是Hermitian矩阵A的特征对。若 A可逆，则1λ,u是逆矩阵 A−1 的特征对。

因为Au=λu，则对两边左乘 A−1，则有u=λA−1u ，所以有λ−1u=A−1u

对于n×n 的Hermitian 矩阵A ，若它所有不同的特征值 λ1,λ2,…,λn都通过求解特征方程获得。 那么求解其特征向量可以通过以下两个步骤完成。

  1. 利用高斯消元法求解方程：

    (A−λI)x=0

    得到与每个已知λ对应的非零解x

  2. 利用Gram-Schmidt 正交化方法将x 正交化，得到相互正交， 并且具有单位范数的特征向量。

若λk 是Hermitian矩阵A的多重特征值，并且其多重度为 mk，那么 rank(A−λkI)=n−mk 。因此任何一个Hermitian矩阵都满足可对角化定理的充要条 件。因此，有U−1AU=Σ 。接下来给出Hermitian矩阵的一个重要属性。

Hermitian矩阵的所有特征向量线性无关，并且相互正交。特征矩阵 U=[u1,…,un]是酉矩阵，满足 U−1=UT

证明过程分两步进行，首先证明不同特征值对应的特征向量是相互正交的。令 λ1≠λ2是Hermitian矩阵A对应的特征值，且其 对应的特征向量分别是u1,u2 。 则有:

uT2Au1=λ1uT2u1uT1Au2=λ2uT1u2

对前一个式子取共轭，则有：

uT1Au2=λ1uT1u2

则有：λ1uT1u2=λ2uT1u2，进而有(λ1−λ2)uT1u2=0 由于 λ1≠λ2 所以u1和u2正交。 接下来，我们证明多重特征值对应的特征向量也相互正交。若n×n矩 阵AT=A 的特征值λk 具有多重度mk，则有rank(A−λkI)=n−mk ，并 且A−λkI是可逆的。于是，存在与 λk对应的mk个特征向量，他们是方程(A−λkI)u=0的线性无关解。这些线性无关解 是正交的。

综上，由于特征矩阵U=[u1,…,un] 的所有特征向量即线性无关，又相 互正交，故U为酉矩阵，满足UUT=I，即UT=U−1

对于Hermitian矩阵有：

UTAU=diag(λ1,λ2,…,λn)

也可以写成：

A=UΣUT

称为矩阵A 在正交相似下的范式。另外，式 (6)也经常 写作：

A=n∑i=1λiuiuTi

在最优化理论和信号处理中，经常遇到二次型函数xTAx. 利用式 (7) 可以把二次型写作：

xTAx=n∑i=1λi|xTui|2

利用式 (7) 我们还可以写出A−1的级数展开形式：

A−1=n∑i=1λ−1iuiuTi

因此若已知A的特征值分解，我们可以很容易获得 A−1。