子空间特征提取方法及其在人脸识别中应用

《子空间特征提取方法及其在人脸识别中应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、即为样本工∈Rp的低维表示，这种表示在最小均方意义下是最优的【2一．在图像识别领域，由于训练样本总数Ⅳ一般远远小于训练样本维数P，因此，为提高计算效率，常常借助于奇异值分解定理间接地求解C的特征向量．PCA实质上给出了高维数据的一种简约表示，利用PCA进行特征提取，不仅实现了样本的维数压缩，更重要的是消除了样本之间的相关性，获得了统计不相关的特征．定义1．1如果两个随机变量孝和f的协方差满足cov(毒，f)=E((善一E(孝))(f—E(f)))=0，则称孝和f是统计不相关的，其中E(·)表示期望．将上述定义写为向量的分量形式，对Y的两个分量M和y，(f≠歹)，有

2、c0V∽，乃)=E(∽一E∽))∽一E(乃))=嵋rE((工一E(工”(工一E(x))r)叶成立，若将E(@一E(x))@一E伍))r)用其极大似然估计c代替，则有coy(y,，Yj)=WilCwj=名，M1w，=0，从而Y的分量间是统计不相关的．因为在维数相同的情况下，统计不相关的特征往往比统计相关的特征包含更多的信息，因此，在模式识别领域，特征提取的一般原则是所提取的特征之间统计相关性越小越好．Kirby和Sirovich[7I首先讨论了利用PCA进行人脸图像最优表示的问题，接着，Turk和Pentland[8】探讨了其物理意义，并成功提出经典的特征脸(Eig

3、enfaees)方法，随后出现了许多种基于PCA的新方法和改进算法[5,9-12]．奇异值分解(SingularValueDecomposition,SVD)方法和PCA方法同属子空间方法分析的范畴，都是把图像数据投影到子空间进行模式分类，其区别仅在于给出的变换基不同．Hong等【13，1卅最早采用SVD方法提取图像的奇异值特征，并论证了该特征是一种有效的图像识别特征．Cheng等【I5J进一步发展了该方法，并把其用于人脸识别，取得了较好的效果．奇异值特征具有良好的抗噪声和抗几何形变能力，但是奇异值特征作为识别特征包含的图像信息不足【16】，无法获得满意的识别率．

4、为增强其鉴别能力，除可与其他类型的特征进行融合【17,18]或采用多分类器的方法【19'201外，还可从充分利用矩阵本身信息的角度考虑【16，211．本文将在第二章详细讨论这个问题，并给出一种新的基于SVD的图像特征．PCA以所有样本的最优重建为目的，并没有利用到样本之间的类别信息，因此就分类角度而言，用PCA提取的特征并不一定对分类有益．线性判别分析(LinearDisefiminaat一3一子空间特征提取方法及其在人脸识别中的应用Analysis，LDA)是一种以样本的最优可分为目标的有监督子空间方法，从理论上来说更适合于模式分类问题．有关LDA的研究可追溯到

5、Fisher在1936年发表的经典论文四】，其基本思想是选择使得Fisher准则函数达到极值的向量作为最优投影方向，从而使得样本在该方向投影后，达到最大的类间离散度和最小的类内离散度．在Fisher思想的基础上，Wilks[23]、Duda与Hart[24】分别提出了鉴别向量集的概念，即寻找一组鉴别向量构成子空间，以原始样本在该子空间内的投影向量作为鉴别特征用于识别，此即经典的Fisher线性判别分析(FisherLDA，FLDA)方法．Fisher准则函数的定义为m)=寒，∥‘J⋯W其中，so和瓯分别为训练样本的类间散布矩阵和类内散布矩阵．FLDA的目的就是要求

6、解使J(w)达到最大的向量缈，容易证明，该问题等价于求解如下广义特征方程的非零特征值所对应特征向量的问题sb'．，=五瓯’．，，其中特征值旯即为用特征向量W，得到的Fisher准则函数值，(缈)．然而，在人脸等图像识别问题中处理的样本通常是高维的有限样本，样本维数较高而样本数较少的问题通常称为小样本问题(SmallSampleSizeProblem)．由于在实际问题中难以找到或根本不可能找到足够多的训练样本来保证类内散布矩阵鼠，的可逆性，因此求解FLDA的广义特征方程存在病态奇异问题．近年来，不少解决此类问题的方法相继提出．较早的解决方法是加扰动【25J或采用伪逆

7、【26】的方法，扰动法通过给奇异的类内散布矩阵加上一个小的扰动使其可逆，而伪逆法则是把类内散布矩阵的逆用其伪逆代替．这两种方法只是近似算法，对于高维的图像样本，运算量较大，难以实用．Swets[27]和Belhttmeur[28】等先用PCA对原始数据降维，保证乱非奇异，在此基础上作线性判别分析，进而得到经典的Fisherfaces方法，但此类方法以损失鉴别信息为代价，无法保证所提取特征是最优的．随后，Liu等提出增强Fisher线性判别模型(EFM)[291，Yu等提出直接线性判别分析(DLDA)ⅢJ，Chen等提出零空间线性判别分析(NLDA)[31】等方法，

8、但EFM和