KL变换应用于人脸识别.docx

基于K-L变换的人脸识别

一、基本要求

从网上下载人脸图像，构建人脸训练数据库和测试数据库，采用K-L变换进行特征脸提取，并实现人脸识别。通过K-L变换在人脸识别中的应用，加深对所学内容的理解和感性认识。

1、或者从网上下载其它数据库，编程实现K-L变换。

2、课堂报告、并提交实验报告及相应程序。

二、实验原理

1、K-L变换：就是以样本特征向量在特征空间分布为原始数据，通过变换，找到维数较少的组合特征，达到降维的目的。

K-L变换是一种正交变换，即将一个向量X，在某一种坐标系统中的描述，转换成用另一种基向量组成的坐标系表示。这组基向量是正交的，其中每个坐标

基向量用u 表示，j?1,2，

j

,?，因此，一个向量X可表示成

X??? cu

j j

j?1

如果我们将由上式表示的无限多维基向量坐标系统改成有限维坐标系近似，即

X? ??d cu

X

j j

j?1

表示X的近似值或估计量，我们希望在同样维数条件下，使向量X的估计量误差最小。确切地说是使所引起的均方误差:

??E[(X?X?)T(X?X?)]

为最小。K-L变换可以实现这个目的。因为

??1

?

uTu ?

j i ?0

j?ij?i

X?? ? ??cu ? ?

将 X

j j

j?d?1

带入到??E[(X?X)T(X?X)]中可得到

容易看到

? ?E[??

j?1

c ?uT

j j

?

c2]

j

X

因此 ? ?E[? uT

j

d?1

XXTu ]

j

由于u

j是确定性向量，因此上式可改写为

? ? ?

? ? ? uTEXXTu

?

? ?

令? ?EXXT

j?d?1

??? ? uT?u

?

?

则 j j

j?d?1

用拉格朗日乘子法，可以求出在满足正交条件下，?取极值的坐标系统，即用函数

g（u）?

j

??uT?u ?

j j

???[uTu

j j j

?1]

j?d?1 j?d?1

j对u ，j?d?1,?,?求导数，因此有

j

?（?-?I）u ?0,j?d?1, ,?

?

j j

我们令d?0，从而可得到以下的结论：

以矩阵? 的本征向量座位坐标轴来展开X 时，其截断均方误差具有极值性

质，且当取d个u

，j?1,2, ,d来逼近X时，其均方误差

?j

?

?? ?? ?

j

j?d?1

式中?j是矩阵? 的相应本征值。

可以证明，当取d个与矩阵? 的d 个最大本征值对应的本征向量来展开X

时，其截断均方误差和在所有其他正交坐标系情况下用d个坐标展开X时所引起的均方误差相比为最小。这d个本征向量所组成的正交坐标系称作X所在的D维空间的d维K-L变换坐标系，在坐标系上的展开系数向量称为X的变换。

本实验所采用的人物脸部灰度图像默认已经过归一化，所以对于图像的归一化，我们不予处理。可以以样本集的总体散布矩阵为产生矩阵，即：

?? 1

M

M??1(x

i

i?0

??)(x

i

??)T

i其中：x 表示第i个训练样本图像，? 表示训练样本集的平均图像向量，M 为训练样本的总数。

i

2、奇异值分解：为了求N2*N2维?矩阵的特征值和正交归一的特征向量，直接计算是困难的。为此引入了SVD定理：

设A是一秩为r的n*r维矩阵，则存在两个正交矩阵：

?U?[u,u, ,u ]??n*r UTU?I

?

0 1 r?1

以及对角阵

V?[v

0

,v, ,v

?1

?

r?1

]??r*r VTV?I

??diag[?

0

,?, ,?

?1

?

r?1

]??r*r ,

且? ??

且

0 1

????

r?1

1满足 A?U?2VT

1

i其中：? (i?0,1,?,r?1)为矩阵AAT和ATA的非零特征值，ui和vi分别为

i

AAT和ATA对应于? 的特征向量。上述分解称为矩阵的奇异值分解，简称SVD，

i

?i为A

?

i

1又有推论 U?AV?2

1

易知

?iu ? 1

?

i

i i

i?0,1,2,?,M?1

这就是图像的特征向量。它是通过计算较低为矩阵R的特征值与特征向量而间接求出的。

3、特征向量的选取：我们总共的得到M个