CN104715266A - 基于src-dp与lda相结合的图像特征提取方法 - Google Patents

Abstract

本发明公开了一种基于SRC-DP与LDA相结合的图像特征提取方法，主要解决现有特征提取方法因为仅考虑重构关系或判别关系，导致无法更加准确描述样本信息从而使得图片分类结果不理想的问题。其实现步骤是：1.输入训练样本，计算样本的类内、类间离散度矩阵，初始化投影矩阵，2.对训练样本进行投影，并依次求解投影样本的稀疏表示系数；3.分别计算投影样本的类内、类间重构离散度矩阵；4.构造目标函数求解新的投影矩阵；5.对步骤2-4进行迭代，直至循环次数大于给定初始值，输出最终投影矩阵。本发明增强了图像分类的准确性，提高了分类识别率,可用于警务系统中人物身份的判别或影像拍摄中物体的查找。

Description

基于SRC-DP与LDA相结合的图像特征提取方法

技术领域

本发明属于图像处理技术领域，特别涉及图像识别中的特征提取方法，可用于警务系统中人物身份的判别或者影像拍摄等领域中物体的查找。

背景技术

图像识别是机器学习、模式识别和计算机视觉领域既热门又具有挑战性的研究方向之一。图像识别技术因具有简单、高效、安全、低成本等优势现在已经广泛应用在智能交通、公安、生物医学、电子商务、遥感技术、军事和多媒体网络通信等领域。图像往往会受到视角、光照、遮挡等成像因素的影响，这给图像的分类带来了很大的挑战。图像识别属于高维空间下的模式识别问题。因此在对图像进行识别时其首先要对图像进行特征提取，然后在低维的子空间进行分类判别。到目前为止，各种特征提取的方法在图像识别领域得到了广泛的应用。

2009年，Wright等人提出一种基于信号稀疏表示的分类方法SRC，成功地将压缩感知理论应用到图像识别中。该方法基于采样稀疏信号表示理论，将图像识别看作多个线性回归模型的分类问题，测试样本可以用训练样本库中同类样本的线性组合来表示。因此从整个样本集的角度来看，线性加权的系数自然是稀疏的，于是就可将稀疏重构问题转化为L1范数优化问题。2010年，乔立山等人提出了稀疏保持投影SPP，它是在流形稀疏表示的框架下，构建数据集的紧邻权重矩阵。最近，杨健等人基于SRC理论提出了基于判别投影的稀疏表示分类器方法SRC-DP，该方法主要基于残差准则进行类别重建，从而实现特征提取的目的。但是该SRC-DP方法存在有以下两方面的缺陷：

一是由于仅仅考虑了数据的局部重构问题，忽略了数据的全局判别信息，从而使得整体分类结果不理想。

二是由于仅考虑重构残差，不能更好地描述判别结构，特别是在类别数较大的情况下，SRC-DP方法不能进行有效的识别。

线性判别分析LDA主要考虑样本整体判别信息，其基本思想是：通过寻找一个投影方向，即线性变换，线性组合，将高维空间的原始样本降到低维空间来解决，并且要求降维后的数据具有如下性质：同类样本尽可能聚集在一起，不同类的样本尽可能地远。例如对于c分类问题，它能找到个c-1投影方向，从而把维数压缩到c-1，因此，该方法虽然具有突出的数据压缩能力，能够有效的降低后续处理的数据量，能有效地融合训练样本的类别信息，但是用这种方法在进行图像识别时，由于只考虑样本的整体判别信息，而没有从重构的角度对样本进行分析，从而导致分类的结果也不理想。

发明内容

本发明的目的在于克服上述已有技术的不足，提出一种基于SRC-DP与LDA相结合的特征提取方法SRC-FDC，以在图像类别数较多的情况下，提高图像的识别率。

本发明的技术关键是：在考虑对数据重构问题的同时，加上了对数据整体判别结构的分析，其实现步骤包括如下：

(1)将所选图像库中的每一幅图片转化为向量进行存储，并分别抽取图像库中每类图像的一部分构成训练样本集其中R表示实数域，d表示原始空间中训练样本的维度，C表示训练样本的类别数,N_i表示第i类的训练样本数，表示所有训练样本的总数；

(2)利用线性判别分析方法LDA分别计算原始训练样本的类间离散度矩阵S_b和类内离散度矩阵S_w；

(3)给定权重系数β，用来调节判别结构与重构结构的比例关系，β取值范围为[0,1],设定最大迭代步数m，最大迭代步数m由收敛效果决定，为了求解投影到低维空间中训练样本的稀疏系数，初始化投影矩阵P＝P₁∈R^d×p,其中p为低维空间中训练样本的维度，p＜＜d,假设当前迭代次数k＝1；

(4)将训练样本集X中的每一个训练样本投影到p维空间上，即i＝1,...,C,j＝1...,N_i，表示原始空间中第i类的第j个训练样本，表示p维空间中第i类的第j个训练样本；

(5)通过计算下式求解对应的稀疏表示系数向量且保证所求的的l₁范数最小：

$\min {\left|\right|s_j^i\left|\right|}_{1}s.t{y}_j^i={\mathrm{As}}_j^i,$ 其中 $A=[y_1^1,...,y_{j-1}^i,y_{j+1}^i,...,y_{N_c}^C],$ i＝1,...,C,j＝1...,N_i；

(6)由第(5)步中求解所得的训练样本的稀疏表示向量并利用基于判别投影的稀疏表示分类器方法SRC-DP分别计算原始训练样本的类间重构离散度矩阵E_b和类内重构离散度矩阵E_w；

(7)根据(2)和(7)计算出的离散度矩阵S_b,S_w,E_b,E_w构建如下广义特征方程

(E_b+βS_b)α_i＝λ_i(E_w+βS_w)α_i i＝1,...,p；

(8)求解(7)中广义特征方程中λ_i对应的特征向量α_i，且满足λ₁≥...≥λ_i...≥λ_p，得到λ_i对应特征向量α_i的投影矩阵P＝[α₁,...α_i,...α_p]；

(9)令k＝k+1，当k≤m时，返回步骤(4)，直至k＞m时，输出最终的投影矩阵P'。

本发明由于在求解局部重构离散度矩阵E_b,E_w的同时，利用具有全局判别信息的离散度矩阵S_b,S_w，因此避免了仅考虑局部重构信息或者全局判别结构所造成的图像分类结果不准确的问题，提高了图像的分类识别率；同时由于本发明使用迭代求解的方式进行特征提取，使得投影方向不断优化，尤其在图像类别数较多的情况下，使得最终的图像分类效果更加理想。

附图说明

图1是本发明的实现流程图。

图2是CMU-PIE库中某一类别的部分图像。

图3是COIL20库中某一类别的部分图像。

图4是用本发明与现有SRC-DP、SPP、LDA三种方法在CMU-PIE图像数据库中进行图像分类的实验结果对比图。

图5是用本发明与现有SRC-DP、SPP、LDA三种方法在COIL20图像数据库中进行图像分类的实验结果对比图。

具体实施方式

以下结合附图，对本发明的技术方案与效果进行详细描述。

参照图1，本发明的实现步骤如下：

步骤1:输入训练样本集。

从现有的图像库中任意选取一个图像库，并对该所选图像库中的每张图片转化成列向量进行存储，分别抽取图像库中每类图像的一部分构成训练样本集其中R表示实数域，d表示原始空间中训练样本的维度，C表示训练样本的类别数,N_i表示第i类的训练样本数，表示所有训练样本的总数，i＝1,...,C。

步骤2：计算原始训练样本的离散度矩阵。

利用线性判别分析方法LDA分别计算原始训练样本的类间离散度矩阵S_b和类内离散度矩阵S_w，其计算公式如下：

$S_b=\underset{i=1}{\overset{c}{\mathrm{\Σ}}}{N}_i(m_i-m){(m_i-m)}^T,$

$S_w=\underset{i=1}{\overset{C}{\mathrm{\Σ}}}\underset{j=1}{\overset{N_i}{\mathrm{\Σ}}}(x_j^i-m_i){(x_j^i-m_i)}^T,x_j^i\∈R^d,i=1,...,C,j=1,...,N_i,$

其中表示第i类训练样本的均值,表示所有训练样本的均值，T表示对矩阵进行转置运算。

步骤3：给定权重系数和迭代步长，并初始化投影矩阵。

给定权重系数β，用来调节判别结构与重构结构的比例关系，β取值范围为[0,1]，在本发明中认为判别结构与重构结构其同等重要作用，因此β＝1；

设定稀疏系数阈值γ＝0.01和最大迭代步数m，最大迭代步数m由收敛效果决定，在本发明中m＝10，设当前迭代次数k＝1；

为了求解投影到低维空间中训练样本的稀疏系数，由MATLAB中的rand函数随机生成一个矩阵P＝P₁∈R^d×p,其中p为低维空间中训练样本的维度，在本发明中取p＝150,即把原始训练样本降到150维。

步骤4：将原始训练样本投影到低维空间。

将训练样本集X中的每一个训练样本投影到p维空间上，即i＝1,...,C,j＝1...,N_i，表示原始空间中第i类的第j个训练样本，表示p维空间中第i类的第j个训练样本。

步骤5：求解低维空间中训练样本的稀疏系数。

对每一个训练样本用除它本身之外的所有训练样本A做字典，并通过计算下式求解对应的稀疏表示系数向量且保证所求的的l₁范数最小，即:

$\min {\left|\right|s_j^i\left|\right|}_{1}s.t{y}_j^i={\mathrm{As}}_j^i,$ 其中 $A=[y_1^1,...,y_{j-1}^i,y_{j+1}^i,...,y_{N_c}^C],$ i＝1,...,C,j＝1...,N_i。

步骤6：求解训练样本的重构离散度矩阵。

由步骤5中求解所得的训练样本的稀疏表示向量并利用基于判别投影的稀疏表示分类器方法SRC-DP分别计算原始训练样本的类间重构离散度矩阵E_b和类内重构离散度矩阵E_w，其计算公式如下：

$E_b=\frac{1}{(C-1)N}\underset{i=1}{\overset{C}{\mathrm{\Σ}}}\underset{j=1}{\overset{N_i}{\mathrm{\Σ}}}\underset{k\≠i}{\mathrm{\Σ}}(x_j^i-{\mathrm{X\δ}}_k\left(s_j^i\right)){(x_j^i-{\mathrm{X\δ}}_k\left(s_j^i\right))}^T,$

$E_w=\frac{1}{N}\underset{i=1}{\overset{C}{\mathrm{\Σ}}}\underset{j=1}{\overset{N_i}{\mathrm{\Σ}}}(x_j^i-{\mathrm{X\δ}}_i\left(s_j^i\right)){(x_j^i-X{\mathrm{\δ}}_i\left(s_j^i\right))}^T,$

其中，表示不同类之间的重构系数向量，该向量中只保留第k类相关的值，其他的置0，第k类对样本x_ij的重构表示为：k＝1,2,...,C且k≠i；表示同类间的重构系数向量，该向量中只保留第i类相关的值，其他的置0，第i类对样本x_ij的重构表示为

步骤7：构建目标函数。

根据步骤2和步骤6计算出的离散度矩阵S_b,S_w,E_b,E_w，由最大化类间离散度矩阵S_b和类间重构离散度矩阵E_b，以及最小化类内离散度矩阵S_w和类内重构离散度矩阵E_w，构建如下目标函数：

$J\left(P\right)=\arg \max \frac{\mathrm{tr}\left(P^T(\mathrm{\β}\·S_b+E_b)P\right)}{\mathrm{tr}\left(P^T(\mathrm{\β}\·S_w+E_w)P\right)},$

其中tr(·)是对矩阵的迹操作算子。

步骤8：求解目标函数，更新投影矩阵。

首先，利用拉格朗日乘数法将目标函数的求解转化为计算广义特征方程对应的特征向量，其中广义特征方程可以写为：

(E_b+βS_b)α_i＝λ_i(E_w+βS_w)α_i i＝1,...,p；

其次，求解中广义特征方程中λ_i对应的特征向量α_i，且满足λ₁≥...≥λ_i...≥λ_p，得到λ_i对应特征向量α_i，更新投影矩阵P＝[α₁,...α_i,...α_p]。

步骤9：利用更新后的投影矩阵进行迭代求解。

令k＝k+1，当k≤m时，返回步骤4，直至满足截止条件k＞m时，输出最终的投影矩阵P'。

本发明的优点由以下仿真实验数据进一步说明：

1.仿真条件

1)分别选取CMU-PIE数据库，COIL20数据库在MATLAB软件上进行仿真实验。

2)CMU-PIE数据库：美国卡耐基梅隆大学创建了CMU-PIE数据库，该库是由68位志愿者在13种不同姿态、4种不同表情和43种不同光照的条件下拍摄的超过40000张的人脸图像组成。在实验中用接近正面姿态C05姿态子集，C05中包括68个人，每人有49张图像，每张图像被裁剪成大小为64*64个像素的图像。部分图像如图2所示。

3)COIL20图像数据库：哥伦比亚大学创建了物体图像库也就是COIL20库。该库中对20个物体旋转拍摄，沿同一方向每旋转5度拍摄一次，旋转一圈得到72张图像，一共得到1440张，每张图像的大小是32*32个像素，部分图像如图3所示。

2.仿真内容与结果

用本发明的方法分别与现有SRC-DP、SPP、LDA三种特征提取方法的图像分类识别率做比较，实验过程中，为了避免过拟合现象，在执行本发明方法和算法SRC-DP、SPP、LDA前首先用PCA对数据样本预降维，降到200维，然后利用每种方法计算出的投影矩阵对测试样本进行投影，即对测试样本进行特征提取，最后利用稀疏表示分类器对处理后测试样本进行分类，得出分类识别率，其中识别率高则表示提取的特征更好。

仿真1，在CMU-PIE数据库上，用本发明方法和现有SRC-DP、SPP、LDA三种特征提取方法进行4组对比实验，每组实验分别从每类中选择前10张、15张、20张、25张图像作为训练样本，剩下的所有图像作为测试样本，并利用稀疏表示分类器对测试图像进行分类，分类识别率如图4所示。图4表明，本发明方法的识别效果优于其他三种方法，当每类训练样本的数目相对较小时，本发明方法明显优于SPP和LDA。当训练样本数目较多时，本发明方法识别效果明显优于SRC-DP，究其原因正是由于SRC-DP忽略了数据的整体判别信息而导致的。

仿真2，在COIL20图像数据库上，用本发明方法和现有SRC-DP、SPP、LDA三种特征提取方法进行10组对比实验，每组实验均是从COIL库中每个物体的72张图像中随机选择一半即36张作为训练样本，剩下的一半作为测试样本，并利用稀疏表示分类器对测试图像进行分类，分类识别率如图5所示。

每种方法在10组实验中的平均识别率如表1所示。

表1：每种方法在10组实验中的平均识别率

由图5和表1可以看出，本发明方法的识别效果优于其它三种方法。这是因为仅考虑类间重构信息或述判别结构都不能很好的对样本进行描述，不同于其他三种方法，本发明方法考虑几何重构信息的同时，也考虑了判别结构信息，从而使得图像分类结果更加理想。

Claims (3)

1.一种基于SRC-DP与LDA相结合的图像特征提取方法，包括如下步骤：

(1)将所选图像库中的每一幅图片转化为向量进行存储，并分别抽取图像库中每类图像的一部分构成训练样本集其中R表示实数域，d表示原始空间中训练样本的维度，C表示训练样本的类别数,N_i表示第i类的训练样本数，，表示所有训练样本的总数；

(2)利用线性判别分析方法LDA分别计算原始训练样本的类间离散度矩阵S_b和类内离散度矩阵S_w；

(3)给定权重系数β，用来调节判别结构与重构结构的比例关系，β取值范围为[0,1],设定最大迭代步数m，最大迭代步数m由收敛效果决定，为了求解投影到低维空间中训练样本的稀疏系数，初始化投影矩阵P＝P₁∈R^d×p,其中p为低维空间中训练样本的维度，p＜＜d,假设当前迭代次数k＝1；

(4)将训练样本集X中的每一个训练样本投影到p维空间上，即i＝1,...,C,j＝1...,N_i，表示原始空间中第i类的第j个训练样本，表示p维空间中第i类的第j个训练样本；

(5)通过计算下式求解对应的稀疏表示系数向量且保证所求的的l₁范数最小：

$\min {\left|\right|s_j^i\left|\right|}_{1}s.t.y_j^i={\mathrm{As}}_j^i,$ 其中 $A=[y_1^1,...,y_{j-1}^i,y_{j+1}^i,...,y_{N_c}^C],$ i＝1,...,C,j＝1...,N_i；

(6)由第(5)步中求解所得的训练样本的稀疏表示向量并利用基于判别投影的稀疏表示分类器方法SRC-DP分别计算原始训练样本的类间重构离散度矩阵E_b和类内重构离散度矩阵E_w；

(7)根据(2)和(7)计算出的离散度矩阵S_b,S_w,E_b,E_w构建如下广义特征方程

(E_b+βS_b)α_i＝λ_i(E_w+βS_w)α_i    i＝1,...,p；

(8)求解(7)中广义特征方程中λ_i对应的特征向量α_i，且满足λ₁≥...≥λ_i...≥λ_p，得到λ_i对应特征向量α_i的投影矩阵P＝[α₁,...α_i,...α_p]；

(9)令k＝k+1，当k≤m时，返回步骤(4)，直至k＞m时，输出最终的投影矩阵P'。

2.根据权利要求1所述的方法，其中步骤(2)所述的利用线性判别分析方法LDA分别计算原始训练样本的类间离散度矩阵S_b和类内离散度矩阵S_w，通过如下公式计算：

$S_b=\underset{i=1}{\overset{c}{\mathrm{\Σ}}}{N}_i(m_i-m){(m_i-m)}^T,$

$S_w=\underset{i=1}{\overset{C}{\mathrm{\Σ}}}\underset{j=1}{\overset{N_i}{\mathrm{\Σ}}}(x_j^i-m_i){(x_j^i-m_i)}^T,x_j^i\∈R^d,$ i＝1,...,C,j＝1,...,N_i，

其中m_i是第i类训练样本的均值,m是所有训练样本的均值，T表示对矩阵进行转置。

3.根据权利要求1所述的方法，其中步骤(6)所述的利用基于判别投影的稀疏表示分类器方法SRC-DP分别计算原始训练样本的类间重构离散度矩阵E_b和类内重构离散度矩阵E_w，通过如下公式计算：

$E_b=\frac{1}{(C-1)N}\underset{i=1}{\overset{C}{\mathrm{\Σ}}}\underset{j=1}{\overset{N_i}{\mathrm{\Σ}}}\underset{k\≠i}{\mathrm{\Σ}}(x_j^i-X{\mathrm{\δ}}_k\left(s_j^i\right)){(x_j^i-X{\mathrm{\δ}}_k\left(s_j^i\right))}^T,$

$E_w=\frac{1}{N}\underset{i=1}{\overset{C}{\mathrm{\Σ}}}\underset{j=1}{\overset{N_i}{\mathrm{\Σ}}}(x_j^i-X{\mathrm{\δ}}_i\left(s_j^i\right)){(x_j^i-X{\mathrm{\δ}}_i\left(s_j^i\right))}^T,$

其中，表示不同类之间的重构系数向量，该向量中只保留第k类相关的值，其他的置0，第k类对样本x_ij的重构表示为：k＝1,2,...,C且k≠i；表示同类间的重构系数向量，该向量中只保留第i类相关的值，其他的置0，第i类对样本x_ij的重构表示为