基于多子空间线性判别分析的特征提取与分类

董 琰

（中石化胜利油田分公司ERP支持中心，山东东营257000）

0 引 言

特征提取和分类始终是模式识别研究的重要课题，在生物特征识别，基因图谱分析，遥感影像分类，空间数据挖掘等应用领域更有着广泛的实用价值。随着数据的复杂性和规模急剧增长，特征提取和分类的难点主要表现为数据集中样本的特征维数远远大于每类样本数量。由于样本的稀疏造成样本类的统计特征描述不充分，在利用经典的线性判别分析方法 （LDA）进行分类时往往因类内散度矩阵的奇异性而无法求解，即模式识别中的高维小样本问题［1］。而实践中常用Fisherface方法来解决高维小样本问题［2］，它由主成分分析 （PCA）和线性判别分析 （LDA）组成，先通过PCA实现降维，从而消除类内散度矩阵的奇异性并有效降低运算复杂度，但是PCA的作为最佳描述特征的提取方法是以投影后方差最大为准则，并没有判别分析能力，降维时没有考虑样本的类属信息，在维度缩减的同时，也带来分类判别信息的缺失。LDA的目标是使特征提取后的样本类间离散度和类内离散度的比值最大化，即各类样本在特征空间中有最佳的可分离性。该方法利用最大散度比准则将所有类的样本投影到同一个特征空间中，而忽略了各类样本在特征分布上的差异；同时，对于一个特定的模式识别问题，表达和识别模式的特征具有不同的形式，而且在物理意义上也不是完全相同的，并且在数量级也有很大差别，简单基于距离的匹配划分难以实现客观的分类判别。……