一种快速的统计不相关LDA求解算法

谢玉凯，卢桂馥

(安徽工程大学计算机与信息学院，安徽 芜湖 241000)



一种快速的统计不相关LDA求解算法

谢玉凯，卢桂馥

(安徽工程大学计算机与信息学院，安徽 芜湖 241000)

为进一步提高ULDA算法的求解效率，提出了一种新的快速的统计不相关LDA求解算法(ULDA/new)。ULDA/new只需对一个(c-1)×(c-1)的矩阵进行一次特征值分解就可以求得所有的投影向量(c指的是样本量类别数)，从而进一步大幅度地提高了计算效率。理论分析和在图像库上的试验表明，ULDA/new与现有的ULDA求解算法在理论上是等价的，其识别率相同，但远比现有的ULDA算法要高效。

特征提取；线性鉴别分析；统计不相关LDA；QR分解

基于Fisher准则线性鉴别分析(Linear Discriminant Analysis, LDA)[1]是一种经典的特征抽取算法，在模式识别和机器学习领域中有着广泛的应用[2]。LDA算法的基本思想是寻找一组投影向量集，使得原始样本向这组向量集投影后的特征之间的类内的距离最小，而类间的距离最大。

在1975年，Foley等[3]发展了经典的LDA，提出了Sammon最佳鉴别平面的技术，该方法找到的投影向量是相互垂直的。Foley等提出的方法只能用于解决2类问题，进一步的，Duchene等[4]推广了Foley等的方法，并给出了适合于多类问题的正交向量集的求解公式。虽然Foley等和Duchene等的算法求得的投影向量是相互垂直的，但并不能保证得到的特征是统计不相关的，为了解决这一问题，Jin等[5，6]提出了统计不相关LDA(Uncorrelated LDA, ULDA)算法。与Foley等和Duchene等算法求得的投影向量集不同，ULDA算法求得的投影向量集是相互共轭正交的，并且利用ULDA算法得到的特征是统计不相关的。……