基于特征正则稀疏关联的无监督特征选择方法

白圣子，降爱莲

(太原理工大学 信息与计算机学院，山西 晋中 030600)

0 引 言

在原始高维数据集中，冗余特征的存在会影响学习算法的性能，降低学习算法的效率，甚至遭遇“维数灾难”。因此，需要通过特征选择，从原始数据中剔除无关、冗余等特征，选出具有代表性的特征构成最优特征子集，从而降低数据维度、简化学习模型、提高学习效率。由于数据规模较大以及获取数据标签十分耗时等原因，无监督特征选择在实际处理中更实用，研究其方法更具有挑战性[1]。

无监督特征选择方法根据评价准则主要分为过滤式方法、封装式方法和嵌入式方法[2]。过滤式方法独立于具体的学习算法，逐一对特征进行评分，如方差选择法[3]和拉普拉斯得分[4]选择法。封装式方法是根据后续使用的算法每次排除若干特征，直到特征数满足算法的要求，如递归消除特征法[5]。这两类方法评价标准单一，忽略特征之间的相关性，造成特征的冗余。嵌入式方法是将特征选择和训练模型的过程相结合，模型优化的同时直接计算出每个特征的权重，特征权重越大表明该特征越重要。如文献[6]将特征选择转化为矩阵分解问题，利用正则化矩阵分解方法选择出具有代表性的低维特征子集，但计算复杂度较高且正交约束条件很难应用到实际中。文献[7]提出特征级自表示选择方法，将特征选择问题转化为损失函数模型。该方法提出了数据集中的每个特征都可以被所有特征线性近似表示的性质，通过优化损失函数可以有效批量地评估每个特征的重要性。……