王 妍,杨 钧,孙凌峰,李玉诺,宋宝燕
(1.辽宁大学 信息学院,沈阳 110036; 2.荣科科技股份有限公司 智慧城市开发部,沈阳 110027)
基于随机矩阵理论的高维数据特征选择方法
王 妍1,杨 钧1,孙凌峰1,李玉诺2,宋宝燕1*
(1.辽宁大学 信息学院,沈阳 110036; 2.荣科科技股份有限公司 智慧城市开发部,沈阳 110027)
传统特征选择方法多是通过相关度量来去除冗余特征,并没有考虑到高维相关矩阵中会存在大量的噪声,严重地影响特征选择结果。为解决此问题,提出基于随机矩阵理论(RMT)的特征选择方法。首先,将相关矩阵中符合随机矩阵预测的奇异值去除,从而得到去噪后的相关矩阵和选择特征的数量;然后,对去噪后的相关矩阵进行奇异值分解,通过分解矩阵获得特征与类的相关性;最后,根据特征与类的相关性和特征之间冗余性完成特征选择。此外,还提出一种特征选择优化方法,通过依次将每一个特征设为随机变量,比较其奇异值向量与原始奇异值向量的差异来进一步优化结果。分类实验结果表明所提方法能够有效提高分类准确率,减小训练数据规模。
随机矩阵;特征选择;去噪;奇异值;相关矩阵
随着数据获取技术的发展,高维数据广泛应用在智能电网[1]、图像处理[2]、无线通信[3]等领域中。对于包含了大量冗余信息和噪声的高维数据,通常先采用特征提取和特征选择[4]对其进行降维。根据特征子集评估策略的不同,传统的特征选择可分为三类[5]:Filter模型、Wrapper模型和Embedded模型。Filter模型仅依赖数据的内在特性来选择特征,而不依赖任何具体的学习算法指导。……