SVM参数优化方法分析与决策

郭克友,郭晓丽,王艺伟

(北京工商大学 材料与机械工程学院，北京 100048)



SVM参数优化方法分析与决策

郭克友,郭晓丽,王艺伟

(北京工商大学 材料与机械工程学院，北京 100048)

针对支持向量机应用过程中的参数选择问题，从UCI数据库选择样本集，分别采用传统的网格法、智能优化算法中的粒子群法及遗传算法实现核函数参数寻优过程，将所得最佳参数应用到样本测试中;在深入分析优化过程中各参数关系、参数对支持向量机性能的影响以及传统与智能优化算法的优劣后，得出了核函数优化策略;即先使用智能优化算法初步确定最优解范围，再结合网格法进行高精度寻优;实验数据验证了参数优化策略的有效性，为扩大支持向量机泛化率、提高应用性做了铺垫。

支持向量机；核函数；传统优化算法; 智能优化算法

0 引言

支持向量机(support vector machine, SVM)，可利用核函数在原空间直接计算，既能避免“维数灾难”，又能高效地解决非线性分类问题，成为浅层机器学习算法中的优秀代表。人工神经网络和基于规则的分类器是以贪心学习为策略对假设空间搜索最优解，但容易陷入局部解，而且会出现“过拟合”[1]。SVM可以表示为凸优化问题，一般依靠小样本进行训练学习，将待分类问题转化到高维线性可分空间，找到最大分类间隔，得到目标函数的全局最优解。Vapnik等人[2-3]的研究成果表明，在解决实际问题时，核函数的参数及惩罚因子对SVM性能影响很大，因此研究参数选取问题具有很大的意义。……