SVM、BP神经网络、线性回归的比较研究

韩阳，吕由，潘宇航，周齐，杨爱民

(华北理工大学 理学院，河北 唐山 063210)

SVM、BP神经网络、线性回归的比较研究

韩阳，吕由，潘宇航，周齐，杨爱民

(华北理工大学 理学院，河北 唐山 063210)

支持向量机；BP神经网络；线性回归；回归预测

支持向量机算法是一种在数据挖掘领域中运用最优化理论的监督式学习方法，在预测方面具有很强的实用性，将支持向量机算法与线性回归、BP神经网络2种算法相比较，分别设计了3种算法的求解步骤。以球团矿生产中的数据为样本，运行相应算法的软件程序对数据进行回归预测。预测结果显示：3种算法中支持向量机的预测结果最为准确，进而得出了支持向量机在数据回归预测方面具有更强的实用性，有较高的推广应用价值。

预测问题是现实生产生活中经常遇到的问题，其目的在于寻求自然事物在不同条件下相互作用的发展规律，揭示事物发展方向和趋势。在现实生产中，通常针对历史数据进行分析，挖掘历史数据包含的信息，为下一步的生产提供指导。

球团矿生产中的数据预测就是一个典型例子，即已知生产原料中硅、镁等各元素含量和温度、碱度的生产环境值，预测球团生产数据[1]。目前解决预测问题的方法有许多，总结起来可以归为2类，一是经典传统统计理论，如线性回归[2]；二是新型智能算法，如神经网络、支持向量机等[3-4]。传统的统计理论线性回归模型操作方便，它可以求出预测函数[5]，并且还可以对求出的结果进行残差检验，验证模型的精度[6]，回归方程的假设严格，需要知道引起变量改变的所有因素、随机扰动项等[7]，所以在某些情况下的适用受到限制。……