张敦成 阳菲宇


摘要:为了解决传统品种确定方法人为因素影响较大、准确性低等弊端,笔者以XGboost理论为基础,提出一种基于XGboost的战储航材品种确定方法,对提高战储航材品种确定的准确定具有重要意义。
1算法介绍
XGboost算法又叫作极限梯度提升算法,是由GBDT算法发展而来的一种以Boosting集成学习为核心的提高树算法。XGboost算法不仅在预测方面具有较高的准确性,而且在运算效率和容错率方面也优于其他算法,可结合实际问题对其算法进行相应调整,这使得XGboost算法被广泛应用于多种领域。
1.1 XGboost树的定义
XGboost算法符合前向分步加法,是由个基础模型累加而成的加法模型,其第t棵树的训练模型如下所示:
其中表示迭代t次后样本i的预测结果,表示前课树的预测结果,為第t棵树的预测模型。
1.2 XGboost的目标函数
XGboost算法的loss函数由真实值和预测值构成,实质上是预测指与真实值的偏差。
其中,n表示样本数量。
众多周知,模型的精确性同时受偏差和方差的影响,模型的偏差由loss函数表示,为了减小模型的方差,还需要在目标函数中加入正则项。正则项可以用来控制模型复杂程度,模型复杂性越低,其泛化性就越高,应用范围就越广。因此,XGboost的目标函数由loss函数和正则项共同组成,其表示方法如下所示:
式中,为正则项,在数值上等于前t棵树的复杂度的累加和,用来避免模型出现过度拟合现象。
2建立评价指标
本文以精确度、储备率、期望准确率以及的值作为XGboost分类模型的评价指标……