基于集成式人工智能算法的分类预测

徐勇

摘 要：本文将集成式人工智能算法——梯度提升树算法应用到了特征信息有缺失的带标签样本的分类预测中，通过和其它分类算法比较看出集成式算法在准确度和ROC、AUC等分类性能指标上有着明显的优势。

关键词：人工智能;集成式;分类预测

一、引言

近些年，人工智能技术因所依赖的硬件环境的改善得到了更为广泛的应用。概括地说，人工智能技术是利用计算机软硬件通过程序设计来实现人类智能的技术科学。从应用领域的角度来讲，人工智能技术又可以大致分为模式识别、机器学习、智能算法和数据挖掘等方面。本文关注的就是利用数据挖掘中的集成式算法对样本数据实现分类预测。

集成式的数据挖掘算法比较多。所谓集成是指将多个同类算法进行有机结合实现联合决策的过程。比较经典随机森林算法就是通过随机组合将多课决策树联合通过投票的方式确定样本的类别。以此为基础发展得到一些诸如AdaBoost，GBDT（Gradient Boosting Decision Tree）等集成式算法，尤其是GBDT算法，作为一种迭代的决策树算法，联合多课决策树通过迭代的过程对历次预测产生的残差进行拟合以达到较高的训练精度。它和支持向量机都被认为是泛化能力较强的样本分类算法。本文也将通过实例比较二者的分类性能。

二、基于集成式人工智能算法GBDT的分类预测

以一个确定的带标签的数据集为例。这里选取记录了泰坦尼克号沉没事件中的乘客身份信息以及最终幸存与否的数据表。……