面向分类的自动化机器学习模型构建

孙长麟，汪红强

（中国空间技术研究院503 研究所，北京 100095）

0 引言

随着人工智能技术的发展，机器学习开始广泛应用于大量场景的预测、分类任务。然而，沃尔伯特的免费午餐定理意味着没有任何模型能很好地应用于所有数据集［1］。面对日益增加的应用场景及庞大的数据量，构建科学、高效的自动化机器学习模型显得尤为重要，已成为机器学习领域亟待解决的问题之一［2］。因此，本文构建一种基于分层级联结构与改进遗传算法的自动化机器学习模型，可自动、高效地生成机器学习管道。将其应用于预测、分类任务，并在公共数据集上进行评估，结果表明该模型具有较高的准确性。

针对分类任务，传统方案为使用超参数修正方法设计、构建分类模型。为增强构建的分类模型的普适性与鲁棒性，降低人工成本，将自动化机器学习概念引入分类任务中。国内外很多学者对此进行了研究，并取得了一定成果。如Pavlyshenko［3］提出传统的级联模型，可获得较高的分类精度，但灵活性较差，不适用于广泛的数据集；Feurer等［4］引入强大的自动化机器学习系统——Auto-sklearn，该工具包可产生具有110 个超参数的结构化假设空间，并实现自动地高精度分类，但其输出携带的信息较少，且规模也较大，计算时间较长，若想作进一步训练只能重写代码；Gijsbers 等［5］提出H2O 开源平台，该平台可自动训练模型并输出模型的排名列表，弥补了Auto-sklearn 的不足，但其应用于OpenML 数据集的分类效果逊色于前者；Olson 等［6］提出TPOT 架构，使用TPOT 进行一系列监督分类任务的基准测试，可获得更高准确率，但其时间成本也较高。……