决策树ID3算法的分析与优化

黄宇达，范太华

（1.西南科技大学 计算机科学与技术学院，四川 绵阳621010；2.周口职业技术学院 信息工程系，河南 周口466000）

0 引 言

近年来，数据挖掘作为一种能发现海量数据中潜在有用信息的数据分析方法和技术，已在银行、证券、房地产、教育等行业领域得到了广泛应用，为人们获取有价值的信息提供了强有力手段。

分类是数据挖掘技术中最常用的方法之一，而决策树分类以其速度快、精度高、直观易懂和生成模式简单等诸多优点而倍受青睐，已在数据挖掘领域中有着不可替代的作用和地位。决策树算法作为数据挖掘中一种简单、实用而有效的快速分类算法，其本质上是一种以实例为基础的归纳学习，它主要着眼于如何从一组无次序、无规则的事例中推理出以决策树表示的分类规则［1－2］。ID3算法作为最具影响力的一种决策树构造算法是由QuinLan J R于1986年提出，其后很多专家学者对其进行了深入的研究［1－12］。

本文从改进和简化的角度对ID3算法进行了一定程度的优化，采用粗糙集理论相关知识，用客观属性重要度参数来取代全靠用户经验而确定的主观用户兴趣度参数，一定程度上有效弥补了ID3算法的最大不足并使改进后的算法能较好地适用于较大规模的数据集。

1 ID3算法分析

ID3算法是一个贪心算法，其核心思想是：利用信息论知识，将决策树中每个节点所对应的分裂属性的选取标准用信息增益值来度量，这样可使得对结果划分中的样本在进……