许 行 王文剑,2 任丽芳,3
1(山西大学计算机与信息技术学院 太原 030006)2(计算智能与中文信息处理教育部重点实验室(山西大学) 太原 030006)3 (山西财经大学应用数学学院 太原 030006)
一种基于决策森林的单调分类方法
许 行1王文剑1,2任丽芳1,3
1(山西大学计算机与信息技术学院 太原 030006)2(计算智能与中文信息处理教育部重点实验室(山西大学) 太原 030006)3(山西财经大学应用数学学院 太原 030006)
(xuh102@126.com)
单调分类问题是特征与类别之间带有单调性约束的有序分类问题.对于符号数据的单调分类问题已有较好的方法,但对于数值数据,现有的方法分类精度和运行效率有限.提出一种基于决策森林的单调分类方法(monotonic classification method based on decision forest, MCDF),设计采样策略来构造决策树,可以保持数据子集与原数据集分布一致,并通过样本权重避免非单调数据的影响,在保持较高分类精度的同时有效提高了运行效率,同时这种策略可以自动确定决策森林中决策树的个数.在决策森林进行分类时,给出了决策冲突时的解决方法.提出的方法既可以处理符号数据,也可以处理数值数据.在人造数据集、UCI及真实数据集上的实验数据表明:该方法可以提高单调分类性能和运行效率,缩短分类规则的长度,解决数据集规模较大的单调分类问题.
单调分类;决策树;单调一致性;决策森林;集成学习
单调分类是一种特殊的分类问题,广泛存在于实际生活中,如大学综合水平的评定问题,其中“科研水平”、“师资队伍”、“教学质量”是3个……