程明霞,郭玉翠
(北京邮电大学 理学院,北京 100876)
目前对于医学数据的处理和诊断预测方法大都利用数据挖掘技术定量和定性分析。然而实际问题中包含大量冗余特征,会导致机器学习存在两种问题:对大型数据集进行处理时,占用太多的资源而降低算法的处理速度;在特征总量明显超过最优值时,精准度会降低[1]。另外,机器学习分类算法例如K-近邻算法(K-Nearest Neighbor,KNN),随机森林(Random Forest,RF),支持向量机(Support Vector Machine,SVM)等,在分类问题中都有不同的优缺点。在机器学习算法中,没有最好的算法,只有“更适合”解决当前任务的算法,反复训练试错才是选择最佳算法的前提。从文献[2]中可以看出,特征降维和超参数调优可以明显提升分类模型的预测准确率。网格搜索法和梯度下降法是处理机器学习超参数优化的两种最常见的优化方法[3]。通过为搜索的上限、下限和步长设置适当的值,网格搜索可以在一定间隔内获得最高的分类精度。然而,这种方法基于局部搜索,容易陷入局部最优。而梯度下降算法对初始参数非常敏感。如果初始参数远离最优解,则很容易收敛到局部最优[4]。
元启发式算法使用随机算法与局部搜索算法相结合,一次运行就得到一组解,能够耗费较少的时间和计算成本搜索到理想的解集,广泛应用于各类实际问题上[5]。文献[6]提出一种改进的二进制粒子群优化方法进行特征选择,结果有效降低了计算成本,提高了精度。Fei Ye[7]使用遗传算法和粒子群优化算法(或果蝇优化算法)相结合的方法,并通过适应度函数将它们与SVM分类器的分类准确度联系起来,实验结果证明了改进算法的明显优势。……