以特征值关联项改进贝叶斯分类器正确率

蔡永泉 王玉栋

(北京工业大学计算机学院 北京 100124)



以特征值关联项改进贝叶斯分类器正确率

蔡永泉 王玉栋

(北京工业大学计算机学院 北京 100124)

朴素贝叶斯分类器建立在其数据“特征值之间相互条件独立”的基础上，而在实际应用中该假设难以完全成立。针对这种现象提出一种算法，即通过寻找对产生错误分类影响最大的特征值，并依此特征值的关联项对数据项扩充，在此基础上对扩充项添加权重，以达到提升分类器精度的效果。最后对权重的大小加以论证，实验分析了不同大小的权重对分类器正确率的影响。实验结果表明，添加关联项扩充训练集，可以有效提升贝叶斯分类器的正确率。

朴素贝叶斯分类器 贝叶斯算法 贝叶斯分类器

0 引 言

朴素贝叶斯算法是一种在已知先验概率与类条件概率的情况下的模式分类方法，待分类样本的分类结果取决于各类域中样本的全体[1]。朴素贝叶斯分类器(NBC)以贝叶斯公式为基础，从理论上讲精确度高，运算速度快[2]，但也存在以下问题：(1) 在样本的特征提取不够优秀时，或对于易出现干扰项的样本，容易导致分类正确率低。(2) 样本中有部分数据特征稀疏，会极大地降低NBC分类结果的正确率。因此NBC一般情况下的分类效果难以达到理论高度。

1993年Agrawal等率先提出关联规则挖掘[3]，它可以对特征值之间的关系进行分析[4]。目前对关联特征值的关联项的研究主要是挖掘频繁集，采集的方法有多种，如Apriori、FP-tree、LPMiner。张阳等[5]曾提出一种类似Apriori算法的冗余剔除算法和特征值筛选方法，使关联特征值具有更好的分类能力。……