类属数据的贝叶斯聚类算法

朱 杰,陈黎飞

1.中国西南电子技术研究所,成都 610036; 2.福建师范大学 数学与计算机科学学院,福州 350117)(*通信作者电子邮箱clfei@fjnu.edu.cn)

类属数据的贝叶斯聚类算法

朱 杰1,陈黎飞2*

1.中国西南电子技术研究所,成都 610036; 2.福建师范大学 数学与计算机科学学院,福州 350117)(*通信作者电子邮箱clfei@fjnu.edu.cn)

针对类属型数据聚类中对象间距离函数定义的困难问题,提出一种基于贝叶斯概率估计的类属数据聚类算法。首先,提出一种属性加权的概率模型,在这个模型中每个类属属性被赋予一个反映其重要性的权重;其次,经过贝叶斯公式的变换,定义了基于最大似然估计的聚类优化目标函数,并提出了一种基于划分的聚类算法,该算法不再依赖于对象间的距离,而是根据对象与数据集划分间的加权似然进行聚类;第三,推导了计算属性权重的表达式,得出了类属型属性权重与其符号分布的信息熵成反比的结论。在实际数据和合成数据集上进行了实验,结果表明,与基于距离的现有聚类算法相比,所提算法提高了聚类精度,特别是在生物信息学数据上取得了5%～48%的提升幅度,并可以获得有实际意义的属性加权结果。

数据聚类;类属型属性;属性加权;贝叶斯聚类;概率模型

0 引言

在模式识别和数据挖掘领域,类属数据聚类(categorical data clustering)是一项重要但较为困难的任务:一方面,这是由于许多实际应用中的待聚类对象通常由该型数据或混合了数值型(numerical)及类属型的数据描述。例如,生物数据聚类任务中的DNA序列就是由A、T、G和C等代表不同氨基酸的符号构成的;在描述患者体征时,又可能使用诸如“心跳数”这样的数值型生理指标,而实际应用中人们通常将这些数值型数据转换为类属型数据加以处理[1]。……