基于Kullback-Leiber距离的迁移仿射聚类算法

毕安琪　王士同（江南大学数字媒体学院无锡214122）



基于Kullback-Leiber距离的迁移仿射聚类算法

毕安琪*王士同
（江南大学数字媒体学院无锡214122）

针对迁移聚类问题，该文提出一种新的基于Kullback-Leiber距离的迁移仿射聚类算法（TAP_KL）。该算法从概率角度重新解释AP算法的目标函数，并借助于信息论中最常见的一种距离度量，即Kullback-Leiber距离，测量源域与目标域代表点的相似性。另外，通过详细分析TAP_KL算法与AP算法的目标函数，得出一个重要结论，即可以将源域与目标域的相似性嵌入到目标域数据集相似性矩阵的计算中，从而直接利用AP算法的优化算法优化TAP_KL算法的目标函数，解决基于代表点的迁移聚类问题。最后，通过基于4个数据集的仿真实验，进一步验证了TAP_KL算法在解决迁移聚类问题时的有效性。

仿射聚类算法；迁移学习；人脸数据集；概率框架；KL距离

1　引言

近年来，国内外研究学者从不同角度对迁移学习的研究已经取得了众多重要研究成果［18］-，包括迁移SVM（Support Vector Machine）算法［12］，、迁移Adaboost算法［34］-，以及基于流形结构的MMDE（M axim um M ean D iscrepancy Em bedd ing）算法［56］-。然而聚类算法作为机器学习和模式识别领域的一个重要研究方向，现阶段对于迁移聚类算法的研究并不充分，取得的成果也不多［8］。聚类算法的目标是将相似的数据聚集为一个数据簇，并使差异较大的数据分别属于不同的数据簇。目前广泛使用的聚类算法，包括K-均值算法［9，10］、谱聚类算法［11，12］、仿射聚类（A ffinity，Propagation，AP）［1319］-以及模糊聚类方法［20］都是在数据量足够充分的前提下，才能保证算法得到可靠的、有效的聚类结果。……