增量与演化流形学习综述

谈超，关佶红，周水庚

(1.同济大学 计算机科学与技术系，上海201804;2.复旦大学计算机学院，上海200433;3.复旦大学上海市智能信息处理重点实验室，上海200433)

流形学习是近10余年来发展起来的一种非线性维数约简方法，旨在发现嵌入在高维非线性数据空间的低维光滑流形的内在几何结构或内在维数，便于对数据的深层理解和进一步处理.近年来，流形学习在许多研究领域，包括数据挖掘、机器学习、图像处理和计算机视觉等都引起了广泛的关注.基于流形学习的非线性维数约减方法成为了机器学习中的研究热点[1].流形学习的基本前提是:观测空间中的点在高维观测空间张成一个流形，通过有效地展开观测空间中卷曲的流形或发现内在的主要变量，可以对数据集进行降维[2].流形学习的意义在于把人的认知流形规律引入到机器学习研究之中[3].当采样数据处于高维流形空间时，要从采样数据中学习并发现低维流形的内在几何结构，这意味着流形学习比传统的维数约减方法更能体现出事物的本质规律.

近10余年来出现了一些知名的线性与非线性的数据降维算法，如主成分分析(principle component analysis，PCA)[4]、等距映射(isometric mapping，Isomap)[5]、拉普拉斯特征映射 (Laplacian eigenmap，LE)[6]、局部线性嵌入(local linear em-bedding，LLE)[7]等.尽管这些算法的提出大大推动了流形学习的发展，但它们都不具有动态增量处理数据的能力，难以满足计算效率的实际需求.

为了从高维数据流和大规模海量数据集中探索有价值的信息，人们迫切需要……