张正东
(贵阳学院数学与信息科学学院,贵阳 550005)
随着大数据和人工智能技术的快速发展,其应用范围越来越广,产生和汇集了海量数据,数据属性越来越多,维度越来越大,如何表示和处理海量高维数据以挖掘数据价值是我们面临的一大挑战[1]。张量因其多维特性是解决这一问题的有效方法。张量在数学上是多维数组或多维阵列,可用多个下标表示,是向量和矩阵概念向高维空间的推广。张量的维数称为阶(order)或模(mode)[2],高阶张量具有多个维度,非常适合用来表示现实世界中的多维、复杂数据,如复杂网络、多维社交关系等。张量在人工智能中得到了广泛应用,现在流行的深度学习框架TensorFlow就将张量作为一种基本数据模型[3]。高阶张量随着维度的增加,表示的多维关系越来越复杂,存储的数据量也越来越大,如5阶张量,每阶数据量为1 000,总数据量为103*103*103*103*103=1015,如此海量数据对存储和计算提出了更高要求。实际应用中,高阶张量往往是稀疏的,也即只有一部分元素是非0值。在此情况下,我们需要设计一种有效的存储方案以扩大张量的应用范围,并能以并行计算或分布式计算方式进行数据处理。
并行计算是处理海量数据的常用方法之一。随着CPU和GPU技术的发展,其核心数越来越多,特别是在GPU计算中,可以开启几十、几百上甚至千个线程并行处理数据[4],能大大降低计算时间。采用并行方式处理数据,数据在本地完成处理,可避免数据在集群中传播、计算任务分发和结果收集的时间开销,同时也能更好的发挥机器算力。……