基于PPR模型的稀疏矩阵向量乘及卷积性能优化研究

谢 震 谭光明 孙凝晖

1(计算机体系结构国家重点实验室(中国科学院计算技术研究所) 北京 100190) 2(中国科学院计算技术研究所 北京 100190) 3(中国科学院大学计算机与控制学院 北京 100049)

(xiezhen@ncic.ac.cn)

近些年来，使用性能模型的方法去分析和优化程序已经被广泛地使用.其中以稀疏矩阵向量乘(sparse matrix-vector multiplication, SpMV)y=Ax为例，作为典型的非规则访存的重要计算核心，该算法被广泛应用在信号处理、图像处理和迭代求解器等科学计算和实际应用中[1].但是在现有的多级存储器层次的体系结构上，稀疏矩阵向量乘的效率一般很低，浮点效率往往低于硬件浮点峰值的10%，其主要原因是复杂的存储器层次结构以及应用数据可重用性差的特征导致cache命中率较低，从而凸显了各级存储器之间的访问延迟差异的瓶颈.为了解决这些问题，李肯立等人[2]在GPU上使用概率质量函数模型去选择最佳的稀疏矩阵格式，从而构造不同的访存模式去优化数据重用性问题； Li等人[3]使用建模方法自动调优不同的向量寄存器从而优化矩阵计算开销.但是这些方法都属于粗粒度选择和评判优化方法的优劣，不能细化SpMV在特定平台上具体的执行行为.因此如何建模SpMV的计算过程以及随机的数据传输特性仍然是性能优化的主要挑战.此外，作为规则访存的典型代表，卷积计算在图像分类、目标检测、图像语义分割和神经网络等领域[4]取得了一系列突破性的研究成果，其强大的特征学习与分类能力引起了广……