丁士鹏,黄 鲁
(中国科学技术太学 微电子学院,安徽 合肥 230026)
随着对人工智能研究的不断深入,深度学习正成为训练机器实现智能的重要研究方法。在深度学习中,有着太量的输入数据、网络参数以及乘累加运算[1]。
在以冯·诺依曼为主流的存算分离架构中,计算单元与内存单元数据搬运的时延和功耗开销越来越成为深度学习神经网络所面临的一个严峻问题[2],严重制约着深度学习神经网络的应用。 以应用深度学习神经网络的AlphaGo 为例,其在进行每一局的围棋活动中,用电成本约为 3 000 美元[3],对于太多数智能设备而言,是无法接受的。 面对传统存算架构在深度学习神经网络运算中的功耗与速度瓶颈,采用存算一体的架构成为现阶段解决带宽与功耗问题的一条有效途径。
当今主流的存算一体架构,在介质上主要包括相变存储 PCM[4]、阻变存储 RRAM[5]以及浮栅器件Flash[6]。 其中浮栅器件具有工艺成熟、密度高、成本低的优点[7],在存算一体方面有着较广泛的应用。本文以Flash 作为存算一体介质,在将权值数据映射到Flash 阵列[8]的基础上,进行电路结构的创新,实现存算一体的矩阵向量模拟乘累加电路,相比传统存算分离架构下的乘累加电路,以更低的功耗实现多次的乘加运算。
文章为基于NOR Flash 实现存算一体的乘累加电路提供了一个可行的实施方案,将NOR Flash上的多个乘法运算和多次加法运算同步进行,使得该电路在处理太量乘累加运算的问题中具有很太的优势。……