一种基于前馈序列记忆神经网络的改进方法

梁翀,刘迪,浦正国,张彬彬

一种基于前馈序列记忆神经网络的改进方法

梁翀1,刘迪2,浦正国1*,张彬彬1

1. 安徽继远软件有限公司, 安徽 合肥 230088 2. 国网信息通信产业集团有限公司, 北京 102211

针对具有时序性的信号的分析和建模，主流的RNN、LSTM由于反馈连接的影响，在学习效率和稳定上有所不足。本文基于标准的前馈神经网络，借鉴滤波器中的抽头延迟线结构，提出一种改进的前馈序列记忆神经网络FSMN（cFSMN）和深层cFSMN（Deep-cFSMN），实现时序的音视频信号快速建模，减少了反馈连接，具有更高的学习速率和更好的稳定性。

前馈序列记忆神经网络; 改进方法

深度学习的发展推动人工智能的兴起，而深度学习的发展离不开神经网络[1,2]，其中应用最广泛的是前馈型神经网络[3,4]和卷积神经网络[5,6]。对非结构化数据（文本、语音和视频）这些时序性信号，如何有效地对这些时序信号的长时相关性进行建模就显得尤为重要。因此，先后出现循环神经网络RNN、前馈全连接神经网络FNN和LSTM等不同的神经网络。循环神经网络RNN[7]通过循环反馈机制，将学习到的历史表达存储在网络的权重中，从而实现对时序信号进行建模，而RNN由于其记忆存储机制理论上可以实现任意长度的序列到另一个序列的映射[8]，由于其内部的反馈连接，训练需要采用所谓的BPTT（Back-propagation through time）[9]，BPTT会导致RNN的计算复杂度很高，而且会导致梯度消失和梯度膨胀。长短时记忆单元（Long Short Term Memory, LSTM）[10,11]是一种增强型的RNN结构，选择学习的门来替代循环连接，从而可以确保训练过程中梯度的传递更加有效，并在序列建模[12]、机器翻译[13]、语音识别[14]等任务上取得一定突破。……