(山东科技大学计算机科学与工程学院,山东青岛 266590)
2016 年,谷歌Alpha Go 在世界围棋竞赛中战胜专业棋手,引发人们对人工智能的激烈探讨,同年,“人工智能”一词写入中国“十三五”规划纲要,各大互联网公司也纷纷加大对人工智能领域的投入,自此人工智能进入高速发展阶段。深度学习是人工智能的重点研究领域之一,其原理是建立模型模拟人类大脑神经结构,主要涉及神经网络的发展与应用[1]。1958 年,第一代神经网络单层感知器由Rosenblatt[2]提出,在此后的近半个世纪中,由于相关技术的落后,尤其在各种浅层机器学习模型相继被提出后,神经网络的研究被搁置[3]。2006 年,Hinton 等[4-5]对神经网络的数据高维度以及梯度消失等问题展开研究,此后深度学习进入快速发展期。近年来,深度学习引起越来越多人的关注,该领域论文发表量逐年增加,研究人员难以从众多文献中把握领域研究热点及前沿。因此,对国内深度学习领域研究热点及前沿进行分析,以期为研究人员的深度学习理论及具体应用研究提供参考。
在国内深度学习研究领域,研究人员从深度学习主流模型及其应用入手,论述了深度学习研究进展及未来发展方向。如孙志军等[6]论述深度学习的兴起渊源,介绍了主流学习算法及应用现状;尹宝才等[1]依据数据流向对具有代表性的深度学习算法进行归纳总结,具体论述了各种深度网络的结构及特点;张军阳等[7]梳理深度学习模型架构及优化技巧,对比分析主流的深度学习软件工具及硬件加速技术;……