深度学习及其发展趋势研究综述

王浩滢

（山东科技大学，山东青岛，271021）

0 引言

深度学习是机器学习的一个新领域，是一种以人工神经网络为架构，对数据进行表征学习的算法。深度学习主要在于学习样本数据所存在的内在规律和表示幅度，数种深度学习框架已被成功应用在计算机视觉、语音识别、图像处理等领域并获取了极好的效果。同时，“深度学习”也成为成为类似术语，或者说是神经网络的描述重塑表示方法[1]。

深度学习相对于支持向量机、最大熵值计算方法等"浅层学习"而言是一类深层次的研究方向。深度学习是通过对原始信号进行逐层特征变换，输入和输出结果的不断迭用，将样本数据层层转换到新的特征空间，从而自动地学习得到层次化的特征表示，快速分层处理数据建立模型，更有利于分类或特征的可视化[2]。

深度学习算法打破了传统神经网络对训练层数的限制，采用贪婪无监督逐层训练方法，分开处理层层网络结构，后一层网络沿用前一层的训练结果进行训练。最后每层参数训练完后，在整个网络中利用有监督学习进行参数微调，从而达到提高精度的作用，本文就深度学习发展现状及进行简单概述并对其未来设计进行展望[4]。

1 深度学习的国内外研究

■1.1 深度学习在自然语言处理方面的研究

深度学习是以海量数据输入为基础的多层神经网络，是一种规则的自学习方法。近年来对多层神经网络的处理算法不断优化，结合最新的计算机技术以及先进的CPU处理器等，使它出现了突破性的进展。……