协作式生成对抗网络

张龙 赵杰煜 叶绪伦 董伟

在过去的十年里,深度学习方面的研究取得了巨大进展.它的成功影响了许多学术领域,其相关应用例如自动驾驶、机器翻译、人脸识别等,也极大地改善了人类的生活.深度学习相关算法构建了一个类似人脑结构的多层神经元网络,可以对输入信息进行特征抽取与合成等操作,进而形成更加抽象的高维特征.大量的实验数据证明,深度学习算法的结果已经大大超越了传统机器学习算法,同时可以被应用于诸多领域例如图像识别、信息检索、自然语言处理、可视数据分析等[1−7].在深度学习的发展过程中,出现了许多优秀的广为人知的网络模型,例如Hinton等提出的深度置信网络(Deep belief network,DBN)模型[4],LeCun等提出的卷积神经网络(Convolutional neural network,CNN)模型[8]等,大量的研究者对这些模型进行了扩展与应用,取得了傲人的成果.

最近几年,一种新的网络模型又掀起了一股深度学习研究热潮,是由Goodfellow等于2014年提出的生成对抗网络[9−10](Generative adversarial nets,GANs).该网络将生成模型与判别模型进行了巧妙的结合,生成模型对输入参数进行建模并产生数据,判别模型则对该数据的真伪进行鉴别,二者由此竞争,相互促进,生成模型产生的数据愈来愈逼真,最后达到以假乱真的程度,生成模型的能力也愈来愈强,对于真假数据的判断明察秋毫.GANs的训练过程是一个全自动的非指导性学习过程,几乎无需人工干预.与常用的深度学习模型Variational autoencoders[11]相比,生成对抗网络不需要预先假设数据服从一……