结合频谱规范化与自注意力机制的DCGAN研究

李秋丽 马 力

(西安邮电大学计算机学院 陕西 西安 710061)

0 引 言

图像生成问题一直以来都是一个具有挑战性的问题。由于图像生成模型的建模非常困难，传统的生成模型都需要先定义一个概率分布的参数表达式，然后通过最大化似然函数来训练模型，但模型的梯度表达式展开式中通常都含有期望项，使得在大规模数据下变得极难求解。为了克服计算复杂性和求解准确性的困难，生成式对抗网络[1](Generative Adversarial Networks,GAN)被提出。

GAN的核心思想是同时训练两个相互对抗的模型：判别模型(Discriminative Model,D)和生成模型(Generative Model, G),判别模型判断生成样本和真实样本的真假,生成模型拟合生成新的样本，让判别模型信以为真。由于GAN有着强大的建模能力，可以捕捉到高维的、难以追踪的真实数据分布，以及无须人为地构造损失函数和马尔可夫链去训练或者生成样本等优点，使其在近几年受到大量的关注且被运用于图像风格迁移[2-4]、图像超分辨率重建[5-7]、图像翻译[8-9]、基于图像内容检索和分类[10]、图像生成[11-12]等不同的领域，但也存在着模型训练不稳定，收敛困难，梯度消失以及梯度爆炸等明显的缺点。针对这些缺点，研究者们提出了各种各样的改进生成网络模型。2015年Radford等[13]提出深度卷积生成对抗网络(DCGAN)，其本质是GAN与CNN相结合的生成网络模型，在结构上使用卷积取代池化和引入批规范化操作等方法使得生成网络训练稳定性和生成图像的质量有了提高。2017年Gulrajani等[14]提出了一种Wasserstein GAN(WGAN)图像生成模型，使用从低分辨率图像开始在训练时逐步添加更高分辨率细节的层次，从而大大加快了训练速度，提高了模型的稳定性。……