深度伪造技术正在颠覆网络空间的可信性

魏书音 刘玉琢

数据显示，当前，我国网络视频用户规模达 8.5 亿，占到网民的 94.1%。網络视频应用在快速普及的过程中也带火了“人工智能+人脸识别”类软件，比如 ZAO、Deepfacelab 等。此类软件所使用的深度伪造技术在带来娱乐的同时，可能引发的安全风险也备受关注。如果通过深度伪造技术制作造假新闻和色情视频等违法信息，必将造成“眼见不一定为实”的普遍不信任感，进而会对国家安全、政治安全和个人合法权益造成威胁。

深度伪造技术特征

深度伪造是一种基于人工智能的人体图像合成技术。深度伪造技术的兴起是人工智能发展到一定阶段的产物，源于人工智能系统生成对抗网络（GAN）的进步。GAN 由生成器和识别器两个相互竞争的系统组成。建立 GAN 的第一步是识别所需的输出，并为生成器创建一个培训数据集。一旦生成器开始创建可接受的输出内容，就可以将视频剪辑提供给识别器进行鉴别;如果鉴别出视频是假的，就会告诉生成器在创建下一个视频时需要修正的地方。根据每次的“对抗”结果，生成器会调整其制作时使用到的参数，直到鉴别器无法辨别生成作品和真迹，以此将现有图像和视频组合并叠加到源图像上生成深度伪造视频。

深度伪造视频难以鉴别。目前，还没有鉴别深度伪造视频的商业工具。随着生成器越来越擅长创建假视频剪辑，鉴别器也越来越擅长识别它们。相反，随着鉴别器在识别假视频方面做得越来越好，生成器在创建假视频方面也做得越来越好。……