“深度伪造”技术的伦理反思

徐燕萍

DOI：10.16644/j.cnki.cn33-1094/tp.2021.11.033

摘  要： 近年来“深度伪造”技术不断迭代，在给社会带来诸多发展机遇的同时，也带来了许多伦理问题。以“Deepnude”为代表的相关色情软件，引起了社会各界人士的广泛关注与讨论。文章旨在厘清“深度伪造”的概念，分析基于深伪技术的色情软件“Deepnude”带来的侵犯女性权益、社会安全风险、信任危机等伦理问题，并从国家、相关职能部门和第三方平台的角度提出对策。

关键词： 深度伪造; 色情软件; 伦理问题; 对策

中图分类号：TP399          文献标识码：A     文章编号：1006-8228（2021）11-118-04

Ethical reflection on "deepfake" technology

——Take the one-click undressing software "Deepnude" as an example

Xu Yanping

（School of Humanities and Social Sciences， Nanjing Forestry University， Nanjing， Jiangsu 210037， China）

Abstract： In recent years， the "deepfake" technology has been iterated continuously， which has brought many development opportunities to the society， but also brought many ethical issues. Related pornographic software represented by "Deepnude" has aroused widespread concern and discussion among people from all walks of life. This article aims to clarify the concept of "deepfake"， analyze the ethical issues of infringement of womens rights， social security risks， trust crisis， etc. brought by the “deepfake” technology based pornographic software "Deepnude"， and proposes countermeasures from the perspective of the state， relevant functional departments and third-party platforms.

Key words： deepfake; pornography; ethical issues; countermeasure

0 引言

近兩年来，“深度伪造”见诸报端，成为媒体争相报道的对象。“深度伪造”是基于人工智能的一种合成技术，于2017年横空出世，在一位名为“deepfake”的美国社交用户利用该技术生成、上传一段不雅视频后，逐渐进入大众视野。发展之初，深伪技术主要用于制作娱乐视频，如人脸替换，此时期的替换痕迹较为明显，非专业人员也易于鉴别虚假视频。随着技术的飞速发展，合成的虚假图像、视频愈加逼真，同时其实现成本也逐渐降低，“深度伪造”开始走向技术普及。

如今，作为一种编织虚假信息的强大工具，再借助互联网的强“连接”性，“深度伪造”开始遍布互联网的各个角落。据中国信通院2020年12月9日发布的《人工智能安全框架（2020年）》蓝皮报告显示，随着全球人工智能规模化建设和应用加速，人工智能带来的安全风险日益凸显。“深度伪造”作为人工智能的一项子技术，其带来的诸多安全风险同样值得我们警惕，比如已经引发民众担忧的色情视频、声音诈骗、扰乱政治选举等问题。……