基于脸的治理及其转向:从刺脸、刷脸到非法AI换脸
——兼论数智时代人的数字化问题

谢新水

(首都师范大学 管理学院,北京 100048)

从美学层面看,人是极其爱惜脸的物种;从道德层面看,人是极其爱面子的动物。前者是对自然之美的珍惜,后者是对社会之美的珍爱。在《草稿本》中,利希滕贝格指出:“世上最值得玩味的表面乃是人的脸。”[1]引言001从社会治理角度看,脸之所以最值得玩味乃是因为脸可以作为社会治理场域。在农业社会,“刺脸”是一种统治工具;在工业社会,脸逐渐商品化、市场化;到了数字社会,“刷脸”成为新治理方式并带来了治理泛化。在本文中,笔者将“刺脸”和“刷脸”统称为“基于脸的治理”。随着生成式人工智能技术形成特别是深度合成技术普遍应用后,非法AI换脸带来了许多社会问题。由于非法AI换脸引发了脸的数字化问题,以此为转向,脸从治理工具变成了被治理的对象,如何治理非法换脸成为人工智能时代的社会问题。在我国,《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》都对非法AI换脸问题进行了规范。对于公共管理而言,从脸的社会发展形态及其治理历史来探究禁止非法AI换脸的治理价值,既有理论意义又有现实意义。

1 问题提出与文献综述

在人工智能时代兴起的AI换脸技术,属于深度合成技术中的深度伪造技术。为了深入了解AI换脸,需要界定深度合成技术、深度伪造技术和AI换脸技术之间的关系。深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术[2]。深度伪造是利用深度学习技术中的对抗生成网络模型形成的智能视频处理技术,AI换脸视频是该技术最为典型的应用[3]。从技术渊源来看,AI换脸发端于PS技术,在影视界,换脸技术已经存在20多年。其后,换脸技术不断进化,AI换脸色情视频带来了巨大的社会冲击。2019年9月,针对媒体公开报道和用户曝光的“ZAO”APP用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,工业和信息化部网络安全管理局对相关企业负责人进行了问询约谈[4]。媒体对这一“裸奔”视觉革命有诸多负面评论:AI换脸影响国家安全、公共安全和政治民主[5]。故而,“对于脸的治理”成为非法AI换脸出现后的大问题。

从学术史来分析,在很长时间内,理论界对脸这个习以为常的东西缺乏研究热情。当数字时代“刷脸”与“换脸”问题出现后,“对于脸的治理”成为热点问题。在西方哲学中,“脸”遭受的冷遇命运与“身体”受到的一贯“垂青”在整个哲学史上反衬分明。只有到了阿甘本那里,“脸”才第一次被赋予形而上学的韵味与意指,并与伦理学的讨论完美地接榫[6]。但阿甘本对脸的谈及也是零碎的,他指出:“一个存在——一张脸,一个姿势,一个事件——在它不像其他任何一个存在,而像其他所有存在的时候,才是特别的。”[7]97-98其实,阿甘本更关注身体的意义,他认为:“人的本性的扭曲导致了对身体的‘发现’和对赤裸的感知。”[8]108此外,他还提及20世纪用身份证、正面头像和指纹来治理社会等问题[8]96。从艺术史看,贝尔廷的《脸的历史》既是一部关于脸的文化史,又对社会治理有重要启示。他指出,人的面部活动部分可追溯到远古时期,另一部分则随着人类进化而逐渐形成;只有在文化中,脸才被赋予了自然之外的意义,脸的文化史构成了一个开放性的领域[1]序言004。在我国历史上,基于脸的治理延续了很长时间,清代学者沈家本的《寄簃文存》中“刺字集聚”一章,对我国历代典籍中的“刺脸”问题进行了系统的研究[9]196-197。此外,现代法学史领域一些学者对“刺脸”这类耻辱刑也做了深入研究。

数字时代来临,特别是三年疫情期间,新冠病毒迫使人们隔离,致使“刷脸”治理成为热点,众多文献对刷脸、换脸问题做了多学科分析(1)由于正文中引用了众多相关文献,在此只对已有研究进行简单陈述。。一些文献分析了人脸识别的收益与风险[10];一些文献分析了深度伪造规模、数量和传播速度对市场产生的多重影响[11]。有学者指出,非法深度伪造迟早会导致一系列令人不安的恶意使用[12]。确实,非法AI换脸带来的忧虑尤甚,有些问题甚至令人毛骨悚然。然而,就现有文献来看,聚焦于AI换脸问题的研究要少一些。不过,人们对于非法AI换脸问题的社会共识大体形成:AI换脸不仅具有极高的欺骗性,也带来个人信息安全与肖像权的侵害、视觉失真与新闻失实等一系列社会风险[13]。从制度领域看,2022年11月,国家互联网信息办公室、工业和信息化部、公安部联合制定《互联网信息服务深度合成管理规定》,自2023年1月10日起施行。有国外评论指出,中国对深度伪造的监管领先于欧洲和美国[14]。从农业社会、工业社会一直到数字社会,脸一直是治理工具;在当下,AI换脸技术已经成熟且容易普及,放任非法AI换脸等深度伪造流行将对社会、国家乃至全球秩序的建构产生破坏性影响。所以,公共管理领域应提升对非法AI换脸引发的社会治理问题的关注度。

与既往研究不同的是,本文基于“脸”这一治理场域的发展历程,把非法AI换脸作为重要治理议题,将“刺脸”“刷脸”和“换脸”问题置于社会治理的历史发展逻辑中来透视非法AI换脸问题。本文主要讨论两方面的问题:“基于脸的治理”和“对于脸的治理”,前者讨论不同历史时期基于脸的治理的过程及其局限,后者讨论非法AI换脸带来的社会混乱及禁止非法AI换脸的缘由。本文具体探讨了三个方面的问题:一是从历史治理视角解读脸的社会化、市场化和数字化发展趋势及其局限;二是剖析农业社会的“刺脸”统治和数字社会的“刷脸”治理,以此为基础,界定“基于脸的治理”的边界;三是探究禁止非法AI换脸的四重治理价值。本文可以为生成式人工智能、通用人工智能的可持续发展提供一些理论借鉴。

2 历史视野中脸的社会状态及其局限

脸具有裸露权,是具有反馈性、情感性、可识别性的交互工具;脸亦是人们相互凝视和交换信息的重要场域,更是社会交往不可或缺的界面。从历史视野中审视可知,脸的社会化、市场化和数字化是脸的三种社会状态,以此为线索,能更清晰地阐述“基于脸的治理”。

2.1 脸的社会化及其治理局限

脸是情感的表现场域,人无法逃避漂浮不定的情感和日益沧桑的脸的双重磨砺。飘浮不定的情感让人类享受爱与情之美却又饱受相思之苦与情绪之累,依赖情感生活者经常备受折磨,但任何人都无法逃避岁月对脸无情的摧残(2)在抖音等平台中,变脸软件可以让人看到自己从小到老过程中脸的变化,每个人都可以对比年轻时的青春活力与年老时的衰弱无奈,这种快速、直接的对比让每个人都心惊肉跳。。从社会视角看,作为社会界面、裸露且展现情感的脸不仅具有可识别性,更加重要的是被赋予了社会性。阿甘本指出:天主教传统把“衣服”称为人类在天堂中得到的恩典之礼物,这一事实具有非常重要的意味。人只有通过外在于他的荣耀之衣才能得到说明,后者就和任何衣服一样[8]17。遮体、保暖并呈现美的服饰是人类文明的标志之一;这一文明行为让脸成为裸露、特殊、特色的部分而促使脸成为社会治理功能发生的场域。经过锤炼、有城府的脸可以不动声色,但作为社会交往不可或缺的界面,个体的脸都蕴含着热情、冷漠、羡慕、慈爱、麻木、僵硬、恐惧、忧心、开怀与兴奋等各类情感,个体行为的社会性或多或少都要在脸这一裸露的界面中体现。在社会交往中,脸是个体向社会扩散的符号,不断呈现出个体的情感状态、生存状态和交往状态。在社会交往中,脸更是连接他者、社会和国家的界面,这种逐渐扩大的社会化提升了脸的治理价值。虽然,作为社会交往界面的脸被赋予了社会治理功能,但也存在明显局限。

其一,与作为人造物的服饰相比,脸的社会治理功能存在明显局限。丰富多彩的衣服作为人造物可改变人的形象但改变不了人的脸;可识别性致使脸具有自然差异,但仅仅依靠脸难以实质性地区分社会个体。在社会秩序建构过程中,社会地位、社会身份以及职业主要依赖服饰来区分,众多王朝对衣冠配饰都有明确规定——无论国王还是大臣、贵族还是贫民,在衣冠、配饰和武器方面存在重要区分。在我国古代,象刑是最早的耻辱刑,是一种让罪犯穿上特殊服饰以示惩罚的象征性刑罚。《尚书》《周礼》以及荀子的《正论》对象刑都有过记载[15]。在现代社会,平等成为公共产品,但在军、检、法等行使公权力的特殊职业中,“制服”还是必需品,以此来象征这些职业所具有的威严。与之相反,囚犯“制服”包含了惩罚、区分、隔离、不认同等复杂治理意涵。可见,服饰是区分职业群体的视觉之物亦或服从标志,然而不借助特殊技术脸难以成为治理工具。

其二,“面具”的使用,隔断了脸的社会化与行动主体的联系,削弱了脸的社会治理功能。脸是社会化的,既是责任又是权利,更是历史写照:黑奴解放的笑脸、法国大革命者的激情之脸、战场上将军和士兵充满生死情感的脸、明星品牌般的脸、卑微者被忽视的脸等都隐藏、夹杂了社会情感或社会责任。在更多时候,脸内在地拒绝社会性,于是人们发明了面具。实体的面具是脸的物化,是掩饰工具和媒介;此外,每个人还有一个情感的“面具”。面具的出现表达了对脸的可识别性的不满,是现实世界“变脸”的方式。贝尔廷指出:“脸不仅天生适于配戴面具,而且天生适于充当面具。”[1]25人们戴上面具的目的在于娱乐、演戏、暧昧或隐藏身份、保护隐私、藏匿情感,但面具隔断了脸与身体的联系,以“换脸”方式让脸失去了社会性。在社会生活中,不只是演员通过面具或化妆“变脸”,每个人都或多或少地戴着“面具”。面具使脸和身体不再一体化,“变脸”与“换脸”都有混淆他者、分裂行动的危险,暗含着破坏社会秩序的可能。

2.2 脸的市场化及其肖像权问题

脸部政治与广告美学使脸政治化和市场化[1]39。广义的脸部政治包含了统治、管理、治理的指向。在农业社会,血缘、身份与脸之间具有直接因果关系。通过基于血缘的脸来建构身份秩序,是一种统治方式,王公贵族因为血统高贵出生后就获得了一张拥有统治权且受尊重的脸,也获得了政治特权,而出身底层的百姓被置于政治秩序的底层。在传统政治中,“百姓”概念蕴含了屈于“一姓”统治的意涵,本质上,脸的政治化是为了维护社会秩序、建构政治秩序与阶级统治。随着市场经济的发展,脸的市场化逐渐形成。脸的市场化是脸的物化过程,意指脸融入市场成为特殊商品,使其经济价值逐渐得以释放、得以凸显。19世纪以来,现代广告业的发展使个人的名誉、肖像、姓名等人格权的经济价值逐渐凸显,可以大量进行商业化利用,并随着电视、报纸等媒体的宣传而扩大了知名度,获得经济效益[16]。肖像权是声光技术发展及照相机和摄像机逐渐普及后的产物,这类技术让脸得以留存、进而重复利用。为了促进脸的市场化,19世纪中叶,肖像权就已经萌芽了,德国、美国、日本等国家开始为肖像权立法[17]。肖像权的设立为脸的市场化提供了保障。

在社会意义上,肖像是对人的必死性的抵抗。绘画、摄影技术的普及让脸得以保存为可持久物,从而将死者和生者联系起来、相互慰藉。肖像实现了死者与生者面对面的、仪式性的交流,增强了人类的精神力量。在家庭、家族乃至国家治理中,肖像及其雕塑都有重要社会价值。肖像权使脸的社会属性得以张扬、脸的公共属性乃至政治属性都因此变得活跃。在工业时代,脸传递着各种事件的激情,在政治选举、游行示威、个人宣誓、商品电视广告等社会行为中,脸的角色繁多、任务繁重,明星等公众人物都因脸的市场化产生了价值。数字社会来临后,为了促进脸的市场化,互联网上对个人形象的商业利用屡见不鲜,无论是在电商平台上销售印有明星肖像的纪念品,还是利用社交网络上的“网红”或者“意见领袖”推销商品,抑或通过明星照片来“引流”都十分普遍[18]。

2.3 脸的数字化及其治理问题

进入数字社会后,脸的数字化进程得以开启,平台和流量成为数字权力的核心要素,脸的数字化引发的问题也随之而来。当然,脸的数字化与人的数字化是相连的。简单而言,人的数字化有两个类型,即整体数字化和局部数字化,前者是将人整体数字化,后者则是将人的器官数字化。人的数字化在现实世界和虚拟世界都可以展开。在现实世界,人的整体数字化表现为各种类型的人型机器人出现;人的局部数字化则针对手臂等助力器官而言,机械手臂等是人的局部数字化形态。在虚拟世界中,自20世纪60年代以来,数字人技术开始发展,至今有了几十年的发展历程[19]。随着虚拟世界不断迭代更新,作为人的数字化的新形式,虚拟数字人活跃在元宇宙等虚实相容的世界中。人的数字化是数字时代的重要问题之一。当下的数字化理论主要关注产业数字化和数字产业化,却忽略了数字化转型中的另一个特殊对象:人的数字化。

在数字社会,随着人工智能的发展,属于人的局部数字化的脸的数字化开始活跃,其表现形态主要有两种,即“刷脸”与“换脸”。“刷脸”是指人脸识别治理技术。随着人工智能技术的发展,尤其是因特殊原因导致人和人之间尽量避免接触,“刷脸”变成热词,脸也再次成为社会热点,可识别的脸成为出入各种场所的“通行证”。在日常生活中,作为身份认证方式,“刷脸”治理的场景不断扩大甚至泛化,进而在不同场所流行起来。“刷脸”打游戏、寄快递、住店、进小区、入景区;“刷脸”坐高铁、“刷脸”解锁、办理公务、各类支付,甚至用“刷脸”进行考勤等。可以说,“刷脸”治理的场景在不断泛化,也随之产生了不同类型的问题。

“换脸”是深度伪造技术的典型形式。目前,AI换脸技术已发展成熟并逐渐普及。从社交平台获得照片、视频和其他文档,“一键换脸”就能生成与某个人“真实地”聊天的“好朋友”。AI换脸是人的局部数字化的“反叛”形式,具有诸多反社会功能。如果说深度伪造彻底埋葬了人类社会历久积累的眼见为实的判断原则,那么非法AI换脸则尤其为甚。例如,非法AI换脸技术利用“眼见为实”的判断习惯或认知偏见诈骗亲戚朋友,或生成不雅视频在网络平台传播,损害他人声誉等。AI换脸带来的侵害可以渗透到政治、经济、文化和社会生活之中,脸的数字化伴随着诸多社会治理问题。

3 “基于脸的治理”及其边界

自古以来,我国就重视脸对社会秩序建构的价值,脸亦是不可或缺的治理界面;在统治、管理和治理意义上“基于脸的治理”并不鲜见。从行动视角去考察脸作为治理工具的历史过程,可以发现,“刺脸”和“刷脸”是“基于脸的治理”的两种主要形式。

3.1 刺脸

于一般人而言,只有熟人的脸能被识别,陌生人的脸很难识别。从原理上看,只有通过技术赋能,脸才能成为治理场域。在不同时期,基于脸的治理都是因为赋予了脸以识别和认同功能,增强了脸的可识别性和显现性。在识别技术不多的农业社会,如何将那些既要处罚又要教育的违法乱纪人员区分开来,是社会秩序建构中的重要问题。在我国农业社会,基于脸的治理体现为两类刑罚,即墨刑和劓刑,前者的刺字部位在额头,后者就是割掉鼻子[15]。这两种刑罚都是将脸作为治理场域,让违法者遭受一辈子的精神痛苦,故而有“黥刺一膺,终身僇辱”的话语[9]4。在此,王朝统治者将脸、刀和文字融合成为可识别的刑罚。

从统治的角度看,“刺脸”是通过对脸的进一步标识,进而增强对特殊主体的可识别性。劓刑非常残酷,在我国历史上实施的时间不长,但“刺脸”是我国王朝统治中的常用刑法,各王朝的法律大都使用了“刺脸”这一耻辱刑[15]。清代沈家本的“刺字集序”,对刺字刑专门做了归纳总结。他指出:“墨一名黥”,“黥,墨也。在面也。”[9]196从统治功能而言,刺脸是一种社会信号。在脸上刺字,让他者以此知道“刺脸”的人的过去,可以被提防、远离、回避或者隔离,使之在社会交往中沦为“异类”。在宋代,刺字成为军人和罪犯共有的体貌特征。军人和罪犯在刺字内容和部位上虽有差异,却都被社会主流群体视为贱民[20]。在清代,对于“刺脸”有严格规定。“旗人刺臂,奴仆刺面,民犯徒罪以上刺面,杖罪以下刺臂。再犯者亦刺面,刺面在鬓之下,颊之上,刺臂在腕之上,肘之下。”[21]随着现代社会的进步,“刺脸”这种基于脸的治理因为冒犯人格而被废除,这是巨大的社会进步。

3.2 刷脸

“刷脸”是人脸识别的俗称,是使用人脸数据进行比对识别,以实现身份认证、解锁和支付等功能。在“刷脸”治理中,每个人的脸成为社会治理的“通用标准”。根据《信息安全技术 人脸识别数据安全要求(GB/T 41819—2022)》的规定:人脸识别数据主要用于识别自然人身份,典型应用包括机场、火车站使用人脸识别数据进行人证比对,移动智能终端、应用程序使用人脸识别数据实现解锁、支付等功能,公园、居民小区等使用人脸识别数据核对人员身份。从技术层面看,之所以说“刷脸”技术具有重要的治理功能,是因为“刷脸”治理技术可以提升社会治理效能。比如,医保“刷脸”支付成为继医保电子凭证、移动支付后看病就医的又一“快捷通道”,有效解决了病人高峰期“排队时间长”的问题,帮助患者省去记忆密码和输入密码的麻烦,真正实现了人证(卡)合一。人证(卡)合一减少了各类作假行为,达到了即时认证和即时治理的效果。

在数字社会,由于大数据、人工智能等技术的赋能,“刷脸”成为公共领域不可或缺的治理工具,可以视为现代社会基于脸的治理的新方式。目前,人脸识别技术已被广泛应用于社会生活,大到智慧城市的建设,小到手机等APP应用的登录解锁,在金融、电商、安保、娱乐等诸多领域都发挥着巨大作用[22]。“刷脸”治理有塑造社会生产模式和运行方式的价值,是技术治理的一部分,可以在身份识别、预约取号、提升社会治理效能和应对重大公共安全危机等方面发挥作用[23]。“刷脸”依然是基于脸的治理,在公私领域都得以使用的“刷脸”治理既提升了社会治理效能,又引发了社会治理问题。

3.3 “基于脸的治理”的问题

从一般意义上看,在农业社会,脸既是身份又是面子。从统治角度看,脸又是王权可支配的“公共空间”,是建构社会等级秩序的标识和统治工具。当然,即使在个体权利不被重视的王朝时代,脸作为自然之物或父母所赐之物,只有基于王权才可以惩罚性地进行“刺脸”,也就是说,只有王权可以让脸去承载特定个体的“罪与罚”。在我国历史上的王朝时期,“刺脸”只是官府依法的行动,仅仅限于王朝统治权力的作为。在任何时候,都不能非法损害他者的脸,更不能利用脸来开展各类惩罚性的管理。农业社会脸的社会化是基于王权的社会化,与之相随的是一种直接的暴力统治。工业社会脸的社会化主要体现为商业价值,脸可以被各类主体基于各种利益诉求来应用。脸的商品属性越来越扩大,脸的经济属性不断凸显。与之同时,脸的市场化、商品化也引发了肖像权问题。由于相关法律的保护,个体的脸的权利得到了尊重,但侵犯肖像权的事情仍在不断发生。

随着人工智能技术应用场景的不断开拓,脸的数字化增强了人脸的可识别性。数字时代的脸不仅具有道德价值、经济价值,还由于技术赋能不断提升了治理价值,但“刷脸”治理也产生了一些负面效应。一是“刷脸”技术带来了治理主体的泛化。由于“刷脸”技术泛化,基于脸的治理不再限于政府这一主体,“刷脸”不仅仅是政府的治理工具,企业、社会组织甚至社区都利用“刷脸”来进行治理。二是“刷脸”治理导致人脸信息与人脸主体的分离。在“刷脸”过程中,“刷脸”者的姓名、性别、年龄、联系方式等信息都被一并收集、储存。“刷脸”起到身份认证功能,能够开启一个通向赛博空间的账户,延续了人脸作为通用标识符的社会功能。“刷脸”意味着认证权力过程从分布式转向集中化,认证信息与载体的分离[24]。然而,需要知道的是,个体的脸已经在被别人“控制”和使用。三是一些企业利用“刷脸”牟利。在2021年“3·15”晚会上,央视曝光了多家企业未经告知私自通过监控摄像头搜集消费者人脸信息,涉事企业包含多家知名企业[25]。“刷脸”治理扩大化提升了社会危害性。

“刷脸”治理泛化带来了“刷脸”治理问题,规范人脸识别成为媒体、学界关注的重要问题。2019年,郭兵诉杭州野生动物世界有限公司一案,成为全国第一起涉及人脸识别技术使用纠纷的民事案件。批评者指出,判决所传递的信息并不利于加强对个人信息的保护[26]。针对人脸这一生物信息的独特性、直接识别性、不可更改性、易采集性、不可匿名性等特征,法学领域的学者希望厘定人脸识别技术应有的法律底线和法律规制的要点[10]。不过,“刷脸”治理对权力边界的突破,远不如非法AI换脸的程度大。

4 禁止非法AI换脸的缘由

非法AI换脸是指为达到非法目的而将现实生活中A主体的脸更换给B主体,在虚拟世界中B主体基于A主体的身份展开行动。深度伪造特别是非法AI换脸带来了多宗罪,包括传播假新闻、影响选举、在法庭上引入高度逼真的假证据、制作假色情电影,等等。这些“罪行”对社会关系、社会秩序、民主和法治产生了重大影响,之所以提出禁止非法AI换脸,是因为深度伪造已经冲击人类感知的极限[27],引发了不同类型群体的深度担忧。禁止非法AI换脸可以产生多重治理价值。

4.1 非法AI换脸导致行动者主体性丧失

嫁接是人工繁殖植物的方法,是把一株植物的枝或芽嵌入另一株植物的茎或根上,使接在一起的两个部分发育成一个完整植株。AI换脸是一种“数字嫁接”,是用人脸识别和对抗性生成技术将一个人的脸“嫁接”到另一个人身体上,从而实现不同人之间的换脸。随着AI换脸一键生成与网络化,AI换脸形成了比较丰富的类型。根据应用目的,可将AI换脸分为娱乐类、色情类和政治类。其中,娱乐类是出于娱乐、游戏的传播意向;色情类是将他人脸部图像嫁接至扮演色情淫秽音视频的角色身上;政治类是出于表达政治诉求或制造政治舆论冲突的动机,将政治人物的脸部图像嫁接或处理、生成不正确内容的音视频[13]。

作为娱乐型的AI换脸有助于平凡者将自己的脸更换到喜剧人物、公众人物甚至杰出人物的身上,这一类型的AI换脸具有角色狂欢、自我表演并力图开启走向虚拟世界的主体历程,力图在虚拟的边界中建立自我[13]。根据笔者的调查,就娱乐类AI换脸而言,大多数人可以接受的是私下小范围的娱乐性换脸,即使如此,绝大多数人仍然难以接受性别变化的AI换脸,即将脸换到异性身体上。当然,无论哪种类型的换脸,行动者都因此被别人支配而丧失了虚拟世界的数字主体性。AI换脸犹如戴面具一样,不但割裂了身体与脸的联系,而且可能混乱社会秩序。在现实世界中,戴面具的人让他者无法判断脸、身体和行为之间的一致性。在虚拟世界中,非法AI换脸混淆人脸,导致人们无法把控脸和身体的联系,由于自我的行动已经被他者控制、进而混乱了人的身份,一旦发生违法行为,就会引发社会秩序的混乱。如果将现实生活中行动者A的脸更换给B主体,A主体就无法控制其在虚拟世界中的行动,这样一来,A行动者的主体性就丧失了。随着生成式人工智能、虚拟人技术和元宇宙的不断发展,非法AI“换脸”带来的问题将越来越多。

4.2 非法AI换脸带来不可遏制的恶

“刷脸”是人机合作的治理行为,“刷脸”治理有强制性的,也有非强制性的,比较而言,前者更有可能产生违法问题。之所以提出要禁止非法AI换脸是因为它可能产生不可遏制的恶。

一是利用AI非法换脸形成视觉压迫,破坏生活原则。一些非法AI换脸者从社交平台获得个人的照片、视频和其他文档,利用技术生成与真人一样的视频,然后以“眼见为实”的方式让一些人上当受骗;非法换脸者操控视觉世界,试图彻底埋葬“眼见为实,耳听为虚”的原则,形成了巨大的视觉压迫,生活世界可能因此变得“魔幻”。非法AI换脸带给人们深刻的教训:你看到的是我想让你看到的,你听到的是我想让你听到的,从而彻底击垮了人们的判断能力,致使人们对其判断能力失去自信、变得怯弱,转而寻求帮助。非法AI换脸等深度伪造技术对全球商业、政治和司法系统都将构成威胁,篡改证据成为深度伪造在司法系统中构成的主要威胁之一;只有提高检测技术、制定有效的刑事解决方案才能提高证据的可信度。

二是非法AI换脸传播色情,破坏社会道德。基于非法目的制造和传播色情视频是非法AI换脸的主要目标。或者说,这是非法AI换脸者利用人性弱点试图制造新的“色情陷阱”。2023年5月,福建、浙江、苏州等地的不法分子用AI换脸发送个人不雅照、以换脸视频聊天骗取信任等方式实施诈骗,涉及金额巨大[28]。2023年6月,虞某某从互联网公共空间非法获取众多人脸信息,利用AI换脸等深度合成技术非法处理、制作淫秽视频后在超过2 000人的社交软件群组传播,萧山区检察院对此进行了严格处理[29]。多年来,美国和英国的立法机构一直在寻求网络骚扰的解决方案,许多司法管辖区将“复仇色情”定为刑事犯罪。由于非法AI换脸制造的色情视频量大,对社会道德产生的冲击也很大。

三是非法AI换脸破坏政治秩序,导致社会混乱。在政治层面,人们担心的是,深度伪造特别是AI换脸带来的深度虚假信息会引发社会混乱、曲解政治观点和政治事件,进而会威胁国家安全、选举程序及政治家的声誉[30]。深度伪造技术存在侵害民族国家安全的隐患,在一定程度上引发公众对于国家民主的质疑,引发官员焦虑;它还以一种讽刺方式突出国家安全精英的缺陷[31]。特别需要注意的是,由于深度伪造是新兴人工智能技术,没有专门的法律对其规制,在应用过程中极易出现侵犯公民合法权益、威胁社会公共安全、破坏国家秩序甚至国际秩序等问题[32]。如果任意让AI非法换脸普及,那么未来真正的问题不是个别的深度造假或廉价造假,而是虚假信息生态系统的整体形成[33]。可以说,非法AI换脸的普及可能破坏整个社会政治秩序。2019年9月,德克萨斯成为第一个将意图伤害政治候选人或影响选举的深度假视频定为犯罪的州[34]。

四是削弱信用根基,形成“说谎者红利”。在现实生活中,非法AI换脸的“成功”诈骗,冲击了亲情和友情,削弱了社会信用根基。对个人而言,非法AI换脸侵犯肖像权、名誉权、身份、尊严与情感,是对个人信用的彻底破坏。对社会、政府乃至国家而言,非法AI换脸损害企业利益、扭曲政策辩论、操纵选举、侵蚀信任、可能加剧社会分裂、损害国家安全以及破坏国际关系。所以,以人脸为对象造假,不仅会导致泄露个人身份信息,而且带来社会失信,进而形成政治、经济、社会、文化和伦理等方面的信用危机。特别需要指出的是,深度造假使说谎者更容易逃避问责,形成“说谎者红利”[12]。

虽然深度合成技术可应用到影视、医疗、教育、媒体和电子商务等领域,具有多重商业和社会价值[32],但非法AI换脸一出生时就带着原罪,包括侵害个人肖像权、嵌入色情视频、考验人性甚至扰乱社会秩序等。非法AI换脸技术激活了一些社会主体的欲望,被个人、利益集团和不法分子利用并成为做恶工具,这需要加大力度打击。但基于“工具理性”的、针对深度伪造技术的控制,无法从源头解决技术滥用问题。只有重塑社会信任关系才能有效缓解虚假信息对公众信念的影响[35]。那么如何才能重塑人工智能时代的社会信用关系呢?禁止非法AI换脸是一个重要且直接的路径。

4.3 非法AI换脸带来系统性的监管冲击

在人工智能时代,AI换脸问题已经引起了相关部门的重视。在我国,一些法律法规为监管非法AI换脸提供了依据。《个人信息保护法》将生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息,以及不满14周岁未成年人的个人信息,归为敏感个人信息。脸作为敏感信息适用《个人信息保护法》。《互联网信息服务深度合成管理规定》要求,深度合成服务提供者提供人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况[2]。

尽管如此,理论界还是存在诸多担忧。一方面,传统的监管体系很难有效监管深度伪造技术,也无法有效保障公民个人信息安全,而且在信息时代,仅仅依靠行政部门显然无法实现全面监管[32];另一方面,深度伪造创建音视频的速度超过了人工智能检测此类视频的能力[36]。对于AI换脸带来的社会问题,权威媒体大声呼吁:人脸怎能“想换就换”?有关部门对那些未经肖像权人同意的“换脸”、诈骗行为,应该重拳出击、严厉打击[37]。禁止非法AI换脸获得了媒体的支持。在我国,2023年7月,《生成式人工智能服务管理暂行办法》颁布并于2023年8月15日起施行。该办法指出,国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分级分类监管;同时要求提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。笔者认为,对生成式人工智能服务采取包容审慎和分级分类的监管策略非常必要,但严格依法监管非法AI换脸同样重要。由于非法AI换脸的应用范围大,特别是它的一些负面应用迎合了部分人的不良需求,所以严厉禁止非法AI换脸十分必要。

4.4 非法AI换脸损害了人工智能的声誉

对于何为智能,人们的认识是不一致的。在16世纪,对智能的理解就是交换信件或者信号。托马斯·埃利奥特写道:“现在Intelligence作为一个文雅的说法,用来表示通过相互交换信件或者口信达成协议或者约定。”[38]引子41956年,麦卡锡将人工智能定义为制造智能机器的科学与工程;或者将AI解释为Automation of Intelligence[39]。何怀宏认为,人工智能就是人造的机器通过不断学习、自我改良,寻求更优良的算法来处理和解决认知与控制的问题[40]。随着ChatGPT等生成式人工智能的普及,人们对强人工智能的认识分歧正在加大。霍金、马斯克等人都认为人工智能的危险非常大,但更多的人认为人工智能风险可控。其实,人们是否信任人工智能取决于它们所展示的社会功能,而不仅是人们对智能以及人工智能的定义。

很多人习惯地认为,所有的技术都是一把“双刃剑”,但我们不能认同技术是“双刃剑”的辩证式提法。在应用过程中,技术之所以体现出正反两方面的功能,是不同的人使用的结果。本质上,与其说技术是一把“双刃剑”,还不如说人性有善恶两面,将技术视为“双刃剑”是将人的恶性转嫁到技术身上的“狡计”,技术的“恶性”主要是因为人性的恶在技术使用过程中得到了张扬。如果不严厉禁止非法AI换脸,就很难阻止AI换脸技术与人性的恶的高度结合,依托被抓取的人脸信息和AI换脸技术,敲诈勒索、电信网络诈骗、网络暴力等违法犯罪活动更易发生[41]。非法AI换脸所带来的危害超出了人类的理性判断、观察与预料,非法AI换脸的危害既不可控又不透明,还会引发人们的不安——现在,一些人误以为是人工智能抢走了他们的工作、骗空了他们的口袋、破坏了他们和家人的关系、损害了无辜人的声誉。如果非法AI换脸全面“搞坏”了全球政治、经济、社会和文化的基础,那么必然影响人工智能技术的社会信誉。因此,禁止非法AI换脸理所当然。

5 结论与展望

人类已经走进数智时代,数字化、智能化既是技术创新的方向,又是人类社会发展的方向。于我国而言,数字化、智能化会持续较长时间并且日益成为人们生活的重心。在数智技术不断创新发展并与社会生产生活日益融合的过程中,人的数字化问题非常值得重视。随着深度合成社会的来临,深度伪造技术对个人和社会所产生的冲击不断增大,特别是AI换脸的非法使用不断加重社会治理的责任。本文的直接目的是回应非法AI换脸引发的社会治理问题,希望公共管理领域加大对人的数字化问题、脸与公共秩序建构问题的关注力度。本文探讨的是“基于脸的治理”和“对于脸的治理”两方面的问题。首先,从历史视角解读了脸的社会化、市场化和数字化三种社会发展形态及其局限;其次,对“刺脸”和“刷脸”进行了描述并界定了其边界;最后,从社会治理价值方面提出了禁止非法AI换脸的四重缘由。本文的创新性在于:从公共管理的视角,基于脸的治理历史及其边界考察了刺脸、刷脸与换脸问题,基本观点有以下三个。其一,在人工智能时代,数字化和智能化是一股巨大的转型力量;产业数字化和数字产业化是数字化转型中的重要领域,人的数字化问题同样需要引起理论界和实践界的关注[42]。其二,在我国社会发展过程中,“刺脸”与“刷脸”都曾被社会质疑或反对;我国有重视脸的传统文化,失去面子是对一个人尊严的最大损害,基于脸可以美化但不可以更换的朴素观念,禁止非法AI换脸是一种文化要求。其三,非法AI换脸导致行动者数字主体性的丧失,带来了道德层面、监管层面和社会信用层面的问题,禁止非法AI换脸有利于保护人工智能的信誉。

对于AI换脸问题,笔者的政策建议是:在社会生活领域,作为娱乐工具的AI换脸仅限于私人空间使用;在特定的经济文化领域,AI换脸需要依法有序使用;在政治、经济或者社会领域,非法AI换脸必须禁止。随着生成式人工智能、通用人工智能技术的不断发展,人的数字化问题必然随之凸显。虽然包容审慎依然是监管新经济业态和新技术的基本原则,但在现实世界,如何监管智能机器人在不同社会领域中的应用是非常重要的问题;在虚拟世界,特别是在虚实融合的元宇宙时代来临后,不同形态的数字人及其在多场景中的应用将产生大量的社会治理问题。在公共管理领域,研究者只有不断加大对人的数字化问题的研究并提出系统性的监管理论,才能为人工智能技术应用创新、数字经济高质量发展提供理论支持。