《三体》系列小说关于算法的信任危机与伦理建构

周建琼

(上海师范大学 人文学院，上海 200030；武夷学院 人文与教师教育学院，福建 武夷山 354300)

随着数字信息技术的飞速发展，基于数字信息技术的算法逐渐渗透到人类社会的各个方面，由此导致人类信任关系的种种危机，如何建立安全可靠的信任机制，保证人类活动高效有序开展是人类迫切需要解决的问题。当算法介入人类信任关系，一种全新的社会信任关系——算法信任出现，这正是信息技术时代社会信任关系变革发展的必然产物。与以价值理性为基础的人格信任和制度信任相比，建立在工具理性上以计算机信息技术为基础的算法信任模式，为信任关系提供了一种可靠的保障机制，但也不可避免地隐藏着诱发人类社会异化的危机。《三体》系列小说在对“三体文明”进行想象时或隐或现现代科学技术的魅影，不仅充盈着物理学、天文学前沿技术的植入，作家还将浩渺宇宙中的“三体文明”引入一个后人类的算法世界，生动展现了被算法操纵的信任关系形态，“试验了人类个体对他者、外来文化的接受程度”，“展现了人与技术、人与他人的永恒紧张关系”、“试图通过一连串的情节变化，找到解决的可行的融合方法和融合点”。[1]为现算法信任危机与伦理建构提供了科幻现实主义的观察方式。

一、算法形态的“三体文明”与信任关系

“三体文明”作为刘慈欣构想出来的一种有别于人类文明的他者文明形态，贯穿于《三体》、《黑暗森林》和《死神永生》三部曲之中，与地球人类的博弈构成了故事发展的主线，将人类社会信任关系置于特定的时空语境与陌生化的场域之中。“三体文明”被设定为银河系中一个孤立存在的星球，坐落于距离地球极度遥远的“半人马座α星系”，同时，“三体文明”的生存环境极为恶劣，三颗太阳不规则的运动着，导致三体人不得不在恒纪元与乱纪元的无序交替中生存，并且时刻承受了星球毁灭、文明消失的威胁。为了计算出三颗太阳的运动规律，改变濒临灭亡的生存境遇，三体人构成了一个庞大的人列计算机，“三体文明”进入到后人类的算法文明之中。这正是作家在数字信息技术、信息控制论等科技灵感激发下，构建起一个算法图景，这个图景正如著名的后人类学家凯瑟琳·海勒说描述的：“人类就是计算机。……人类相当于计算机中的机器代码，自由意志和主体性不再发挥作用，他们都是执行程序的内存。”[2]

在三体人的算法社会形态中，作为社会成员的三体人进化成了一种具有超强计算能力的信息主体生物，这是为保证人列计算机高效运行的必要结果。计算机的运行需要以一个根本性的编码层次为基础，在这个根本的编码层上，所有一切都简化成信息的生产、存储和传播。广大三体人被化约成数据代码，构成了人列计算机中的根本性编码层。后人类信息主体的一大特点是去具身化，不受人类躯体的限制，能够摆脱肉身的束缚。三体人作为后人类信息主体的一种想象，刘慈欣从来没有对三体人的外形特征进行过具体描述，三体人的躯体可以随着三体世界环境的变化而改变。当乱纪元到来时，三体人的躯体可以通过自我脱水变成一层软皮，卷曲起来进行保存或携带，“放在岩石上将他(它)卷起来，就像卷一只放了气的皮球一样”，“在水里泡一会儿，他就会恢复原状活过来，就像泡干蘑菇那样”。[3]41三体人的去具身化特征，使得他们的思想意识能够不依托躯体而自由流动，他们没有任何的交流器官，大脑不再是思维信息的载体，完全透明，至多不过是一个显示器。正如三体人通过字幕对伊文斯说，“我们没有交流器官，我们的大脑可以把思维向外界显示出现，这样就实现了交流”。[4]8

在刘慈欣的笔下，“三体文明”被塑造成一个算法社会，数字信息技术的操控随处可见，甚至渗透进了社会主体——三体人之中。社会形态的发展直接决定了信任关系的形态，在不同的社会形态中，有着不同核心的信任模式，当社会发展到信息技术时代，算法信任也将随之产生。在三体文明的算法社会中，三体人的信任关系呈现如下特点：由于每个三体人都是网络中的一个数据节点，由此构成了点对点的、分布式的信息传递和存储方式。这种分布式方式使得三体人在进行信息的获取、传播时不再出现权力中心，每个节点都有权力获得、掌握、处理和维护信息。同时，三体人的思维信息可以自由流动，通过全透明的大脑予以显示，由于没有语言本身的限制，避免了自然语言的模糊含混性，同时也不受任何第三方中介影响，从而保证了思维信息的公开透明。

在人类社会传统的信任关系中，伦理与人性是影响信任关系的重要因素。算法信任，作为一种新兴信任模式，在信任关系中用数字代码取代人性与伦理，建立起分布式去中心化的代码模式，保障数据的公开透明，从而建立起可靠的信任体系。这种三体人之间分布式去中心化的信息传递模式，是基于三体人化约成数据代码而形成的，“三体文明”的信任关系是对算法信任的文学想象。“三体文明”的算法信任模式，在一定程度上弥补和解决了建立在人性以及契约关系上的传统信任模式的缺陷，使三体社会建立起了安全可靠的信任关系，在“三体文明”中，三体人宣称：“欺骗和撒谎这两个词我们一直难以理解”。[4]10

二、算法乌托邦的信任危机与科技祛魅

传统的人类社会信任关系是依据伦理道德规范来维系的，而算法信任将伦理道德驱逐，以数据信息取而代之,试图建构起基于客观理性数据信息上的信任关系。算法信任的背后隐藏着科技决定论的逻辑底色，同时也表达出对信任关系中人性伦理的忽视与遮蔽。三体算法社会中的信任关系，不再由个体或者制度来驱动，三体人变成了数据代码，信任的生产过程被化约为信息的生产和流通过程，信息的真实性由被视为没有人类情感的冰冷理性的科技来检测和证明等等。从“三体文明”的信任关系中不难发现，三体人认为科技能够解决一切的社会问题，包括信任问题。事实上，刘慈欣一方面通过“三体文明”社会没有欺骗和谎言，人类社会的信任关系却危机重重，建构出一个看似美好的算法信任乌托邦；另一方面，又通过三体人的悲剧和地球人求助三体后的灾难，暗示着算法乌托邦的局限和风险。

在三体人的算法社会中，算法信任带来了安全可靠的信任关系，致使社会没有欺骗和谎言，社会信息公开透明，但是其目的是为了让人列计算机高速高效运转。处于人列计算机数据节点中的三体人，必须受到中心处理的块状结构支配，不可避免地处在高压统治之下。可以说，过分强调算法控制的信任关系，必然会出现“为了应对乱纪元的灾难而产生的集权体制”。[5]148同时，在算法信任中，人性和伦理被驱逐，只剩下冰冷的技术，三体人的主体意识被完全剥夺，只能是毫无情感和精神世界的代码，三体人之间的关系也冷漠空虚，社会一片死气沉沉。正如三体世界的一位地球监听员所言，三体文明“为了整个文明的生存，对个体的尊重几乎不存在”，“精神生活单一和枯竭。没有文学没有艺术，没有对美的追求和享受，甚至连爱情也不能倾诉”。[3]268这位监听员在与罗辑的交谈中悲叹到：“三体世界也是有爱的，但因其不利于文明的整体生存而被抑制在萌芽状态”，并希望“有一天，灿烂的阳光能照进黑暗森林”。[4]469-470

在刘慈欣看来，算法信任引发的危机，不仅在于三体文明本身，同时还涉及到地球人类。受算法操控的信任机制无法从根本上解决人类社会的信任危机，甚至会给地球人类带来毁灭性打击。当地球人类在面临社会中出现的信任危机之时，地球三体叛军由此产生并且开始向“三体文明”求助，试图通过三体人的帮助，重建可靠的人类信任关系。在他们看来，“三体文明”由于其高度发展的科学技术，必然拥有更高的文明程度。叶文洁在红岸基地接收了三体文明发来的信号，她深信“如果他们能够跨越星际来到我们的世界，说明他们的科学已经发展到了相当的高度，一个科学如此昌明的社会，必然拥有更高的文明和道德水准”。[3]260事实上，三体文明进入人类社会非但没有解决人类的信任危机，反而为了占有地球开始对地球人类实施残忍的毁灭计划。起初他们计划在进入地球后将地球人灭绝，后来在威慑时期与地球人开展了大规模信息交流之后，虽然放弃了人类灭绝计划，但是依然没有放弃殖民地球的计划，在太阳系为人类划出保留地，只容许地球人类生活在“地球上的澳大利亚，火星的三分之一领土”，“人类必须解除武装，进行裸移民，在移民中不能携带任何重型武器和设备”。[5]149在算法信任关系的维度思考三体文明与地球人类的对抗冲突时，不难发现，三体文明对人类地球的入侵及其残酷毁灭，隐喻了信息技术对人类信任关系不断僭越之后，必然导致人类的异化甚至灭亡。

在人类社会的信任问题上，算法能否解决人类社会的信任问题？通过信息技术实现了数据的公开透明和去中心化，能否真正建立起可靠的信任关系？答案是否定的，这需要对信任关系中算法操控背后的科技至上论进行祛魅，看到技术本身的局限性。刘慈欣自称为科技狂热者，但是对科技的局限性有着清醒的认识。他在展示科技高度发展的各种心态和优势的同时，也呈现了科技的不堪一击，比如整个宇宙航空舰会因为一颗水滴而毁灭，人类科技的发展被三体文明发射的质子便能封锁，科技在面对降维打击时无能为力等等。面对信任关系中算法信任背后的科技至上论，刘慈欣是通过塑造了一群作为科技乌托邦者的地球三体叛军来实现祛魅的。在科技乌托邦者看来，科技可以预料未来，预防灾难，使人们避免苦难，甚至可以使人长生不老。[6]地球人类叛军们相信科技就是一切，人类已经无法依靠自身力量“解决自己的问题”、“抑制自己的疯狂”，只能靠被称为“主”的三体文明，对人类“强制性的监督和改造”以创造“全新的、光明完善的人类文明”。[3]242正是由于地球叛军的科技狂热，地球人类才与三体文明相遭遇。三体文明不是地球人类的拯救者，非但没有解决人类的信任问题，反而给地球人类带来了灾难。可以说，刘慈欣“三体”危机的叙述背后是对科学技术本身的祛魅。

三、算法信任模式的道德伦理建构

在刘慈欣的《三体》系列小说中，算法信任被置于“三体文明”的算法世界中，为讨论算法时代的信任关系提出了可能。算法问题不仅仅涉及到信任与信息技术的关系问题，同时还必须面对伦理道德在信任关系中是否能够被取代的问题。社会学的相关研究认为，人类社会关系的主体是人类，各种社会关系中出现的问题，特别是信任问题其解决的关键还是在人本身。信任就其本质而言，是信任方与被信任方之间的一种伦理结构关系。伦理是信任的典型属性。[7]无论是三体文明的算法信任模式，还是人类文明的伦理信任模式，刘慈欣都试图将伦理的维度引入信任关系的讨论之中。

三体文明的算法信任，将信任关系建立在信息技术的基础上，而试图对人性伦理因素进行驱逐。三体人通过全透明思维，靠思维脑电波直接传达信息，实现信息公开化，从而建立了可靠的信任体系。可是当三体人与地球人类接触时，三体文明通过算法建构起来的信任体系却在人性面前不堪一击。当他们通过降临派领袖伊文斯得知人类具有欺骗性和虚伪性时，三体人恐惧地说我害怕你们。建立在科技基础上的信任在面对人性之恶时彻底失效。而且在威慑纪年时期，人类文明和三体文明相互交流，三体人在接受了人类文明成果的同时，也学会了隐藏和欺骗。可见，人性和伦理是算法信任无法回避的。正如上文所论述，“三体文明”的算法社会是一个集权社会，算法信任能否建立起安全可靠的信任关系还关系到背后的集权统治者。在现实技术领域，算法信任承载着技术主体的道德取向和动机，在信任机制的生产和实践中，不可避免地会受到技术主体的人性趋利性的影响。在三体社会中，算法信任的伦理属性则通过三体元首体现出来。三体元首作为集权者专制残暴，比如他在发现一个地球监听者向地球人类发出警告之后，将监听系统中大约六千人“脱水，在首都中心广场烧掉”，并将监听系统的执政官当了“引火物”。[3]269三体元首控制着整个三体算法世界，在没有伦理道德的规约下，将会导致三体文明中的算法信任失效。

在人类社会中，刘慈欣同样将伦理道德置于信任关系的讨论中。叶文洁亲身经历了亲情、友情和爱情的背叛，对人类信任关系彻底失去信心。如果说叶文洁面对父亲叶哲泰在妻子和大女儿的诬告下被活活打死，从而对人与人的信任关系感到失望，那么在大兴安岭中，白沐霖为了自保而对叶文洁的栽赃陷害则让叶文洁对人与人之间的信任彻底绝望。作为地球叛军的另一个领袖伊文斯同样经历了人与自然之间信任关系的崩塌，人类出于个人利益对自然界进行破坏掠夺。由此可见，人类信任危机的产生根源在于人性的扭曲。如何在信任关系中规约人性的欲望，刘慈欣通过主人公程心的叙述淋漓尽致地指向了伦理道德。程心是人性的代表，她始终带着“圣母”光环，正是她人性中的良心和善良，导致了人类的毁灭，同时也正是其人性的责任与良知使其成为拯救宇宙的唯一希望。刘慈欣正是通过程心这一主人公的人性悖论，指出伦理道德的重要性。刘慈欣通过程心这一人物的塑造，在不断反思人性的良心与善良的同时，通过戏剧性的反转写法，将责任伦理呈现在读者的面前。在刘欣慈看来，唯有程心人性中的责任良知美德才是拯救宇宙的唯一希望，同样也是重建信任关系的希望。

可见，无论是在三体世界还是在人类世界，解决信任问题的关键在于对人性和伦理的关切。信任问题唯有在伦理的基础上才能够得到最持久的且真正的解决。正如有学者所言，具有德性的信任会比其他形式的信任更能经受挫折。[8]以三体文明为代表的宇宙文明，虽然拥有着先进的科学技术水平，但是他们却往往没有伦理道德的维度，甚至整个宇宙都处于黑暗森林法则之中，即零道德宇宙。刘慈欣建构的零道德宇宙，并不意味着在后人类时代道德伦理被彻底驱逐，而是试图通过悬置现实，将有关伦理道德拷问推向一种极致的可能——零道德，进而引发人类对伦理道德的重构。在三体的算法模式中，算法信任驱逐了伦理道德，从而使三体文明处于零道德之中，这一语境也实现了对信任关系中伦理道德的召唤。

综上所述，具有现代性品质的科幻小说必然关注科技，思考科技引起的变革及局限性，当这些焦虑投射到文本当中，就形成了以科幻参与科技活动的特殊方式。[9]刘慈欣《三体》系列小说中充满了对信息技术的想象，关注信息科技在人类未来世界中的角色和地位，正如上述所讨论的算法时代的人类信任关系问题。科幻小说的主要形式技巧源自间离的态度，[10]39也即一种陌生化的手段。刘慈欣的《三体》系列小说中通过陌生化的方式，在“三体文明”中构想出一种基于现代数字信息技术的信任关系，即以去中心化分布式信息代码系统为核心的算法信任；身处算法信任体系之中的“三体人”往往陷入算法操控困境，无法从根本上解决人类社会的信任危机，甚至给地球人类带来毁灭性打击。正如有学者所言，“科幻小说家才是"真正意义上的思想实验的专业制造者。科幻小说"常常暗含了对当下的批评和当今社会趋势下未来可能发展结果的猜想。”[11]算法介入人类的信任关系，以理性的数据信息取代人类的伦理道德，从技术层面为信任关系信息沟通的透明公正高效提供有效的保障。但是，刘慈欣在小说中展示了“三体文明”算法信任引发的各种危机，并对隐藏在算法信任背后的科技至上论进行祛魅。当然，信任关系是以人为核心的，人性和伦理在信任关系之中无法回避，在这个意义上，算法只能作为完善信任关系体系的一种工具，刘慈欣通过对“三体文明”与人类文明的信任关系展开各种想象，启发读者的是解决信任关系的根本路径是人性伦理的回归。