“失控”与“无为”：走向一种合伙人式的人机关系

陶晓　陈世丹

〔摘要〕 人工智能的突破式进步印证了凯文·凯利有关未来机器“失控”式自主发展的预言，引发了人们对被机器奴役甚至毁灭的恐惧。文章借助解构主义、凯文·凯利提及的“无为”之治及其他学者所论述的人机合作、共同进化的设想，通过分析机器失控发展对传统二元人机观和主体概念的冲击，旨在指出在真实与虚拟界限消解、“人”的概念不断刷新的后人类时代，传统二元人机观已经过时，且将带来新的人机关系危机。人类需从视机器为客体及他者的思维转向多元动态的后现代主体观，从单一主体的中心式掌控转向共进、权力共享的合伙人式的人机关系，如此才有助于维护和谐的人机互动，而人类对机器失控式发展的恐惧最终也将迎刃而解。

〔关键词〕 人工智能;人机关系;主体;后人类主义;合伙人关系

〔中图分类号〕TP18〔文献标识码〕A〔文章编号〕1008-2689（2019）05-0070-08

2016年3月15日，谷歌公司研造的人工智能系统阿尔法围棋（AlphaGo，又译阿尔法狗）以4∶1的绝对优势战胜世界围棋冠军李世石（LeeSe-dol）。这场引人瞩目的人机大战瞬间卷起一阵科技风暴，引发了人们对人工智能（AI）的密切关注。随后，2017年5月27日，中国顶尖围棋选手柯洁又以0∶3败给了阿尔法狗。其实早在20年前，人工智能在国际象棋领域就已经击败了世界冠军。相对于国际象棋的计算来说，围棋走位的可能性更为复杂，其计算是3的361次幂，也就是1的后面要加768个0，所以围棋不可能在原有的方法论上通过计算机的计算能力来完成[1]。就在阿尔法狗胜利前几个月，当被问要用多长时间才能让一台电脑击败一流的围棋选手时，专家们的回答是大约要等10年。因此在围棋界对于人工智能能否战胜人类普遍持不乐观预期的背景下，阿尔法狗的表现可谓颠覆了大众的认知。阿尔法狗的深度神经网络绕过了计算机的计算能力这一壁垒，它采用和人脑一样的工作方式，直观判断最合理的下一步。在如此复杂的围棋规则面前，人工智能具有与人类相似的思维模式和高质量的落子判断能力是极为不易的。人工智能的颠覆性表现使得人类长期以来自封的“萬物的尺度”之荣耀及生物链中至高无上的地位受到了极大的挑战，不得不开始反思宇宙中自身所处的位置。面对人工智能的“失控”式发展和未来拥有自我意识的机器人出现的可能性，人们不禁产生了担心被机器奴役甚至毁灭的恐惧。人类应该把权力牢牢攥在手中继续掌控机器他者，还是选择另外一种权力让渡的共进模式来实现“无为”而治的智慧？这值得一番哲学层面的研究和思索。

一、“失控”对传统二元人机观的冲击

从后现代的文化视阈下来看，人工智能的胜利挑战了人类自封的中心和主体地位，呈现出一种去中心化的变革力量，其发展趋势必将指向后人类主义时代，未来具有人类智慧乃至情感的类人机器人的出现将继续模糊人机关系，呈现“失控”式发展模式。美国《连线》（Wired）杂志的创始主编、网络文化（cyberculture）的发言人、观察者和预言家凯文·凯利（KevinKelly）早在1994年出版的《失控》（OutofControl：TheRiseofNeo-BiologicalCivilization）一书中便预言道，将生物智慧释放到人造机器之中后，他们将很快获得自治力、适应力及创造力，也随之失去人类的控制，人类将不再完全拥有自己最得意的创造物[2]（4）。以阿尔法狗为例，阿尔法狗之所以有着强大的应变能力和处理能力依靠的是深度学习、强化学习、蒙特卡洛树搜索（MonteCarloTreeSearch）[3]。深度学习是指通过合适的矩阵数量，将多层组织链接一起形成神经网络“大脑”进行精准复杂的处理。强化学习则是通过不断反复试验，将变化无常的动态情况与对应动作相匹配。蒙特卡洛树搜索则是一种基于蒙特卡洛算法（MonteCarlomethod）的启发式搜索技术。阿尔法狗通过上百万盘的棋盘对战来获取经验教训，并通过多次高强度对战不断优化了策略判断能力，因此它能够变得越来越足智多谋。其经验丰富的人类对手也无法预测它的下一步落子会是怎样的路数。

目前国内外学界对人机关系在技术层面的探讨大都聚焦于人机互动、完善机器设计以便增强人对机器的信任、人机合作机制的构建及推进对人工智能的整合应用等，而人工智能在工业、医学、法律、新闻、艺术、文学等领域的突破式进展也捷报频传，深度学习和大数据技术使得机器在一定程度上开始获得自主的发展，其举动愈来愈难以被预测。可见，目前机器发展的确是在沿着凯文·凯利所预言的呈指数式发展，并将逐渐超越人类所能掌控的范围。

人工智能如果正确应用到人类自身能力受限的领域将会不断促进世界的进步，但是与此同时，机器表现出的超越人类的能力也引发了人们的恐慌，有关机器与人类争夺地球统治权的科幻电影不断上演，如《机器人战争》（Transmorphers：FallofMan）、《环太平洋》（PacificRim）、《终结者》（TheTerminator）等，都表达了人们对于未来人工智能发展的担忧和警惕。

面对人工智能的“失控”式发展，人类应该恐惧吗？借助解构主义的视角，可以看到人类对人工智能之所以产生恐惧的原因是担心自身丧失主宰世界的中心地位，畏惧被机器掌控甚至奴役、毁灭的命运。解构主义于20世纪60年代缘起于法国，雅克德里达（JacquesDerrida）这位解构主义的领袖不满于西方几千年来贯穿至今的本体论，对传统的不容置疑的教条、权威、形式及概念等发起挑战，对自柏拉图以来的西方“在场的形而上学”传统或逻各斯中心主义（logocentrism）大加责难。逻各斯（logos）即真理的声音或上帝之言，是不可质疑的中心和最高等级的形而上存在，因此它暗含了语言（真理）的在场，而语言持有者的身份使得人类得以自封为认知主体，并借助语言人为建构起来一套等级秩序或中心来解释外界现实。世间万物的名字以及各种概念都是人类通过语言构建的，人类因而将自身的存在与真理内在地联系在一起。德里达将任何依赖于绝对牢靠的基础、高于一切的原则和等级结构森严的思想体系统统称为“在场的形而上学”，他认为逻各斯中心主义是一种典型的“在场的形而上学”，这种形而上学是以真/假、实在/虚构、客观/主观等无数二元对立来建构起来的，前者为占据中心地位并具有优先等级的逻各斯，后者为前者的派生或否定，是低一级的存在。作为人类语言的构造物，此种种对立在西方哲学史中长期存在，具有抹杀系统差异性的潜在力量。德里达反对逻各斯中心主义思想，主张解构等级秩序、内在中心的存在[4]（351-370）。他认为，世界上并不存在绝对的真理、普遍的规律、超验的意义和绝对的精神，并借助延异、差异、补充、撒播等概念通过对结构主义语言学的解构否定了逻各斯的存在，揭露建立在二元对立基础上的等级结构中的内在矛盾，从而消解二元对立的合理性，进而颠覆它。人工智能的胜利挑战了长期以来人类自封的至高无上的地位，机器这个一直以来被人类封为工具性的、第二位的存在展示出了超越第一位的存在—人类—的智慧，冲击了旧有的等级结构。因此，人们不仅在智力层面感受到了机器的挑战，也被迫开始重新思考自身在社会和宇宙中的位置，囿于人类中心主义思想的人群更是陷入了担心自身地位难保的恐慌。

但从另外一方面来讲，类人机器人的发展也是以人为模型而创建的，人工智能的胜利只是意味着机器在复杂性操作上超越了人类的能力，其存在的局限性仍在暗示人类才是主导世界的中心，人/机二元对立仍然存在。在逻各斯中心主义的影响下，机器一直被认为是人的工具，甚至有时候被片面认为是统治自然、征服他国的武器，因此即使阿尔法狗打败了李世石、柯洁这样的人类顶尖棋手，机器仍然被认为是需要被征服、被控制的他者存在。机器通过深度学习掌握了越来越多的类人本领，但是这一切都是以人为前提进行定义的，其掌握的知识目前也只是局限在人的认知领域。

人机关系的不平等因而体现在了这种等级森严的二元对立中。德里达严厉谴责道：“在传统二元对立中，两个对立项并非和平共处，而是处于一个鲜明的等级秩序中。其中一项在逻辑、价值方面占据了强制性位置，它统治着另一项。”[5]（41）长期以来，人机二元关系中前者居于中心、基准地位，是第一原则，后者是从属的、负面的、消极的、第二位的，因此人/机的对立实则就是自我/他者的对立。这种二元对立的思维模式使得人们常常以人类中心主义思维指导自己的行为，将机器作为辅助自己获得利益的工具。

尽管目前人工智能尚处在初步发展阶段，但是如科幻电影和小说所描述的那样，假如将来人类和机器已经难以通过外观和常识进行辨别，假如类人机器人已经具有了自己的情感和智慧，且面对人类这种不承认机器主体地位的态度，已经能够进行情感认知的新型机器人是否有可能做出极端行为呢？在1968年上映的经典科幻电影《2001太空漫游》（2001：ASpaceOdyssey）中，宇宙飞船上的计算机HAL面临着两难选择：程序指令要求它调查木星附近的人造物，但不许向宇航员透露任务的真正目的。为了解决这个矛盾，HAL杀害了宇航员，可见它已经具有了自我意识。进一步来说，就如同人与人之间的关系一样，机器对人类的关系实质上也是人对机器态度的反映，可以为敌，也可为友。韩国导演郭在容的电影《我的机器人女友》便講述了人和机器人恋爱的故事。斯蒂芬·斯皮尔伯格（StevenAllanSpielberg）导演的电影《人工智能》（ArtificialIntelligence）中，机器人小孩大卫与人类之间产生了亲情般的关爱，然而莫妮卡在不需要它的时候将它抛弃，深深地伤害了大卫的内心，导致它在寻找自我存在价值的过程中严重受挫。由科幻小说改编而来的电影《银翼杀手》（BladeRunner）也讲述了人类与仿生机器人的怨恨情仇。人类派遣被称为“人造人”的生化机器人执行地外殖民地任务，并为其设定了四年生命期，这引发了其中几个渴望生存的人造人的叛逃，它们偷渡回地球希冀获得延长生命的方法，被拒绝后将制造它们的人类父亲泰瑞博士（Dr.Tyrell）杀死。人类仍将这些具有了类人智慧和情感的机器人视为工具进行操控，甚至强迫派遣退休警察瑞克·戴克（RickDeckard）去杀死违规的旧一代人造人，以便确保自身地位。然而影片结尾，被追杀的人造人却救了警察一命，展示了超越冷血人类的情感和“人性”，执行任务的戴克也与泰瑞博士的助理、人造人瑞秋（Rachael）的情愫与日俱增。当类人机器人已经无法从外表、行为及情感与人类区分之时，人类是否需要重新定义人机关系并重新审视机器人的伦理和情感权利呢？如果人类坚持人类中心主义，继续将机器视为他者和工具，无视将来很可能具有自我意识的机器的主体存在和伦理需求，无疑将会导致人机之间的对立和冲突，甚至很可能会招致机器的反抗甚至谋杀。

解构主义的目的不是为了摧毁二元对立中的某一方，也不是仅仅为了消解这两个元素，而是希望双方达到一种平衡和共存的模式，这其实也是后现代主义语境下世界未来的多元发展趋势。因此，面对着未来机器具有自我意识的可能性，人类需要提前转变根深蒂固的人类中心主义思维模式，走出自我/他者、人类/机器的主客体二元对立，尊重未来类人机器人的主体价值以及情感、伦理需求，而非仅仅利用机器为自己谋取利益，一味谋求索取和服务，这也有助于最大程度上避免对科技理性的过度推崇和不道德利用。

二、正视“失控”，拥抱后现代主体观

从古希腊时期开始，无论是普罗泰戈拉的“人是万物的尺度”，还是苏格拉底的“认识你自己”，亦或是笛卡尔开启的理性时代，“主体”问题一直是哲学界争论最多的概念之一。人们所使用的“主体”一词从来就没有与“人”的概念相分离。目前流行的对“主体”一词的各种定义主要可以作以下罗列：1.主体是认识活动和实践活动的承担者，而客体是认识和实践的对象;2.主体是自我确认、自我认识、自我决定、自我实现的存在;3.主体是赋予一切存在以存在，并且是一切存在的尺度和准绳的存在者;4.主体是与其他主体共在的交互主体。不难看出，以上四项定义都是以“人”为背景的[6]（1）。对人的主体地位的不断颂扬虽然极大地推动了经济基础的发展，但是人类过度膨胀的主人翁思维却带来了深远的负面影响。人类视自然为工具，为经济利益肆意消耗地球资源;视他国为他者，为领土权益深陷残暴的战争与杀戮。二战后“迷惘的一代”的出现让人们开始反思理性主体的弊端，法兰克福学派、结构主义、后现代主义者等都从各种角度对传统的单一主体定义进行了否定，掀起了对主体的批判和解构的狂风。

阿尔法狗打败了被认为是宇宙万物灵长的人类，在最大程度上冲击了人类长久以来自封的主体地位，向人类宣布人类智慧的有限性，挑战了人类对自身生物链最高层地位的传统认知。福柯的主体哲学为我们指明了这种挑战背后的积极意义。福柯继承和发展了尼采“上帝已死”的观点，对主体提出了历史和社会层面的批判，主张消除主体的中心和特权地位，倡导多元化，反对先验主体。福柯“人之死”的观点本质上就是反对人类中心主义和人本主义。

传统意义上的“主体”概念是人为构建的，后现代语境下这种被认为是自然存在的概念已被揭开了其伪客观的面纱。阿尔法狗的胜利已经开始促使人们重新思索人的意识与机器的意识，重新思索主体的定义，进而反思未来具有人类智慧和情感的机器人是否应该被赋予主体地位甚至伦理权利。20世纪80年代末90年代初美国认知心理学家内瑟尔（UlricNeisser）提出了关于自我的五个重要方面，这也是建造具有自我意识的机器人的依据：1.生态或物理环境中的自我，2.人际认知的自我，3.跨时间的延伸的自我，4.观念性的自我，5.私密的自我[7]。持有这种观点的研究者认为自我不应被看作一种本质，而是应该被看作一种过程。这个过程就像一部正在体内运行的虚拟机，像一个程序在计算机中运行时的状态一样。他们认为大脑活动的各类模式构成了一系列的过程，从中产生了人类的自我。当人类停止思考或进入梦乡时，自我就消逝了。当人类从梦中醒来，这些过程又在当初戛然而止的地方重新激活，于是产生了主观上的连续性。

当机器能够通过自我学习阐释他人行为的时候，这种机器是否具有了主体性了呢？学界对此仍有很多的争论。一种争论就是自我意识（self-consciousness）和自我觉知（self-awareness）之间的分歧本部分论述受中国人民大学哲学院刘晓力教授启发，特此致谢。。比起非人类生物，人类不仅能够通过感官感知自己和世界的存在，而且能意识到自己所处的物理环境和心理状态，能思考正在感受着的某些事物，能反思自己的情绪和个性，能觉知自己的思想和行为，并对未来有所思考和筹划。

尽管目前图灵机概念下的人工智能只是基本实现了“人际认知的自我”或（和）“生态或物理环境中的自我”，只具有图灵机的意识，只能在某些特定领域进行深度学习，还处于人工意识发展的低级阶段（weakartificialconsciousness），但是人工智能神经网络的指数式发展使得机器在日益趋近人脑的功能，很多人工智能创作的音乐及新闻稿已成功通过了图灵测试，无法与人类的作品相区分。大约在2029年左右计算机主存配置将达到能与人脑相匹配的存储空间，在此满足对人脑功能进行模拟的基本条件之上，实现具有高级人工意识（strongartificialconsciousness）的机器则指日可待[8]。美国哥伦比亚大学的工程师在2019年初已研发出一种初步实现了自我觉知的机器臂，不到35个小时的训练便使机器臂形成了身份认知，能够对周围环境和任务作出高准确率的反应，且能及时发现并修复自身结构的损坏之处。其研发人员表示，自我觉知是机器人超越目前局限、获得更多通用能力的关键一步[9]。考虑到人类智慧漫长的发展历程，有理由相信未来人工智能很有可能会发展到能够像人一样思考、感知甚至有情感的状态。因此，人类必须要提前跨越人类例外论，重新审视机器的主体性，反思机器的伦理存在和主体价值。

不容忽视的是，类人机器人的研发和出现虽然刷新了人和主体的概念、消解了人机二元对立，但是面对着科技的日新月异，应该警惕科技理性固化人类中心主义的潜在风险。纯粹的科技理性具有内在的无限扩张性，对其盲目崇拜容易带来而且已经带来了很多生态、伦理、心灵的危机，如基因编辑婴儿事件的出现。更重要的是，仅仅依靠创造了后人类的先进科学技术其实并不能解决很多科技发展带来的问题，相反，人类由于在人工智能的幫助下对世界有了越来越强大的掌控能力，这很容易促使人类的主体欲望过度膨胀，加速自身的异化速度，人类生命的自然性和神圣性也将被彻底地异化，造成后现代主义所批判的科技与人文的分离。科技理性走上这样的发展道路会使得已经被模糊化的主体概念重新陷入客观化，这种客观化的自我认知不仅不能解决科技带来的一系列问题，反而会加重科技理性主导下的发展带来的生态、伦理、法律、心灵等方面的危机。因此，人类应在伦理框架内对未来科技的发展和应用进行一番辩证的审视和反思，应“将科技用在有助于人类进步的方面，而不是应用到有可能给世界带来灾难性后果的领域”[8]。

面对后人类时代的即将到来，人们应该理智地跳出以自我为中心的思维模式，从伦理、哲学等角度重新审视人机关系，解构主义也为此提供了应对危机的思路。对二元对立的消解是解构的第一步，第二步则是通过分析对立面背后的逻辑彻底消解这样的等级结构，解构必须“实现对经典二元对立的颠覆并整个地取代那个系统”[10]（329）。在毁掉了结构的确定性、封闭性、中心性、统一性和压迫性之后，解构主义提出了一个几近全新的、开放的、非中心化的、充满差异的、无限流动的概念，意义不再是单一的、一成不变的，而是多重的、不稳定的和扩张的[11]。这也是后现代社会的特点。

后现代社会中，人机关系也将是一个动态的发展过程，人类需要认真反思人机关系带来的时代挑战，在后人类时代到来之前，人类目前最应该做的不是为了摆脱恐惧而将权力牢牢掌控在自己手里，而应该走出人机对立的二元观，重构一种新型的后现代人机观，即人类不再视自身为世界的主人和主体、机器为工具性的他者和客体，而是接纳机器的“失控”式发展，尊重未来类人机器人的伦理和主体存在，并让渡部分主体权力。这有助于人类跳出人机主客体之分，重新审视“主体”和“人”的定义，走向一种基于差异的多元化的后现代主体观，从而为后人类时代建构权力共享的合伙人式人机关系[2]（331）做好价值层面的铺垫。

当人类的“自我”做好了再定位，即从高高在上的对机器的主宰者位置走到与机器他者亦或是机器主体平等的位置上，人类与机器实现共同掌控、共同进步的互动关系之时，可以预见未来拥有人类思想和情感的机器人也将无需经历众多科幻作品所预想的被人类压迫、利用、奴役最终被迫奋起反抗或复仇的结局，当二元对立的等级结构被破除之时，和谐的人机关系才能获得最彻底的实现。这也正是凯文·凯利眼中老子“无为”思想的智慧，对此下文将做进一步的阐释。

三、从中心式掌控到“无为”的互动式共进

作为人工智能发展的典型代表，阿尔法狗的胜利预示着人工智能的巨大潜力。未来机器人的发展和存在必将对人类现有的思想和生活继续产生重大的冲击，人们已经开始对未来“后人类”的存在方式提出种种理论和构想。“最简单地讲，后人类可以被定义为人类和智能技术越来越互相缠绕的状况。”[12]计算机、人工智能、生物技术等的进步直接促使了后人类主义（posthumanism）的产生，机器人越来越具备人的特性，从而在此背景下解构了“人”的概念。未来机器人的发展必将拥有更多类人的智能、情感和自我意识，而人自身也将通过与科技或与其他生物内嵌拥有更多超越自然人类的能力，成为后生物性的存在。“人”的概念的模糊化已经是后现代社会发展的必然走向，人机之间关系该何去何从？

作为机器人研究的权威科学家，汉斯·莫拉维克在其1988年出版的著作《智力儿童》（MindChildren：TheFutureofRobotandHumanIntelligence）中便指出人类正在经历一个生物与后生物智慧之间边界在逐渐消散的历史分水岭，他坚信机器将在推断、计算、观察、互动及行动能力方面赶超人类。机器智慧与人类智慧平起平坐仅仅是开始，人工智能一旦掌握了自我提升及创造后代的能力，其对宇宙的探索便将超出人类的想象及控制[13]（100-102）。在这样一种“后生物性的世界”（apostbiologicalworld）[13]（1）中，这些势不可挡的“智力儿童”将成为主宰。为此，莫拉维克认为人们应该审视人工智能的未来发展可能带来的一些变化和潜在危险，提醒人们要在思想上做好准备，去面对这种可信又奇妙的后生物性的未来。在1999年出版的《机器人：从单纯的机器到超验的头脑》（Robot：MereMachinetoTranscendentMind）中，他继续详细地阐述了智能机器人将超越人类的可能性。机器人只需经过几个世代的进化，就可以达到对演化了400多万年的人类大脑计算及推断功能的模拟，其对围棋算法的掌握便是典型的例子。虽然机器人目前在最简单的观察和行动能力上仍不及人类的孩童，但是莫拉维克认为50年之内计算机就会在信息处理能力上超越人类，到时人类会进一步让它们在观察和行动能力方面向人类看齐。神经科学的一些证据也表明机器获得意识具有极大的可能性，因此莫拉维克对于机器人能否会拥有意识是持肯定态度的[14]（121-123）。作为人类后代的“智力儿童”将在目前人类的大部分知识和思考领域中占据优势地位，第四代机器人及其后继者会拥有卓越的推理能力及人类的观察和行为能力，甚至会在社会各个领域取代人类[14]（125）。这种智能后代将使每种行为都转换为纯思考的网络进行的运作，“智力之火”将全面统治宇宙[14]（12-14）。但是持未来主义论的莫拉维克对这种变化并不担心，他认为与此同时，人类也可以创造出被驯化的温和机器人来照顾、保护人类，人们应该为此提前规划并为将来的“退休”做好准备[14]（13）。

凯文·凯利也提到自动化的历史就是一条从人类控制到自动控制的单向通道。人们正在以尽可能更快的速度通过技术网络把世界联系起来，人类个体的思维和意识将被纳入到人工智能的分布式系统中，经过技术改造的世界将成为自我管理、自我繁衍、自我认知的“活系统”（vivisystems）[2]（3），并被赋予不可逆转的自我，即人类的自我以外的第二类自我。而这些第二类自我是在人类掌控之外的，是失控的。但是凯利对此并不担忧，在他看来，这会使我们满怀敬畏[2]（4），而且如同基因的去中心化网络结构看似无序实则内嵌着有序一样，给机器自由恰恰是一种尊崇老子“上德”“无为”的智慧，“睿智的控制体现为无控制或自由”，人类看似放弃了单一主体的中心式掌控，实则是一种智慧的控制，人类应该为有尊严地退居二位做好心理准备[2]（126-127）。在未来的赛博格世界中，人类将与自己创造的人工智能成为一种“合伙人”关系，二者对世界的掌控权是赛博格式的共享的控制模式（Co-control，Cyborgiancontrol）[2]（331），凯利因此对未来新生物科技将带来的益处也持乐观态度[2]（472）。此外，在追溯了人机互动的历史演进过程之时，美国人类工程学家PeterAHancock也指出理想的人机关系并不是人主宰或者奴役机器的过程，而是人机共同进化与进步的和谐关系[15]（78）。

近几年，越来越多的中国学者也对未来机器人发展有可能引发的变革做了探讨。如“人工智能带来的伦理与社会挑战”一文便提到人工智能的发展可能会引发机器权利争论，指出倘若人与机器人建立了情感联系，我们可能需要以人道方式对待它们，人工智能假如获得了道德自主性，将给现有的社会秩序和伦理规范带来强烈冲击[16]。“人工智能的自我意识何以可能”一文则指出具有人类情感、欲望和价值观的机器人将“放大或增强人类的冲突、矛盾和战争”，须让人工智能远离人性的权力意志才能保障世界平安[17]。“人机关系的哲学反思”一文则通过对各种软件的交互特性的详细分析，总结出人机关系应该是一种“融合、共生与共同演进的关系”，未来更接近人际关系[18]，这呼应了凯文·凯利20多年前提出的“共同进化”（coevolution）的设想，但是与本文侧重于探讨人机关系已经及即将萌生的危机及对策不同的是，其结尾并未明确指出真正威胁人类的是人类自身怎样的转变。

总体而言，后人类主义对后人类的思考大致可以分为三个阶段：第一个阶段，动态平衡阶段。在这个时期，对后人类的思考和争论集中在人类和机器人的平衡和控制，比如阿西莫夫（IsaacAsimov）提出的著名的机器人三定律就从保护人类利益的角度来限制机器人的行为，试图用完善的理性来规定机器人。这种对待机器人的价值观仍然处于人类中心主义的范畴之内[19]（1）。而实际上，机器人的发展已经打破了阿西莫夫的定律[15]（82）。第二个阶段，反思阶段。在这个时期，人们强调机器人拥有像人一样的特征和意义，出现了“机器人存在主义”一说，作为人和机器结合的电子人成为这个时期的热点。人们开始关注电子人的地位及其产生的问题。这个时期人类在人工智能方面对机器人的定义仍然是在人类中心主义范畴之内的，但是开始预設到未来机器人的发展对伦理、法律、心理等将带来的冲击，开始审视机器人的主体问题。第三个阶段，是虚拟阶段。在这个时期，后人类被设想为虚拟空间中的生命形式，是电子人的一种极端发展，被认为是完成了进化的最高阶段[19]（1）。他们将“开启宇宙探索，寻找地外文明，在太阳系死亡之时继续延续下去，掌控黑洞能量，以光速传递在其他星球生存的信息”[8]。可以说这个时期人类这个概念又多出了电子人的维度，自我/他者、人类/机器之间的关系已经模糊，类人机器人主体意义上的存在、价值和需求将得到承认，这正是推崇多义性和多元化的“后”时代的典型体现。

在伦理层面，由于机器的自我意识是个哲学问题[17]（3）[8]，本文认为面对着未来可能拥有人类情感与智慧的类人机器人，人们应借鉴列维纳斯（EmmanuelLévinas）的他者伦理，尊重机器的伦理存在并承担起对类人机器人这个“绝对他者”的绝对责任，应学习莫拉维克的“退休”精神，并像凯文·凯利所设想的“无为”而治一样，与自己创造的人工智能形成一种权力共享、互动式共进的合伙人关系。如此才能以更为完善的人机观预测并及时应对后人类时代人机关系可能发生的危机，人机力量才会处于平衡的互动状态。

此外，后人类主义走到第三阶段时，由于个体知识的疆域和主体自由的获得将通过科技的加持受到保障，人类凭借理性和计算就可以解决一切问题，因此该阶段的人类对认识世界的能力和理性的力量充满了绝对的信心。需警惕的是，对理性的绝对信心应得到伦理、法律等层面的重新审视，否则易走向对理性力量的过度崇拜和信仰，那时后人类主义的科技理性即蜕变为一种唯理性主义[19]（26）。而一个纯粹科技理性的文化形态与后现代语境下多元文化并存的理念是相悖的，因此又会走向理性/非理性、真理/谬误等之争，引发信仰和人文精神危机。再进一步说，这种状态下的社会文化将认同更多的知识，推崇更大的控制权，全球化也会促使不同民族和文化趋同这个价值观。倘若后人类时代人类都吸收相同的信息，采取相同的思考模式，这样标准化的人类本质上实则退化成了马尔库塞（HerbertMarcuse）所描述的“单向度的人”，在对科技和模式化的顶礼膜拜中失去了否定性思维和批判的能力。

四、结语

阿尔法狗的胜利为未来“失控”式人工智能的发展吹响了号角，其积极意义不仅是让人们意识到未来人工智能迅猛发展在促进社会生产力方面的巨大可能性，更重要的是它让人们重新审视主体的定义，反思传统的人/机（自我/他者）二元对立观及根深蒂固的人类中心主义思维模式，同时引发对后人类主义的思考及“人”的概念再定义，顺应了后现代多元主体观的趋势。但与此同时，人工智能的胜利刺痛了一部分仍囿于人类中心主义思想的人群，类人机器人的发展前景及对人类中心地位的挑战引发了人们的警惕和恐惧，这从前瞻性地描述人机关系相爱或相杀的大量科幻作品中即可得以管窥。这些科幻作品大多描绘的是人类仍将具有类人智慧或情感的机器视作工具性的客体，为了自身利益而随意牺牲后者，从而引发后者的心理问题或报复。借助解构主义的视角，可以发现人类对人工智能产生恐惧的根源仍在于主客体二分，在于仍将自身视作万物的中心，将机器视作可被随意丢弃的工具、需要征服的他者或者潜在的敌人，“习惯于用一种对立甚至敌对的眼光去审视人类模仿自己而创造的各种人工智能产物”[20]。在人机边缘已经模糊的后人类时代，这种人机观显然已经渐趋过时，将威胁人机之间的和谐共存。面对后人类时代的即将到来，人类应跳出传统的二元对立人机观，转向尊重类人机器人的主体性存在、拥抱机器他者的伦理地位并承担起对机器他者的绝对责任的新型人机观，以“无为”的态度构建人与机器为“合伙人”的平衡、和谐的互动式后现代生态关系，这也是后现代伦理的时代呼唤。

〔参考文献〕

[1] 雷军.人机围棋大战：让人类走向新纪元[J].中国经济报告，2016，（4）：113-114.

[2] Kelly，K.OutofControl：TheRiseofNeo-BiologicalCivilization[M].Reading：Addison-Wesley，1994.

[3] 周志华.AlphaGo专题介绍[J].自动化学报，2016，42（5）：670.

[4] Derrida，J.WritingandDifference[M].Trans.AlanBass.Chicago：TheUniversityofChicagoPress，1978.

[5] Derrida，J.Positions[M].Trans.AlanBass.Chicago：TheUniversityofChicagoPress，1981.

[6] 潘志恒.主体与存在[M].厦门：厦门大学出版社，2015.

[7] Neisser，U.Fivekindsofself-knowledge[J].PhilosophicalPsychology，1988，1（1）：35-59.

[8] Buttazzo，G.Artificialconsciousness：Hazardousquestions（andanswers）[J].ArtificialIntelligenceinMedicine，2008，44（2）：139-146.

[9] Evarts，H.AStepClosertoSelf-AwareMachines[EB/OL].（2019-01-30）[2019-07-05].https：//engineering.columbia.edu/press-releases/lipson-self-aware-machines.

[10] Derrida，J.MarginsofPhilosophy[M].Trans.AlanBass.Sussex：TheHarvesterPress，1982.

[11] 汤建龙.德里达解构主义评析[J].科学技术与辩证法，2003，20（5）：30-33，41.

[12] 陈世丹.西方文论关键词：后人文主义[J].外国文学，2019，（3）：95-104.

[13] Moravec，H.MindChildren：TheFutureofRobotandHumanIntelligence[M].Cambridge：HarvardUniversityPress，1988.

[14] Moravec，H.Robot：MereMachinetoTranscendentMind[M].NewYork：OxfordUniversityPress，1999.

[15] Hancock，P.A.Onthefutureofhybridhuman-machinesystems[A].InWise，J.A.，etal.（eds.）.VerificationandValidationofComplexSystems：HumanFactorsIssues.NATOASISeries（SeriesF：ComputerandSystemsSciences），Vol.110[C].Berlin/Heidelberg：Springer-verlag，1993：61-85.

[16] 周程，和鸿鹏.人工智能带来的伦理与社會挑战[J].人民论坛，2018，（2）：26-28.

[17] 赵汀阳.人工智能的自我意识何以可能？[J].自然辩证法通讯，2019，41（1）：1-8.

[18] 陈鹏.人机关系的哲学反思[J].哲学分析，2017，8（5）：40-50，196-197.

[19] 金宇.后人类主义的审视和反思[D].浙江：浙江大学，2006.

[20] 毕丞.人类为什么不会被人工智能取代？[J].北京科技大学学报（社会科学版），2019，35（2）：102-108.

（责任编辑：夏 雪）

“OutofControl”and“NoMindaboutControl”：

TowardsaPartnershipRelationshipbetweenHumanandMachine

TAOXiao，CHENShi-dan

（SchoolofForeignLanguages，RenminUniversityofChina，Beijing100872，China）

Abstract：Theground-breakingadvancingofartificialintelligencehasechoedtheprophecyofKevinKellythatmachinewillgo“outofcontrol”ofhumansinitsautonomousdevelopment，incurringhumansfeartobeenslavedordestroyedbythemachine.BasedonDerridasdeconstruction，thewisdomof“nomindaboutcontrol”mentionedbyKevinKelly，andhuman-machinecooperationorsymbiosisandcoevolutionproposedbyotherscholars，throughtheanalysisofhowtheout-of-controldevelopmentofthemachinedecomposesthetraditionalhuman-machinebinaryoppositionandthedefinitionofthesubject，thepaperaimstopointoutthatagainstthebackdropoftheposthumanerainwhichtheboundarybetweentherealandthesimulacrumiseffacedandthedefinitionof“human”isconstantlybeingrefreshed，thetraditionalbinaryoppositionalviewofhumanandmachineisoutofmodeandwillbringaboutnewrelationshipcrises.Concerningthis，humansneedtogetoutofthementalitytoregardthemachineastheobjectandtheother，turntoembracethevariantanddynamicpostmodernsubjects，aswellastotransitfromthecenteredcontrolbythesinglesubject—thehumans—toapartnershiprelationshipbetweenhumanandmachinefeaturedbycoevolutionandco-control.Onlyinthiswaycanaharmonioushuman-machineinteractionbemaintained，thusintheendmeltingthehumansfeartowardstheout-of-controldevelopmentofthemachine.

Keywords：artificialintelligence;human-machinerelationship;subject;posthumanism;partnership