机器人技术的伦理边界探究

沈思琳

（安徽师范大学马克思主义学院，安徽 芜湖 241000）

1 引言

人工智能技术的发展使得机器人已从机械机器转为智能机器，未来还存在其具有自我意识、自我决策能力的可能。目前投入使用的智能机器给人们的生活带来了巨大的便捷，以新冠肺炎疫情为代表的重大突发公共卫生事件为例，机器人突破了人类作为碳基生命的局限性，承担起测量体温、药品分发和消毒等辅助医疗工作，一定程度上减轻了医护人员的问诊压力，减少了医护人员与病患接触的频率，有效的保障了一线人员的安全健康。与此同时，随着机器人智能程度的提升，其已经出现及可能引发的伦理问题也日益成为人们关注的焦点，例如机器人的应用对当前的社会体系造成了“创造性破坏”，将带来结构性和全面性两种情况的失业问题；护理型机器人在应用中会使得人对其产生单向度的情感，导致治疗的反效果等。人类求知的欲望与探索新技术的本能推动着机器人技术不控断趋向强人工智能，这将带来一个两难问题：如何在伦理规约的过程中，既不限制技术的进步，又能避免技术带来灾难性后果。基于此困惑，厘清机器人技术的伦理边界问题就成为亟待解决的任务。伦理边界作为价值规范上的分水岭，保证了善恶以及应当与否的划分。界定机器人技术的伦理边界将有利于确保减少对人的异化，使人们朝着过上善好生活的方向发展。

2 机器人的“类人”性

在哲学领域中，人工智能技术通常根据智能程度被划分为弱人工智能、强人工智能及超人工智能三类。李开复、王永刚在《人工智能》一书中将弱人工智能也称为限制领域人工智能或应用型人工智能，是指专注于且只能解决特定领域问题的人工智能。目前在工业界广泛使用的机械机器就属于弱人工智能的范畴。强人工智能又称通用人工智能或完全人工智能，当“计算机程序具备完整心智，具有智力、理解、感知、信念和其他通常被归属给人类的认知状态，例如情感、感受性，甚至伦理道德时，代表其具备完整的认知学习能力并能产生自己的意识”，意味着该智能体进入了强人工智能阶段。超人工智能的概念由牛津大学哲学家、未来学家尼克·波斯特罗姆（Nick Bostrom）在《超级智能》一书中提出，指代的是智能革命突破“奇点”之后诞生的，在科学创造力，智慧和社交能力等每一方面都比最强的人类大脑聪明很多的智能。相较于弱人工智能和强人工智能，超人工智能的定义极为模糊，比最强的人类大脑聪明很多的智能是种怎样的形态无从得知，目前仅存在于科幻电影中的想象。

目前，现阶段的机器人虽然未达到拥有自我意识的强人工智能的质变，但经过科学家们的不断探索研发，已经累积了越来越多“类人”的量变。具有“类人”性的机器人通常具有人型的体态，“特指那些在外观、行为方式和智力、情绪反应等方面全方位类人的机器”。源于人类自我追问的念力、“功能性替代”的救助良愿以及技术自展力量的内在要求的三者协同需求，在人类意志中所蕴含的求真与求善的驱动下，人们总是希望制造出“类人”的机器人。本文选取了当前世界上已存在的五个代表最高智能水平的机器人，借由对其“类人”性的描述，以此来窥探其“类人”性内涵。

五个代表最高智能水平的机器人分别是：历史上首个获得人类公民身份的机器人索菲亚、女机器人Geminoid F、中国首位美女机器人“佳佳”、 会后空翻的机器人Atlas和日本美女机器人Chihira Aico。通过对比，这五个机器人可以分成两类，一类是除却Atlas之外的四个机器人。首先，从外形上看，不仅具有人形外表，而且制造者更是将机器设备隐藏在特制的橡胶皮肤下，赋予其姣好的女性外貌，这使得人类会对外形上与自己相近的机器人产生一种天然的亲近感。其次，都掌握人类语言，可以发出与人类别无二般的声音，并在此基础上，这四个机器人还可以与人类进行交流对话。最后，这四个机器人可以做出眨眼、微笑和皱眉等多种面部表情。独树一帜的会后空翻的机器人Atlas展现了与其他四位完全不同的“类人”性。Atlas相较于其他四个机器人 “毫无人样”，也不具备语言交流和表情管理的能力，但它拥有高度拟人化的肢体协调与运动能力。Atlas可以完全脱离电源，以负载电池的形式独自靠两足行走出实验室，在复杂的户外地形上移动物体障碍物，轻松完成跳跃箱子的动作以及高难度的后空翻动作。通过对这五个世界上公认的最像人类的机器人的“类人”性描述，可以总结其“类人”性体现在外貌、语言、沟通交流、表情和运动能力五个方面，这五个方面背后隐含了认知能力、理解能力、表达能力、情绪管理能力和肢体协调能力的“类人”性内涵，将其与传统的机械机器区分开来。

一般来说，人类认知是以语言为基础的，人类用语言来做事，包括表达思想，进行交际，以致用语言来建构整个人类社会。蔡曙山把人类心智的进化从低级到高级可以分为五个层级：神经层级的心智、心理层级的心智、语言层级的心智、思维层级的心智以及文化层级的心智，相对应的，人类的认知能力也可分为神经认知、心理认知、语言认知、思维认知和文化认知，其中，语言认知处于人类认知的核心，是高阶认知的基础，这使得人类具有与非人类动物不同的非凡的认知能力，即以语言能力为基础的高阶认知能力，使人成为人。所以，当机器人表现出掌握人类语言的功能时，人们就自然的将其与传统的机械机器区别开来。而且，李雪娥认为语言交流包含着两个层次：语言理解和语言表达。“语言理解一般被看成是人脑对语言的一种主动、积极的加工过程，是对语言意义和作用的揭露”，“语言表达即言语的产生，其过程可分为三个阶段：首先要有说话的意图和想表达的意思；其次通过搜寻合适的词或短语并按句法规则建构句子与之匹配；最后通过发音器官或动作器官把语言符号表达出来”。从这定义中不难看出，可以与人类进行语言交流的机器人，似乎已经完成了语言理解并可以流畅的进行语言表达，已经具有了“类人”性。当上述四个机器人展现出对语言交流的完成度有所区别时，人们会认为机器人之间的智能程度也有所不同。此外，我们通常认为，人脸表情是人的内心情绪的真实表达，是情感的外露表现，所以当机器人可以做出多种表情之后，其类人程度又更进了一步。最后，机械机器常常给人们留下了笨拙、缓慢的机械感印象，而当机器人具有肢体协调和运动能力时，机器人与人类有着高度的相似性，同样表现出了“类人”性。

3 机器人的“属人”性

机器人作为人类智慧的产物，是一种相对人类主体而言客体的存在。就主客体两者的关系而言，客体的“属人”性体现在其对主体的对象性活动具有现实价值，换而言之，机器人的“属人”性由其为人类主体所用的价值而体现。机器人之所以被设计成具有认知、理解、表达、情绪管理和肢体协调五大“类人”性内涵，是为其“属人”性而存在。以具有医疗功能的智能型陪护机器人、情感机器人为例，日本专为老年人开发的看护机器人Baby Lloyd具有帮助运送重物、整理家务的作用，并因其类人型设计、柔软的皮肤和对话功能，在治疗老年人孤独症和抑郁症上具有很大辅助功效；我国哈工大研制的 H＆F ROBOT-1情感机器人可以实现语音和面部识别，具有情感表达和面部表情模仿能力，通过类人型的动作和语音可以与自闭症儿童产生互动，从而起到消解自闭症儿童的孤独感，起到情感治疗、缓解不良情绪等辅助治疗的作用。

机器人的“属人”性体现在三个方面。首先，机器人作为一种技术制品，属于人们实践活动的产物，人通过自己的实践过程，将自己的本质力量对象化到外在世界，机器人就是其外化的对象。从这个层面上来说，机器人是“属人”的。人们借助机器人的存在改变了现实生活，使人们的生活方式发生了变化。马克思在《1844经济学手稿》中指出，人的实践过程形成的结果是人的认识活动与实践活动二者在现实中的统一，是一种被物化的社会实践产品，而这个实践结果既为人类下一次实践活动提供了现实的物质条件、同时将成为既定的现实前提而成为实践活动的历史前提，由此“结果作为实践过程动态和静态的统一，是经验认识真理性的客观标准。”机器人现仍然处于不断探索研究的量变阶段，所以每一次的新发现、新探索、新应用都在为下一次的新进步提供物质条件，当量变积攒到可以发生质变，即形成强人工智能意义上的机器人的时候，现阶段所做的一切探索都是不可或缺的一部分实践。其次，机器人产生于人们对美好生活的向往。人的需要的发展取决于社会生产实践的发展，而且不会永远停留在一个水平上，随着社会历史条件的发展与变化，人的需要及其满足方式也在不断发展变化。人们追求美好生活的过程，在某种意义上也就是各种需要不断递进和满足的过程，换言之，对美好生活的追求，在每个不同的发展阶段具有不同的内容和内涵，例如从对物质的需要发展到对精神的需要。在信息化时代，人们对可以为自己生活带来便捷的机器人有种天然的向往，事实证明，人类也确实对其有迫切需要。依旧以新冠肺炎疫情为例，为了避免在医院这个高风险场所发生高密度的人传人现象，我国在临床护理、后勤保障和监测三个领域应用了机器人，使其代替人手紧张的医护人员完成危险场所进行消毒、公共场所进行体温监测、为被隔离患者提供支持、收集用于诊断的危险样本、运送和处理污染废弃物等重要工作，这大大减少了人类与病原体接触的机会，使得抗疫行动更好的开展。这恰恰体现了机器人的“属人”性。最后，机器人自身的发展有利于建设人类本身。随着强人工智能技术的不断发展，人们开始对未来产生了深深的忧思，担忧库兹韦尔在《奇点临近》中所描述的人工智能超过人类的“奇点”节点的来临。因此，人们在不断寻求一种规约技术向善发展的解决路径，并重新开始思考有关人本身的哲学问题，希望从理论上更加明确人的本质与价值之所在。这些改变都是由于强人工智能技术不断发展的现状所带来的。

总的来说，机器人属于人的一种技术实践，使其具有属人性；它产生于人们对美好生活的向往，使其具有属人性；它自身的发展有利于建设人本身，确证其属人性。作为人类力量外化的产物，现阶段的机器人，其伦理规约是被人为创造出的、满足人类需求的道德体系。因此，对“智能机器技术的伦理边界在何处”的疑问可以转化成回答“如何站在人类立场上制定一套有机器来执行的伦理法则”这一问题。

4 机器人的“底线”伦理

为了研究机器人的“底线”伦理，首先要明确“伦理秩序是底线和边界的协调、统一和持续的共同建构，底线伦理是边界的外部界限”，或许我们需要从具有最大程度的底线伦理要求出发，防止和化解最坏情况出现，从而去设计一套可以有效服务人类、减少道德争议的伦理秩序。底线是道德主体伦理行动的基底，斯宾诺莎认为这一基底是“保存自我”为基础的，即人对自己负责，并“以理性为指导而行动、生活和保持自己的存在”。这就意味着底线的构建主体必须是有自我意识的理性对象，那么机器人在具有了“类人”性和“属人”性后，是否可以承担起道德行动主体的地位呢？

我们从人与其他动物相区别的角度来看，人之所以为人是因为其拥有三种特征：人是能够制造和运用工具的动物，即拥有工具理性；人拥有在工具理性之外的精神能力和意识；人拥有一种综合的自我意识、主体意识。何怀宏认为，机器人仅仅在第一个特征上展现出了类人性，即拥有超越人类能力的工具理性，除此之外，并不具备人类的其他两个特征。就第二特征来说，人在工具理性之外，还有情感、信仰和直觉等能力。以情感为例，这是目前强人工智能技术发展所遭受到的最大瓶颈。护理机器人在工作的时候并不能感同身受到患者的情绪，他们只是被植入了程序，得以应对患者的不同情绪。尽管目前被编写高级程序的强人工智能体可以在“感受”到别人痛苦的时候停止手上的工作，但它所“感受”到的情感并不是真正的人类所拥有的情感，而是被符号化的一段程序警戒值，一旦低于这个警戒值，它就要采取相应的行动。就第三特征而言，现阶段的机器人缺少人类的自主意识，因此还不能作为道德主体存在。通过借助对“行为”和“行动”两个概念的区分，我们可以更好的理解为何说当前的机器人缺少自主意识。行为是自动的反射性活动，而行动则是有意向、有目的、有意识和对行动主体有意义的活动。按照社会学家坎贝尔的说法，行为是一种反射，是对发生的事情的应答，因此行为需要刺激；而行动是一种具有意向的活动，它要求行动者的意识参与。具体来说，骑自行车就是一种行动，是行动者通过自主意识选择了自行车作为代步工具，并且是带有目的地的进行骑车行动；而膝跳反应就是一种行为，在进行叩击膝腱的动作之后，小腿做出急速前踢的反应，这是一种简单的二元反射。在厘清这两个概念之间的区别之后，我们就可以判断机器人是否是一个行动者。很遗憾，现阶段的机器人的所有动作都是在设计者编写植入的程序下完成的，即便存在算法黑箱，人类只是没有弄清楚机器人是依据何种方式来做出判断选择的，但整体来看，机器人依旧是在完成设计者所寄希望于他们完成的指令，因此机器人不能称的上是一个行动者，自然也就不具备人类所独有的自我意识。

可见，不论机器人智能程度如何进一步的发展，在其拥有真正的自我意识之前，都是人类智慧的产物。因此，机器人本身并不能作为道德主体对其所作所为承担起责任并进行道德规约，人类通过将“预期情感”赋值到机器人上，使得看似具有主观能动性的机器人实际上所表现及进行的活动都是被动的人类情感意愿的投射。这就意味着机器人伦理是人类为了满足自身的欲望需求而构建出的道德体系，机器人需要按照人类社会的道德规范，依照人类意识来实现其自身的价值所在。

基于机器人不具备人类的精神能力以及综合的自我意识，并不能担当起道德行动主体的角色，“底线”伦理的构建主体自然又回归于人类本身。在道德层面，“底线思维”也可以说是从防止出现最坏情况的思考开始，从伦理的角度而言，“底线”的进一步含义是防止社会不致崩溃的底线，底线伦理就是作为社会成员的人们必须遵守的最起码和最基本的道德规范。在规约强人工智能技术向善发展的时候，何怀宏曾具体提出过一种思路，即通过“规约和立法，使人工智能严格地只限于向小型化、专门化的方向发展，也就是不发展通用的超级人工智能。并且在此过程中，一直都严格限制机器人使用暴力”。在推行规约和立法的过程中，四类人群起到了不可或缺的关键作用。第一类是强人工智能的设计者，即直接参与研发的科研人员，可以说他们直接决定了强人工智能的具体走向。因此应当对此类科研人员的具体行为进行规约并增强其道德素养，这样才能使其带着良心去进行研发，守护好第一道底线。第二类是投入大量资金的投资者或研发公司所有者，他们所投入的金钱可以决定研发或者生产何种强人工智能，这决定了研发的大方向。因此，对应此类投资者和研发公司的所有者，需要就义利关系增强其道德感，应在追求利益的本能中教导感化他们培育更高的信念，帮助人们利用强人工智能技术生活的更好，守护好第二道底线。第三类是以人文学科学者、媒体人等为代表的拥有独立思想的观念人，他们对待技术的看法更加理性，并且可以通过传播自己的思想来增强普通民众的共识感和认同度，使得所规约和立法的内容可以被人们更好的接受并进行实施，守护好第三道底线。最后一类是涉及国家立法的领导人，他们在政策上决定了强人工智能应向何发展、如何发展。因此，应当加强其以人民为中心的思想，一切举措、立法皆是为了让人们过上好生活而实施的，守护好最后一道底线。此外，道德共识的思想也有助于加强强人工智能的“底线”伦理。道德共识思想中在除却“一致性”的内涵之外，依旧显现出了一种底线思想。何怀宏从四个维度定义了道德共识，即“从性质上说是道德的，从范围上说是政治的，从内容上说是规范的，从程度上说是底线的”，认为道德共识体现的是一种最低目标，在道德建构上呈现了一种底线思维。

现如今，机器人技术的发展十分迅猛，在给人们带来便利的同时，因对其技术的不确定以及对未来深深的忧思，机器人技术所涉及的伦理思考已十分丰富。例如，医疗陪护机器人在一定程度上完成了其角色替代和社会化的功能，但在长期、频繁的人机交互过程中，患者容易对机器人产生过度信任和情感依赖，一旦停止使用机器人，将可能会使患者的病情加剧；情感机器人则可能造成缩小了患者的社交范围，导致患者逐渐切断了与他人外部连通的社交资源等伦理风险。因此，如何在不限制技术发展的前提下划线机器人技术的伦理边界就成为一项迫在眉睫的任务。通过对五个世界上公认的最像人类的机器人的“类人”性描述，可以总结机器人之所以被设计成具有认知、理解、表达、情绪管理和肢体协调能力五大“类人”性内涵，是为其“属人”性而存在，并体现在其产生于人们对美好生活的向往、作为属于人的一种技术实践并且其自身的发展将有利于建设人本身三个方面。鉴于现阶段的机器人并不能作为道德行动主体存在，机器人技术的伦理边界应通过底线伦理借助人类本身来落实构建，需要注重加强对研发者、投资者、观念人和立法人员的道德规范。