科幻文学中的人工智能伦理

吕超

多年以后，当人工智能的机器大军四处围猎人类残部时，躲在阴冷地堡中的人类战士夜深难眠，回忆着人机大战的遥远开端：从1988年开始，“深思”、“深蓝”、“AlphaGo”等先后在象棋、围棋领域击败人类，人类的荣耀便日趋衰落……

幸好，这种惨淡未来，只是笔者构想的虚拟图景。当然，这也绝不是杞人忧天，对未来的悲观预言是为了警醒当下世人：面临正在开启的“人工智能纪元”，我们必须尽早建构一种稳妥的科技伦理，以此来引导人工智能的研发方向和应用领域。本文并不细数人工智能伦理的微观条款，而是基于人类价值观和认识论的演变，从科幻文学的角度探讨人工智能伦理的历史脉络，并推演未来可行的发展方向，既展现世界视野，也兼顾中国话语。

人工智能（Artificial Intelligence，缩写为AI）一词在1956 年的达特茅斯会议[1]上被首次提出。作为一门新的交叉学科，目前主要涉及计算机领域，它试图了解人类智能的实质，进而生产出一种媲美人类智能的软件系统、机器人（Robot）、仿生人（Android）或赛博格（Cyborg，也译生化人），乃至全面超越当今人类的“新人”。当然，早在人工智能这个词被明确提出之前，人类对“人造智能生命”的想象便早已开始，尤其和科幻文学有着千丝万缕的联系。

“人造智能生命”题材最著名的作品《弗兰肯斯坦——现代普罗米修斯》。

科幻文学中的人工智能伦理具有一定的前瞻性，并不受限于具体的科技进展，而是与人类的价值观演变息息相关，其中不仅有对科技的反思，也包含着复杂的神学焦虑和哲学思考。