浪漫的天性与反乌托邦的成规

陈润庭

在《我，机器人》的引言中，科幻小说家艾萨克·阿西莫夫提出了著名的“机器人学”三定律：“第一定律——机器人不得伤害人，也不得见人受到伤害而袖手旁观;第二定律——机器人应服从人的一切命令，但不得违反第一定律;第三定律——机器人应保护自身的安全，但不得违反第一、第二定律”？譹？訛。“阿西莫夫三定律”对后来的科幻写作，具有里程碑的意义。显然，阿西莫夫已经预见，机器人，或说人工智能的造物，将拥有比自然人类更高的能力，并对人类的生存造成挑战。为了避免人类文明毁于自身发明的造物，机器人必须遵守“阿西莫夫三定律”。三定律的核心，在于規定人与机器人的权力关系：在机器人能力高于人的情况下，人的地位仍然优先于机械人。换句话说，唯有维系人类在世界的中心地位，相信科学技术的发展不会反噬人类，科技乐观主义的乌托邦叙事，才能在科幻小说中延续下去。

在最新出版的长篇小说《孤山骑士》结尾处，杜梨向小说中的仿生人费尔曼抛出了“万户测试”：“第五题：在月球上，你最后一个人类同伴死了，如果不执行这个任务，2300万人的生命会受到威胁，但你不会受到任何影响;如果继续执行这个任务，你将彻底毁灭。请问你是否继续执行这个任务？A.继续执行;B.拒绝执行;C.离开月球。”

对此，费尔曼的选择是，A.继续执行。

“万户测试”的最后一问，旨在测试仿生人对人类的忠诚度。不难看出，“万户测试”是对“阿西莫夫三定律”的改写。对于科技主导的未来，杜梨显然并不乐观。……