《机器纪元》

周华明

Real Story

机器人法则

提到机器人法则，你第一时间想到的，可能是科幻作家阿西莫夫在短篇小说集《我，机器人》中描述的机器人三定律：一，机器人不得伤害人类，或袖手旁观坐视人类受到伤害；二，除非违背第一法则，否则机器人必须服从人类的命令；三，除非违背第一、二法则，否则机器人必须保护自己。

阿西莫夫的机器人三定律就因其高度的概括性和严密的逻辑而为人称道，被许多科幻作品引用并发扬光大。连现代人工智能的研究亦多考虑此法则，甚至将其应用在实际开发中。但阿西莫夫设计法则的本意并非要证明其完美无缺，恰恰相反，他在小说中不断探讨上述法则的局限性，引导读者思考这样的问题：机器人与人类到底应当以怎样的方式共处？机器人是否可能拥有灵魂，而不只是徒具人类外形的机器？如果一个机器人有了灵魂，那么它是否仍应服从这些法则？

在《机器纪元》中所设置的二法则，隐含了与阿西莫夫的机器人三定律完全不同的意味。机器人三定律并未限制机器人的自我完善和自我发展，而是明确规定了机器人对人类的从属地位。《机器纪元》的二法则别出心裁：一方面，没有要求机器人必须完全服从人类；另一方面，不能伤害的对象并未指定人类，而是要求不得伤害任何生命。一个具有了自己的意志和灵魂的机器人是不是生命？如果必须在伤害人类和伤害这样的机器人之间做选择的话，应当如何选择？

电影中的人类采用了简单粗暴的办法：限制机器人的应用、限制机器人的自我发展，不让机器人去考虑人与机器人孰轻孰重，更不让机器人有机会发展出自己的意志与灵魂。

False Tale

无所适从的定义

其实，无论阿西莫夫的机器人三定律，还是《机器纪元》的二法则，都有一个很明显的问题：以不得伤害人类为例，这条法则没有定义清楚什么是伤害，怎样的程度是伤害，怎样就不是。可能一些人觉得在机器人的监督下锻炼身体有益身心健康，而另一些人却会觉得每天被机器人逼着跑步让人身心俱疲。那么机器人该怎么做？是听任主人疏于锻炼，身体受损，还是逼迫主人运动？

其次，这些法则也没有定义清楚，如果机器人陷入了不得不伤害人类的情况时，应当如何判断。例如，假设未来机器人替代人类成为汽车司机，当机器人司机在驾车时，发现有人冲上了马路，刹车已经来不及了，不改变方向会撞伤他，而改变方向会导致车辆撞上障碍物伤害乘车者，那么机器人应该如何反应？

这就是机器人三定律及其他类似法则所碰到的问题。人类的道德、伦理、社会习惯、心理差异，很难用简单的语言概括成型，就连人类自己都为此伤透脑筋，更何况只能遵循逻辑来判断的机器人呢？

蹒跚学步的伦理

《机器纪元》及类似的电影，其实恰好反映了近年来学界对人工智能研究的一些忧虑。不久前，还有不少学者在呼吁人们小心“奇点降临”，即如果机器人具有了真正的自我意识，可能会借助电脑的高性能和互联网的传播性，迅速超越人类的智力，并在极短的时间内将触手伸到世界的每个角落。于是，电影《终结者》中毁灭人类的天网就会由此诞生。

随着人工智能研究的推进，机器伦理学也开始成为人类需要思考的东西。科学家们发现，我们很难用类似法则的方式来定义机器伦理。正如前文所述，这些法则的高度概括性反而让它们无法适用于现实。

合理的对机器人的伦理思考，可能应是从小处出发，根据机器人或人工智能适用的范围和需要处理的情况，逐条进行定义和限制。就像父母教育小孩子，都是从早晚刷牙、饭前洗手这样的小处着眼，如果你要教育孩子做一个好人，不能只让他记住“做一个好人”这句话，而应当从日常行为教导他怎样做一个好人。