从荀子的伦理方案到机器人的伦理草案何以可能？*

[美]刘纪璐

导 论

将人工智能的设计加入伦理的维度，有时被称为“人工道德”(artificial morality)(1)当然就如早先许多人争议人工的智能是否可以叫做“智能”，也会有许多人质疑人工的道德是否还归属于“道德伦理”的范畴。许多学者认为除非机器人能有自我意识，否则它们不具备道德性。刘晓力认为,“我们说今天的机器还是‘无心的机器’，至少有三方面的理据：第一，机器不能理解符号的意义和物理世界的意义；第二，机器没有意识和意识体验；第三，机器缺少自主性和自我觉知”(刘晓力：《人类意识与机器意识的演化》，载宋冰编著《智能与智慧——人工智能遇见中国哲学家》，中信出版集团股份有限公司2020年版，第131页)。本人对机器人是否有朝一日能真正具有道德意识不予置评，因为这是个技术性的问题，只有看日后科技发展才能定夺。。建构人工道德的一个预设是人工智能的机器在处理有关人事的问题时所作出的判断抉择不能不加入对人类价值观、伦理观、人情世故、社会规范的考量。如果我们依照目前的机器人设计模式，只着重智能与行动能力的设计，而不去考虑如何添加伦理维度，那么日后出现超人式的机器人，有自己的思维方式，发展出自己的价值判断跟行为准则(2)刘旻娇在讲评的文稿里提出这样一个问题：“机器人似乎固有地无法领会价值这件事情。它作为个体来说，总是工具性的存在，它本身是没有价值的，同样，它也不能赋予其他事物价值，当然，它也就更不能帮助我们衡量价值。……