人工智能会是一个要命的问题吗？

许多人（科学家除外）在讨论人工智能问题的时候，往往以“拟人化”的方式去理解人工智能，就是说，把人工智能看得太像人，或者是希望人工智能的思维像人，情感也像人，外表面目也像人，甚至幻想人工智能的价值观能够以人为本。令人担心的是，拟人化的人工智能很可能事与愿违。当然，想象人工智能类似于人，是很自然的想象，就像基督教徒相信上帝按照他的形象造人一样，或者，类似于童话故事和动画片把动物加以拟人化。也许需要想一想，为什么我们喜欢拟人化呢？是因为有了人性就能够交流吗？或者就会爱护人类吗？拟人化真的有好处吗？我在拟人化的概念里看见一种隐隐的杀机，但愿是多虑了。

就目前的情况来看，最有希望能够做得成的人工智能估计不像人，更重要的是，人工智能没有必要像人。也许应该说，像人的人工智能既在成本上不经济，又在功用上可能适得其反。假如真的发展出了超级人工智能，它肯定不是人，只是一个更高级别的智能存在，不仅不像人，也不太可能迎合人，因为远远胜过人的超级人工智能也许更像上帝或者撒旦，总之不像人。我们没有理由假定所有高智能的存在必定都像人，比如，刘慈欣在《三体》系列里想象的其他智慧存在就不太像人，他们对存在有着不同的理解。现代启蒙以来，以人为中心的人文主义已经根深蒂固，成为好像理所当然的设定，其实人类没有那么高级，也不完美。我很赞同孙周兴的说法，尼采一百多年前就已经宣告了人文主义的死亡，只是慢慢在死，但一定要死的。假如出现了超级人工智能，他们对世界一定有不同看法，而我们无法猜想他们会有什么看法，因为超级人工智能的智力超过了人。这就像猪羊鱼虾不懂人类为什么吃掉他们。拟人化只是人类的一种童话想象，只是人自己想象的万物秩序，其实并不符合万物存在的道理。

目前人类试图制造的机器人会有某些拟人功能，這是为了让机器人更好地服务于人类，比如语言对话的服务、自动驾驶或者家庭服务之类，至于把机器人做成人类面目，在服务功能上并无意义，应该属于玩具功能（人类需要玩具，这是个有趣的心理学问题）。这些拟人功能是实用性的，还不是我们质疑的那种本质上的拟人化。所谓“本质上的拟人化”指的是试图制造具有人类情感、欲望和价值观的人工智能。这就引出一个真正危险的问题了。

人类贵有自知之明，那么应该实事求是地承认：人类并非善良的智慧生命。人类会为此事实感到惭愧吗？人类社会的战争多于和平，最先进的技术大多数来自军工，居然还有政治学和伦理学，人类甚至试图开发太空以便太空移民，这些有限的事实已经足以明示人类是欲壑难填的危险生物。事实上，人类苦苦宣传善良的价值观就已经暴露了人类实际上有多么缺少善良。那么，假如设法让人工智能拥有人类的欲望、情感和价值观，其合乎逻辑的结果恐怕不是人工智能爱上人类，而更可能是变得像人类一样自私自利，变得像人类一样坏。在这个意义上，在本质上拟人化的人工智能是一个非常可疑的努力方向。如果超级人工智能的心灵不像人，反而是一个相对安全的选择（尽管仍然未必安全）。

（摘自赵汀阳：《人工智能会是一个要命的问题吗？》，《开放时代》2018年第11期）