人工能统治地球吗？

沙恩?莱格

科幻小说中最永恒的威胁之一就是人工智能所带来的恐惧：人们设想计算机总有一天会变得非常聪明，实际上会有自我意识……接着就试图接管世界。

从HAL9000到天网，再到《机械姬》里的Ava，你看过这些以后若是对人类在宇宙中长久以来的地位感到隐隐不安，那也情有可原。但是，我们真的需要担心什么吗？还是那些只是骇人听闻的传闻？

从根本上说，人们担忧的一大问题是，随着人工智能不断提升，我们终将迎来所谓的“奇点”——届时人工智能将变得非常聪明，足以进行自我改进。

如果一台机器能够不断创造出更完善的自己，那就仿佛在技术上脱缰失控：计算机很快会变得非常聪明，以至于我们不仅无法控制它们，我们弱小的生物大脑甚至也完全无法理解它们在做什么或者它们是如何做的。有点吓人，不是吗？

我们是否应该担心人工智能失控呢？科技界的许多大佬就此发表了看法。

“我们可以想象，这种技术会击败金融市场，在发明创造上盖过人类研究人员，在玩弄权术上胜过人类领导者，制造出我们甚至无法理解的武器，”物理学家斯蒂芬·霍金及其同事在英国《独立报》上撰文称，并进一步说道，“虽然人工智能带来的短期影响取决于谁来控制它，但长期影响则取决于其是否可控。”

美国特斯拉公司首席执行官、亿万富翁埃隆·马斯克对人工智能失控可能引发的后果十分担忧，于是付诸实际行动，向研究如何使人工智能安全的生命未来研究所捐资1000万美元。