人工智能安了一颗什么心

美国《麻省理工科技评论》2017.5

去年，芯片制造商英伟达（Nvidia）在美国新泽西州的僻静道路上对一款无人驾驶汽车进行了测试。初看之下，这辆车和通用、谷歌、特斯拉等公司正在测试的无人汽车并无二致，其实不然。英伟达的这款车并非遵循工程师或程序员设定好的指令来行动，而是通过观察人类开车并进行自发的深度学习后，形成了一套运算法则。这样充满科幻色彩的汽车让人着迷，但是同时让我们也有些不安，因为没有人清楚地知道人工智能是如何进行决策的。

无人车的传感器扫描获取周围信息后，传递给人工神经元网络，这一网络在分析处理收到的数据后，发出相应指令。听起来，好像跟人类的行动机制没太大区别，但事实是，人类现阶段并未完全掌控人工智能。一旦其做出什么反常举动或错误指令，即使是深度学习系统的开发者，也很难给出合理的解释。

人工智能所普遍采用的深度學习机制，近几年已经在声音识别、语言翻译、围棋对弈、医疗等方面展现了威力，并且拥有改变行业的巨大潜力。不过，大范围推广人工智能还不是时候，因为我们首先要读懂它的心。