人工智能为什么还没有意识

中国工程院院士、欧亚科学院院士、中国人工智能学会理事长李德毅，长期从事计算机工程、不确定性人工智能和智能驾驶领域研究

书名：《智联世界》

汇编：世界人工智能大会组委会

出版：上海科学技术出版社

人工智能已经发展了60年，意识和智能的关系，百问不厌。一个比较典型的问题是：机器会思考吗？用一个反问来回答这个问题比较好：潜艇会游泳吗？

什么是智能？计算机科学家认为是“计算”，语言学家认为是“理解”，数学家认为是“抽象”或“证明”，逻辑学家认为是“推理”，认知科学家认为是“思考”与“思维”。当AlphaGo打败人类围棋高手时，人们开始问：通过图灵测试的计算机距离意识还有多远？要不要研发有意识的图灵机？人工智能会不会成为未来的生命？要回答这些问题，首先要理解意识的生物学基础。

意识的生物学属性

意识很难定义。我比较认同这样的理解：意识是对自身存在的感知，包括对自身行为的感知，以及行为为什么被执行的感知。

2005年，《科学》杂志提出了人类还没有解决的125个问题，排名第二的就是意识的生物学基础。1970年，心理学家设计了镜子测试（mirror test）：给动物脸上贴一个标签，如果动物能区分标签在哪一边，就意味着它能区分“我”和“非我”;如果这都分不清楚，那么它就没有基本的自我意识。

人类达成了一个重要共识，那就是没有证据证明，宇宙里可以不通过生物学的方法，人工创造出生命。所有机器和机器人，都不是人工创造出的生命。展览会上看到的机器人是冰冷的，换掉一个机械手，它还是它，不会抗议。人不是这样的，你的手如果掉下来了，你就不是你了。

意识的生物学基础，就是生物个体从大脑神经元到皮肤神经末梢的明确的边界感知能力，这种能力能把“我”和周围的环境分离开。大家想想，做成这样的人造皮肤多么难，它需要七个功能：体温、自我保护、感应、新陈代谢、吸收、呼吸、分泌排泄，全世界人造皮肤做得好的是华人，但他们做的皮肤多数只有三到四种功能。一根针刺激皮肤表面，接触面积只有零点几平方毫米，要感受到并且产生反应，这样的人造皮肤多久才能出现？如果连这种皮肤都不能制造，连“我”和“非我”都不能区分，又怎能感知意识？

智能的社会属性

记忆是高级意识的重要方面。在脑科学中记忆分为瞬时记忆、短期记忆和长期记忆。记忆绝对不是存储，瞬时记忆触发了短期记忆，短期记忆触发了长期记忆，长期记忆存储着人类共有的知识和信息，这才产生了群体智能。因此，高級智能就是有意识的新的智能。

我认为语言、知识、文明主要是后天习得的，这就是智能的社会属性。我在十多年前自己一本书的序言中写道：人脑是一个小宇宙，是大自然或社会的映射，大自然是人类的生态。哲学家们提道：“人是大地的意识”“仁者，天地之心”“天人合一”。我个人认为，人类的智能至少包括记忆、计算和交互，三者一体化工作产生了人类智能。

智能与意识的关联分析

在分析了意识的生物学属性、智能的社会属性后，就自然有了第三个问题：智能和意识的关联分析。

自然界中大量的存在都是无意识无智能的，例如沙土、水泥。还有一些是弱意识无智能的，比如大量的低级生物或者植物。虽然一些植物学家以一些植物可以吃虫子来说明植物也有一些意识，但多数人认为植物是没有意识的。我们将一些意识障碍病患者称为“植物人”，就是这个道理。

还有一个现象应该引起大家的关注，那就是弱意识也可以有强智能。比如睡觉的时候，人本来应该处于一种无意识或弱意识的状态，但是我们有时会做梦还会梦游，甚至有人梦游时可以开车到一个地方并且回来，而醒来后却完全不记得这件事情，要知道开车往返很远的两个地方是需要很强智能的。还有，人在半醉状态可能更有助于创造，比如“李白斗酒诗百篇”。上述这些都是意识和智能相互关系的典型案例。

人工智能是人类智能的体外延伸

现在，计算智能、围棋智能、聊天智能、驾驶认知智能都做得很好，甚至可以超过人类。人工智能是可以脱离意识而存在的智能，人工智能就是人类智能的体外延伸，它可以脱离意识而存在。

人类作为机器人的造物主，并不需要机器具有意识。对于人类而言，更好的选择是机器只作为工具存在，我相信人类足够聪明从而不让机器具有意识。

有人担心，人工智能时代的最大危机是地球上突然出现一种超越人类的新物种，而这些未来的生命到底是人类的朋友还是敌人目前尚无定论。对这类观点，我认为想得太多也太早了，并不存在这样的困扰。即使将来制造出可以区别物理边界、有感知的皮肤，人工智能还需要两个条件才能与人类对抗：人工智能是否拥有自己的语言和文字？如果它们还是用我们为其设置的语言，那么必将依旧屈从于人类文明之下;机器人群体是否有不同于人类的价值观？也不可能。如果有，完成这个三部曲至少要几百年，甚至更长。

在智能时代，真正要约束的是人类自身的伦理道德和行为规范。要约束人工智能反作用于人，反作用于其他生物，从而促进社会公平。

（摘选：张钰琼）

编辑：黄灵  yeshzhwu@foxmail.com

新书速递

书名：《改变中国：经济学家的改革记述》

作者：张军

出版：世纪文景上海人民出版社

从乡村到城市，从地方到国家，变革无处不在。从农民、社会精英到政府官员，全民改写时代。一群青年经济学家走出书斋，孜孜不倦地探讨、上书、奔走，一场制度变革开启的大规模社会试验，历经种种探索、转型、博弈。著名经济学家、复旦大学经济学院院长张军教授，就过去三十多年来为中国经济改革取得成功的经验做了大量研究工作，通过本书讲述了不为公众所知的改革历程。正如作者所言，如果我们把中国经济改革和开放这四十年的事件倒带回放，我们会发现这其中存在着一些内在逻辑，正是这些逻辑吸引了经济学家们的眼球，并试图通过归纳，评估其在中国经济转型与增长中的重要性。（文/小野）