围棋人机大战：别误解了一只“狗”

王培

“阿尔法围棋”在人机大战中的惊人成绩并不说明它发现了思维活动的普遍规律，而面向思维规律的人工智能研究也不以“成为围棋高手”或“通过图灵测试”为直接目标，它又被为“通用人工智能”。另一种“非主流”的人工智能研究则是用计算机在神经元层次上构建“脑模型”或在行为层面上构建“认知模型”

韩国棋手李世石和“阿尔法围棋”（AlphaGo）的人机系列大战，引起世人空前的兴趣和惊奇。随之而来的，是人们对人工智能未来对人类社会的潜在贡献和挑战的种种思考与探讨。在这轮热潮中，AlphaGo在中文中又被“调皮地”翻译成“阿尔法狗”，而实际上，在英语中，“Go”正是围棋的意思。

一只“狗”所引发的对前沿科技发展的关注当然十分可贵，但是在诸多热烈的讨论中，也出现了对人工智能的各种误解。对于与此次人机大战有关的误读，有必要在人工智能的话题保持热度之时着重提出来，进行清晰的辨识。

忘了“阿尔法围棋”吧

“非主流”的人工智能更符合大众预期

有关人工智能的公众讨论向来就包含着大量混乱的信息。造成这种情况的主要原因之一，就是对“人工智能”这个词存在着几种非常不同的理解。人工智能的概念问题具有复杂的历史根源，它不是仅仅由某个权威专家、专业协会或者教科书给出一个“定义”就能解决的。

实际上，自电子计算机发明以来，就一直在逐步实现各种人类智力功能，而“人工智能”的最初目的，就是要在计算机上再现“全部的”人类智力功能。这一想法基本上就是大众通过科幻作品所建立起来的人工智能的概念——智力可以与人一较高低的计算机或机器人。

然而，由于智能（以及与其密切相关的认知、思维、意识等现象）具有极度的复杂性，因而，虽然人们不断尝试设计和构建“思维机器”，希望这些机器在各个方面都可以和人相比，但是，这些尝试往往都以失败而告终。其结果是，多年以来，这个领域的主流科学家就已经实际上放弃了或无限期推迟了针对上述目标的努力，转而研发只在某个特定问题的解决上可以达到人类水平的计算机系统。

近几十年来，这种研究产生了大量的理论和应用成果，但这个意义上的“人工智能”和公众的观念有很大差异。这种差异主要体现在以下方面：第一，尽管这种人工智能系统可能在某一方面有超人的表现，但是它们在其他方面则完全“无能”；第二，这种系统的能力完全由人设计决定，系统本身基本上没有适应性、灵活性和创造性；第三，这种系统的工作方式和人完全不同，所以，它们的出现并不能够加深我们对思维的认识。

以上这些特点所造成的后果是：公众作为“局外人”，觉得这种“智能系统”并无多少智能可言；而作为研发科学家的“局内人”则会辩解说，人工智能就是这么定义的，公众假如不认可，那纯粹是因为“你们科幻作品看得太多了”。

近年来，“机器学习”的发展在一定程度上缓解了上述的观念冲突。以“阿尔法围棋”为例，它的核心技术——“深度学习”，使得该系统在一定程度上摆脱了对设计者的依赖，因而和人的学习过程有一定的相似性。这种工作方式和计算机的硬件力量以及海量的数据相结合，最终造成了计算机在围棋领域中相对于人类棋手的优势。

然而，深度学习还远远没有解决一般意义上的人工智能问题。尽管这类算法可以应用于不同领域，但它们仍只能解决某类满足特定条件的问题。比如，它们需要大量的训练数据和一定的训练时间，因此不能处理新的或突发性的事件；其次，它们的处理过程和人的思维活动极其不同，因此其“思路”则难以被人所理解；而且，它们会犯一些莫名其妙的错误，因此，其可靠性难以保证，等等。迄今为止，尽管深度学习已经取得了令人瞩目的成就——“阿尔法围棋”就是其表现之一，但仍有许多与智能和思维有关的问题是这种技术完全没有涉及的。

深度学习、机器学习，或者以“解决只有人能够解决的问题”为导向的主流人工智能，并不是目前人工智能研究的全部。至少还有另外两种目前可谓“非主流”的人工智能研究是需要被提及并引起关注的。一种思路是，用计算机更忠实地模拟人脑。这种模拟可能是在神经元层次上构建“脑模型”，或者在行为层面上构建“认知模型”，比如以通过图灵测试为目标，做到在语言、行为上和人不可区分。另一种思路是，把智能的诸方面作为一个整体来看，试图找到其共同的基础或核心。后一类研究近年来被称为“通用人工智能”，笔者本人所做的工作即是在这一领域。

当然，这些“非主流”研究尚未达到实际应用的程度，但是，其概念离公众心目中的人工智能观念更近。严格来说，这几种人工智能实际上应该被看成不同的学科，因为它们在研究目的、手段、技术和成果方面均有根本性差别——尽管不同的研究路径的确具有千丝万缕的联系。而对于公众而言，由于历史的原因，这些差异巨大的研究方向和成果都被笼统地称为“人工智能”。

“阿尔法围棋”拟人化不要太“入戏”

有情感的人工智能并非不可能

认清人工智能不同研究方向的差别，有助于我们恰当地理解这次围棋人机大战。

首先，目前的战况已经充分展示了深度学习在围棋领域的超人能力，但同时应该认识到，这完全不意味着机器学习已经解决了整个智能问题。对此类问题的误解常常是由“拟人化”而造成的。因为自古以来就只有人类会下围棋，人们谈论围棋时所用的各种概念不可避免地是从人的思维活动中提炼出来的，而后它们却被不自觉地“客观化”，从而被理所当然地看作围棋本身的规律性。这一点可以在围棋界在赛前、赛后的分析中明显地看出来，其表现就是，人们常常下意识地把“阿尔法围棋”当做人类棋手来进行分析，而该系统的研究团队发表在《自然》杂志的文章中早已明确说明，“阿尔法围棋”下棋的方式和人类棋手的差别并非人们所理解的那样——只是“看得远”和“算得细”。

我很欣慰地看到李喆六段在《这两盘棋没人会比李世石做得更好！》一文中的清醒认识：“阿尔法围棋”的下法是不在传统围棋文化的概念空间之内的。

就人们对人工智能的理解而言，对围棋是如此，在其他问题上又何尝不是呢！由于围棋对人来说要求有“高智力”，因此很多人就认为计算机中的“围棋高手”也是具有高智力的。而实际上，“阿尔法围棋”对于很多在人们看来比围棋容易得多的任务是完全无能为力的。从这一角度来看，这次比赛完全算不上“人类和计算机的智力的巅峰对决”。

一个人工智能系统只是在某些方面（而非在所有方面）和人具有可比性。人工智能各个“流派”的根本差别，也正体现在它们要在哪一方面达到或超过人类的水平。“阿尔法围棋”在人机大战中的惊人成绩并不说明它发现了思维活动的普遍规律，而面向思维规律的人工智能研究（我自己所做的就是这方面的工作）也不以“成为围棋高手”或“通过图灵测试”为直接目标。由于计算机和人在硬件和经验上的根本区别，人工智能系统是不可能在所有方面都和人一样的——那样的话，人工智能就成了“人造人”了！在讨论人工智能的未来影响时，大部分的误判都源自对以下两方面认识不清：首先，人机之间的一些根本差别被忽略了；而另一方面应该看到，现有的另一些人机差别则可能只是暂时的，随着人工智能的发展，这些差别是可能消弭的。

对于以上两方面，可以各举一例。

目前对人工智能的普遍担忧之一，就是它会引起大规模的失业。的确，人工智能技术一定会引起就业结构的重大调整，但是说它能在各种岗位上都能取代人工则是不正确的。既然“智能”和“学习”是密切相关的，那么一个智能系统的行为就同时取决于其先天条件（设计、制造）和后天条件（教育、经历）。无论计算机技术如何发展，智能系统不会有生物属性和人类经验。人工智能和人类的这种差别虽然不会降低一个系统的智能水平，但必然会造成系统在行为上和人类的差异。因此，有很多需要生物属性或人类经验的工作，就不是人工智能所能承担的了。这和人工智能的技术发展水平无关，而更类似于不同文化和环境背景中成长起来的人与人之间的行为差异。

另一方面的例子是，在这次围棋人机大战所引发的讨论中很多人断言，“人工智能不可能有情感”。而事实并非完全如此。尽管当前的主流人工智能技术开发出来的系统（包括“阿尔法围棋”）的确是没有情感的，但在通用人工智能研究中则有越来越多的研究者认为，情感和智能是密不可分的，而且已经有若干模型具有简单的情感机制，我自己的工作也呈现了这样的结果。虽然这种情感在细节和表现方式上和人类情感不完全一样，但在系统的内部控制和外部通信过程中会发挥同样的功能。

因此，你可以说“人工智能中的情感机制尚未成熟”，或者对现有的各种模型提出这方面的批评，但并不能因此就说拥有情感的人工智能是“不可能的”。更广泛地看，对人工智能认识的局限性并不仅限于对“情感”现象的认识。要记住，在一个“人工智能专家”告诉你，人工智能的某个功能是“不可能的”时，他所说的也许只限于他所理解的人工智能。

作为一个非常特别的话题，人工智能总是能够同时引起人们的好奇心和危机感。与此同时，人们又常常在对相关研究知之甚少的情况下贸然下结论。从人工智能的发展历史来看，人们关于人工智能的直观看法往往包含许多错误。

这次围棋大战使得很多人见识到了某些人工智能技术的力量。但是，和这个领域的发展潜力，尤其是和通用人工智能技术的潜力相比，在围棋上打败所有人的智能系统可以说算不得什么。和其他革命性的科技突破一样，人工智能的发展对整个人类社会来说是机会与挑战并存、希望与危险同在。在这种情况下，盲目的乐观和出于无知的恐惧都是有害的。希望有更多的人真正花工夫去了解人工智能研究的进展，共同发现正确的对应之道。

事实上，在人工智能领域，各种理论和技术具有不同的实际能力和局限性，因而不能单凭直觉就笼统地断言人工智能“能干什么”或者“不能干什么”。

（作者系美国天普大学计算机与信息科学系副教授，世界通用人工智能学会副主席，《通用人工智能》杂志主编）