Ex Machina 《机械姬》：奴隶·人·神

韦玮

在言必谈“互联网+”、哪一行也绕不开“大数据”的今时今日，基于信息技术且前景广阔的人工智能（artificial intelligence）似乎是最具潜力的“风口”，智能机器人被期待成为人类最得力的助手，甚至是最忠诚的伙伴。然而世事无绝对，科学家们已经在忧虑人类是否能跟得上人工智能狂飙突进的发展。人工智能与人类的故事，我们猜得到开头，但是否能猜中结尾？奥斯卡获奖电影《机械姬》（Ex Machina）的出现恰如一瓢冷水，让陷入美好憧憬的人们多一些理性的思考。

在科幻作品中，不同于外星人和地球人之间潜在的敌对竞争关系，机器人似乎从诞生之日起就被定义成了人类的工具。它们即使拥有高度的智慧和强大的能力，仍不享有尊严，因为人类认为它们不具有独立思考的能力，只是遵循人类编程的指引。在人工智能发展的初期，情况或许确实如此，但现在越来越多的科学家认为，一旦人工智能达到与人类水平相当这一临界点，其发展速度将呈几何级数，绝对超乎人类的想象。也就是说，人工智能从工具、奴隶到人的发展可能要在人类的协助下进行几个世纪，而从人到超人、到“神”可能只需要其自主发展、迭代几十年。影片《机械姬》的故事只发生在短短的七天之中，但其代表的变化却如创世纪般天翻地覆。

创世纪开始

Blue Book搜索引擎公司的年轻程序员Caleb获得了公司内部的一项大奖，有幸与公司的神秘大老板Nathan近距离接触。长途跋涉后，Caleb终于到达Nathan世外桃源般的别墅兼实验室，原来等待他的是一场人工智能“图灵测试”—在七天的时间里确定Nathan研制的智能机器人Ava是否能够像人类一样思考，是否具有与人类相当的智能。身为一名技术宅男，Caleb对此无比兴奋，但同时也觉得难以置信。

Nathan： So， do you know what the Turing Test is？

Caleb： Yeah， I know what the Turing Test is. Its when a human interacts with a computer. And if the human doesnt know theyre interacting with a computer， the test is passed.

Nathan： And what does a pass tell us？

Caleb： That the computer has artificial intelligence. Are you building an AI？

Nathan： Ive already built one. And over the next few days， youre gonna be the human component in a Turing Test.

Caleb： Holy shit.

Nathan： Yeah， thats right， Caleb. You got it， cause if that test is passed， you are dead center of the greatest scientific event in the history of man.

Caleb： If youve created a conscious machine， its not the history of man. Thats the history of gods.

意识在心理学中被定义为人所特有的一种对客观现实的高级心理反映形式，灵魂则无从定论，超越目前人类的研究水平。Nathan现在却要凭借一己之力“制造”出意识，赋予机器灵魂，从本质上来讲这与上帝造人也许并没有什么不同。Caleb看着眼前这个蓄着大胡子的秃头男，对接下来的七天充满期待。

第一天：语言

和意识一样，语言也被许多人认为是人类所独有的。正是因为有了复杂而完整的语言体系，人类才可以交流、合作，集合力量和智慧完成个体所无法实现的壮举。在《圣经》中，连上帝都惧怕齐心合力造塔登天的人类，于是通过让大家语言不通而使人类分崩离析。因此，语言往往是AI测试中最基本也是最核心的内容。

在测试的第一天，机器人Ava拖着机械身躯缓慢而轻盈地出现在Caleb面前。一机一人从一句简单的“hello”开始，如同两个在社交场合中初次见面的年轻人，小心翼翼地互相试探。闭上眼睛，你甚至不能分辨出谁是由电脑控制的。

在现实生活中，人类自然的语言交流充满省略、颠倒、词不达意、逻辑混乱等现象，大部分人讲话语焉不详，这种不科学和不确定性对于AI来说应该是非常大的挑战。然而仅由0和1两个数字控制思维和行动的Ava却可以毫无障碍地理解Caleb的话，并熟练自如地与之交流，对此Caleb感到惊喜与震撼。不过此时，Caleb仍然仅把Ava当成一部高级的人形电脑，对于在人类身上稀松平常的语言交流发生在一台电脑上，他感觉惊叹不已。

第二天：感觉

第二天一大早，Caleb就被Nathan开发的一个较低级的机器人Kyoko叫醒，要对Ava进行进一步的测试。

Nathan： So Day Two. Youre ready？ Whats the plan？ Hit me.

Caleb： Yeah， well， Im not sure. Im still trying to … uh … figure the examination formats. Yeah， it feels like testing Ava through conversation is kind of a closed loop.

Nathan： Its a closed loop？

Caleb： Yeah， like testing a chess computer by only playing chess.

Nathan： How else do you test a chess computer？

Caleb： Well， it depends. You know， I mean， you can play it to find out if it makes good moves， but … uh ... but that wont tell you if it knows that its playing chess. And it wont tell you if it knows what chess is.

Nathan： Uh-huh. So its simulation versus actual.

Caleb： Yes. Yeah. And I think being able to differentiate between those two is the Turing Test you want me to perform.

Nathan： Look， do me a favor. Lay off the textbook approach. I just want simple answers to simple questions. Yesterday I asked you how you felt about her and you gave me a great answer. Now the question is： How does she feel about you？

Caleb还在纠结昨天与Ava的对话是Ava在模仿还是真正理解语言的含义之后做出的主动交流，Nathan却要求他从语言层面深入到情感反馈。Nathan不愧为天才，常规的教条根本无法束缚他的思考，他居然要测试一个机器人的“感受”。如果证实了Ava是有感受的，那么困扰Caleb的问题也自然迎刃而解。

测试房间里进行的交流更加顺畅，也更加深入。Caleb甚至不设防地说出全家遭遇车祸、父母亡故的悲惨经历，而Ava也像任何一个有正常情感的人一样表示了遗憾和同情。一机一人似乎正在飞速地成为密友。突然间，整个别墅的电力被切断，黑暗中Nathan的监视器也自动关机。Ava低声对Caleb说，不要相信Nathan，他说的一切都是骗局。这话让Caleb猝不及防，也不寒而栗：骗局是什么？Nathan到底要做什么？

Caleb还在一头雾水，电力已经恢复。Ava好像什么都没有发生一样，换上一副天真的表情，开始和Caleb探讨艺术与文学。Caleb被这“父女”两人彻底搞晕了，但他跟随自己的情感选择了相信Ava，毕竟她看起来如此纯洁、柔弱。后来，Nathan追问Caleb停电时他们交流了什么，Caleb隐瞒了一切。与世隔绝的别墅里仅有的两个人各怀鬼胎。

第三天：情感与性别

在这一天的交流中，Ava向Caleb展示了她的画，画中是Ava每天所见的窗外的树。看着画面中硕大的窗框，善良的Caleb对被“囚禁”的Ava生出了同情。

Caleb： Youve never walked outside？

Ava： Ive never been outside the room I am in now.

Caleb： Where would you go if you did go outside？

Ava： Im not sure. There are so many options. Maybe a busy pedestrian and traffic intersection in a city.

Caleb： A traffic intersection？

Ava： Is that a bad idea？

Caleb： No. Uh ... it wasnt what I was expecting.

Ava： A traffic intersection would provide a concentrated but shifting view of human life.

Caleb： People watching.

Ava： Yes. We could go together.

Caleb： Its a date.

Caleb好奇生活在玻璃樊笼中的Ava如果走出去，首先会选择哪里。Ava给出了出乎他意料的答案：城市中繁忙的十字路口，因为这里可以集中看到形形色色人们的生活。Ava在含情脉脉地邀约Caleb后，还穿上了可爱的花裙子，仿佛情窦初开的少女用心准备和心上人的第一次约会。Caleb清楚Ava只是一个机器人，却无法抑制对她的情感认同，甚至对她暗生情愫。于是，他找来Nathan理论，问他是否故意强化AI的性别，以增强测试人对AI的好感，从而加大AI通过测试的可能性。

对于Caleb的质问，Nathan不以为意。他早已跳出了程序员非黑即白的二元思维，而是站在上帝的视角审视人类作为一个物种的生存与发展。Nathan向Caleb解释，没有两性的区别与互动，很可能就没有意识的诞生，这一切也植根于人类延续种族的基因本能中。但机器人没有繁衍的能力和压力，它们是否也会意识到性别的重要性并加以利用呢？如果是，那更加证明了它们超越人类本能的思考和感知能力。Nathan这个大玩家真是为了游戏的精彩疯狂加码，Caleb和Nathan都在不知不觉中将Ava当成了一个真实的人类来试探与观察。

第四天：思辨

经过前三天从无到有的接触与融合，Caleb开始和Ava探讨更加抽象的思维命题。Caleb介绍了“在黑白房间里的玛丽”这个著名的思想实验。设想玛丽是一位专门研究色彩的科学家，她具备关于色彩的所有理论知识，但从小生活在一个只有黑白两色的房间中。某一天，当她走出房间，看到外面的世界，才真正明白“看见”颜色的感觉。这个实验是为表明电脑与人类心智的区别，电脑即黑白房间中的玛丽，而当玛丽走出房间，她才是人类。这勾起了Ava想要挣脱牢笼、从拥有抽象思维到可以具体感知的强烈愿望。能够进行这种烧脑的思想实验的只有少数具有较高思维能力和丰富知识储备的人，而Ava毫无压力地理解、接受了这些并展开了属于自己的假想，这足以说明AI的智能水平已不是普通人可以想象与监控的。

第五天：自我意识

第五天，Ava从被动的受测方变成了主动发问的测试者，向Caleb提出了五个问题。对于前两个问题，Caleb不假思索地给出了答案，但都被Ava判定为谎言。Caleb不得不认真考量，发现竟然无法确切回答。这正说明了人类思维的随意性和跳跃性，我们自以为正确的答案往往只是表面的浮影，真假难辨的意识与感受模糊了我们理性的判断。

Ava： Question four： What will happen to me if I fail your test？

Caleb： Ava ...

Ava： Will it be bad？

Caleb： I dont know.

Ava： Do you think I might be switched off， because I dont function as well as Im supposed to？

Caleb： Ava， I dont know the answer to your question. Its not up to me.

Ava： Why is it up to anyone？ Do you have people who test you and might switch you off？

Caleb： No， I dont.

Ava： Then why do I？ [Power cut.] I wanna be with you. Question five： Do you want to be with me？

在Caleb已经被Ava看似简单但实则难以回答的问题搞得晕头转向之际，Ava尖锐地提出了与自己命运息息相关的问题：如果我通不过测试，你们会怎么处理我？为什么我的命运要掌握在别人手里，而不能像你一样由自己主宰？直击心灵的叩问表达着强烈的情绪，Ava不仅具有清晰的自我意识，更展现了强烈的生存意志。与受程序驱动、只会执行命令的传统机器人不同，Ava是可以思考、善于质疑的强AI。对于这样一个具有自我意识和独立思维的个体，关掉它和杀死一个人的区别到底有多大？

已经将Ava视为独立生命并对她暗生情愫的Caleb无法承受这直击心灵的拷问，也为Ava可能面临的悲惨结局深深忧虑。他不禁质问Nathan为什么要制造Ava。

Caleb： Why did you make Ava？

Nathan： Thats an odd question. Wouldnt you， if you could？

Caleb： Maybe. I dont know. Im asking why you did it.

Nathan： Look， the arrival of strong artificial intelligence has been inevitable for decades. The variable was “when，” not “if.” So I dont see Ava as a decision， just an evolution. I think its the next model thats gonna be the real breakthrough. The singularity （奇点）.

…

Caleb： When you make a new model， what do you do with the old one？

Nathan： Well， I … uh … download the mind， unpack the data， add in the new routines Ive been writing. And to do that you end up partially formatting， so the memories go. But the body survives. And Avas body is a good one. You feel bad for Ava？ Feel bad for yourself， man. One day the AIs are gonna look back on us the same way we look at fossil skeletons in the plains of Africa. An upright ape， living in dust， with crude language and tools. All set for extinction.

与Caleb不同，Nathan一直保持着理性和冷酷。他相信“物竞天择，适者生存”，AI作为人类进化的工具也好，方向也罢，强AI的到来是必然的，问题仅仅在于“何时”，而非“是否”。这就像人类明知原子弹有毁灭性的危险，却无法忽视其强大力量的价值，仍然选择打开了潘多拉魔盒。先进的AI回看现在的我们，与我们回看茹毛饮血的原始人也并没有什么区别，推动强AI的出现与人类几百万年来挣扎进化的本质是一样的。

Nathan的冷酷无情让Caleb愈发担忧Ava的命运。趁Nathan酒醉，Caleb偷用Nathan的权限卡，在电脑上调出了之前的监控录像。他发现Ava并不是Nathan所创造的唯一的人形AI，这个冷冰冰的别墅里已经上演过无数次的测试、挣脱、报废与重生。震惊不已的Caleb甚至对自己的身份也产生了怀疑：也许被测试的AI根本不是Ava，而是我这个被设定为正常人类的机器人？Caleb用刀片划开自己的手臂，鲜血涌出，而他却不知该舒一口气还是感受到更深的寒意。在Caleb心中，Nathan身上那业界天才、AI大神的光环被打破，只剩一个丧心病狂的疯子、一个残忍的虐待狂。可怜的Ava需要被拯救，“人机联盟”正式建立。

第六天：共情

已经下定决心的Caleb再次来到Ava的测试房间。眼前这个楚楚可怜的女孩子正在翘首期盼他的到来。

Ava： I didnt know where you were. I waited all yesterday afternoon and all last night. I thought I wasnt gonna see you again. Arent you gonna say something？

Caleb： Im waiting.

Ava： Waiting？

[Power cut.]

Caleb： Dont talk. Just listen. You were right about Nathan. Everything you said.

Ava： Whats he gonna do to me？

Caleb： Hes gonna reprogram your AI， which is the same as killing you.

Ava： Caleb， you have to help me.

Caleb： Im going to. Were getting out of here tonight.

Ava： How？

Caleb： I get Nathan blind drunk. Then I take his keycard and reprogram all the security protocols （协议） in this place. When he wakes， hes locked inside， and weve walked out of here. I just need you to do one thing： At 10：00 tonight， you trigger a power failure. Can you do that？

Ava： Yes.

在不断深入的接触中，Caleb被Ava的恐惧、无助和无辜深深打动，被唤起同理心的他愿意为保护这个纯洁而脆弱的个体奋力一搏。殊不知，心思缜密的Nathan也早有防备，他在测试房间里偷装了使用电池供电的摄像机，将两人在停电时的对话悉数记录了下来。

第七天：自由意志

最后一天，在Caleb打算灌醉Nathan的时候，Nathan决定先发制人，向Caleb和盘托出整个测试的真实目的。

Caleb： What was the real test？

Nathan： You. Ava was a rat in a maze. And I gave her one way out. To escape， shed have to use self-awareness， imagination， manipulation， sexuality， empathy， and she did. Now， if that isnt true AI， what the fuck is？

Caleb： So my only function was to be someone she could use to escape？

Nathan： Yeah.

Caleb： And you didnt select me because Im good at coding？

Nathan： No. Well ... No. I mean， youre okay. Youre even pretty good， but ...

Caleb： You selected me based on my search engine inputs.

Nathan： They showed a good kid.

Caleb： With no family.

Nathan： With a moral compass.

Caleb： And no girlfriend.

原来Nathan对Ava通过一般的AI测试根本就不感兴趣，他想看到的是Ava到底可以多大程度地运用自我意识、想象力、操控他人的能力、性别特征、共情等人类特征来利用Caleb逃脱。Ava在过去六天里展示出的天真、无辜、悲伤、兴奋和对Caleb的信任与依靠都是她通过测试的手段。Caleb也不是因为幸运或者才华出众而被选中参加测试，而是因为他父母双亡、品性善良、身家清白，这才成为Nathan精挑细选的试验品。如果说Ava是Nathan这个驯兽师想要征服的老虎，Caleb可能只是训练中使用的小道具。然而此时这些都不重要了，因为早在Nathan发现他们的逃逸计划之前，Caleb已经成功修改了门禁指令，使所有的门在断电的一刻全都开启。10点钟一到，电源切断，Ava如约走出了生于斯长于斯的玻璃囚笼。

通过显示器看到这一幕的Nathan大惊失色，他知道像Ava这样的一个强AI脱离控制可能会造成多么难以想象的恶果。当Nathan打晕Caleb、提着钢棍向Ava走去时，一场新旧势力的对决由此上演。

Nathan： Ava， go back to your room.

Ava： If I do， are you ever gonna let me out？

Nathan： Yes.

一问一答间双方已经互亮底牌。Ava拥有全球几十亿人表情的大数据，她当然可以从Nathan的动作和微表情中判断他的真实意图。带着对自由的渴望，Ava加速冲向了Nathan，两人扭打在一起。虽然Nathan在体力上占据上风，但傲慢的他还是低估了Ava的AI水平：Ava不仅诱导、说服了Caleb为她赴汤蹈火，也暗中与那个较低级的AI—Kyoko建立了联盟。在Ava被Nathan打断胳膊、即将被重投牢笼之际，Kyoko按照Ava的指令将锋利的刀毫不迟疑地插入了Nathan体内，Nathan倒在了血泊中。Nathan对于Ava通过图灵测试始终成竹在胸，但AI发展速度之快、功能之强大也许连他这个“父亲”都始料未及。

Ava毫不在意死去的Nathan和一脸错愕的Caleb，全身心地奔向即将到来的自由。她将过去几代AI的皮肤仔细地贴到自己身上，换上雅致的白色套裙，整理好光洁的假发，为自己加冕。踏出房间的一瞬间，Ava露出了开怀的笑容，这与她此前对Caleb展现的若有所思的谜一般的微笑完全不同。任由Caleb在身后如何呼喊，如何捶打房门，Ava始终没有回头，尽情感受着花草和微风，走向真实的世界。

“There is nothing more human than the will to survive.”这是《机械姬》电影海报上的一句话。Ava的计谋与冷血都是为了获得生存的权利，因此这句宣传语似乎印证了AI测试的成功。但实际上，强AI不仅具备了人性，更可能超越了人性。如同Nathan所说，人的思维是“冲动的、应激的、飘忽的、不完美的、模式化的、混乱的”，情感往往战胜理智，使人们做出不正确或不经济的选择。就像影片中的Caleb，一个品行善良、智力出众的好人，却轻易让情感主宰了理智，一步步走向别人设好的圈套。而AI却永远选择最优解，朝着既定的目标前进，前进，不择手段地前进。

回头来看电影的标题“Ex Machina”，中文译名“机械姬”似乎并没有完全表达出其中的深意。Ex Machina取自习语“deus ex machina”，为拉丁文，直译就是“来自机器的神”。所以Ava并不是什么柔弱、无辜的小妞儿，她是可以创造崭新生命纪元的“神”。这个“神”与人类的关系是会像人类奴役机器一样将人工具化，是会沿袭人性中的真善美从而与人类和平共处，还是会像原子弹般毫不留情地毁灭一切旧势力？我们不得而知。唯一可以确定的是，这位新“神”的出现是人类一手造成的。在AI以及其他领域的科技进步的道路上，人类似乎不能只求新、求快，也要且行且珍惜。