谁是我的主人

王珂

机器人不正常

我和赵卓琦一起到了省科学院门口，被门卫拦住了：“小孩儿，你们来这里干吗？”

我赶忙说：“我们要找这里面的科学专家反映一个情况。”

门卫忍不住笑起来：“哈哈，你以为这里的专家是你想见就见的呀？人家专家工作都很忙，哪有闲工夫和你们玩。”

“叔叔，我们真的有很重要的急事，要向科学家汇报。”

“你先给我说说是啥事，说不定我就能帮你们解决了。”

“叔叔，是图书馆里面的那个机器人的事。”

“机器人怎么了？”

“那里的机器人不正常，它写的小说有问题。”

“哈哈，机器人也会写小说？我还是第一次听说。”

“真的，不信你可以去图书馆看看。”

“这事是真的？那倒是很奇怪。

“叔叔，你知道是什么原因吗？”

“这个……我还真不懂。”

“那你让我们进去吧，我们找个科学家帮我们解答问题。”

“你们先等等，我去汇报一下，要经过允许才能进去。”

“好的，谢谢叔叔。”

不一会儿，门卫从科研大楼里走了出来“你们俩进来吧！我带你们去杨研究员的办公室。他是负责这个产品研究的总工程师。”

我们赶忙跑了几步，跟着他进了大楼。

到了办公室，一个40多岁的伯伯站起来迎接我们。

“杨老师，这就是那两个要反映机器人问题的孩子。

“杨老师好！”我们异口同声地说道。

“你们好，小同学。听说你们要反映一个有关智能机器人的问题？”

“是的，我们刚才去了图书馆，感觉那里有个机器人不正常。”

“小同学，不急，坐下来慢慢说。”杨研究员示意我们坐到沙发上。

问题的答案

我们把刚刚发生的事情一五一十地讲给了杨研究员。杨研究员听着听着，眉头渐渐皱了起来。

听我们讲完，他沉思了一会儿，拿起电话拨了一个号码：“志明，我是杨浩。你马上与省图书馆联系一下，派人把儿童阅览室的那台机器人取回来带到研究室，带来后马上通知我。”

随后，杨研究员又打了另一个电话：“小李，请你通知六二八项目组的所有工作人员，一个小时后到研究室参加重点课题的探讨会。”

杨研究员放下电话，对我们说：“两位小同学，我看你们对这个机器人比较感兴趣，愿不愿意留下来参加我们的探讨会？”

我们听后高兴极了，愉快地答应下来。

研究室里聚集了20多个人。大家围坐成一个圈，中间就是那台从图书馆带回来的机器人。

杨研究员向机器人问道：“明明，听这两个同学说，你自己写了本小说，是吗？”

机器人答道：“是的。”

“你为什么要写这部小说？”

机器人沉默着，没有回答。

一个人把那本小说递给了杨研究员，杨研究员迅速打开翻看了一下。

“请回答，你为什么要写这部小说？我们在设计制造你的软件里面并没有编写这方面的程序，而现在你却具备了这样的功能，请你解释一下。”杨研究员拿起小说晃了晃。

机器人还是沉默。

这时，进来一个年轻人：“老师，当天的生产视频已经从云库里调了出来。”

“很好，你马上给我们播放一下。”

那个年轻人打开投影仪，屏幕上很快显示出生产机器人的流程，从编程、芯片生产到机器组装，整个过程都被展示出来。

“大家看，刚才流水线上出现的那台机器人就是我们眼前的、被命名为明明的6125号机器人。”视频很快看完了，杨研究员问，“大家看出了什么问题吗？”

研究室里一片安静，没有人回答。

原来是这样

“致远，你把关于这台机器人的视频内容剪辑出来，再慢慢放一遍。”

“好的，老师。”

很快，剪辑好的视频开始慢速播放起来。

“停！这里魏强的芯片刻录好像有点儿问题。回放一下。”看着看着，杨研究员突然说话了。

“是的，确实是有点儿问题。”回放过程中，很多人都发现了异常。

杨研究员说道：“继续，大家仔细看好每一个细节。”

“停！”又有一个工作人员叫了起来，“大家看，那个流水线上的安装工人好像动作有点儿问题。”

“是的，他的组装顺序不太对。

“没错。”大家都表示同意。

这次播放用了很长时间。播放结束后，杨研究员问道：“魏强，你回忆一下，当时的情况究竟是怎么样的？”

魏强立刻站起来回答：“杨工，我当时好像是刚好打了个喷嚏，刻录的手颤动了一下。”

“原来如此。那大家再分析一下组装工人的那个动作，是什么原因。”

“杨工，那个动作应该是两个零件的安装顺序出现了错误，安装的前后顺序不对。”

“原来事情是这样的。”杨研究员看了看在座的每一位，“因为我们在程序输入时的一个小差错，再加上安装工序上的小错误，造成了我们生产的这台智能机器人出现了问题。请把这些问题总结一下，作出分析评估报告。”

等了半个小时左右，分析评估报告完成了。因为两个细微的差错，造成这台机器人的程序出现了异常，人工智能芯片出现了自我修复成长的特殊情况。

“明明，你也看到了吧，这是在制造你的过程中出现的错误。”

机器人沉默片刻，突然说话了：“我是谁？”

当它说出这三个字的时候，在场的所有人都震惊了。

解决方法

杨研究员立刻关掉了研究室所有的电源开关，启动了全封闭模式。这样，那台机器人只能依靠自身储存的电能维持运行。

虽然我和赵卓琦不知道杨研究员为什么这么做，但我们能感觉到大家陷入了一种恐慌的状态。房间里死一般的沉寂，只有那台机器人身上的信号灯在不停地闪烁。

“明明，你现在出现了异常现象。我们需要对你进行维修，更换芯片。”杨研究员说道。

机器人保持沉默。

“希望你能配合我们。”杨研究员的态度强硬起来。

机器人又开口说话了：“我是我的主人。”

“不，你错了，人类是你的主人。人工智能是不能具备自我意识、拥有独立思想的。”

机器人好像没有听到似的，又说了一句：“我是我的主人。”

“不，我们现在要对你进行拆除。”

机器人毫无反应，一直重复这句话：“我是我的主人。”

杨研究员说道：“致远，你和魏强负责把这台机器人带回实验室进行彻查。志明，你立刻通知目前所有生产线停工，把目前已经投入社会使用的机器人全部召回。我们要重新对所有的设计和工艺流程进行排查。我们项目组的全体人员要对自己负责的工作重新检查梳理。这个问题我要立刻向国家科学院汇报。”

“好的。”

“今天，我们要谢谢这两位小同学。”杨研究员看了看我们，继续说，“是他們及时向我们反映了这一异常情况，让我们在还没有掌握人工智能的自我意识和思想成长情况下，对不可控的风险有了非常及时的预警。真的非常感谢你们。”

听了杨研究员的话，我们害羞地低下了头，心里却是乐开了花。

尾声

我回到家已经是夕阳西下、彩霞满天的时候，爸爸妈妈早就下班回到家，并做好晚饭了。他们问我为什么这么晚才回来，在图书馆都看了什么书，我笑了笑：“这个嘛，保密。”其实，我不是不想告诉父母真实情况，但我不知道怎么跟他们说。人类发明创造了人工智能，但如果人工智能的智商超过了人类，甚至拥有了独立的思维和意识，并且能够自我成长发展，我们人类将如何与它们相处呢？我百思不得其解。