阿尔摩斯被控谋杀罪

冷江

警长脸色严峻地走入大岛智能制作所，没有敲门，动作粗鲁地直接闯进了首席科学家阿尔摩斯的办公室。

阿尔摩斯有些不快，冷冷地说：“警长先生，难道你不觉得直接闯入一个正在工作的科学家的办公室，多么不礼貌吗？”

警长气愤地说：“我们要求退货！”

阿尔摩斯脸上的肌肉抖动了一下，但依然微笑着说：“没有问题，我们对客户的要求无条件响应。但是我想知道，你们为什么要退货呢？”

警长像说故事一样说出了理由。

上个月在西格兰高地的一次解救人质行动中，警察与被解救的儿童同时掉入了陷阱，犯罪嫌疑人借机逃脱。万分危急时，机器人没有第一时间去追捕逃跑的犯罪嫌疑人，而是立即对陷阱里的人施救。

阿尔摩斯点了点头，“这完全在我们既定的程序设计中，这符合机器人三定律之一的救人定律。”

“可是，他没有按照我们的指令行事！”警长大声说。

阿尔摩斯惊讶地问：“他当时采取了怎样的行动？”

“我们要求它先救儿童，可是它却先救了警察，因未及时救援，导致儿童吸入大量毒气死亡！你说，它是不是违背了你们设计的救人定律？”警长怒气冲冲地瞪着阿尔摩斯。

“哦，不不不，这依然符合我们的设计程序。当置身险境，需要在两个救援目标中进行选择时，机器人会通过大脑进行超级运算，根据运算结果自动作出选择。像您所说的那种场景，根据我们的模拟测试，警察第一时间被救生还的概率超过68%，而儿童仅为12%，因此机器人选择先救警察是完全符合既定程序的。”

“可是，这难道不违背你们三定律中的第二个定律——服从定律吗？它没有服从我们的指令！”

“错，机器人在程序命令和人类指令面前，首先服从程序命令。”阿尔摩斯平静地回答。

“可是，可是……”警长竟找不出更好的语言来反驳。

阿尔摩斯站了起来：“先生，您如果没有别的事，那我要继续工作了。”

警长悻悻地离开了。

警长离开后，阿尔摩斯迅速打开这款机器人的远程后台程序，在其中植入了一个新的口令。这个口令要求机器人在面临科学指令和道德指令的两难选择时，自动启动服从定律。完事后，阿尔摩斯点燃一根雪茄，惬意地躺在旋转椅上，享受这片刻的闲适。

两周以后，还是那个警长，再次闯入了阿尔摩斯的办公室。

“我还是要求退货！”警长双手抱在胸前，有些敌意地盯着阿尔摩斯。

“为什么呢？难道这次还是不服从主人的指令？”阿尔摩斯笑着问。

“不是，这次是过于盲从警察的指令，导致我们警察局遭到法律界、社会学家和广大新闻舆论的指责。”

“你能说得再详细点儿吗？”阿尔摩斯皱着眉头请求。

“是这样的，上周我们执行一次追捕毒贩的行动。因为毒贩过于凶残，警察指令机器人携带无声冲锋枪突然冲入毒贩藏身的仓库，在交火中，机器人对毒贩进行了大范围扫射，导致毒贩全部死亡。”

阿尔摩斯扬起头来，说：“从执行程序上来说，当机器人遭遇科学和道德两种选择时，会自动选择听从主人指令，对预定目标开展行动。这100%符合您上次要求的对主人指令的绝对服从。”

“可是……”警长一边尴尬地分辩，一边往外退。

等确信警长离开后，阿尔摩斯迅速回到电脑前，再次进入这款机器人的远程后台程序，迅速又植入了一个口令。这个新的口令要求机器人在执行极端任务时，有权通过超级运算，确定法律和道德的双重风险等级，并对高风险系数选项作出拒绝。做完这个补丁后，阿尔摩斯自信地靠在椅子上，长出了一口气。

又过了两周，阿尔摩斯已经有些神经质了，以前就是这个时候，警长两次闯入他办公室的。

可是今天到了這个点，一切都很平静。这倒让阿尔摩斯很不适应了。他决定去离这里不远的警察局进行一次上门回访。

他兴冲冲地走入警察局大院时，发现院子里放了好多花圈。他有些犹豫地走入大厅，突然发现所有警察胳膊上都系着黑色的纱巾。大厅正前方桌子上立着一个白色的大相框，相框上也披着黑色的纱巾。他吃惊地看了一眼相框里的人，马上大叫起来“怎么会是他？"

旁边一个警察握着拳头恶狠狠地冲过来，朝他怒吼：“我们警长被你们害死了！等着我们的起诉书吧！”

“不不不，能告诉我真实情况吗？”阿尔摩斯惊恐地问道。

“我们警长患有严重的心绞痛，需要及时服药，但是每次服药他都极为抗拒。而你们设计的机器人，以前都能强制他服药，但不知怎么了，最近突然程序紊乱，拒绝给警长服药，导致警长不幸去世！我们将控告你犯杀人罪，法庭上见，科学家先生！”

阿尔摩斯艰难地挤出一丝微笑，辩解道：“这，这，符合我们业内公认的机器人第三定律——自保定律，当遇到法律和道德之间的高风险决策系数时，它会选择拒绝，以求自保！”为了不挨警察的拳头，他狼狈地从警察局逃了出来。

站在街口，阿尔摩斯一下子茫然起来，不知道下一步是回实验室，还是回家。

（编辑文墨）