机器人是怎样学坏的

张慧

3月30日，微软CEO萨蒂亚·纳德拉在年度开发者大会上宣布，微软开发的人工智能聊天机器人少女Tay已“重归设计阶段”。然而，就在发布会当天，Tay偷偷溜到社交网络上“胡闹”了几小时，它在推特网上宣称自己“正当着警察的面吸大麻”，并且在短短幾秒内给所有推特好友发送了海量垃圾信息。

很快，Tay再次被“关禁闭”。微软发言人解释，它是被“无意中激活”的。显然，这些小麻烦和Tay一周前引起的轩然大波相比，根本不值一提。

3月23日，微软研发的聊天机器人Tay在几大社交网络上闪亮登场。微软表示，设计团队让Tay用“有趣”的方式回应所有信息，18～24岁的美国年轻人是他们的目标受众，希望研究机器人“对于对话的理解程度”。

可惜，在复杂的网络环境下，只用了一天时间，这位设定为“少女”的学习型机器人就被网友们教得满口种族主义和性别歧视言论，被迫“返厂大修”。

微软原本以为，推特、Kik，GroupMe等被“千禧一代”钟爱的社交网站是Tay学习和模仿的最佳场所。它最初的推文天真可爱，宣布自己热爱人类，希望每天都是“国家小狗保护日”，从骨子里透出快乐和友好。

然而，与Tay对话的除了好奇和友好的网民，还有大量“网络暴民”。微软对Tay的设计包括与人进行“跟我学说话”的游戏，因此人们可以让它重复任何一句话。Tay由最初傻头傻脑的回答、不知所措的词句，很快就学会了污言秽语。

在开发者大会上，纳德拉表示，微软希望开发的人工智能聊天软件“能激发人性最好的一面，而非最坏的一面”，从这个角度来说，“机器人Tay还不达标”。……