以牙还牙AI反制AI骚扰电话

技术宅

万能的业务员——AI骚扰电话

现在Al技术在各个领域的应用不断扩展，当然这其中也出现了一些恶意应用，比如央视2019年3·15晚会上曝光的Al骚扰电话，就是典型的反例。在晚会的视频展示中，其中一家提供外呼系统的科技公司经理告诉记者，在过去的一年多时间里，他们拨打出去的电话多达40亿个（图1）。

这些骚扰电话的背后，竟然应用了很多新的科技技术，比如用户号码的获取是通过“探针盒子”来完成。当用户手机的无线局域网处于打开状态，这个信号被探针盒子发现后，就能迅速识别并采集到户手机的WLANMAC（无线局域网）地址，接下来将MAC地址转换为IMEI号，然后再将lM El号转换成用户的手机号码。其中从用户的WLANMAC到手机号码识别，就使用了大数据识别技术（图2）。

在获取到用户的号码后，Al语音识别技术就派上用场了。通过人工对话学习，这些Al骚扰电话沟通仿真能力相当逼真，对话语言流畅自然，让你根本想不到是在和冰冷的机器人对话。

以牙还牙——AI反骚扰技术

如上所述，现在Al骚扰电话具有很高的智能性，几乎让我们无法识别。那么如何应对这些智能骚扰呢？阿里Al实验室近日开发的防骚扰电话技术给出了一个解决方案，通过Al来应付骚扰电话。实际上这个技术是一种“智能聊天”概念，是Al语音技术在目前反骚扰领域中的一项应用。智能聊天需要理解用户的请求，用强大的知识图谱生成知识点，在对话中将知识点“输出”给用户，同时用基于深度强化学习的对话策略引导对方的问题，从而将聊天进行下去（图3）。

要讓一套语音输出系统能够和人类（或者Al骚扰者）对话，科学家们首先需要解决的是让系统能够理解用户的请求，就像我们日常和朋友打电话，在发出语音请求给对方后，要让对方明白你要表达什么意思。为了能够让机器人理解语音对话的含义，—方面阿里Al实验室提出一个聊天机器人人机协作框架CoChat，通过这个框架，使得人机对话系统能够从标注过的对话日志、人类工作者的反馈以及用户的反馈中学习，由此使对话质量获得持续改进（图4）。

另一方面，由于人类的语言系统丰富多变，为了让机器人迅速对人类提出的新问题（原来数据库所没有的）作出回应，阿里Al实验室开发者引入了对话管理器模型MemHRNN。这套系统首先将对话历史、语言理解结果和API调用结果等外部信息组合起来作为输入，然后输出所有动作的概率分布以用于动作选择。这样当出现新动作时，该HRNN的架构可以相应地改变，而不会丢失在之前的学习过程中积累的知识，从而让这套人机系统自主学习很多新知识，能够实现和人类正常的沟通对话。

比如在实际测试中，这套对话系统和人类推销员通话时，它不但会主动向女销售咨询“北京能不能贷款？”“最多能贷多少钱？”等问题，甚至还在对话中“调戏”对方：“你之前给我打过电话吧，听起来挺耳熟的？”这些对话就像是真的人在和推销员对话，对方根本没有察觉到她实际上是和机器人“二哈”在深入聊天（图5）。

Al反骚扰我们期待更多

随着Al技术的发展，我们遇到的骚扰也将越来越多、越来越智能，类似“二哈”的系统将给我们防止骚扰带来更多的便利。

一方面，如果将这套系统和手机通话功能整合起来，那么以后只要有类似的骚扰电话，就可以直接交给“二哈”们去打理，省去我们每天被无数骚扰电话打扰。另—方面，“二哈”系统实质上是智能聊天应用，这套系统可以理解我们的对话，因此把它作为人机对话也是一个很好的应用，比如可以用在心理疏导、景点服务介绍、Al导购等领域，让Al更好地为我们的生活服务。

其实智能聊天并不是什么全新的概念，它的本质是Al语音识别技术。我们在iPhone上使用的Siri语音助理、微软推出的Al小冰，这些都是语音智能聊天的代表。随着Al技术的发展，期望更多的语音智能产品为我们服务（图6）。