攻击人工智能系统对社会治安的危害与对策

（中国人民公安大学国家安全学院 北京 100038）

近年来，人工智能技术在计算机视觉、自然语言处理、语音识别等领域取得了突破性进展，其在完成人脸识别等特定任务上的速度和精准度已追平甚至超越人类。社会各个行业都已开展了人工智能系统的应用，对其进行攻击会给社会治安带来严重的危害。人工智能系统的安全性直接攸关人民生命财产安全。公安机关作为维护社会治安主要责任机关，开展攻击人工智能系统的防范对策研究迫在眉睫。

1 攻击人工智能系统的方法对社会治安的危害

恶意攻击者攻击人工智能系统的方法主要包括对抗样本攻击、数据污染攻击、模型萃取攻击、系统漏洞攻击、模型后门攻击以及模型逆向攻击。攻击者利用攻击达到的目的可以大致分为两类：（1）窃取系统内的信息或者模型信息；（2）干扰人工智能能系统功能或降低其性能[1]。这些攻击方式所达到的这两类目标会对社会治安产生一系列的危害，具体可分为以下几种。

1.1 危害交通安全

智能交通对于国家的发展起着至关重要的作用，在2019 中国智能交通年会上，介绍了交通运输的几个重要的工作，包括自动驾驶、智慧公路和智能航运三个方面。人工智能技术是智能交通实现的支撑力量，但是攻击者利用攻击人工智能系统来干扰系统功能会对智慧交通产生很多现实的危害。

对于自动驾驶的交通工具，密歇根州华盛顿大学和加州大学伯克……