人工智能对网络安全的正负面影响

张小秋

（焦作市职业技术学校，河南 焦作 454150）

随着人工智能技术的快速发展，人工智能使我们的工作、学习和生活等方面更加人性化、智能化。同时，人工智能在网络安全领域也得到广泛应用。例如，加强网络安全性能、采取主动防御、阻止网络安全威胁和数据泄露、强化网络管理等，为我们的网络生活提供了安全保障。但是人工智能也是一把双刃剑，因为黑客攻击的主要手段也很多采用人工智能技术。因此，如何辩证得看待人工智能对网络安全的影响，是非常值得我们深度研究的重要课题。

一、对人工智能的认识

1．人工智能的概念

人工智能（Artificial Intelligence，简称AI），它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支，还涉及如脑科学、心理学、逻辑学、语言学、行为科学和认知科学等多重科学领域。

人工智能使用计算机技术来理解和分析人类智能的本质，生产出一种新的、能以人类智能相似的方式对外界环境做出反应的智能机器。总的来说，人工智能的本质是对人类思维的信息过程的模拟，是人的智能的物化。尽管人工智能可以模拟人脑的某些活动，甚至在某些方面超过人脑的功能，但人工智能永远不会取代人的意识。

2．人工智能包含的主要技术分支

随着计算机技术和大数据技术的高速发展，为人工智能提供了超强运算能力和海量数据支持，人工智能技术得到越来越广泛的应用。

目前，人工智能所包含的主要技术分支有以下几点。

第一，模式识别。模式识别主要是指模仿人类识读符号的认知过程从而实现智能系统。它是以在信号处理、人工智能、控制论、计算机技术等学科基础上发展起来的新型学科。该学科以各种传感器为信息源，以信息处理与模式识别的理论技术为核心，以数学方法与计算机为主要工具，探索对各种媒体信息进行处理、分类、理解的方法，并在此基础上构造出具有某些特性的智能系统或装置[1]。

第二，机器学习。机器学习是指在一定的知识表示意义下获取新知识的过程，按照学习机制的不同，主要有归纳学习、分析学习、连接机制学习和遗传学习等。

业界许多人将人工智能和机器学习看作同义词。尽管它们彼此密切相关，但是实际上机器学习只是人工智能的一个重要课题，是人工智能的一个子集。机器学习是利用大数据为基础，帮助机器从大数据中不断学习、训练以改进和放大他们的决策；而人工智能则是建立在机器学习的基础上，设计一个可以复制人类智能、并做出自己决策的智能系统。

第三，深度学习。随着深度学习层次化模型的提出，人工智能引入了层次化机器学习的概念。通过构建出较简单的概念模型来学习更深层次、更复杂的概念，从特定的、大量的数据中总结规律，从大数据中发现复杂结构，归纳出某些特点的知识，然后将这种知识应用到实现场景中去解决实际的核心问题，真正意义上实现了自我训练的机器学习[2]。

二、人工智能对网络安全的积极影响

从积极防御角度来讲，人工智能最重要的安全方式就是在攻击发生之前就不断进行自我学习、预测到威胁、并有效地进行防御。

1．智能入侵检测

传统的入侵检测技术在检测速度、检测范围和体系结构等方面均存在短板。而智能入侵检测系统借助人工智能中的模糊信息识别、规则产生式专家系统、数据挖掘和人工神经网络等技术，提升入侵检测效率，并且可以最大程度地抵御来自各方病毒入侵所带来的潜在威胁。

2．防止恶意软件和文件的执行

目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

针对同轨双车运行模式，徐白羽[9]将一条巷道简单的划分为a堆垛机轨道区间、b堆垛机轨道区间和ab堆垛机轨道区间，建立了适用于该划分方案的调度模型，但这种划分区间的方式缺乏科学性，仅能满足文中描述的工况，且没有给出具体可行的求解方法，存在一定缺陷；王小伟[10]基于两个中心点车辆路由问题模式建立调度优化数学模型，采用动态区域划分法规划两堆垛机工作区域，设计最大最小蚁群算法进行优化，提高了立体仓库的存储效率，但在算法设计中，轮盘赌规则并不能很好地解决贪心规则引起的种群多样性降低，易陷入局部极小等问题，无法保证求得全局最优解。

人工智能可以适应和学习经验和模式，自己创建用于模式识别的模型、并不断进行自我训练，同时可以利用推理来确定各种风险，例如可疑地址，奇怪文件等。在恶意代码检测方面，人工智能自动识别恶意代码的特征，进而判定分类；同时，人工智能通常还会用病毒的特征去训练系统，寻找恶意代码，从而帮助杀毒软件检测良性和恶意文件、让系统识别出此前从未见过的新型恶意软件。

3．漏洞管理及防护

利用传统人工或技术工具管理漏洞的方法，早已经落伍了。但是人工智能却能让漏洞管理变得更加轻松。在软件漏洞挖掘方面，人工智能技术分析漏洞相关的数据、提取经验和知识，甚至按照网上的黑客讨论话题来识别、寻找潜在的漏洞、预测攻击，并用训练好的模型来提高漏洞挖掘的精度和效率，可以缓解当前该领域研究遇到的一些瓶颈问题。

4．对物联网设备进行检测与防护

物联网安全是人工智能技术最突出的领域之一。随着智能设备的广泛应用，大规模普及的物联网及物联网设备必将为攻击者提供更多的新机会。而基于人工智能的轻量级预测模型，可以在设备上或网络上实时检测和阻止可疑活动。

5．提高安全运营效率、量化网络安全风险

大型网络运营中心每天接收到的安全警报过多（很多属于误报信号）而导致警报系统疲劳。而人工智能面对执行重复的任务则不会感到疲倦或无聊，因此，人为错误的风险大大降低。

人工智能运用网络防御的前沿技术，可以将多个信息源之间高级关联，将内部日志记录、监控系统与外部威胁情报服务集成起来，对事件进行自动分类。同时，人工智能技术能够快速处理数以百万计的数据点并生成预测信息，能够进一步准确地量化网络安全风险指标，为网络安全运维提供依据。

三、人工智能对网络安全的负面影响

人工智能也是一把“双刃剑”。人工智能技术对网络安全防护发挥了巨大的、积极的作用，然而犯罪分子也在同时使用同样的人工智能技术来绕过安全防御，并模仿人类行为对网络安全防御系统进行人工智能攻击。

1．非法数据收集与获取

在巨额的金钱诱惑和经济利益的驱使下，非法数据收集、用户个人数据被窃取、数据泄露滥用、隐私安全等案例频繁发生。通过非法网络爬虫、云爬虫以及人工智能技术的应用，网络数据的获取也迈向了场景化、精细化、商业化时代，对社会危害越来越大。例如，2018年4月CNBC网站报道，大数据公司——剑桥分析在未经Facebook允许的情况下，收集了该社交网络5000多万用户的数据，最终导致Facebook股票下跌6.7%。

2．深度伪造

深度伪造，它完全使用人工智能或机器学习深度伪造音频技术，创造或修改现有音频或视频，进一步达到网络欺骗的目的。Experian公司的一份报告也概述了2021年企业面临的五种威胁，其中合成身份欺诈（深度伪造）也被认定为增长最快的金融犯罪类型。

3．网络钓鱼与垃圾邮件泛滥

在黑客众多的攻击手法中，钓鱼邮件一直是最常用、最便捷的攻击方式。人工智能下的网络钓鱼，可利用机器学习算法快速生成非常逼真的虚假邮件，用于偷盗用户的账号、密码等凭证以及用户的隐私信息。

4．恶意软件的盛行

恶意软件利用机器学习把自己包装得更加隐蔽，在传播上更加显得合法化，攻击速度更快。黑客还可以在恶意软件中融入自毁机制，同时通过机器学习不断训练算法，使得攻击上更加智能化，算法抽取数据的速度比人工更快，更加难以预防。同时，在人工智能的参与下，恶意软件会随着特定的需求进行不断发展、变种、变异成另一种恶意木马、僵尸网络、恶意广告、勒索软件，对网络安全的危害性更大[3]。

5．验证码和口令破解

基于神经网络的软件可以很轻松地突破人机识别系统。网络罪犯能够利用机器学习分析大量口令数据集，快速猜测并破解用户口令。有安全组织出于试验目的，基于最新的人工智能技术建立了一套验证码求解器，在综合分析了包括谷歌、eBay、微软、维基百科、淘宝、腾讯、京东等在内的全球最热门50个网站的文本验证码之后，能够在0.05秒内攻破大部分文本验证码，破解率能够达到50%以上。

四、对人工智能负面影响的几点建议

对于人工智能在网络安全的负面影响，本人认为可以从以下方面进行制约。

首先，要构建网络安全综合防御体系，从安全技术和安全管理等层面，避免利用人工智能系统发起攻击以及攻击成功的成功率。

其次，加强道德约束，积极对人工智能的应用进行正确引导。所谓人工智能的负面影响，或是由于人类主观的犯错误，或是程序设计中偶然的偏差，或者程序员的粗心，或是数据的错误，更或是机器系统自身的作弊，等等，所有这些都是人为因素造成的后果，尤其是网络犯罪分子主观上的故意。

最后，建立制度性、法治化的人工智能法律治理体系。通过修改、完善现有法律制度，制定对人工智能犯罪的处罚规定，同时建立严密的监管防控的政策体系。

结语

人工智能是继互联网之后的又一个伟大的技术，既然作为一把双刃剑，我们在推进人工智能技术应用的同时，也更应该重视人工智能可能带来的技术风险和网络应用威胁，一定要理性思考、务实的推进，确保人工智能健康可持续发展。