人工智能数据安全风险和有效治理措施

姜 涛

（海南政法职业学院，海南 海口 571100）

在线内容安全、组织管理安全、系统安全都是网络安全领域中易发生的安全问题。人工智能也属于网络安全领域，其安全风险也在逐渐凸显，如：在线内容安全相关的一些数据问题，这一安全问题直接影响了人工智能的可靠性和后期的使用效率，尤其是我国在进入人工智能时期后，加大对人工智能数据安全风险的治理至关重要。

一、人工智能数据安全风险

（一）人工智能技术引发的数据安全风险

企业利用人工智能做出各项决策时，会受到训练数据污染问题的影响做出错误的决策。数据投毒主要是对数据的完整性进行破坏，通过在训练数据中加入恶意的样本和伪装数据样本，使得训练的算法模型在做出各项决策时出现偏差。目前，很多人借助人工智能与实体经济融合的机会，纷纷在金融行业或者交通行业等行业中注入一些利于自己的伪造数据，这一行为属于恶意注入的行为，通过在训练样本环节中加入一些假的信息，造成安全问题的发生[1]。例如：机器人中投入训练数据的“剧毒”，导致机器人极易发表不当的言论或者攻击性较强的言论；智能汽车领域中投入训练数据剧毒，很容易造成严重的交通事故或者使得一些车辆出现违法的行为。主要是因为一旦智能系统发生紊乱或者运行出现错误时，将会使运行阶段的数据发生异常，导致系统做出错误的决策结果。例如：生物特征识别面对不同的场景时，对抗样本攻击就会发出欺骗的信号，对人工智能技术身份鉴别产生诸多的影响。……