算法嵌入智慧政府治理的风险研究

2024-05-16 16:44黄腾达邢文明陈继丽
无线互联科技 2024年5期
关键词:智慧政府用户

黄腾达,邢文明,陈继丽

(湘潭大学 公共管理学院,湖南 湘潭 411100)

0 引言

党的二十大报告指出“要贯彻总体国家安全观,健全国家安全体系。”总体国家安全观作为维护我国国家安全和经济发展的重要指导思想,囊括了社会、科技、网络、人工智能等重点发展领域的安全问题。而智慧政府是提升我国政府治理能力、推进国家治理体系现代化建设的重要内容。智慧政府的数据安全治理是总体国家安全观的重要组成部分之一。当前,人工智能逐渐成为提高智慧政府治理能力和智慧水平的关键力量,将人工智能关键算法应用到政府智能治理以及智慧政府建设成为我国政府数字化建设的重要目标[1]。算法技术在赋能政府治理的过程中也引发了算法偏见、减损政府公信力、社会民生、隐私安全等一系列风险问题[2]。其中,用户隐私问题、政府信息安全更是当前各级政府部门和社会重点关注的话题。因此,全面研判算法嵌入智慧政府的风险,通过有效手段来提高智慧政府的数据安全防范能力,推进国家安全治理体系和治理能力现代化,维护公民利益和国家安全是现如今我国智慧政府建设必须要面对的重要议题。

1 算法嵌入智慧政府引发的隐私风险

从数据全生命周期和用户维度出发,将算法嵌入智慧政府引发的隐私风险分为政府数据问题引发的风险、隐私泄露引发的用户情绪风险等方面。

1.1 算法收集数据引发的隐私风险

先进的算法模型需要采集各种类型的政府数据,在这一过程中可能会引发用户隐私泄露风险。在智慧政府的运行过程中,算法对政府数据的收集主要是通过爬虫技术来进行,收集人脸识别、互联网、移动设备等数据,这些数据使得用户的生物信息和社会关系等全被政府所知。由于政府的权利,公众的许多数据被算法强制地收集起来。这一系列的数据收集过程使用户隐私全部被分析和挖掘,一旦政府的算法在数据收集过程中出现差错,用户的个人信息就很容易被泄露,从而造成隐私风险。尤其是在目前的智慧政府建设过程中,由于技术限制,智慧政府的算法设计和运行权利仍掌握在私人技术公司手上[3],这意味着算法收集到的用户数据由于私人公司的疏忽极易落到不法分子手中。譬如:一些互联网企业以及黑客过分地进行收集、窃取和倒卖个人的隐私数据信息[4]。

1.2 数据存储过程存在的隐私风险

政府的智能治理和政务处理离不开数据库的支持,这些数据库中存储着大量的数据,算法通过利用这些数据来为政府工作服务,政府及大型企业往往会将数据存储在云端服务器上,利用人工智能技术将这些数据保护起来。然而,在数据存储过程中,人工智能技术所采取的匿名技术、加密措施等保护手段变得容易被破解,同时像政府这样大规模的数据存储需要用到十分严格的身份认证管理和访问控制,政府的云端数据、网络、算法及人工智能的管理难度将会变大,造成数据隐私泄露的因素增多,从而加大了隐私泄露的风险[5]。如2022年红十字国际委员会的数据库泄露事件,来自全球至少60多个红十字会组织,超过50万用户的个人信息和隐私数据遭到泄露[6]。

1.3 算法利用数据造成的隐私风险

在智慧政府的工作中,需要利用算法技术来对数据进行筛选和应用,算法对数据进行自动筛选。政府通过算法利用数据的过程中会留有痕迹,有关用户行为模式、生物特征等信息会被记录。在算法的帮助下,用户隐私信息被大量地挖掘和聚集起来生成“数据画像”,用户信息变得更加透明化,极大地增加了用户隐私泄露的风险[7]。譬如,2015 年重庆、上海等超 30个省市卫生和社保系统中的数千万用户社保信息被泄露,其中包括社保参保、房屋等敏感信息[8]。除此之外,政府在通过算法利用数据时不能保证数据被全部利用,算法不重视的数据相应的防护措施也比较低,很容易造成用户隐私信息泄露风险。

1.4 数据销毁过程中产生的隐私风险

算法技术作为人工智能的核心要素之一,加强算法在智慧政府建设中的应用是我国政府数字化和政府智能化的重要工作。而作为政府数字化的重要因素,算法在参与智慧政府建设的过程中也会出现数据被永久“记忆”的情况。正如维克托·迈尔-舍恩伯格所言:“数字化的技术已经逐渐让我们这个社会拥有了完美的记忆功能,但遗忘的能力却在渐渐丧失。”[9]没有被遗忘和彻底销毁的数据在今后可能会引发用户隐私风险。例如在一些用户画像的应用场景中,虽然用户姓名、电话、IP等关键隐私数据已经销毁,但是信息处理者通过算法技术仍能实现对用户行为偏好等隐私信息的分析[10]。因此,在算法嵌入智慧政府的过程中,政府关注用户数据销毁过程中“被遗忘的权力”在很大程度上能够有效地降低用户隐私泄露的风险。

1.5 用户隐私泄露引发用户情绪风险

将算法嵌入智慧政府建设中引发的隐私风险不仅仅只是用户的隐私泄露问题,同时还伴随着隐私泄露引发的用户情绪风险。其一,隐私风险引发的用户顾虑情绪。隐私顾虑亦称隐私关注,一般被定义为个人将其数据提供给某个组织后,对组织如何使用及保护个人信息的担忧程度[11]。在信息系统管理研究领域,隐私顾虑被表述为用户对互联网上控制、收集和使用其个人信息的关注[12]。而将算法嵌入智慧政府中也可被看作是一个大型信息管理系统,政府利用算法进行治理会应用大量的用户数据,这些大量用户数据的使用极易引发用户对自身隐私安全的顾虑情绪,用户这种顾虑情绪的出现使用户更加地关注和保护个人隐私安全问题。其二,隐私安全引发用户对政府的信任危机。政府在利用算法进行治理的过程中,由于“算法黑箱”的存在公众无法了解智慧政府算法设计的具体意图和运行机制,公民在知情权上受到一定程度的遮蔽,出于对算法嵌入智慧政府合理性的担忧,容易引起用户对政府的信任危机[13]。如智能移动设备在智慧政府建设中的广泛应用使得大量的用户敏感信息被政府掌握,容易在未经授权的情况下将用户数据提供给第三方,从而导致用户隐私泄露的风险。

2 算法嵌入智慧政府过程中隐私风险形成的原因

智慧政府在享受算法带来便利的同时,在应用过程中也存在许多局限性。将算法嵌入智慧政府中引发数据收集、应用、保存、销毁以及用户情绪等一系列的隐私风险是在众多因素的共同作用下引起的。主要包括技术因素、环境因素和自身因素等。

2.1 技术原因诱发用户隐私风险

第一,算法技术应用过程中引发的风险。在现实的政府工作中,由于大量的数据汇集在一起,政府的算法无法对所有数据进行筛选和整理。一旦在智慧政府运行过程中,算法无力承担巨大的工作量或者应用不当将极大增加用户个人数据泄露的风险。第二,算法技术的局限性导致“算法黑箱”问题。由于某些数据以及企业的一些数据属于机密范围,这就使得政府在算法的使用过程中具有不透明性以及机器学习内涵的自主性,导致了这种“黑箱”特性[14]。

2.2 环境因素提升用户隐私风险

将算法嵌入智慧政府的治理过程中要考虑外部环境对算法应用的影响。面对诸多环境变化,同样的运行规则运用到不同的时代、环境中可能就会在某一过程中出现缺陷而导致用户的隐私安全受到威胁。信息技术的快速发展伴随着隐私窃取技术的快速发展。不法分子利用先进的技术对用户个人数据进行攻击,导致用户隐私受到威胁。同时,国际环境的不断变化也是用户隐私安全受到威胁的重要原因。一些敌对国家利用本国最先进的技术对我国的用户数据进行攻击,不仅对用户的信息安全,而且对国家安全都构成极大威胁。除此之外,法律环境对用户的隐私安全也有极大影响。目前,我国针对人工智能的数据安全、算法的隐私安全都没有具体的法律和政策规定,用户隐私安全受到侵犯时得不到有效保障,法规政策缺失问题也提升了用户的隐私风险。

2.3 自身原因导致用户隐私泄露

政府自身的素养无法与先进的算法相匹配可能会引发用户的隐私风险,用户自身由于缺乏相应的安全保护意识而提升了自身隐私安全泄露的风险。一方面,算法在政府工作中的应用,数据化、信息化等新名词的出现使得一些政府中没有相关学习背景的工作人员无法正确地利用相关的算法技术来进行正确操作,对算法的理解也比较模糊,这就会导致算法在运行过程中出现纰漏,从而造成隐私泄露的风险。同时,政府的组织制度和数据审查标准尚未更新,很多内容已经无法与现在的算法规则相契合。另一方面是由于用户自身问题导致的。用户自身对个人隐私信息的不重视、隐私安全意识的不足等因素也增大了算法嵌入智慧政府的隐私风险。用户在进入网站、使用社交软件的过程中由于对个人隐私的保护意识不足,未阅读隐私条款等情况下极易造成隐私泄露。

3 智慧政府隐私安全风险的应对策略

隐私安全作为近年来公众关注的重点问题,算法嵌入智慧政府引发的隐私安全问题也受到了普遍的关注。通过对引发隐私风险的原因进行分析,可以通过树立安全观念、提高技术手段、完善隐私制度等策略来降低算法嵌入智慧政府带来的隐私风险。

3.1 树立正确的安全治理理念

将算法嵌入智慧政府中引发的隐私风险最根本的原因就是隐私安全观念不足。因此,在算法广泛应用到各个行业时,在管理者和用户之间树立正确的安全治理理念是各个机构和行业的首要任务。

3.1.1 构建政府安全治理共同体理念

在人工智能、算法技术快速发展和应用的年代,仅仅依靠政府的力量是远远不够的,必须创新政府安全治理理念,确保政府的数据安全、用户的隐私安全[15]。一方面要形成人人有责的安全治理意识。公众要树立人工智能时代隐私安全防护的观念,提高自身的隐私安全意识,增强对隐私保护工具的重视心理和正确应用。另一方面包括政府在内的各组织机构要人人尽责。政府要充分发挥数据安全顶层设计优势,根据算法技术的特点、运行模式等因素对隐私风险的防范进行战略规划,将智慧政府的安全问题上升为国家战略,实现国家层面的统筹规划[16]。同时,要以智慧政府的业务为导向,逐步实现数据安全治理的“纵向大联动,横向大合作”,群众、政府、高校等机构多方参与形成智慧政府安全治理共同体,有效防范智慧政府安全风险,人人享有智慧政府成果。

3.1.2 提高政府组织培养能力

完善的政府组织保障体系能够有效提升政府的安全风险应对能力,要提高政府的组织培养意识,通过优秀的人才队伍和部门执行力来保障智慧政府的安全。一方面政府要加强人才培养,提高政府工作人员的安全防范意识。其中,网络安全技术人才是保障网络隐私安全的关键性要素,是提升网络隐私安全、保障竞争力的核心要义[17]。另一方面要提高政府部门的执行力,保障算法嵌入智慧政府的安全风险防范效力。政府要注重对智慧政府运行过程中各个环节数据安全的监督,当算法嵌入智慧政府产生安全风险时,政府通过各部门的组织协调能力,合理分工,高效应对政府面临的安全风险。

3.2 提高智慧政府建设科技水平

3.2.1 提升智慧政府基础设施建设效能

算法在政府治理过程中的高效运行离不开智慧政府基础设施建设。首先,提高智慧政府信息资源利用水平,需要建立一套完整的基础设施安全体系,通过更加完善的基础设施安全体系政府能够更加有效地抵御外来的数据侵犯行为。除此之外,政府要加强各地互联网基础设施的建设。5G基础设施的建设也是保障用户隐私安全的有效措施。构建专业的智慧政府数据安全防控体系以及全流程的数据安全治理平台,能够帮助人工智能对隐私侵权行为更加快速地做出反应。

3.2.2 完善算法嵌入智慧政府风险研判软硬件建设

政府自身硬件和软件的升级也是有效保护用户隐私安全的重要手段。政府传统设备大多已经不能够再继续支撑算法对政府数据的收集和运算,因此政府要对自身的硬件和软件设备做好升级工作。政府应该分析对隐私风险的威胁程度,对政府目前的软件和硬件系统进行评估,根据具体的技术应用环境对政府的软硬件进行升级。比如:设置更加高等级的防火墙、使用更加严格的用户隐私监控系统等先进的硬件和软件技术。

3.3 完善智慧政府隐私安全制度

算法嵌入智慧政府的建设中,用户的隐私安全离不开相关的法律法规和政府相关政策的保护,法律法规和相关政策是用户隐私安全的基本保障。

3.3.1 完善政府用户隐私安全法律法规

依据算法嵌入智慧政府的具体应用情况,不断完善用户隐私安全保护的法律法规和实施细则。隐私权是我国《民法典》规定的一项民事权利,“但是在‘大数据时代’,公民个人信息隐私已从传统法律界分‘隐私权’的‘私域’中‘溢出’,向‘公域’延伸,从而成为横跨‘公私两域’的‘复合性’权利”[18]。《个人信息保护法》作为一部集公法规范与私法规范为一体的法律,尽管其中的一些条文也承担了一定的保护隐私、规制算法的任务,但因其坚持“个人信息”与 “隐私”和“数据”的界分,而使其在保护数据隐私、规制算法方面具有一定局限性。

3.3.2 建立健全政府用户隐私安全保护制度

政府应该结合自身的情况建立一套合理的用户隐私安全保护制度。各级政府结合自身情况,建立完整的用户信息、用户数据保护制度以及相关的用户数据安全审查制度和数据分级分类制度,能够大大降低用户的隐私风险。除此之外,政府内部应该设置分工合理的安全组织机构。国际上,英国政府设置了内阁办公室、“信息专员总署”、英国披露与限制服务中心等机构来保护政府用户的隐私安全。我国政府应通过建立一套合理的安全制度,同时在相应的安全组织机构的协助下,有效保障算法嵌入智慧政府带来的隐私风险,满足智慧政府安全治理需求。

4 结语

本文从算法嵌入智慧政府的角度出发,从算法数据的收集、数据的存储、数据的利用、数据的销毁、标准规范、用户情绪等方面分析了用户隐私存在的风险,从技术、环境、政府、用户自身等方面分析了这些风险存在的原因,提出了相应的应对策略以提高政府对算法带来的隐私风险的应对能力。政府要通过相应的对策来降低这些风险的发生,维护新时期贯彻国家总体安全观背景下我国政府的信息安全。

猜你喜欢
智慧政府用户
知法犯法的政府副秘书长
关注用户
关注用户
关注用户
依靠政府,我们才能有所作为
政府手里有三种工具
如何获取一亿海外用户
有智慧的羊
智慧派
智慧决定成败