基于政企关系的人工智能时代公共治理难题

董金洁

【摘要】人工智能时代的到来，让政府和企业之间的互动关系变得更加复杂：纵向上体现为政府对企业的监管关系，横向上体现为政府和企业的合作關系。且这种网状关系与公共领域中新出现的三类问题，即由于人工智能技术发展不成熟造成的问题、由于人工智能技术冲击了传统的社会形态而使传统社会向新时代过渡的过程中出现的结构性问题、由于人工智能的不当利用产生的问题相互影响。

【关键词】政府治理;公共治理;治理能力;人工智能

一、背景和研究框架

1950年，阿兰·图灵以“一台机器是否能与人进行对话，而不被人发现其机器身份”的标准来测试机器是否智能，因此人工智能（Artificial Intelligence）可以被定义为“电子计算机模拟或实验的技能”。尤金·古斯特曼聊天机器人于2014年6月8日成功通过图灵测试;2016年3月15日，谷歌公司研发的阿尔法狗以4：1的成绩战胜围棋九段高手李世石。人工智能时代，将提供社会转型新动能，带来社会治理新挑战。2017年3月5日，中国《政府工作报告》中首次提到了“人工智能”，同年7月20日，国务院发布了《新一代人工智能发展规划》，表示要大力发展人工智能产业。2017年以来，在政府的支持和企业界的努力下，人工智能向交通、金融、安防、法务等领域渗透。根据《2018-2023年中国人工智能行业市场前瞻与投资战略规划分析报告》显示，人工职能产业规模也在不断扩大。在支持和鼓励人工智能产业发展的同时，政府也加强了与人工智能企业的合作。社会科学学界对时代背景下的政府治理进行了研究：梁芷铭强调了大数据时代国家治理主体变得更加多元;陈之常介绍了大数据运用对于社区公共服务水平的实际成效;王山认为大数据时代政府面临的挑战体现在治理机制和人才素养没有符合时代要求等。

现今的公共管理理论之下，都强调了不同的主体共同治理公共领域，人工智能产业的兴起，尤其改变了技术企业在公共治理领域的话语权，因此作者从个体的分析角度，聚焦于政府和技术企业在治理过程中二者的互动关系。

二、公共治理难题

（一）对政府决策的影响。1.对官僚决策本身的挑战。首先，人工智能造成了官僚决策时对技术的惰性依赖。研究人员高登·潘尼库克也认为：“过度依赖网络寻找答案使得人们无法知道其实自己拥有想出答案的能力”;另一名研究人员纳森尼耶·巴尔指出：“过度依赖从外部获得信息，而非自己去学习或解决的积极思考，这种发展具备破坏性”。人类必然会在社会行为和决策中越来越依赖机器的作用，从而逐渐失去自己的决策和判断能力。官僚过度依赖人工智能技术实际上会让官僚在决策时潜意识让机器替代了自我思考。其次，人工智能时代的官僚绩效标准反而让官僚的这种惰性产生难以被发现。人工智能时代电子政务水平建设是衡量官僚绩效的重要标准，官僚在进行公共治理时完全可以依赖人工智能进行决策，并且让官僚的治理行为由于这种被认可了的科学手段的运用而变得同样科学合理。此时官僚不再需要那么多的自我决策能力就能在年度测评中达到及格甚至优秀，官僚的注意力更加倾向于购买人工智能服务而非自我决策思维的锻炼。2.对官僚决策的认同性挑战。一方面，从提供决策方案的角度来说，人工智能辅助政府决策的过程，实际上是基于大量数据由机器根据一定的算法进行逻辑推演而得出结论的过程。政府运用人工智能做出的决策，实际上也只是在有限的结果，即经过系列算法给出的限定方案之下做出的选择，这似乎从前提上就限制了政府决策的自由意志;另一方面，如公民向政府的政务咨询，由人工智能来回应的话，是否具有权威性和合法性。如果说不能简单地将前者严峻化到给社会定义了一个新逻辑，即机器操纵人的话;后者至少体现了政府为了追求效率性而将与公民直接对话的机会让渡给了机器。2017年底进行的埃森哲调研的报告中显示，66%的受访者表示对政府使用人工智能的道德和责任缺乏信心。

（二）对政企合作关系的影响。纵向上来说，人工智能时代的社会形态近似于网络社会，呈现出“扁平化”的特征。人工智能时代要求政府和技术公司进行合作来共同治理公共领域事务，政府和技术公司在合作中各持有合作的筹码或者称之为谈判的依据，政府的筹码系权力资源，技术公司的筹码系技术资源。从供需角度看，人工智能作为市场上的产品或服务，其供给方是企业，其需求方是政府，随着政府的需求越来越大，人工智能的价格也越来越高，也意味着企业的筹码在不断加重，潜在改变了技术公司在特定领域中和政府的互动关系，冲击了以前基于权力关系下政府对企业的强制约关系。总的来说，一方面，政府作为市场的监管者，与企业的关系是监管者和被监管者的关系，且这种关系始终会被考虑到政府和企业的互动过程中;另一方面，由于公共领域的特殊性质以及政府在公共领域中承担的职责以及扮演的角色，企业利用谈判筹码来获得的好处始终会限制在一个幅度范围内：政治上，在政府放权的阈值之内;经济上，在政府财政预算的阈值之内。

（三）对治理对象的影响。1.人工智能对就业的影响。根据日本《经济新闻》和英国《金融时报》共同研究调查发现，在人类的820种职业、2069项业务中，约有34%可被机器人替代。根据牛津大学的统计，未来人工智能的发展会取代1000万个工作岗位。达成共识的是，被人工智能所取代的劳动者当中，受影响程度最重的是中间技能劳动者，而对高技能行业和低技能服务业的就业岗位有所增加。因此，这部分失业的中间技能人员的结果无非是以下四种：（1）失业;（2）胜任低技能服务业;（3）沉浸在被人工智能夺走工作的忧虑中继续原岗位;（4）经过培训实现高技能就业。由于被取代的劳动者实际上选择另外一种结果都意味在原岗位上的职位被“降级”，这四种选择都蕴含着潜在的心理上的不适。2.人工智能对收入和地位的影响。人工智能的出现能产生不平等。首先，人工智能技术促使生产过程中资本要素的份额提升，而使劳动者的工资收入减少。将人工智能技术运用到非常成熟的阶段时，即进入超人工智能阶段的时候，社会可能会更加分层，一类人属于无用阶层，对社会毫无贡献，这是否会造成有用阶层对于无用阶层的统治呢？其次，由于智慧产业以及人才的集聚，各地区的人工智能水平发展不一致，也会加大地区之间的不平等。3.人工智能产品的侵权与追责。人工智能产品具有一般产品的特征，即技术以及依托技术诞生的产品意志始终和使用者的意志保持一致，在不考虑负外部性的情况下，使用者的破坏性利用方式会使人工智能运用产生负面效果，该特性决定了人工智能可能产生的负面效果的大小。安装了微型广角镜头，配备高灵敏度的传感器和高容量的炸药，可以准确地瞄准目标并成功实施杀害攻击对象的杀手机器人就会给社会带来极大的安全风险。同时，人工智能产生的负面效果细微到难以被人察觉的入侵人类隐私上。由于人工智能一方面具有拟人格化的特性，有时会自动发出指令以及做出行为;另一方面，人工智能仍然是由人类所创造出来的。因此，这种拟人格化的由人类创造出来的行为体的行为后果承担、责任归属在我国法律上还未完全给出一个解决方案。因此，受到人工智能伤害的受害人寻求法律救济这条道路上是模糊的。

人工智能的发展不仅带来新的失业、不平等以及侵权等问题，也在此基础上诱发了犯罪与安全问题和一系列群体性事件。1.犯罪与安全。人工智能剝夺了中等技术劳动力的工作走向的第一个结果，即失业，与滋生犯罪有明显的实证关系。另外，研究证明收入差距使刑事案件数量明显增加，并集中在包括凶杀和伤害在内的暴力型案件以及盗窃财产型案件。另外，人工智能技术的运用本身便会进一步升级打击的力度和密度，前述提及的杀人机器人，若频繁出现在城市中，难免会遭到不法分子利用。相关统计显示，2016年以来发生的网络攻击事件中，与人工智能相关的事件占到了六成。且如果该机器人自动做出行为但对象误判时，将会给公共安全带来极为严重的危害。2.群体性事件。1970年，社会学家格尔提出了“相对剥夺感”的观念，认为当一个人在社会中的价值能力低于个人的价值期望时，人们就会产生失落、不满足感以及相对剥夺感。人工智能剥夺了中等技术劳动力的工作，导致原本可以胜任中等技术岗位的劳动者只能选择低技能要求的服务行业，这让该群体容易产生心理落差而带来不满。同时，时刻带着失业恐惧的劳动者自然也不会产生较高的生活满意度，而生活满意度与群体性事件的爆发实际上呈负相关关系。以上问题按照发生的原因可以分为三类：第一类是由于人工智能技术发展不成熟造成的问题，如文件损害、输入设备受损、安全系统漏洞、有瑕疵的编程等;第二类是由于人工智能技术冲击了传统的社会形态而使传统社会向新时代过渡的过程中难以避免地出现结构性问题，如失业问题;第三类问题是由于人工智能的不当利用产生的问题。

（四）对监管的影响。埃隆·马斯克提出：“我们应该十分小心地看待人工智能”。正如马斯克所说，我们应该加大对人工智能的监管。与传统公共领域的监管难题相比较，人工智能时代公共领域治理进行监管出现的新难题主要存在于以下三个限制：1.技术限制。人工智能由于技术门槛过高，因此政府对于掌握该项技术的技术公司的监管存在着技术方面的限制。2.经验限制。随着人工智能时代的到来，新技术的运用使特定的公共领域治理无经验可以参照。比如在无人驾驶领域，由于政府无相关治理经验，导致政府监管、法律规则都还是空白的。传统的监管方式，如产品许可制度、研究与开发监管、产品侵权责任，都不适用于管理自主智能机器所带来的风险。3.不易侦察的限制。开发隐秘的人工智能技术、零散分布的人工智能合作都难以被准确监管，这些都带来了风险预见的困难，从而加大了对人工智能进行事前监管的难度。

三、小结

人工智能时代挑战了政府和企业的合作形态，作为甲方的政府给了作为乙方的企业更多的利用人工智能技术在公共领域治理合同中的定价能力，作为监管者的政府由于技术限制、经验限制、不易侦察的限制变得更加不易于履行监管职能。政府对于人工技能的依赖，削弱了政府的治理能力，不利于通过转变职能解决公共领域治理中出现的第二类问题;政府的监管不力，则意味着政府对企业更加难以控制，而不利于解决公共领域治理中出现的第三类问题。且政府治理能力的相对减弱以及对技术公司的监管越发困难，使政府在和企业合作治理公共领域中不利于掌握谈判的筹码。同时随着企业技术能力的增强，虽然一定程度上解决了第一类问题，但由于公共领域治理并不属于企业的行为领域以及目标范畴，因此可能会存在着由于技术水平的提升而导致第二类问题和第三类问题更加严重。

【参考文献】

[1]〔英〕凯文·渥维克，李碧等译.机器的征途[M].呼和浩特：内蒙古人民出版社，1998.

[2]张成岗.人工智能时代：技术发展、风险挑战与秩序重构[J].南京社会科学，2018（05）：42-52.

[3]梁芷铭.大数据治理：国家治理能力现代化的应有之义[J].吉首大学学报（社会科学版），2015，36（02）：34-41.

[4]陈之常.应用大数据推进政府治理能力现代化——以北京市东城区为例[J].中国行政管理，2015（02）：38-42.

[5]王山.大数据时代中国政府治理能力建设与公共治理创新[J].求实，2017（01）：51-57.

[6]何哲.面向未来的公共管理体系：基于智能网络时代的探析[J].中国行政管理，2017（11）：100-106.

[7]董立人.人工智能发展与政府治理创新研究[J].天津行政学院学报，2018，20（03）：3-10.

[8]前瞻网.埃森哲：超半数公民愿意使用政府提供的人工智能服务[EB/OL]，https：//baijiahao.baidu.com/s？id=1595630304877517527&wfr=spider&for=pc，2018-03-22.

[9]凤凰网.一个悲伤的事实：34%的工作将会被人工智能替代[EB/OL].http：//news.ifeng.com/a/20170424/50986589_0.shtml，2017-04-24.

[10]曹静，周亚林.人工智能对经济的影响研究进展[J].经济学动态，2018（01）：103-115.

[11]AUTOR D H，SALOMONS A.Robocalypse now： Does Productivity Growth Threaten Employment？[R].ECB Sintra Forum on Central Banking Papers，2017.

[12]吴汉东.人工智能时代必须关注的社会风险及四大问题[EB/OL].http：//www.sohu.com/a/212128225_455313，2017-12-22.

[13]刘小璇，张虎.论人工智能的侵权责任[J].南京社会科学，2018（09）：105-110+149.

[14]章元，刘时菁，刘亮.城乡收入差距、民工失业与中国犯罪率的上升[J].经济研究，2011，46（02）：59-72.

[15]颜翠芳."城市贵族"的陨落：失业与犯罪[J].学术界， 2003（06）：217-221.

[16]王君宝.人工智能急需网络安全"背书".经济参考报， 2016-9-30.

[17]周晓咪.群体性事件中社会心理分析研究综述[J].改革与开放，2018（02）：84-85+89.

[18]李保臣，李德江.生活满意感、政府满意度与群体性事件的关系探讨[J].中南民族大学学报（人文社会科学版），2013，33 （02）：90-95.

[19]马修U.谢勒，曹建峰，李金磊.监管人工智能系统：风险、挑战、能力和策略[J].信息安全与通信保密，2017（03）：45-71.