封闭性准则视角下强人工智能体刑事主体地位之否定

柳若仪?郑茜尹

摘要：强人工智能体的程序运作逻辑严格遵循封闭性准则，只有在封闭性准则下其才能发挥人工智能为人类服务的效用。强人工智能体在本质属性层面与法律依据层面都不具备成为刑事责任主体的技术基础与理论基础，不具有成为刑事责任主体的必要性与可行性，人类对于强人工智能体的法律规制不能脱离于科学技术。若强人工智能体实施了犯罪行为，则应当在封闭性准则框架内进行归责。强人工智能体侵害法益的行为可分为技术失控与技术误用，应分别区分责任。

关键词：封闭性准则；强人工智能体；刑事责任主体

随着科技的爆炸式发展，我们由弱人工智能时代走向强人工智能时代的趋势不可逆转，这一趋势引发一系列的法律、哲学、伦理问题，其中不乏可能产生刑事犯罪问题。在刑法领域，探讨的焦点多集中于人工智能是否具有刑事主体地位、是否能够承担刑事责任以及是否能够被施以刑罚等问题。其中，代表性观点指出，智能机器人完全可能具有与人一样的辨认能力和控制能力，可以在自主意识和意志的支配下实施行为，因此完全可能成为行为主体而承担刑事责任[1]，可以将其实施的严重危害社会的行为认定为犯罪行为并给予刑罚处罚[2]。本文对该观点持怀疑态度，强人工智能体是否具有刑事主体地位承担刑事责任需要从其本质属性和法律依据层面进行判断，并结合刑罚本质与目的全面考察。

一、究本：何为强人工智能体之本

1956年麦卡赛、明斯基、罗切斯特和申农等年轻科学家在达特茅斯会议首次提出“人工智能”（Artificial Intelligence，简称AI）概念。人工智能概念由“人工的”（artificial）与“智能”（intelligence）两个概念组合而来，意为使机器像人一样去完成某项任务的软硬件技术[3]。人们对于人工智能的原始认知即为机器像人一样理性地思考和活动，但这并不意味着人工智能的智力水平与人类相一致，而是意味着人工智能拥有思考的自主性与独立性。但人工智能拥有思考的自主性与独立性是否就意味着人工智能将会拥有超越人类智力的风险呢？

无论是强人工智能体还是弱人工智能体，都依赖于人工智能技术作为支撑。因此都不免地呈现出“人工”的特征。早在20世纪60年代人类便开始了对于人工智能技术的研究，至今出现了三次浪潮，每次浪潮经历大约20年。纵观人工智能技术的发展历史，人工智能研究已形成了至少几千种不同的技术路线，其中最成功、影响最大的有两种，被称为人工智能的两种经典思维：“基于模型的暴力法”与“基于元模型的训练法”[4]。它们在人工智能技术的研究中发挥着关键作用，因而最值得关注。

首先，“基于模型的暴力法”是在构建精确模型的前提下，建立一個表达该模型的知识表示或状态空间，通过推理法或搜索法穷举所有选项，找出问题的一个解。“基于元模型的训练法”是在建立问题的元模型的前提下，参照元模型，收集训练数据并进行人工标注，选择一种合适的人工神经网络结构和一个监督学习算法，依据数据拟合原理，以带标注的数据，用上述监督学习算法训练上述人工智能体，减少人工智能技术之误差[5]。以上两种经典思维以构建模型为发展人工智能技术的基本前提，只有符合该模型所赋予的人工智能算法，其技术才能无误差地发生效用。再者，基于以上两种人工智能的经典思维，符合该模型的应用场景之内是人工智能技术的能力边界。只有存在一个可计算的和语义完全相同的模型，并且所有提问在该模型的可解范围内或是存在有限确定的元模型，并且代表性数据集也是有限确定的场景下，暴力法或训练法才能被准确运用得到有效解决，此即人工智能技术之封闭性准则[6]。例如，自动驾驶汽车发挥其自动驾驶功能的前提为存在封闭的驾驶环境，模拟该驾驶环境时即需要考虑应用需求、应用场合与应用条件三个因素，即该汽车只有在正确的交通道路行驶环境中遵守交通规则，并满足驾驶者的驾驶需求时，该自动驾驶汽车背后的人工智能技术才能准确运用。若不存在如以上所述之场景，就不能保证智能系统对这些提问的回答都是正确的，人工智能体便丧失了其智能性。因此，封闭性是一个场景中的应用能够被暴力法或训练法解决的理论上的必要条件。

有学者提出，随着深度学习、神经网络、蒙特卡洛树搜索等技术的不断发展，当技术突破下一个瓶颈时，出现具有辨别能力和控制能力、能够作出自主决策并实施相应行为、实现自身意志的人工智能产品，其实并非镜花水月[7]。该观点实则为主观臆断，缺乏科学依据。深度学习、神经网络、蒙特卡洛树搜索、云计算等技术为现代支撑人工智能体发展之技术，都可将其涵盖于以上两种经典思维之内，例如蒙卡特洛树搜索属于典型的“基于模型的暴力法”。以阿尔法狗零以100-0战胜阿尔法狗[8]为例，看似阿尔法狗零完全通过自学掌握了远超人类甚至其初代的围棋能力，实则其成功仅是其通过算法不断自我博弈，并根据自博数据用强化学习算法自动反推所有落子的胜率估计并作出落子决策[9]。其本质仍然为人工智能的经典思维，不具有自主决策并实施相应行为、实现自身意志的能力。

因此，人工智能技术本质仍旧为人工智能的设计者之算法设计，人工智能体仅是自主地完成了设计者设计的具体执行，人工智能技术不会自主地形成“价值判断”，更不会基于这种价值判断做出决策，强人工智能体也不例外，强人工智能体的特性即为封闭性、被动性、中立性。

二、定性：何定强人工智能体之性

刑法学界对强人工智能体系是否具有刑事主体地位展开了激烈的讨论，大致形成了“肯定论”与“否定论”两种学说。本文认为持否定论观点更具合理性。

第一，否定论否认强人工智能体的刑事主体地位，具有科学性。根据目前的科技发展水平，支撑人工智能体发展的技术完全满足封闭性准则的要求。基于封闭性准则，人工智能技术的存在目的即为人类提供帮助，若该目的落空，人工智能即不属于如今所谓“人工智能”之概念。第二，否定论否定赋予人工智能体刑罚之必要性，该观点具有哲学体系作为支撑。刑罚的本质是对犯罪的惩罚性亦即对犯罪的惩罚，刑罚应包含的惩治、安抚、预防、矫正等基本功能，才能实现现代刑法的基本任务。但人工智能不符合生命的构成要件，不能感受到人身与精神上的痛苦，对其实施刑罚与刑罚属性相背离。第三，在封闭性准则下，即便强人工智能体在其执行行为上具有很强的自主性，但难以跳脱出程序设计者的算法设计。人工智能体无价值判断之中立性，刑罚功能便难以实现。因此，现有的刑罚体系中所规定的刑罚对人工智能适用不具有可行性。

三、寻据：何存强人工智能体之据

前文从强人工智能体的本质属性与运行机制层面否定了其作为刑事主体的物质基础，但从法律法规层面若可以找到认定强人工智能体刑事主体地位的依据，认定其为刑事主体在一定程度上可能具有可行性。同时，只有确定强人工智能体在法律层面的性质，才能为法律更好地规制其犯罪行为提供法理与法律依据。

从法理层面来看，刑法之谦抑性要求凡是适用其他法律足以抑制某种违法行为、足以保护合法权益时，就不要将其规定为犯罪；凡是适用较轻的制裁方法足以抑制某种犯罪行为、足以保护合法权益时，就不要规定较重的制裁方法。刑法作为规制违法行为的最后一道屏障，只有在不得已时才能动用刑罚。谦抑性要求根据一定规则控制处罚范围，当刑罚无效果、可替代或太昂贵之时，该刑罚就不具有无可避免性了[10]。人工智能体区别于人类，对强人工智能体的犯罪行为通过删除数据、修改程序和永久销毁等契合强人工智能机器人特征的刑罚处罚[11]则可以用其他物理手段或部门法设定侵权责任之赔偿，在实际上具有可替代性，不必动用刑法进行规制。

从法规层面来看，在刑法领域，没有犯罪主体，就没有危害社会的行为，也就没有刑事责任可言[12]。由于某个具体的犯罪行为的引起可以归属于某个特定主体，犯罪主体是表明行为必须由什么人实施才能构成犯罪的要件。犯罪主体是指达到法定刑事责任年龄、具有刑事责任能力、实施危害行为的自然人与单位[13]。因此，从法律规定之文义出发，无论怎么解释，都难以将强人工智能体解释为符合以上条件的自然人或单位。

首先，强人工智能体不能当然成为自然人。人类作为人类社会的主体，其存在的本身就是社会的目的。社会中的一切被利用了的资源归根到底都是为了广义上的人类整体服务。而人工智能则不然，它之所以能够在社会中存在，都是为了能够对人类有所帮助。在自然人与强人工智能体存在目的的本质角度上，人工智能体与人类有本质差异，且自然人所享有的生命权、自由权等基本权利，强人工智能体也不具有、享有的生理基础，不能将人工智能体归于自然人之列。机器学习是强人工智能体自由意志之体现，机器学习能否实现，很大程度上依赖于人工智能技术。然而人工智能技术即人工智能的经典思维，在严格遵守封闭性准则的运行机制下，在其适用场景范围外，该经典思维的条件性使得人工智能体根本不具有自主决策并实施相应行为、实现自身意志的能力，故难以将其与类似于自然人的理性主体相等同。

其次，强人工智能体也难以成为单位。根据我国刑法的规定，单位是法律上人格化的组织，其人格化本质是因为单位运作的核心为其内部自然人组织的统一意志。人工智能体的运作机制为人工智能技术，人工智能技术在现在甚至将来很长一段时间内都是在固定模型内的算法推理演绎，因此不能将基于算法的演绎推理等同于单位的统一意志。因此，强人工智能体不具有符合刑法法理和法律层面上刑事责任主体之构成要件。

四、归责：何归强人工智能体之责

如何对人工智能带来的风险挑战进行归责？本文的观点为，在封闭性准则框架内，强人工智能体侵害法益的行为可以分为技术失控与技术误用，针对技术失控，则应当由强人工智能体的设计者承担相关刑事责任；针对技术误用，则结合个案情况，应当由强人工智能体的使用者或设计者承担相关刑事责任。以发展至完全自动化的自动驾驶汽车为例，假设自动驾驶汽车交通肇事并导致相关法益受到侵害，应当按照以下思路寻找归责主体：第一，明确事故原因；第二，确定归责范围。

首先，明确事故原因，即明确事故是由于自动驾驶汽车的技術失控还是技术误用所导致的。若为前者，则可以将该事故归因于自动驾驶汽车所依赖的人工智能技术；若为后者，则可以将该事故归因于自动驾驶汽车的驾驶者的过失行为。但往往可能存在前后者相结合的情况，则对于该事故需根据两者在事故中所占比例进行归责。其次，确定归责范围，即确定承担刑事责任的主体。在技术失控的情况下，自动驾驶汽车发生事故，原因之一就是驾驶程序模型出现问题，因此其设计者由于脱离了对技术风险的预测将其投放市场应对该事故承担刑事责任。同时，由于完全驾驶阶段的自动驾驶汽车本身已经能够代替人类驾驶者承担驾驶任务，原本的人类驾驶者就等同于汽车的乘客，驾驶者不需要对其承担法律责任，除非存在故意或者重大过失。所谓故意或重大过失，即为“技术误用”。例如，行为人将自动驾驶汽车作为工具意图杀害被害人，行为人的行为违背了自动驾驶汽车的正常使用逻辑，且在该使用模式下自动驾驶汽车由于违背了封闭性准则，成为行为人杀人的工具，行为人的行为构成故意杀人罪。又例如，由于行为人未定期检修自动驾驶汽车，导致他人法益受到损害，在该情况下，驾驶者的行为可能构成过失犯罪。但若驾驶者已尽客观注意义务却仍发生法益损害结果，其过失罪责任欠缺客观归责性而不成立。若行为人未尽到注意义务且自动驾驶汽车算法发生错误发生交通事故，该情况下则应寻找事故的本质原因，严格按照比例确定刑事责任。因此，可以按照前文的归责逻辑将归责主体进行明确界定，且该逻辑可以类推适用于一般的强人工智能体，以应对人工智能技术发展过程中引发的诸多问题，具有实体上的归责意义。

综上，强人工智能体不具备刑事主体资格的科技属性与法律依据，其不具有成为刑事责任主体的必要性与可行性。

五、结束语

强人工智能体之运行有其内在算法逻辑，严格遵循封闭性准则，从而发挥服务于人类的最大效用。人类对于强人工智能体的法律规制不能脱离于科学技术而主观臆测，否则会使得法律体系的稳定性受到冲击。在现有的封闭性理论的技术框架和法律框架内，强人工智能体不具备刑事主体资格的科技属性与法律依据，其不具有成为刑事责任主体的必要性与可行性。若强人工智能体实施了侵害法益的行为，则应当在封闭性准则框架内进行归责，分别针对技术失控与技术误用的情况，由强人工智能体的设计者或使用者承担刑事责任，严格明确责任边界。但是，我们不能停止法律对于强人工智能体法律主体地位的探索与研究，未来强人工智能体的发展若以一种超越封闭性准则的全新的技术样貌出现时，我们应依据新的技术条件判断风险，在法律框架下对强人工智能体的风险予以评估，并以法律加以规制。

作者单位：柳若仪 郑茜尹 福建师范大学

参  考  文  献

[1]刘宪权，胡荷佳. 论人工智能时代智能机器人的刑事责任能力[J]. 法学，2018（1）：40-47.

[2]刘宪权. 人工智能时代的刑事风险与刑法应对[J]. 法商研究，2018，35（1）：3-11.

[3]Andrew Arruda， “An Ethical Obligation to Use Artificial Intelligence？ An Examination of the Use of Artificial Intelligence in Law and the Model Rules of Professional Responsibility” 40 American Journal of Trial Advocacy 443（2016）.

[4]陳小平. 人工智能的历史进步、目标定位和思维演化[J]. 开放时代，2018（6）：31-48.

[5]陈小平.封闭性场景：人工智能的产业化路径[J].文化纵横，2020（01）：34-42.

[6]陈小平. 人工智能中的封闭性和强封闭性——现有成果的能力边界、应用条件和伦理风险[J]. 智能系统学报，2020，15（01）：114-120.

[7]刘宪权.人工智能时代的“内忧”“外患”与刑事责任[J]. 东方法学，2018（01）：134-142.

[8]参见https：//baijiahao.baidu.com/s？id=1581648107440205265&wfr=spider&for=pc，最后访问时间：2021-12-14.

[9]David Silver， Julian Schrittwieser， et. al. Mastering the game of Go without human knowledge. Nature， 2017-10-18.

[10]张明楷.论刑法的谦抑性[J].法商研究（中南政法学院学报），1995（04）.

[11]卢勤忠，何鑫. 强人工智能时代的刑事责任与刑罚理论[J]. 华南师范大学学报（社会科学版），2018（6）：116-124.

[12]刘宪权.刑法学（第五版）[M].上海市人民出版社，2020.

[13]陈兴良. 犯罪构成的体系性思考[J]. 法制与社会发展，2000（3）：46-66.