生成式人工智能发展现状及法律适用问题研究

李茜舒曼

1950年，阿兰图灵在英国杂志《思考》上发表《计算的机器和智能》一文，该文借助“模仿游戏”的概念提出“机器能否思考”的哲学问题；1956年“人工智能”术语首次提出，这一学科自此诞生。2016年谷歌旗下的“深度思考“（Deepmind）出品的阿尔法狗击败世界围棋冠军李世石后备受关注，麦肯锡报告声称“人工智能进入突破阶段”。2022年底，OpenAI发布的新一代人工智能系统ChatGPT成为现象级事件，而Open AI的CEO Sam Altman曾表述，AIGC的定位是做一个类似于新时代的搜索引擎，从内容输出质量和内容形态覆盖多维度。

一、人工智能生成物的主客体关系

欧盟委员会2021年4月21日颁布的《人工智能法案》中将人工智能系统（Artificial Intelligence system）界定为“基于机器的系统，旨在以不同程度的自主权运行，并且可以针对明确或隐含的目标生成例如预测、建议或决策等输出，影响物理或虚拟的环境。”

计算机技术兴起之后，各国即已对机器创作作品的法律属性进行过讨论，并在计算机仅作为协助创作的工具而存在这一点上达成共识，因此，对于依然不能脱离人类控制的人工智能的法律保护问题，可依照计算机衍生作品的逻辑解决，而这仅仅是针对于利用现有数据分析推断其结果的人工智能的处理方式，对于具有生成创作性质的人工智能则不适用。

在讨论人工智能创作生成的作品时，应根据创作过程中对人的依赖程度对其进行类型化判定，人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类的智能才能完成的复杂工作。在此分为两种情况，人工智能作为人类创作的辅助工具，其创作物可视为传统的计算机衍生作品；而人工智能创作无需人类事先定义规则，作为独立的创作主体，这时就出现了如何看待人类主体和智能机器主体之间关系的问题。

而这个价值判断在技术操作层面往往很难界定，在康德主客体统一认识论和“人是目的”的哲学命题视角看来， “在人与物的关系上，物只具有相对价值，因而永远只能作为手段，而人作为绝对价值则不但是主观目的，而且也是客观目的，因为其存在自身就是目的”。黑格尔在《逻辑学》中进一步论证了目的与手段的关系，他认为手段从属于目的，力求使手段体现并实现目的的价值，目的通过手段扬弃客观而达到主观、客观的统一。这说明人作为主体在与客体交往的过程中，主体利用与改造客体，将客体视为工具。馬克思则指出，“人是目的”的实现是一个漫长且曲折的历史进程，“创造这一切、拥有这一切并为这一切而斗争的，不是‘历史，而正是人，现实的、活生生的人，但历史并不是把人当做达成自己目的的工具来利用的某种特殊的人格，历史不过是追求着自己目的的人的活动而已。”

基于人类哲学视角的价值论断，人工智能生成物的主体地位只能是人类自身，而机器则始终只能作为辅助性工具的客体角色；随着人工智能的类人化创作，其根基则建构在人类智力成果的数据基数上，其创作高度不会超越人类的智力创作上线，但其在思考维度上能够做到更加广泛、全面。

二、生成式人工智能政策和法律文件分析

2023年5月23日国家互联网信息办公室审议通过了《生成式人工智能服务管理暂行办法》，并于2023年8月15日起实施，制定《办法》旨在促进生成式人工智能健康发展。习近平总书记在主持召开中共中央政治局会议中指示：“要重视通用人工智能发展，营造创新生态，重视防范风险。”

《生成式人工智能服务管理暂行办法》（以下简称“办法”）奠定了我国对生成式人工智能服务的基本态度及行政监管措施，共分为5章24条。其中，办法第二条规定了生成式人工智能服务法律适用的基本范围包括文本、图片、音频和视频等内容，其中不包括新闻出版、影视制作、文艺创作等活动；这一规定确定了生成式人工智能服务所规制的法律客体，即不在客体范围内的作品形式则不属于人工智能生成物；主体范围包括研发、应用生成式人工智能技术的行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等。其中，未向中国境内公众提供生成式人工智能服务的主体不在适用范围内。

办法第三条规定了分类分级的监管措施，根据人工智能技术的不同特定，采用不同的监管方式和标准进行分类分级监管。分类分级监管的原则是发展和安全并重、促进创新与依法治理相结合；即对于不同类型的人工智能服务采取不同的监管措施，鼓励创新发展的同时确保使用人工智能服务的安全合规；例如，在训练数据处理活动和数据标注方面，对于涉及个人隐私的数据，应严格控制其使用范围；根据办法第七条第三款规定，涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；第九条规定，涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务；第十一条规定，不得收集非必要个人信息及非法保存和提供能够识别使用者身份的输入信息和使用记录。

该办法第四条第一款、第四款对于生成式人工智能服务的内容限制包括政治敏感信息、社会公序良俗、个人合法权益等方面。这些内容在生成式人工智能算法设计时采取屏蔽关键词汇的方式，即不提供相关方面的内容反馈，而该限制在软件使用过程中是显而易见并极易被观察到的；办法第十四条规定，提供者发现违法内容的，应当及时采取停止生成和传输、消除等处置措施；发现从事违法活动的，应采取警示、限制功能、暂停或终止向其提供服务。但同时提供者对使用者的输入信息和使用记录应当依法履行保护义务。这就说明，国家政策在生成式人工智能安全度方面采取“收紧”措施，以监管的方式严格控制人工智能的发展不超出社会稳定和网络安全的合理框架。

该办法第四条第二款规定在算法设计、数据训练、生成模型的过程中避免出现“歧视”，这就是首先从采样数据入手，在训练数据中纳入不同背景和经历的人群，采用具有多样性和包容性的数据；同时，在第七条第四款中也提及要提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。其次，在算法设计中采用反偏见算法来检测和纠正人工智能系统中的偏见，这些算法可以识别和纠正训练数据中的非客观因素，同时在人工智能系统的设计开发过程中，研发专家进行涉入干预，以抽样方式纠正系统中的计算偏差，以保证数据的相对准确性。

该办法第四条第三款和第五款规定尊重知识产权、商业秘密，并提高生成式人工智能服务的透明度和可解释性，这些措施即可避免算法“黑箱”的存在，以便能了解系统的决策过程和结果。算法是由商家和技術公司设计的，其过程中的不可解释性就会形成算法黑箱，机器学习的思路和结论目前不完全具备可视性和可解释性，因此带来的一部分技术壁垒使人们无法破译和解释人工智能是如何作出决策和判断的，这与透明性原则相抵触，其科学性也就难以令人信服。

预防或避免算法歧视、不透明等弊端，最大限度减少算法“黑箱”可能造成的负面影响，建立与之配套的监管和治理措施，是推动生成式人工智能健康发展的技术关键，也是生成式人工智能未来发展方向的技术保障基础。

三、生成式人工智能发展现状及态势

生成式人工智能的狭义概念是利用AI自动生成内容的生产方式，但是生成式人工智能已经代表了AI技术发展的趋势，传统的人工智能偏向于分析已经存在的事物，而现在人工智能正在生成新的东西，即所谓人工智能从感知、理解世界已然到了生成“创造”世界的阶段。人类的某些创造性工作可能在不久的将来被生成性人工智能完全取代，同时，也有一些创造性工作会加速进入人机协同时代——人类与生成式人工智能技术共同创造更高效和优质的内容。生成式人工智能技术将会把创造和知识工作的边际成本降至零，打通不同学科知识的壁垒，形成跨学科联动，实现低成本甚至零成本的自动化内容生产，这一内容生产的范式转变将升级甚至重塑内容生产供给，进而给依赖于内容生产供给的行业和领域带来巨大影响，从而将引起整个应用生态体系的变化和调整。

当前生成式人工智能技术沉淀、产业生态已初步形成。根据人工智能生成画作，文字生成图片是目前人工智能绘画的主流生成方式。未来五年，10%至30%的图片内容将会由人工智能参与生成，这种方式将被广泛应用于网络游戏开发，同时极大限度降低资金投入成本。

互联网向下一代技术升级演进的方向是从平面走向立体，即迈向3D互联网时代，在虚拟空间建构仿真世界，而生成式人工智能将成为打造虚拟现实集成世界的基石。传统的3D制作需要大量的时间和人力成本，而生成3D内容需要更大信息量的数据样本支撑。例如一张高清平面图片大概需要400万像素点，而3D成像的实质差别在于其具有几何立体特征，每个平面如若用400万像素点表示，其本身蕴含的信息量就是数量级的差距。除此之外还有比如素材的光线、光源、材质等技术处理条件的制约，而借助人工智能生成高质量成像效果的3D成像也具有切实的可行性。英伟达研发的生成式人工智能模型GET3D可根据其所训练的建筑物、汽车、动物等平面图像类别即时合成3D几何体，并具有高保真的纹理和复杂的几何细节，该模型是使用从不同角度拍摄的约100万张3D几何体的平面图像训练而成的，优势在于以常用图形软件应用格式创建，用户可以轻松驾驭。从平面图像生成3D模型的应用普及，有望激发每个人创作3D成像的动力，所产生的内容数据可以加速游戏和虚拟现实的应用开发，同时还需要生成式人工智能技术更长时间的探索和积累。

基于此，生成式人工智能已基本重构了内容生成领域的应用生态，以新的模式辅助创作者持续产生、迭代和验证创意，以更低的成本、高效能的方式“创作”数字内容。

四、生成式人工智能的社会价值及知识产权风险

生成式人工智能的社会价值在于革新数字内容领域，并形成相关产业的应用生态结构，以更高效和低成本的技术替代基础性工作，解放人类大量重复性、机械化的智力劳作，更多地投入到具有创造性的领域。在生成式人工智能的智能程度测试过程中，其表现超越人类程序员和数据集创造者的创造力，这是否能够证明是其表达、思考、创造等自主意识的投射？答案必然是否定的，其根源在于其创造力是基于深度学习的“模仿式创新”，而非全然是从0到1的创造。

正是基于生成式人工智能的“模仿式创新”，其不具有真正意义上的创造性，而在应用实践中极易引发新型的知识产权侵权风险。比如2017年的一个人工智能生成物的案例，微软研发的生成式人工智能“小冰”通过训练学习了中华人民共和国成立前519位诗人的作品集合，生产了第一部人工智能诗集。面对“小冰”可能造成的侵权风险，微软以该训练数据均来自于公开无版权权益问题的数据，或经授权使用的数据为由，主张其生成内容不具有侵权风险。同时，其生成内容同样不具有通常意义上的独创性，不构成著作权法意义上的作品。

由此可见，生成式人工智能的著作权侵权风险不在于其生成内容是否具有独创性，而在于其原始素材或数据的取得是否征得著作权人的授权许可，其生成过程可能因为损害原著作权人所享有的修改权、保护作品完整权等人身权利，以及演绎权等其他权利而形成侵权风险；例如，2022年Podcast.ai仿生了已故的史蒂夫乔布斯，有部分观点认为，该行为侵犯了已故之人的隐私权及其继承人的代理权。

全球范围内，在现行著作权法框架下人工智能生成物均无法受到必要性保护，亦无法在相关行政部门进行著作权登记确权；但从保障、激励创作者权益的角度出发，具备人类作者充分干预的人工智能生成物可以参考著作权法中的演绎作品加以合理保护，而其创作过程应标注清晰的劳动投入比例，以此证明人类作者的干预程度。由此可见，人工智能生成物已不在现有著作权法可调整的框架范围之内，应采用《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律、行政法规进行规制。

综上所述，生成式人工智能即将对现有社会结构产生多维度变革，既有加速人类社会发展进化的方面，也有潜在风险和挑战的方面；面向人工智能时代，需要始终坚守“人是目的”，建立人机协作的新模态生产结构，形成基于正确价值导向的人机交互关系，构建人类智能和人工智能可持续发展的和谐社会。

（作者单位：中国版权保护中心）