中国拟给生成式人工智能立规

4月11日，中国国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》（下称《征求意见稿》）公开征求意见。《征求意见稿》共21条，从生成式人工智能服务商的准入，到算法设计、训练数据选择、模型与内容，以及用户实名和个人隐私、商业秘密等方面提出了相关要求。这意味着，当下爆火的生成式人工智能产业将迎来首份监管文件。

一

“这次《征求意见稿》出台速度非常快，可以说实现了与技术发展和应用态势的同步推动，反映了中国网络监管、数字监管日益成熟和敏捷高效的演进态势。”北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在接受记者采访时说。

生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。以ChatGPT为代表的生成式人工智能，正在激发包括微软、谷歌、META、百度、阿里巴巴等国内外科技巨头以及创业者的新一轮人工智能“軍备竞赛”。仅在《征求意见稿》发布的前一天，就有前搜狗CEO王小川的百川智能、商汤科技以及昆仑万维三家企业宣布杀入生成式人工智能大模型领域。

吴沈括提到，从《征求意见稿》中能够看到，关于国内对于生成式人工智能的监管思路有三个特点：一是充分利用现行法律法规所提供的制度、机制；二是强调风险防范、风险应对和风险管理的基本思路；三是突出了生态式、流程式的监管方式，特别表现在技术应用全生命周期的多层次监管。

《征求意见稿》体现了监管前置的思路。在准入资格方面，《征求意见稿》提出，利用生成式人工智能产品向公众提供服务前，应当按照相关规定向国家网信部门申报安全评估，并履行算法备案和变更、注销备案手续。

《征求意见稿》还要求，企业提供生成式人工智能产品或服务，应当遵守法律法规的要求，尊重社会公德、公序良俗；尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。而对于使用该服务的用户，需要提供真实身份信息。《征求意见稿》还提到，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

在责任划分方面，《征求意见稿》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

在保护个人隐私、商业机密等方面，《征求意见稿》中有多条提到相关要求。例如，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息，以及禁止非法获取、披露、利用个人信息和隐私、商业秘密。

同时，对于提供者，还要采取适当措施防范用户过分依赖或沉迷生成内容，保证服务的安全、稳健、持续运营，对生成的图片、视频等内容进行标识等。提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件、实施不正当的商业营销等，应当暂停或者终止服务。

二

上海君悦律师事务所的陈怡然律师对记者表示，《征求意见稿》的发布可以帮助司法实践更好地明确权责划分和责任主体。例如，管理办法针对生成式人工智能可以以及不能向用户提供的服务进行了划定，同时还明确了处罚金额，这将有助于企业为其提供的人工智能服务承担相应的法律责任。

例如，《征求意见稿》提到，提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。其中拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。

扩大到全球范围看，有关ChatGPT的首个禁令来自意大利。就在3月31日，意大利个人数据保护局宣布即日起暂时禁止使用ChatGPT。随后，欧盟国家开始跟进酝酿相关监管措施。据悉，由于创建ChatGPT的公司OpenAI没有在欧盟设立当地总部，这意味着欧盟任何成员国的数据保护机构都可以对其发起新的调查和执行禁令。据媒体报道，ChatGPT的技术应用已经开始激怒欧洲政府，其风险范围包括数据保护、错误信息、网络犯罪、欺诈和学校考试作弊等。

德国数据保护专员对媒体表示，德国可能会追随意大利的脚步，出于数据安全的考虑，禁用ChatGPT。法国数据隐私监管机构国家信息与自由委员会（CNIL）称，该机构收到两份关于ChatGPT的投诉后，已开始进行调查，并与意大利监管机构联系，以了解更多出台禁令的依据。比利时数据保护当局也表示，ChatGPT的潜在侵权行为“应在欧洲层面进行讨论”。

（摘自《第一财经日报》刘佳、高雅）