中国推出生成式人工智能新规草案

阅读 PDF

魏德华、金敏丹 撰写

ChatGPT的问世无疑使得在中国本就炙手可热的人工智能变得更加火热。公司和个人对此反应不一，其中不乏支持者、 担忧者，甚至还有反对者。而中国国家互联网信息办公室（“网信办”）则决定规范这一行业。 自去年12月制定《互联网信息服务深度合成管理规定》专门规范在互联网信息服务领域的人工智能使用后，网信办最近又发布了一部更加全面的《生成式人工智能服务管理办法（征求意见稿）》（“办法”），以征询公众意见。以下概括了该《办法》中值得注意的主要规定和重大发展。

适用范围

《办法》适用于研发、利用生成式人工智能产品面向中国境内公众提供服务。这意味着《办法》将具有之前人工智能相关规定所没有的域外效力。对于利用其人工智能产品向中国公众提供服务的外国公司，《办法》同样适用。这些公司在开发任何将被用于向中国公众提供服务的人工智能产品需要采取行动遵守《办法》的规定，或者屏蔽中国公众接触其人工智能产品，以避免受到《办法》的管辖。

《办法》将生成式人工智能定义为基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。同样地，该定义将之前人工智能相关规定不覆盖的基于模型和规则的人工智能也纳入其中，无疑扩大了适用范围。

主要义务

《办法》要求生成式人工智能产品或服务提供者履行以下主要义务：

• 确保人工智能生成内容合法、符合社会主义核心价值观，并且不含歧视或虚假信息。此前的规定只是要求人工智能生成内容不含虚假新闻信息。《办法》中的虚假信息将作如何解释尚未可知。
• 确保预训练数据、优化训练数据来源合法，并且真实、准确、客观和多样。
• 根据《互联网信息服务深度合成管理规定》对人工智能生成内容进行标识。
• 在生命周期内提供安全、稳健、持续的服务，保障用户正常使用。这是一项尚待澄清的新要求。
• 在利用人工智能产品向公众提供服务前，根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向网信办申报安全评估，并且在推出人工智能产品后10个工作日内，根据《互联网信息服务算法推荐管理规定》通过互联网信息服务算法备案系统履行备案手续 。《办法》将上述要求从只适用于公众用于表达舆论或动员社会的人工智能产品/服务，扩大适用于所有生成式人工智能产品/服务。
• 采取适当措施防范用户过度依赖或沉迷人工智能生产内容。这是一项新要求，而以往的规定只是要求提供者不得诱导未成年人沉迷网络。
• 指导用户科学认识和理性使用人工智能生成内容。这也是一项以往规定中不曾有的新要求。
• 建立用户投诉接收处理机制，处理用户关于个人信息保护的请求和关于人工智能生成违法内容的投诉。
• 在发现或知道任何违法内容后，停止生成并且在3个月内通过模型优化训练等方式防止再次生成。
• 作为内容生成者为第三方使用其人工智能产品或服务（包括可编程接口等方式）生产 的人工智能生成内容承担责任，并且作为个人信息处理者就涉及的个人信息承担法定责任并履行保护义务。这可能是上述义务中最令人担忧的一项。其背离了中国法下的一般原则，即网络服务提供者仅就其在收到声称受害者的一方的侵权通知后未及时采取适当措施或在知道或应当知道其服务被用于实施侵权而未采取必要措施的范围内承担责任。此外，要求人工智能产品/服务提供者就公众使用其人工智能/服务收集的或进行其它处理的个人信息履行信息处理者的义务也可能不妥当。上述规定可能需要进一步澄清或细化，以使得人工智能产品/服务提供者承担合理的义务和责任。

违法责任

违反《办法》的行为将根据中国《网络安全法》、《数据安全法》及《个人信息保护法》及其他有关法律法规进行处罚。若上述法律法规没有相关规定，网信办可给予违法者警告、通报批评，责令限期改正。拒不改正或情节严重的违法者可以被责令暂停或终止利用其人工智能产品提供服务，并被处以一万元至十万元的罚款。

鉴于《办法》中提议的生效日期中含有2023年，《办法》可能会很快定稿并正式发布。中国政府显然希望规范人工智能行业，但如何巧妙地平衡对其的规范和支持将是一项巨大的挑战。我们预计影响这一领域的立法将会迅速增加。的近律师行将会持续关注该领域的立法发展并向我们的客户提供更新法律资讯。如有任何疑问，请随时联系我行。

主要负责人

Edwarde Webre (魏德华)

资深顾问律师 | 商业事务

电邮 或致电 +852 2825 9730

金敏丹

顾问律师 | 商业事务

电邮 或致电 +86 21 6340 3588