生成式人工智能服务监管热点——“双备案”实务新观察

随着人工智能技术的快速迭代和应用的广泛落地，监管层面对于人工智能服务的关注度持续提升，相关监管流程及要求也在市场发展中日趋完善。企业在部署人工智能服务的过程中，如何规划并落实相应的监管要求，已成为重要的合规议题。

在人工智能服务监管框架下，备受市场关注的生成式人工智能服务备案要求，正逐步成为新兴的合规热点。我们结合近期项目实务经验，梳理了生成式人工智能服务备案过程中的若干关键要点，以期为部署与应用生成式人工智能服务的企业提供合规落地的实务指引。

一、生成式人工智能服务的实务监管框架

在现行的生成式人工智能监管实务中，已经逐步形成了算法备案+大模型备案/登记的“双备案”监管框架。

1. 法规政策

现行人工智能相关法规下，对于生成式人工智能服务适用的监管程序，仅明确规定算法备案要求：

• 根据《互联网信息服务算法推荐管理规定》：

  
  

  具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

• 根据《生成式人工智能服务管理暂行办法》：

  
  

  提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

  
  

在监管实务中，各地方网信办通过发布公告等方式，进一步明确了生成式人工智能服务需要履行的大模型备案/登记要求。

2. 双备案监管实务

根据上述法规政策及我们对监管实务的观察，我们对于目前生成式人工智能服务的“双备案”监管框架梳理如下：

实务中，提供生成式人工智能服务，需要结合服务的具体情况及实现方式，评估所适用的算法备案以及大模型备案/登记要求。

二、算法备案实务要点

算法备案通过算法备案系统线上提交，备案周期通常为2-3个月。

算法备案在流程上主要分为主体信息认证阶段和算法备案信息登记阶段：

• 主体信息认证阶段的核心材料为《落实算法安全主体责任基本情况》，要求服务提供者建立完善的算法安全机构设置和制度建设，以落实算法安全主体责任。

  
  

• 算法备案信息登记阶段的核心材料为《算法安全自评估报告》，通常需要覆盖算法情况介绍（包括调用的算法模型备案情况）、服务情况介绍、关于算法使用及生成内容的详细风险研判、以及详细的风险防控情况。

实务关注点：

• 现行法规要求服务提供者在提供服务之日起十个工作日内履行算法备案。但是，实践中应用商店及小程序平台等服务平台可能要求服务提供者在服务上线前提供算法备案号。因此，实践中通常建议企业在服务上线前完成算法备案。

  
  

• 调用第三方大模型提供生成式人工服务的，在准备材料过程中需要合作方提供必要支持。建议企业通过协议约定及商务沟通等方式，提前获取合作方对于企业履行相关监管手续的支持和协助。

  
  

• 企业需要在算法备案阶段同步准备和设置用户服务条款及实名注册机制。

三、大模型备案/登记实务要点

大模型备案通过属地省级网信办线下提交，备案周期通常为6-8个月。

大模型备案的材料复杂度较高、技术性较强，核心材料通常包括：

• 《生成式人工智能（大语言模型）上线备案表》，通常需要覆盖服务的注册认证方式、服务协议需要涵盖的具体内容、非法内容拦截措施、以及安全评估情况描述。

  
  

• 《生成式人工智能（大语言模型）安全评估报告》，重点关注模型的内容管控及安全措施，通常需要通过建立测试题库等方式，对生成内容进行不同维度的安全评估。各地方网信办可能对于测试题库的范围、数量、合格率等方面提出具体要求。企业还需要同步向网信办提交评估测试题以及测试通道。

  
  

• 其他核心材料包括模型服务协议（用户协议及隐私政策）、语料标注规则、拦截关键词列表、关于芯片供应的国产化替代方案等材料。

大模型登记要求总体上与大模型备案类似，核心区别在于审批层级不同。大模型备案需经过省级网信办及中央网信办的双重审核，而大模型登记目前仅需要通过属地网信办审核，在流程和具体材料要求上相对精简。

实务关注点：

• 网信办实务中重点关注备案/登记材料的真实性和独立性，应按照企业及服务的实际情况准备材料，避免机械套用。

  
  

• 实践中大模型备案/登记的材料要求及流程由各地方网信办根据中央网信办的政策具体掌握。企业需持续关注网信办对于大模型备案/登记要求的口径变化。

  
  

• 在大模型备案/登记完成后，属地网信办和中央网信办可能会持续对服务进行抽检测试，企业需要做好与网信办长期沟通的准备。

三、小结

现阶段，人工智能的监管仍处于持续演进与完善的过程中。随着AI智能体等新技术与应用的快速迭代，我们预计，监管对生成式人工智能服务的关注度及监管力度将不断增强。

我们提示企业，在部署和应用生成式人工智能服务的过程中，应尽早对服务是否适用相关监管程序及具体的合规要求进行法律评估，在相关服务的设计与推进阶段，同步规划、落实相应的监管要求，确保服务的合规落地。同时，建议企业持续关注人工智能监管政策及实务动态，确保服务始终在合规基准下健康发展，实现长效合规与业务成长的协同推进。

声 明

《君合法律评论》所刊登的文章仅代表作者本人观点，不得视为君合律师事务所或其律师出具的正式法律意见或建议。如需转载或引用该等文章的任何内容，请注明出处。未经本所书面同意，不得转载或使用该等文章中包含的任何图片或影像。如您有意就相关议题进一步交流或探讨，欢迎与本所联系。