欧盟《人工智能法案》（AI Act）相关监管要求概览

随着人工智能（Artificial Intelligence，下称“AI”）技术快速发展及广泛应用，全球主要司法管辖区相继着手建立AI监管框架，欧盟于此进程中走在前列。欧盟《人工智能法案》（Regulation (EU) 2024/1689，下称“AI法案”）已于2024年8月1日起分阶段生效实施，是全球首部综合性、具法律约束力的人工智能监管立法，标志着AI监管正式从原则性指引及软性规范的时代，迈入强制性立法的新阶段。AI法案将AI系统根据不同风险等级进行分类，并列明AI系统价值链中扮演不同角色的业务主体所须遵守的合规要求。此外，AI法案也就通用人工智能模型（GAPI）提出专门的监管框架。

与香港现阶段以《人工智能道德框架》、《香港生成式人工智能技术及应用指引》等多套非强制性参考指引为主的监管模式不同，AI法案采取以风险为核心的强制性立法框架，按AI系统对健康、安全及基本权利可能造成的风险高低，划分监管层级并设定相应合规义务。

值得注意的是，AI法案具有域外适用效力，即其管辖效力可延伸至欧盟境外的主体与行为。即使企业在欧盟境内并无任何注册实体或业务据点，只要其AI产品或服务被投放于欧盟市场，或其AI系统的产出结果在欧盟境内被实际使用，即会落入AI法案的监管范围。因此，有意拓展欧盟市场的AI技术开发者、服务提供商及企业用户，无论其设立于何地，均应及早了解并评估AI法案的合规要求。

本文旨在系统介绍AI法案的核心监管框架及主要合规义务。

一、AI法案下的受监管主体

AI法案在监管设计上并不以单一标准笼统监管所有AI相关业务主体，而是先界定AI产业价值链上不同主体各自所扮演的角色，再按角色属性分别施加相应的合规义务。这一立法逻辑意味着同一企业在不同情境下可能同时扮演多个角色，须分别满足不同的合规要求。AI法案将上述主体统称为“营运者”（Operator），包括（但不限于）以下几类：

A. 提供者（Provider）

根据AI法案第3条，提供者是指开发AI系统或通用人工智能模型，或委托他人开发后，以自身名义或商标将该AI系统或模型投放欧盟市场，或将其投入使用的自然人、法人、公共机构或其他主体，无论其是否以营利为目的。在实践中，AI基础设施与大模型开发商（如OpenAI、Anthropic、Google）均属典型的提供者；自主开发并部署专有AI系统的企业，亦可能同时构成提供者。

提供者在AI法案下所承担的义务最为全面，尤其是在高风险AI系统领域，提供者须在系统投放市场前完成一整套涵盖风险管理、数据治理、技术文档、合格评定等环节的合规工作。这一义务体系的设计逻辑在于AI系统的技术特性与潜在风险在很大程度上由提供者在设计、训练及开发阶段所作出的决策所决定，因此由提供者承担主要合规责任最有助于从源头管控AI系统的风险。

B. 部署者（Deployer）

根据AI法案第3条，部署者是指在职业活动（professional activity）中，以自身职权使用AI系统的自然人、法人、公共机构或其他主体，但纯属个人非职业用途者(personal non-professional activity) 除外。简言之，在商业、专业或机构场景中接入并使用第三方AI系统的企业，一般均构成部署者。

AI法案条文本身并未就“职业活动”作出清晰的定义。实践上，当相关使用不属于“个人非职业用途”，即落入“职业活动”的范畴。判断的关键在于使用场景是否具有组织性或职业目的，而非使用者的个人身份。例如，公共机构使用AI审批行政申请属职业活动，相关使用者即为部署者。此外，企业不得以“仍在内部测试阶段”或“非正式使用”为由，主张相关使用不构成职业活动。只要AI系统被用于真实的工作流程或业务决策，即便仍处于试点或测试阶段，仍可能触发部署者身份，因而触发相关合规义务。

C. 角色转换与多重角色

AI法案第25条设有“角色转换”机制，明确规定在以下情形下，部署者将被视为提供者，并须承担提供者的全部合规义务，包括：

1. 部署者以自身名义或商标对外提供某高风险AI系统；

2. 部署者对该AI系统作出实质性修改；

3. 部署者将原本并非属于高风险类别的AI系统（包括通用人工智能模型）改用于高风险用途。

这一机制的实践意义在于，企业在采购及部署第三方AI系统时，若计划以自有品牌对外提供，或在基础模型上进行二次开发，须预先评估是否将因此触发提供者身份，从而承担更为繁重的合规责任。

除提供者与部署者外，“营运者”还包括分销商（Distributor）、进口商（Importer）及授权代表（Authorised Representative）等。其中，在欧盟境外设立但其AI系统在欧盟市场投放的提供者，须在欧盟境内指定一名授权代表，负责与欧盟主管机构之间的沟通及合规事宜。

二、适用范围及域外效力

AI法案第2条明确其适用范围的关键判断标准并非企业的注册地或主营业地，而是AI系统是否在欧盟市场被投放或使用，以及其产出结果是否在欧盟境内产生实际影响。具体而言，以下三类主体均会落入AI法案的管辖范围：其一，在欧盟市场投放AI系统/通用人工智能模型或将AI系统/通用人工智能模型投入使用的提供者，无论其设立地点为何；其二，设立于或位于欧盟境内的部署者；其三，提供者及部署者均不在欧盟境内，但其AI系统的输出结果被欧盟用户使用。

三、风险分级监管体系

AI法案的核心监管逻辑，是按照AI系统对健康、安全及基本权利可能造成的风险程度，将AI系统划分为四个层级，并按层级施加差异化的合规义务。风险级别越高，合规义务越为严格，合规成本亦越高。这一分级监管方法的制度意义在于不对所有AI系统一刀切地施以相同监管标准，而是将有限的监管资源集中于最可能对社会及个人造成实质性危害的应用场景，同时为低风险AI应用保留宽松的监管空间，以免过度限制创新。四个风险层级由高至低分别为“不可接受的风险”、“高风险”、“有限风险”及“最低风险”，简述如下：

就高风险类别的认定而言，AI法案设有两条独立的判断路径。第一条路径针对的是被嵌入特定受监管产品（如医疗器械、航空设备、汽车）中用作安全部件的AI系统；第二条路径则针对的是被用于特定高影响力应用场景的AI系统，包括但不限于：生物特征识别与分类、关键基础设施管理、教育与职业培训评估、就业相关决策（如招聘筛选、绩效评估）、基本公共服务及私人服务的获取（如信贷评估）、执法辅助决策，以及移民与边境管制等。值得留意的是，是否落入高风险类别，取决于AI系统的实际使用场景，而非其技术架构本身。因此，同一个AI模型，在不同的应用场景下，可能同时存在高风险及低风险的用途，须分别处理。

AI法案第6(3)条同时为高风险分类设有自我评估的例外机制。若提供者能够证明，其AI系统即便被用于特定高影响力应用场景，亦并不会对健康、安全或基本权利构成重大风险（例如该系统仅执行狭窄的程序性任务），则提供者可自行评估该系统不属于高风险类别。惟须注意，相关评估结果及依据仍须在欧盟相关数据库中登记备案，并不构成完全的监管豁免。

就“有限风险”类别而言，AI法案第50条设立的透明度义务将于2026年8月2日生效。凡以聊天机器人或其他直接与用户交互的AI系统提供服务的企业，均须在用户界面上明确告知用户其正在与AI系统（而非真人）进行交互；凡生成或操控图像、音频或视频内容（包括深度伪造 (Deepfake)）的AI系统，亦须确保其输出内容以机器可读格式加注标识。这一义务覆盖面广，即使企业并不经营高风险AI业务，只要其产品涉及与用户直接交互的AI功能，亦须符合前述规定。

四、高风险AI系统下的核心义务

高风险AI系统是AI法案监管框架中规范最为细密、义务最为繁重的领域，亦是业界最为关注的合规范畴。AI法案就高风险AI系统的提供者与部署者设定了各自独立、但相互衔接的义务体系。提供者的义务侧重于AI系统设计与上线前的合规建构，而部署者的义务则侧重于系统上线后的运营管理。二者义务分工明确，但并非相互替代：部署者不能以“系统由提供者开发”为由卸责；提供者亦不能以“系统由部署者使用”为由，免除自身在系统设计阶段的合规责任。

A. 提供者的义务

根据AI法案第16条及其引用的第9条至第15条，高风险AI系统的提供者须在系统投放欧盟市场前，建立并执行一套全面的合规管理体系，并在系统投放后持续履行相关义务，包括：

• 建立并维持贯穿AI系统生命周期的风险管理体系（第9条）；

• 确保训练、验证及测试数据符合质量与数据治理标准（第10条）；

• 编制并持续更新技术文档，证明系统符合相关要求（第11条）；

• 设计系统使其能自动记录运行日志，以确保可追溯性（第12条）；

• 确保系统具备足够透明度，并向部署者提供使用说明（第13条）；

• 设计并内置有效的人为监督机制（第14条）；及

• 确保AI系统达到适当的准确性、稳健性及网络安全水平（第15条）。

除上述技术与文档要求外，提供者还须建立质量管理体系，完成合格评定程序，即在系统投放市场前，由提供者自行核查或委托第三方认证机构核查其是否符合AI法案要求的正式程序，签发欧盟符合性声明并在产品上加贴CE标识（CE标识是欧盟市场上表明产品符合相关安全及合规标准的统一标志，常见于家电、医疗设备等各类消费及工业产品）。此外，提供者还须将高风险AI系统在欧盟相关数据库中进行登记备案，并在系统投放市场后设立市场后监督机制，持续收集系统运行数据，在发现严重事故或系统性缺陷时及时向主管机构报告并采取必要的纠正措施。

B. 部署者的义务

根据AI法案第26条，高风险AI系统的部署者须承担涵盖系统使用全过程的操作层面义务。在使用合规层面，部署者须采取适当的技术及组织措施，确保严格按照提供者所提供的使用说明使用AI系统，不得将系统用于超出其预定用途的场景；部署者亦须指派具备相应能力与职权的自然人，专责对AI系统的运行实施人为监督，确保系统在特定情况下可被人工干预或停止。

在数据管理层面，在部署者控制输入数据的情况下，须确保输入数据与系统的预定用途相关且具有足够的代表性，以避免因输入数据质量低下而导致系统产生错误或偏差性输出结果。在持续监控层面，部署者须在系统投入使用后对其运行状况实施持续监控；如发现重大风险迹象或严重事故，须立即通知提供者及相关主管机构，并在情况严重时暂停或终止系统的使用。AI法案要求部署者将系统自动生成的运行日志至少保存六个月，以备事后审查之需。

在知情与告知层面，部署者须在工作场所部署高风险AI系统前，事先告知受影响的员工及其代表；对于受AI辅助决策直接影响的自然人（如被AI系统筛选的求职者，或被AI系统评估信贷资质的申请人），亦须告知其正受高风险AI系统的影响，以保障其知情权及寻求救济的权利。AI法案第27条另行规定，若部署者为公共机构，或提供受AI系统辅助的公共服务，或将AI系统用于信贷评估或人寿／健康保险风险评估，须在使用前进行基本权利影响评估（Fundamental Rights Impact Assessment，下称“FRIA”）。该评估旨在系统部署前系统性地识别AI系统对平等权、隐私权、不受歧视权等基本权利可能造成的不利影响，并据此制定相应的风险缓释措施。对于上述类型的部署者而言，FRIA是启动高风险AI系统使用的前置性合规要求，不可省略。

C. AI素养义务（第4条）

AI法案第4条规定的AI素养（AI Literacy）义务于2025年2月2日已率先生效，且适用于提供者及部署者双方。该义务要求企业确保涉及AI系统操作、监督及管理的相关人员，具备与其职责相称的AI知识与理解能力，使其能够有效识别AI系统的局限、偏差及潜在风险，并作出负责任的操作判断。AI素养义务并不要求所有员工达到同等程度的AI专业知识，而是要求企业根据不同岗位的职责，提供相应水平的培训与知识支援。对企业而言，这意味着AI合规不仅是技术部门的任务，亦须延伸至业务及管理层面的能力建设。

五、通用人工智能模型（GPAI）的特别规定

上文第三节及第四节所讨论的风险分级体系及高风险义务，针对的是面向特定用途设计的“AI系统”，例如专门用于招聘筛选的简历评分系统等。然而，近年来以ChatGPT、Claude、Gemini为代表的通用人工智能模型（General-Purpose AI Models，下称“GPAI模型”）的崛起，带来了一类全新的监管挑战：这类模型并非针对某一特定用途而设计，而是凭借其广泛的能力，被数以千计的下游开发者整合入千变万化的应用场景之中。

鉴于其特殊性，AI法案在第五章（第51条至第56条）为GPAI模型建立了一套独立的监管框架，与AI系统的风险分级制度并行运作。相关义务自2025年8月2日起已经生效，无论GPAI模型以何种形式投放欧盟市场，均适用以下规定。

A. 一般性义务（适用于所有GPAI模型提供者）

所有在欧盟市场投放GPAI模型的提供者，均须履行以下基础性义务：

• 编制并维持涵盖模型架构、训练流程及性能特征的技术文档；

• 向将该模型整合至自身AI系统的下游提供者提供相应文档；

• 按照欧盟AI办公室发布的模板，公开模型训练数据内容的摘要；

• 遵守欧盟版权法律，包括尊重欧盟《数字化单一市场版权指令》（DSM Directive）下版权持有人的文本及数据挖掘“选择退出”（opt-out）机制，不得在版权持有人明确选择退出的情况下，将其作品用于模型训练。

以免费及开源许可方式发布的GPAI模型，可在特定条件下获得部分豁免，豁免后仅须遵守版权合规及训练数据摘要公开的相关要求。惟须注意，若该模型被认定具有系统性风险（详见下文），则不论其是否开源，均不适用上述豁免，须遵守系统性风险模型项下的额外义务。

B. 系统性风险模型的额外义务

AI法案就特别大型、能力极为强大的GPAI模型设有额外一层监管。具体而言，训练所耗用的累计算力超过10²⁵ FLOPs（FLOPs即浮点运算次数，是衡量模型训练所需算力的通用量化指标）的GPAI模型，将被推定具有高影响力能力并构成“系统性风险”，意指该类模型若被滥用或出现系统性故障，有可能在欧盟乃至全球范围内产生广泛的连锁影响。

构成系统性风险的GPAI模型提供者，须在上述一般性义务的基础上，额外履行以下要求：在模型发布前须进行全面的模型评估及对抗性测试，即由专门团队模拟恶意行为者，系统性地寻找模型漏洞、有害输出倾向及可能被滥用途径的压力测试。在发现重大安全事故后，须在72小时内向欧盟AI办公室提交书面报告，及须持续评估并缓释模型可能产生的系统性风险等。上述额外义务的设计逻辑在于系统性风险模型的潜在影响规模远超个别AI系统，对其施以更高的合规门槛，有助于在风险演变为不可控事态前提前介入。

C. 自愿性行为准则

为协助业界遵守GPAI模型的相关义务，欧盟AI办公室于2025年7月10日正式发布了《通用人工智能行为准则》（GPAI Code of Practice）。该准则属自愿性质，内容分为三个章节，分别涵盖透明度、版权合规以及安全与保安，并为各项义务提供了具体的操作指引。提供者签署并承诺遵守该行为准则后，即可作为其符合AI法案GPAI相关义务的证明方式，具有一定的合规“安全港”效果。目前，OpenAI、Google、Microsoft、Amazon及Anthropic等主流GPAI模型厂商均已签署该准则，显示行业整体倾向于通过这一自愿机制展示其合规意愿。

六、相关罚则

在罚则方面，AI法案第99条设有分级的行政罚款机制，罚款金额依违规性质而有所不同：

• 违反AI法案第5条禁止性规定（不可接受风险类别的AI应用），最高可处3,500万欧元或全球年营业额7%（以金额较高者为准）的罚款；

• 违反高风险AI系统相关义务，最高可处1,500万欧元或全球年营业额3%（以金额较高者为准）的罚款；

• 向监管机构提供不正确、不完整或具误导性的信息，最高可处750万欧元或全球年营业额1%（以金额较高者为准）的罚款。

上述罚款金额均为上限，监管机构在实际执法中须考虑违规行为的性质与严重程度、涉事企业的规模（AI法案特别规定对中小企业及初创企业可酌情降低处罚）、违规持续时间以及企业事后的纠正态度等因素。然而，鉴于上限金额之高，AI法案的威慑效果不容忽视。值得注意的是，AI法案自2024年8月1日生效后采用分阶段实施方式：禁止性规定已于2025年2月2日适用，GPAI模型义务已于2025年8月2日适用，高风险AI系统的多数合规义务则将于其后数年内陆续生效。具体生效时间表仍可能因欧盟后续简化立法（如2026年正在推进中的《数字简化法案》）而有所调整，企业应持续关注相关进展，并以此为据制定自身的合规路线图。

七、结语

欧盟AI法案作为全球首部综合性人工智能监管立法，其深远意义不仅在于为欧盟境内的AI应用设定了具法律约束力的合规标准，更在于通过其广泛的域外适用效力，将监管触角延伸至全球任何以欧盟为目标市场的AI企业。

在合规应对策略上，建议企业首先厘清自身在AI法案下的角色定位应为提供者、部署者，抑或两者兼具，因为不同角色在AI法案中对应着截然不同的合规义务清单。在此基础上，企业须评估其开发或使用的AI系统是否落入高风险类别或不可接受风险类别，并规划相应的合规路线。

长远而言，无论企业当前是否直接面向欧盟市场，AI法案所确立的风险分级监管理念、对透明度与可解释性的要求，以及对人为监督的制度性强调，均代表着全球AI治理的主流方向。随着全球各主要司法管辖区相继出台AI监管立法，建立健全的内部AI治理架构、持续开展风险评估与合规审计，预计将逐渐成为AI发展的基本行业标准。

君合虚拟资产与金融科技团队

我们持续密切关注世界各地对区块链、虚拟资产监管的发展动向，在相关法律领域具有丰富的知识和经验。我们已经为众多机构客户及金融科技企业在香港及其他国家地区发展虚拟资产及相关业务提供法律意见。

我们曾就虚拟资产相关活动的合规要求发布以下文章，欢迎关注：

(1) 有关香港支付公司相关牌照简介， 可参阅我们早前发布的「香港支付公司相关牌照简介」一文。

(2) 有关香港人工智能监管情况，可参阅我们之前发布的「香港人工智能(AI)相关监管要求概览」一文。

(3) 有关美国数字资产立法最新进展，可参阅我们早前发布的「美国数字资产立法最新进展：参议院银行委员会正式通过 《CLARITY法案》」一文。

(4) 有关证监会开放代币化产品二级市场交易，可参阅我们早前发布的「香港RWA代币化新时代：证监会开放代币化产品二级市场交易」一文。

(5) 有关黄金RWA代币化,可参阅我们早前发布的「2026香港Web3新机遇 - 黄金RWA代币化」一文。

(6) 有关中国大陆监管部门针对虚拟货币及境内资产境外代币化项目的最新监管动向，可参阅我们早前发布的「虚拟货币及RWA新规出台 - 为境内优质资产境外代币化打开大门」一文。

(7) 有关香港财库局及证监会发布的虚拟资产交易服务咨询总结的解读，可参阅我们早前发布的「香港将针对虚拟资产交易、就虚拟资产提供意见、虚拟资产管理设立新的牌照制度」一文。

(8) 有关香港财库局及证监会发布的虚拟资产托管服务咨询文件的解读，可参阅我们早前发布的「香港将针对虚拟资产托管服务建立监管制度」一文。

(9) 有关香港证监会有关虚拟资产交易平台提供质押服务的通函解读，可参阅我们早前发布的「香港开放虚拟资产质押（Staking）（上篇）：深度解析香港证监会《有关虚拟资产交易平台提供质押服务的通函》」及「香港开放虚拟资产质押（Staking）（下篇）：一文读懂香港证监会《有关中介人虚拟资产相关活动的补充联合通函》」。

(10) 有关金管局为稳定币发行人提供监管指引而推出的《有关受规管稳定币活动的建议反洗钱及反恐怖分子资金筹集（AML/CFT） 要求的咨询文件》及《监管持牌稳定币发行人的指引草案》咨询文件，可分别参阅我们早前发布的「香港稳定币时代正式启航 —— 上篇：《稳定币条例草案》通过开启新篇章」及「香港稳定币时代正式启航 —— 下篇： 金管局指引咨询解密 - 发行人及分销商需知要点」。

(11) 有关香港金管局就在香港实施巴塞尔银行监管委员会对于银行持有加密资产的风险敞口相关的监管标准发布咨询文件，可参阅我们早前发布的「香港将实施有关银行持有RWA, 稳定币及比特币等加密资产的监管标准」一文。

(12) 有关美国推行《指导与建立美国稳定币国家创新法案》的法案重点，可参阅我们早前发布的「美国《GENIUS法案》 揭幕： 美元稳定币引领全球金融新篇章」一文。

(13) 有关香港政府刊登的《稳定币条例草案》的核心内容及申牌要点，可参阅我们早前发布的「香港稳定币时代加速到来 —— 香港 《稳定币条例草案》立法全速推进」一文。

(14) 有关香港金融管理局推出的数码债券资助计划，可参阅我们早前发布的「香港金融管理局推出“数码债券资助计划”」一文。

(15) 有关《在香港实施稳定币发行人监管制度的立法建议 - 咨询总结》的具体内容以及金管局推出的沙盒安排，可参阅我们早前发布的「一文读懂香港稳定币发行人牌照制度」一文。

(16) 有关《在香港实施稳定币发行人监管制度的立法建议 - 咨询文件》的具体内容以及金管局推出的沙盒安排，可参阅我们早前发布的「稳定币发行人可以开始申请加入香港金管局沙盒（Sandbox）安排」一文。

(17) 有关金管局对稳定币业务监管进行公众咨询得出的结论，可参阅我们之前发布的「香港金管局拟就经营稳定币业务设立强制性发牌制度」一文。

(18) 有关香港政府于2024年2月8日发布的《有关规管虚拟资产场外交易的立法建议》的公众咨询文件的详情，可参阅我们之前发布的「香港OTC立法咨询 - 为虚拟资产交易监管填补空白」一文。

(19) 有关证监会于2023年11月2日发布的两份与代币化证券相关的通函，可参阅我们之前发布的「代币化证券（Tokenised Securities）：香港金融市场新趋势」一文。

(20) 有关证监会与香港金融管理局于2023年10月20日发出的《有关中介人的虚拟资产相关活动的联合通函》之内容，可参阅我们之前发布的「金融机构在香港提供虚拟资产相关活动（包括代币化证券业务）的最新监管导向」一文。

(21) 有关香港金融科技及Web3领域相关牌照简介，可参阅我们之前发布的「香港金融科技及Web3领域相关牌照简介 - 一文读懂香港信托或公司服务提供者（TCSP）、储值支付工具(SVF)及金钱服务经营者(MSO)牌照」一文。

(22) 有关美国、新加坡、香港对于稳定币的最新监管情况，可参阅我们之前发布的「浅谈全球稳定币监管（二）：美国、新加坡、香港稳定币立法趋势比较」一文。

(23) 有关证监会于2023年2月20日发布的《有关适用于获证券及期货事务监察委员会发牌的虚拟资产交易平台营运者的建议监管规定的咨询文件》的详情，可参阅我们之前发布的「香港证监会就虚拟资产交易平台牌照（1、7号牌照及VASP牌照）申请要求展开咨询」一文。

(24) 有关香港特区政府于2022年10月31日发布的《关于在香港发展虚拟资产的政策宣言》的详情，可参阅我们之前发布的「确保Web3创新发生在香港 – 香港就推动建设虚拟资产中心发布政策宣言」一文。

(25) 有关证监会对VASP的监管体系，可参阅我们之前发布的「香港将针对虚拟资产服务提供商建立发牌制度」一文。

(26) 有关美国加密资产法案的讨论，可参阅我们之前发布的「美国Lummis-Gillibrand 加密资产法案要点解析」一文。

(27) 有关全球各主要国家及地区对于稳定币的监管情况，可参阅我们之前发布的「浅谈全球稳定币监管」一文。

声 明

《君合法律评论》所刊登的文章仅代表作者本人观点，不得视为君合律师事务所或其律师出具的正式法律意见或建议。如需转载或引用该等文章的任何内容，请注明出处。未经本所书面同意，不得转载或使用该等文章中包含的任何图片或影像。如您有意就相关议题进一步交流或探讨，欢迎与本所联系。