合规指南
高风险 AI 系统必须满足七项要求，这些要求规定在欧盟《人工智能法案》（EU AI Act）第 III 章第 2 节，即第 9 条至第 15 条：风险管理体系、数据治理、技术文档、自动日志记录、透明度和使用说明、人工监督，以及准确性、稳健性和网络安全。第 8 条规定，系统必须符合上述全部要求，同时考虑其预期用途和最新技术水平。这些要求是系统本身的属性。用来证明这些要求得到满足的义务则规定在第 3 节：提供者须运行质量管理体系，将技术文件保存 10 年，通过合格评定，签署符合性声明，加贴 CE 标志，并且对于大多数附件 III 系统，须在欧盟数据库中进行登记。部署者须按照说明使用系统，指派人员进行人工监督，并保存日志。
2026 年发生了两项变化。(EU) 2026/1744 号条例，即《AI 数字综合条例》（Digital Omnibus on AI），调整了适用日期：第 III 章第 1、2、3 节现在对附件 III 系统自 2027 年 12 月 2 日起适用，对附件 I 系统自 2028 年 8 月 2 日起适用。它还修改了其中几项要求本身，而这正是本指南与搜索结果第一页上大多数内容的不同之处。一个系统究竟是否属于高风险，是另一个问题，我们关于第 6 条和附件 III 清单的指南对此作了解答。
| 要求 | 系统必须做到什么 | 条款 |
|---|---|---|
| 风险管理 | 在整个生命周期内运行有文档记录的迭代式风险流程，并在发布前按照预先定义的指标进行测试。 | Art. 9 |
| 数据治理 | 使用在相关性、代表性、错误和偏差方面受到管理的数据集进行训练、验证和测试。 | Art. 10, Art. 4a |
| 技术文档 | 持有一份按附件 IV 编制的技术文件，在发布前编制完成并保持更新。 | Art. 11 |
| 记录保存 | 在技术上支持在系统整个生命周期内自动记录事件日志。 | Art. 12 |
| 透明度 | 随附使用说明，使部署者能够解释并使用系统输出。 | Art. 13 |
| 人工监督 | 在设计上确保自然人能够对其进行监控、推翻其输出并将其停止。 | Art. 14 |
| 准确性、稳健性、网络安全 | 保持一致的性能，声明准确性指标，抵御操纵。 | Art. 15 |
风险管理体系有哪些要求？
第 9 条要求建立、实施、记录并维护风险管理体系。这是一个在整个生命周期内规划和运行的持续迭代过程，包括四个步骤：识别和分析对健康、安全或基本权利的已知风险和可合理预见的风险；估计和评价在预期用途下以及在可合理预见的误用情况下产生的风险；根据上市后监测数据评价其他风险；以及采取有针对性的措施。剩余风险，无论是针对每项危害还是就整体而言，都必须被判定为可接受。
测试是该条的组成部分，而不是额外要求。第 9(8) 条要求在开发过程中的任何适当时点进行测试，并且无论如何都必须在系统投放市场或投入使用之前，按照预先定义的、与预期用途相适应的指标和概率阈值进行测试。第 9(9) 条要求您考虑该系统是否可能影响 18 岁以下的人员和其他弱势群体。第 9(10) 条还允许已经根据其他欧盟法律受内部风险管理规则约束的提供者（例如银行）将这些步骤纳入其现有程序。
综合条例修订后，数据治理要求有哪些？
第 10 条适用于利用数据进行训练的系统。训练、验证和测试数据集必须遵循相应的治理实践，涵盖设计选择、数据收集和来源、数据准备、假设、可用性和适用性、偏差审查、用于检测、预防和缓解偏差的措施，以及数据缺口。考虑到预期用途，这些数据集必须具有相关性和充分的代表性，并尽最大可能做到没有错误且完整。
《AI 数字综合条例》从三个方面修改了该条。原第 5 款允许为检测偏差而处理特殊类别个人数据，该款已被删除，由新的第 4a 条取代。第 4a 条规定了六项条件，其中包括：合成数据或匿名化数据无法满足需要；数据不被其他方访问；以及一旦偏差得到纠正即删除数据。第 1 款现在交叉引用第 4a(1) 条。第 6 款现在规定，对于不利用数据进行训练的系统，质量标准仅适用于测试数据集。
技术文档和日志应包含哪些内容？
第 11 条要求在系统投放市场或投入使用之前编制技术文档，并保持更新，且至少包含附件 IV 所列的要素：总体描述、对各组成要素和开发过程的详细描述、监控与控制、性能指标、风险管理体系、生命周期内的变更、所适用的标准、欧盟符合性声明，以及上市后监测计划。对于受附件 I A 部分所列立法约束的产品，第 11(2) 条要求编制一套同时涵盖两种制度的文档。
修订后的第 11(1) 条将简化路径扩展到小型中型市值企业（SMC）。中小企业（包括初创企业）和 SMC 可以使用欧盟委员会提供的表格，以简化方式提供附件 IV 所列要素，公告机构必须接受该表格。第 12 条是日志记录要求：系统必须在技术上支持在其整个生命周期内自动记录事件，记录内容须足以识别风险情形和实质性修改、支持上市后监测，并使部署者能够监控系统运行。
透明度、监督和稳健性在实践中意味着什么？
使用说明，第 13 条
系统必须具有足够的透明度，使部署者能够解释其输出并适当使用，同时必须随附使用说明。第 13(3) 条列出了使用说明的最低内容：提供者的身份、预期用途、经过测试的准确性、稳健性和网络安全水平、可能产生风险的已知情形、在相关情况下对特定群体的性能表现、在初始合格评定时预先确定的任何变更、人工监督措施、所需的计算资源和预期使用寿命，以及如何收集和解释日志。
人工监督，第 14 条
系统在设计上必须确保自然人能够在其使用期间对其进行有效监督。被指派的人员必须能够理解系统的能力和局限，始终警惕自动化偏差，解释系统输出，决定不使用系统或推翻其输出，并能通过停止按钮或类似程序中断系统，使其在安全状态下停止运行。对于附件 III 第 1(a) 点所列的远程生物特征识别，第 14(5) 条要求在根据匹配结果采取行动之前，至少由两名具备相应能力的人员分别进行核实；但如果欧盟法律或国家法律认为该要求不相称，执法和边境管理领域可以例外。
准确性、稳健性和网络安全，第 15 条
系统必须在这三个方面都达到适当水平，并在整个生命周期内保持一致的性能。准确性指标须写入使用说明。发布后仍持续学习的系统，在构建时必须限制带有偏差的反馈循环。网络安全措施必须在适当情况下应对数据投毒、模型投毒、对抗样本、机密性攻击和模型缺陷。
除上述要求之外，提供者还必须做什么？
第 16 条列出了提供者的十二项义务，从 (a) 项到 (l) 项。其中会带来实际工作量的包括：第 17 条规定的质量管理体系、第 43 条规定的在系统投放市场前进行的合格评定、第 47 条规定的欧盟符合性声明、第 48 条规定的 CE 标志、第 49(1) 条规定的登记、第 20 条规定的纠正措施，以及 (EU) 2016/2102 号指令和 (EU) 2019/882 号指令规定的无障碍要求。第 17 条列出了质量管理体系必须涵盖的十三个方面。修订后的第 17(2) 条规定，体系的实施应与组织规模相称，并明确提及中小企业和小型中型市值企业（SMC），同时保持合规所需的严谨程度。
适用哪种合格评定取决于系统本身。对于附件 III 第 2 点至第 8 点，第 43(2) 条规定采用附件 VI 下的内部控制程序，无需公告机构参与。对于第 1 点下的生物特征识别，已适用协调标准或通用规范的提供者可以选择内部控制程序或由公告机构评定；如未适用，则须按照附件 VII 由公告机构评定。对于附件 I A 部分所列产品，经替换的第 43(3) 条要求您遵循相应的行业程序，第 2 节的要求作为该程序的一部分进行评估。这些规定在信用评分和保险定价场景中如何落地，请参阅我们关于高风险金融 AI 合格评定的指南。
| 义务 | 法律文本的规定 | 条款 |
|---|---|---|
| 保存文档 | 技术文件、质量管理体系文件、公告机构的决定和符合性声明，自发布后保存 10 年。 | Art. 18, Art. 47(1) |
| 保存日志 | 由您控制的日志，保存期限须与用途相适应，且至少为六个月。 | Art. 19；部署者适用 Art. 26(6) |
| 发布后监测 | 一套上市后监测体系，以构成附件 IV 技术文件一部分的计划为基础。 | Art. 72 |
| 报告严重事件 | 不迟于获知后 15 天；如属大范围违规或关键基础设施中断，则为 2 天；如造成人员死亡，则为 10 天。 | Art. 73(2) 至 (4) |
金融机构享有两项便利。根据第 18(3) 条和第 19(2) 条，受欧盟金融服务法律中内部治理规则约束的提供者，可以将技术文档和日志作为这些规则已要求的文档的一部分予以保存。在上市后监测方面，根据经替换的第 72(3) 条，欧盟委员会关于监测计划的指南和模板现应在 2027 年 9 月 2 日前发布；原文本要求在 2026 年 2 月前通过一项实施法案。
部署者需要承担哪些义务？
第 26 条篇幅较短，但分量并不轻。部署者必须按照使用说明使用系统；将人工监督工作指派给具备必要能力、培训、权限和支持的人员；确保其控制的输入数据具有相关性和充分的代表性；监控系统运行；并在系统存在风险时暂停使用，同时通知提供者和市场监督管理机构。部署者须将其控制的日志保存至少六个月。雇主在工作场所使用高风险系统之前，必须告知员工代表和受影响的员工。根据第 26(11) 条，使用附件 III 系统对自然人作出决定或协助作出决定的部署者，必须告知相关人员；如果某项决定产生法律效力或类似的重大影响，而当事人认为该决定对其健康、安全或基本权利不利，第 86 条赋予其要求解释该系统在决定中所起作用的权利。属于金融机构的部署者，通过遵守其内部治理规则来履行监控义务。
部分部署者还须在首次使用前，根据第 27 条开展基本权利影响评估：受公法管辖的机构、提供公共服务的私营实体，以及附件 III 第 5(b) 点和第 5(c) 点所列系统的部署者，即信用评分以及人寿和健康保险风险评估与定价系统。如果数据保护影响评估已经满足了部分义务，《AI 数字综合条例》允许部署者交叉引用该评估或纳入其中的相关部分，而 AI 办公室的问卷模板现在也必须提供这一选项。如果您不确定自己承担的是哪种角色，我们关于提供者与部署者的指南逐一分析了第 3 条和第 25 条。
这些要求何时适用？
第 III 章第 1、2、3 节分别规定了分类规则、各项要求以及提供者和部署者的义务；对于根据第 6(2) 条和附件 III 分类的系统，这些规定自 2027 年 12 月 2 日起适用；对于根据第 6(1) 条和附件 I 分类的系统，则自 2028 年 8 月 2 日起适用。这些是经 (EU) 2026/1744 号条例修订的第 113 条所规定的固定日期，该条例于 2026 年 7 月 8 日通过，并自 2026 年 7 月 27 日起生效。根据第 111(2) 条，在上述日期之前已投放市场的系统，只有在设计发生重大变更时才受这些规定约束；但供公共机构使用的系统，其提供者和部署者必须在 2030 年 8 月 2 日前实现合规。所有日期都列在我们关于欧盟《人工智能法案》（EU AI Act）截止期限的指南中。
根据第 99(4) 条，违反第 16 条规定的提供者义务或第 26 条规定的部署者义务，可处以最高 EUR 15 000 000 或全球年营业额 3% 的罚款，以较高者为准。对于中小企业，以及自综合条例修订以来的小型中型市值企业（SMC），适用两者中的较低者。详情请参阅 EU AI Act 处罚与罚款。
其他搜索结果的错误之处
我们查阅的搜索结果第一页内容对七项要求的介绍都不错，但有两点很容易被忽略。第一点是时间表。一份日期为 2025 年 8 月 25 日、至今仍在该搜索词下排名的供应商指南，把 2026 年 8 月 2 日列为所有高风险系统必须符合第 9 条至第 49 条的日期，并把 2027 年 8 月 2 日列为嵌入受监管产品的系统的合规日期。这两个日期都已在 2026 年 7 月被替换。
第二点是法律文本本身。凡是根据 2024 年文本起草的内容，都会把第 10(5) 条作为为检测偏差而处理敏感数据的法律依据。该款已不复存在；第 4a 条以其自身的条件取而代之。简化文档路径和质量管理体系中的相称性条款，现在也覆盖小型中型市值企业，而不仅仅是中小企业。如果您的合规项目是根据 2024 年的检查清单确定范围的，请在此基础上继续推进之前，重新阅读第 4a、10、11、17 和 27 条。
每个系统目前处于什么状况？
请按每个高风险系统而不是按公司填写下表。每个空白单元格，就是接下来要完成的工作。
| 问题 | 您的回答 | 为何重要 |
|---|---|---|
| 对于该系统，您是提供者、部署者，还是两者兼是？ | 第 3 节按角色划分义务，而第 25 条可能使您在不同角色之间转换。 | |
| 是附件 III 的哪一点或附件 I 的哪项法案使其成为高风险系统？ | 这决定了适用日期（2027 年 12 月 2 日或 2028 年 8 月 2 日）以及合格评定路径。 | |
| 按每项危害判定剩余风险的风险登记册在哪里？ | 第 9(5) 条要求剩余风险必须是可接受的。 | |
| 您是否为检测偏差而处理特殊类别数据？依据的是第 4a 条的哪项条件？ | 第 10(5) 条已不复存在；现在由第 4a 条规定相关条件。 | |
| 附件 IV 的哪些章节已起草完成，由谁负责将其保存 10 年？ | 第 11 条和第 18 条。 | |
| 谁可以推翻系统输出或停止系统，他们是否接受过相应培训？ | 第 14(4) 条针对设计，第 26(2) 条针对部署者。 | |
| 日志保存多长时间，由谁控制？ | 根据第 19 条和第 26(6) 条，至少保存六个月。 | |
| 由谁报告严重事件，他们能否在两天内完成报告？ | 第 73 条规定了 15 天、10 天和 2 天的期限。 |
如果这一列大部分是空白的，请从清单盘点入手：我们关于欧盟《人工智能法案》（EU AI Act）策略与文档的指南列出了每种角色必须持有的内容。免费合规检查可以为您提供一个基线，而 EU AI Act 框架页面展示了如何跟踪系统、分类、技术文档和上市后监测。
常见问题
高风险 AI 系统有哪些要求？
第 9 条至第 15 条：风险管理、数据治理、技术文档、记录保存、透明度和使用说明、人工监督，以及准确性、稳健性和网络安全。第 8 条规定必须符合上述全部要求。
这些要求是否自 2026 年 8 月 2 日起适用？
不是。自 (EU) 2026/1744 号条例出台后，这些要求对附件 III 系统自 2027 年 12 月 2 日起适用，对附件 I 系统自 2028 年 8 月 2 日起适用。
每个高风险系统都需要公告机构参与吗？
不需要。附件 III 第 2 点至第 8 点采用附件 VI 下的内部控制程序。第 1 点下的生物特征识别，只有在已适用协调标准或通用规范的情况下，才能采用内部控制程序。附件 I 所列产品遵循其所属行业的程序。
日志必须保存多长时间？
保存期限须与预期用途相适应，且至少为六个月，除非其他欧盟法律或国家法律（特别是数据保护法律）另有规定。这一要求根据第 19 条适用于提供者，根据第 26(6) 条适用于部署者。
对小公司的要求会更宽松吗？
要求是相同的，但文书工作更少。中小企业和小型中型市值企业（SMC）可以使用简化的技术文档表格，质量管理体系与组织规模相称，罚款上限按两个金额中的较低者计算。
原始资料
上文所述的要求和义务出自 (EU) 2024/1689 号条例第 8 条至第 20 条，第 26、27、43 条，第 47 条至第 49 条，第 72、73、86、99、111 和 113 条以及附件 IV，并结合 (EU) 2026/1744 号条例对第 4a、10、11、17、27、43(3)、72(3)、99、111 和 113 条所作的修订一并阅读；该条例即《AI 数字综合条例》（Digital Omnibus on AI），于 2026 年 7 月 24 日在《欧盟官方公报》上公布。合并文本只是文档工具；《欧盟官方公报》上公布的版本才是正式文本。在依赖某项具体条款之前，请先核实现行文本。
