NEWVenvera 支持您的语言: 完整平台支持英语、德语、西班牙语、保加利亚语、阿拉伯语和简体中文。查看新功能 →
欧盟《人工智能法案》合规成本取决于什么
合规指南

欧盟《人工智能法案》合规成本取决于什么

·Alexander Sverdlov
简短回答
没有一个统一数字,因为欧盟《人工智能法案》(EU AI Act)并不是按组织定价,而是按角色和风险类别决定义务。仅使用通用 AI 工具的公司,其义务主要体现在培训和披露。将高风险系统投放市场的公司,则要承担合格评定、技术文件和质量管理体系等要求。最昂贵的错误,是在核查之前就假定自己属于第二类,因为分类这一步会为大多数公司去除大部分成本。

为什么没人能给您报出一个数字

搜索 EU AI Act 合规成本,您会看到一些看似很确定的数字:每个高风险系统 5 万欧元,或者从 5 千到 50 万欧元不等。其中一些数字可以追溯到欧盟委员会自己的影响评估,一些来自有服务要销售的咨询机构,还有相当多来自互相引用的博客文章。

这些数字与其说是错误,不如说无法使用,因为该法案并没有对某一种公司施加单一义务。Regulation (EU) 2024/1689 按角色(提供者、部署者、进口商、分销商)和风险类别(禁止、高风险、有限风险透明度义务、最低风险)分配职责。您的成本是这两者交叉后的结果,再乘以您拥有的系统数量。两家规模和收入相同的公司,成本可能合法地相差两个数量级。

因此,有用的工作不是找一个数字照搬,而是弄清楚您落在这个矩阵的哪些格子里,因为预算正是由此构成的,而且这也是您可以改变的事项。

您的角色先于其他因素决定成本

EU AI Act 如何在 AI 系统提供者和部署者之间划分成本
提供者还是部署者,是预算的第一个分岔口;而更昂贵的一方并不总是您预想的那一方。

提供者开发 AI 系统,或委托开发 AI 系统,并以自己的名称或商标将其投放市场或投入使用。对于高风险系统,沉重的义务集中在这里:风险管理体系、训练和测试数据的数据治理、技术文档、日志记录、人类监督设计、准确性和稳健性措施、质量管理体系,以及在产品上市前进行合格评定。

部署者是在自身授权下使用 AI 系统。其职责是真实存在的,但轻得多:按照系统说明使用系统,将人类监督分配给有能力且有权限执行监督的人,保存系统生成的日志,并在就业场景中使用系统时告知员工。对于大多数购买而非自建 AI 的公司来说,它们通常落在这一类。

陷阱在于边界会移动。把自己的名称放在他人的高风险系统上,会使您成为该系统的提供者。对系统进行实质性修改,或改变其预期目的从而使系统变成高风险,也会产生同样结果。为受监管使用场景微调外购模型的公司,往往在未按提供者编制预算的情况下,实际上已成为提供者;在实践中,这是代价最高的误分类。

钱实际花在哪里

EU AI Act 合规的三类成本组成:一次性项目工作、经常性义务和隐藏的内部成本
三类组成。经常性支出是预算中一贯被低估的那一项。

一次性

对企业内每一个 AI 系统进行清单盘点和分类,这几乎总是比预期更难,因为 AI 往往是通过采购而非工程团队进入企业。针对适用义务开展差距工作。技术文档,对于高风险系统而言,这是一份实质性文件,而不是一个 README。适用时进行合格评定,对大多数高风险类别来说,这是内部控制程序;对某些类别来说,则需要公告机构参与。

经常性

上市后监测、日志留存、由需要投入实际工时的人员真正执行人的监督,以及在系统发生重大变更时重新评估。模型会被重新训练,而重新训练后的模型并不自动仍然是您当初评估的那个对象。这正是把项目转化为运营成本的分界线,也解释了为什么对于真正的高风险部署,第二年的成本很少会比第一年低很多。

隐藏成本

对分类结果进行法律审查,因为无论高估还是低估,判断错误的代价都很高。与 AI 供应商重新谈判合同,因为部署方义务取决于提供方必须向您提供的信息,而旧合同通常并未要求其提供这些信息。还有内部时间,没有人会把它记入项目预算,但通常会超过外部支出。

已发布估算的说法,以及其来源

有必要准确说明出处,因为这些数字在传播时常常脱离来源。

最常被引用的数字是每个高风险 AI 系统约 50,000 欧元的一次性合规成本,来源于欧盟委员会随 2021 年原始提案发布的影响评估。这是一个真实来源,但它也是五年前的数字,基于一份在通过前发生了重大变化的草案,并且表述为全经济范围的平均值,而不是针对您系统的报价。它被反复引用到今天,读起来像是市场价格。但它并不是。

咨询机构发布的区间通常为:没有高风险系统的部署方 5,000 至 25,000 欧元,有一两个候选系统的中型公司 25,000 至 100,000 欧元,真正的高风险 AI 提供方则达到六位数及以上。这些区间在形态上比在数值上更有用。它们正确反映了成本分布很宽,并由角色和数量驱动。可以把这种形态作为参考,但不要把数字当成您自己的项目预算。

您可以依赖的一个数字是处罚上限,因为它写在欧盟《人工智能法案》(EU AI Act)本身中,而不是估算出来的:对于部署被禁止的实践,最高可达 3,500 万欧元或全球年度总营业额的 7%,以较高者为准。其他违法情形的上限较低。

另一个不是猜测的是时间表。上述角色如何转化为所需月份,以及每个角色受哪个日期约束,详见我们的指南:EU AI Act 合规需要多长时间。

控制账单的顺序

控制 EU AI Act 合规成本的顺序:清单、分类、确定角色、界定范围,然后建立周期性机制
先分类,再整改。反过来做,企业就会为本不属于自己的义务付费。

先做清单,因为没有列出来的东西无法估算成本,而且实际清单总是比工程团队以为的更长。还要包括那些嵌在您为其他目的采购的工具中的 AI。

第二步是分类,而且要认真对待。大多数企业中的大多数系统都是最低风险,或只承担透明度义务。用书面形式并附理由确认这一点,是合法减少大部分预计成本的步骤;如果监管机构有任何询问,这也是他们会要求查看的材料。

第三步是按系统确定您的角色,因为同一个系统今天可能让您成为部署方,而在您重新贴牌或作出重大修改的那一刻,就会让您成为提供方。

只有到这一步才界定工作范围。对少数高风险系统建立合格评定机制。对其他所有系统落实透明度和 AI 素养。最后再建设周期性监测,因为它是一项运营能力,而不是项目交付物。

预算出错的地方

错误代价应改为怎么做
先做预算,再做分类为本来并非高风险的系统支付高风险机制的成本先分类,以书面形式记录,并保留理由
把它当作一次性项目第二年监测和重新评估到来时,因未纳入预算而措手不及从一开始就把预算拆分为建设和运行
忽视服务提供商边界年中才发现,微调已使您成为服务提供商每当系统被修改或重新品牌化时,重新检查角色
忽视供应商合同由于服务提供商不欠您任何义务,您无法履行部署方职责在续约时加入 AI Act 信息义务,而不是等到事件发生后
与其他制度分开运行为您已有的治理、日志记录和风险管理重复付费映射与您为 ISO 27001、DORA 或 NIS2 已运行工作的重叠部分

不合规的代价是什么

该法案设定了分层上限。禁止性实践最高可处 3,500 万欧元或全球年度营业额 7% 的罚款,以较高者为准。大多数其他义务违规,包括围绕高风险系统的服务提供商和部署方职责,最高可处 1,500 万欧元或 3% 的罚款。向主管机关提供不正确、不完整或具有误导性的信息,最高可处 750 万欧元或 1% 的罚款。对于中小企业和初创企业,适用上限为金额和百分比中的较低者,而不是较高者。

这些是最高限额,而不是预期数额;在近期实际操作中,做错的成本更可能是客户采购团队提出一个您无法回答的问题。

在 Venvera 中完成这项工作

欧盟《人工智能法案》(EU AI Act)工作的高成本部分并不在于撰写文件,而在于知道哪些义务适用于哪个系统,并随着系统变化保持更新。Venvera 将 EU AI Act 作为一项一等框架运行:AI 系统登记册,为每个系统记录角色和风险分类,根据该分类产生的义务,针对这些义务进行差距评估,以及与您需要回应的其他事项一起保存的文档和监测证据。

EU AI Act 仪表板,显示已登记的 AI 系统、其风险分类和义务覆盖范围
按系统进行分类,并随系统变化持续更新由此产生的义务。
在 Venvera 中起草并审核的 AI 策略,这是 EU AI Act 义务要求的文档工件
文档是一项反复发生的义务,而不是一次性交付物,因此它应归入运行预算。

重叠部分对成本很重要。如果您已经运行 ISO 27001、DORA 或 NIS2,AI Act 对治理、日志记录和风险管理的很大一部分预期,就是您已经完成过一次的工作。跨框架控制措施映射意味着只需提供一次证据,并让它在两处都被认可,这正是 AI Act 项目与 AI Act 预算行项目之间的区别。

为您的实际情况获得真实数字

预约 30 分钟,带上您的 AI 系统清单,我们将与您一起对其分类,并告诉您实际适用哪些义务。人们列入预算的大部分成本,都会在这一步消失。

选择时间

常见问题

EU AI Act 合规需要多少成本?

这取决于您的角色和风险类别,而不是您的收入。没有高风险系统的部署者,需要关注 AI 素养、透明度告知和监督安排,成本相对适中。高风险系统的提供者则需要承担合格评定、技术文件和质量管理体系,这是一项成体系的计划。公开的每个系统约 50,000 欧元的数字,来自欧盟委员会 2021 年影响评估,应理解为基于草案文本的全经济范围平均值,而不是报价。

EU AI Act 成本是一次性的还是持续性的?

两者都有,而预算中常常遗漏的是持续性部分。上市后监测、日志留存、人工监督以及重大变更后的重新评估,都是永久性的运营成本。重新训练过的模型,并不会自动仍然是您已经评估过的那个系统。

小公司是否必须合规?

是的,但义务随角色和风险而变化,而不是随员工人数变化;对于中小企业和初创企业,处罚上限适用固定金额和百分比两者中的较低者。大多数小公司是最低风险或有限风险系统的部署者,其职责是培训、透明度和监督,而不是合格评定。

从成本角度看,提供者和部署者有什么区别?

提供者开发系统或以自己的品牌提供系统,并对高风险类别承担较重义务。部署者在自己的权限下使用他人的系统,并承担较轻的运营职责。对系统重新贴牌或进行实质性修改,会让您从后者转为前者,这是该法案中成本最高的一条边界。

我们能否通过将系统归类为最低风险来降低成本?

可以通过正确分类来降低成本,这通常意味着高风险系统会少于初步盘点时的假设。但不能先定结论再找理由。分类必须遵循该法案的标准,并且必须书面记录推理过程,因为这份记录日后将用于支持该决定。

现有 ISO 27001 或 DORA 工作是否能降低 AI Act 账单?

在平台能够映射重叠部分的情况下,确实可以显著降低。风险管理、日志记录、文档控制和供应商治理在这些框架中都会出现。对一项控制措施只取证一次,并让其在多个框架中计入覆盖范围,这就是机制所在;在三个系统中把同一项工作做三遍,正是多制度合规成本高昂的原因。

这些义务到底什么时候适用?

该法案分阶段适用,而不是一次性全部生效,禁令和 AI 素养义务先到,高风险义务随后到来。请根据您自己的系统核对当前阶段,不要假定只有一个日期,因为正是这一顺序决定了您的支出必须何时发生。

Alexander Sverdlov

Alexander Sverdlov

Venvera 首席执行官兼创始人

Alexander 是 Venvera 的创始人,在欧洲网络安全与合规领域拥有 20 多年经验。他曾为受监管的金融机构、金融科技公司和 SaaS 企业主导安全与风险项目,这些企业需要遵守 DORA、NIS2、GDPR、ISO 27001 和 EU AI Act。创立 Venvera 之前,他创办了进攻性安全咨询公司 Atlant Security,为 EU 和中东地区的客户开展渗透测试、红队演练和 ISO 27001 就绪项目。他的文章聚焦现代合规的跨框架实践:如何把一项控制措施映射到多项义务,电子表格会在哪里失灵,以及审计师真正坐下来之后,监管机构实际要求的是什么。

查看 Alexander 的更多文章 →

相关文章