合规指南
简短回答
欧盟《人工智能法案》（EU AI Act）第 4 条要求提供者和部署者采取措施，尽最大努力确保其员工以及代表其操作 AI 系统的其他人员具备足够水平的 AI 素养。无论您的系统属于哪个风险等级，该条款都适用；它比高风险制度更早开始适用，而且没有规定任何课程大纲。它是该法案中满足成本最低的义务，也是最容易提供证据的义务之一。
第 4 条的实际规定
AI 系统的提供者和部署者必须采取措施，尽最大努力确保其员工以及代表其负责 AI 系统操作和使用的其他人员具备足够水平的 AI 素养。这些措施应当考虑到相关人员的技术知识、经验、教育和培训情况，以及系统的使用环境。
有三个特点使它在该法案的各项义务中显得与众不同。它不论风险等级一律适用，因此即便一家公司只使用有限风险系统，也仍然需要承担这项义务。它既约束提供者，也约束部署者，而大多数义务并非如此。此外，它比高风险制度更早开始适用，因此它是当下就已生效的义务，而不是未来的问题。
适用对象
您自己的员工，以及代表您操作 AI 系统的其他人员。第二类人员正是组织容易遗漏的：为您操作系统的承包商、派遣人员和外包团队，都在这项义务的范围之内。
适用范围是“负责系统操作和使用”的人员。在实践中，这包括构建或集成这些系统的工程师、使用系统输出来做出决策或为决策提供依据的员工，以及被指派承担人工监督职责的人员。按常理，它不会延伸到每一位曾经用过聊天机器人的员工，不过建立一个普遍的意识基线成本很低，而且很少会白费。
在没有任何具体规定时，“足够”意味着什么
该法案规定的是一个结果，而不是一份教学大纲，这让想要一份检查清单的人感到不安。但只要读懂其中的限定条件，它就变得可操作了：措施必须与受众的现有知识以及使用环境相称。机器学习工程师和理赔专员需要的东西不同，为两者提供完全相同的培训，虽然满足了条文的字面要求，却没有抓住要点。
对“足够”的一种可行解读是：相关人员能够解释系统是做什么的，能够识别系统在哪些地方可能出错，知道自己可以如何使用系统的输出，并且知道如何上报问题。如果您的培训能够达到这一效果，您就符合了该条款的立法意图。
建立一个站得住脚的培训计划
- 盘点系统和人员。如果不知道正在使用哪些系统、谁会接触这些系统，您就无法界定培训范围。无论如何，该法案的其余部分也需要这份清单。
- 按角色细分。通常划分为三类受众就足够了：构建者和集成者、使用系统输出的决策者，以及承担正式监督职责的人员。
- 将内容与您实际运行的系统挂钩。泛泛的 AI 意识培训是薄弱的证据。点明您的系统、其已知局限以及您的上报路径的培训，才是有力的证据。
- 既要讲概念，也要讲规则。员工可以向模型输入什么、不可以输入什么，与模型如何运作同样重要。
- 定期更新。您的系统会不断变化，因此每年更新一次是合理的默认做法，而任何重大变化都应触发一次更新。
应保留哪些证据
这项义务要求的是采取措施，因此您的证据就是这些措施及其覆盖范围。
- 培训内容本身，并标注版本和日期。
- 培训分配给了谁、谁完成了培训，以及完成的时间。
- 您进行角色细分的理由，以书面形式记录一次。
- 对代表您操作系统的承包商和外包人员的覆盖情况。
- 更新计划，以及该计划确实已经执行的证据。
常见错误
- 把它当作未来的义务。第 4 条比高风险制度更早开始适用。
- 只覆盖员工，不覆盖承包商。该条款的适用范围延伸至代表您操作系统的人员。
- 所有人共用一个通用培训模块。这虽然满足了条文的字面要求，却无法通过该条款设定的相称性检验。
- 没有记录。已经开展却无法证明的培训，与从未开展的培训毫无区别。
- 止步于素养培训。与高风险系统提供者需要承担的整套文件义务相比，第 4 条只是一项小义务，相关内容详见欧盟《人工智能法案》（EU AI Act）策略与文件。
在 Venvera 中完成这些工作
Venvera 将 EU AI Act 作为一套持续维护的控制措施集进行跟踪，并通过分配记录和完成记录来管理安全与合规培训，因此第 4 条的证据就是一份报告，而不必用电子表格重新拼凑。请查看 EU AI Act 工作区，或使用免费的 EU AI Act 合规检查清单找出您其余的差距。定价公开且统一，每月 EUR 399 起。
常见问题
EU AI Act 对 AI 素养有何规定？
第 4 条要求提供者和部署者采取措施，尽最大努力确保员工以及代表其操作 AI 系统的其他人员具备足够水平的 AI 素养，且与这些人员的知识水平和使用环境相称。
AI 素养要求是否适用于所有 AI 系统？
是的。第 4 条并不局限于高风险系统，因此无论您的系统属于哪个等级，它都适用。
是否有规定的 AI 素养课程大纲？
没有。该法案规定的是一个结果，并要求相称性，而不是规定具体内容，这就是为什么按角色细分、并与您实际运行的系统挂钩的培训才是站得住脚的做法。
承包商需要接受 AI 素养培训吗？
如果他们代表您操作 AI 系统，他们就属于第 4 条措辞所涵盖的范围。这是适用范围中最常被遗漏的部分。
如果我们忽视这项义务，会有什么后果？
未履行运营者义务属于第 99 条规定的中间处罚档位，最高可处 EUR 15,000,000 或全球营业额 3% 的罚款，对中小企业设有更低的上限。考虑到满足这项义务的成本如此之低，承担这一风险是很不划算的。请参阅 EU AI Act 处罚与罚款。
