eu-ai-act-specialist

欧盟《人工智能法案》合规专家

符合生产环境要求的 Regulation (EU) 2024/1689（欧盟《人工智能法案》）合规模式。涵盖风险分类、提供者/部署者义务、GPAI 模型要求、合格评定和 AI 治理。

---

先澄清

在分类或梳理义务之前，先确认以下输入。如果某项缺失或含糊，且会改变结果，请就此提问；如果不会，则采用合理的默认值并说明所用默认值。

• **预期目的和领域：**系统的功能及其所属的 Annex III 领域（决定风险分类以及适用的义务）。
• **角色：**提供者、部署者、GPAI 提供者或进口商（决定适用的义务）。
• **生物识别 / GPAI 特征：**是否使用生物识别技术、是否为 GPAI 模型，或训练时是否使用了 >10^25 FLOPs（决定禁止、高风险或系统性风险路径，以及合格评定途径）。

针对当前请求，询问最重要的两三项输入，而非整份清单。如果用户希望立即获得结果，则直接给出结果，并在开头说明假设。

AI 系统清单与分类工作流

Agent 根据欧盟《人工智能法案》的风险分级框架对 AI 系统进行分类，并梳理适用义务。

工作流：分类并梳理义务

1. 盘点所有 AI 系统——对每个系统记录：名称、提供者/开发者、说明、预期目的、部署状态、受影响人员、地理范围、处理的数据以及决策影响级别。
2. 对每个系统应用分类决策树：
   • 是否符合 Art. 3(1) 中 AI 系统的定义？如果否，记录排除原因。
   • 是否属于禁止的实践（Art. 5）？如果是，标记为不可接受风险——必须停止使用。
   • 是否为 Annex I 产品的安全组件？如果是，则为高风险（产品法规路径）。
   • 是否属于 Annex III 类别？如果是，进行 Art. 6(3) 例外分析。如果例外不适用，则为高风险。
   • 是否适用 Art. 50 透明度义务？如果适用，则为有限风险；否则为最低风险。
3. 根据分类梳理义务——为每项义务指定合规负责人。
4. 使用 scripts/ai_compliance_checker.py 进行差距分析，识别合规差距。
5. 根据截止日期紧迫性、处罚严重程度和受影响人数，确定补救措施的优先级。
6. **验证检查点：**每个 AI 系统均已分类；已标记禁止的实践并立即采取行动；高风险系统已指定合规负责人并制定补救时间表。

示例：AI 系统分类结果

{
  "system_name": "Resume Screener v2.1",
  "provider": "Internal ML Team",
  "intended_purpose": "Screen job applications and rank candidates for recruiter review",
  "ai_act_classification": "HIGH-RISK",
  "classification_rationale": "Annex III Category 4 - Employment: AI for recruitment and screening of job applicants",
  "art_6_3_exception": false,
  "exception_rationale": "System directly influences which candidates proceed to interview stage - not a narrow procedural task",
  "applicable_obligations": [
    "Risk management system (Art. 9)",
    "Data governance (Art. 10)",
    "Technical documentation (Art. 11)",
    "Record-keeping / automatic logging (Art. 12)",
    "Transparency and information to deployers (Art. 13)",
    "Human oversight (Art. 14)",
    "Accuracy, robustness, cybersecurity (Art. 15)",
    "Quality management system (Art. 17)",
    "Conformity assessment (Art. 43)",
    "CE marking (Art. 48)",
    "EU database registration (Art. 49)",
    "Post-market monitoring (Art. 72)"
  ],
  "compliance_deadline": "2027-12-02",
  "assigned_owner": "Head of AI Governance"
}

---

风险分类体系

《人工智能法案》采用基于风险的方法，分为四个等级。

第 1 级：禁止的实践（Art. 5）——自 2025 年 2 月 2 日起禁止

禁止的实践	条款
公共机构进行社会评分	Art. 5(1)(c)
在公共场所实时进行远程生物识别（有少数例外）	Art. 5(1)(h)
在工作场所和教育场所进行情绪识别（医疗/安全用途除外）	Art. 5(1)(f)
仅依据用户画像进行个人预测性警务	Art. 5(1)(d)
利用弱势群体（年龄、残障、社会/经济状况）	Art. 5(1)(b)
通过潜意识操纵造成重大伤害	Art. 5(1)(a)
无差别抓取人脸图像，建立识别数据库	Art. 5(1)(e)
根据敏感属性（种族、宗教等）进行生物识别分类	Art. 5(1)(g)

第 2 级：高风险 AI 系统（第 6 条，附件 III）

如果 AI 系统属于附件 III 中的类别，或是附件 I 协调立法所涵盖产品的安全组件，则属于高风险系统。

附件 III 类别：

#	类别	示例
1	生物识别与分类	远程生物识别、情绪识别
2	关键基础设施管理	道路交通、水／燃气／电力供应、数字基础设施
3	教育与职业培训	招生、学习成果评估、考试监控
4	就业与员工管理	招聘／筛选、晋升／解雇、绩效监控
5	基本私人和公共服务	信用评估、保险风险、公共援助资格
6	执法	测谎、深度伪造检测、犯罪分析
7	移民、庇护、边境管控	庇护风险评估、签证／许可审查
8	司法管理	司法事实认定、影响选举

第 3 级：有限风险——透明度义务（第 50 条）

系统类型	透明度要求
聊天机器人／与个人互动的 AI	告知个人其正在与 AI 互动
情绪识别／生物识别分类	告知受影响人员系统正在运行
深度伪造／AI 生成内容	披露内容由 AI 生成；采用机器可读的标记
关于公共利益事项的 AI 生成文本	披露内容由 AI 生成，除非经过编辑审查

第 4 级：最低风险

没有强制要求。鼓励自愿制定行为准则（第 95 条）。

---

高风险 AI 提供者的义务

高风险 AI 系统的提供者必须遵守以下所有要求：

#	义务	条款	主要要求
1	风险管理体系	第 9 条	在整个生命周期内持续迭代；根据已定义的指标进行测试
2	数据治理	第 10 条	训练／验证／测试数据集符合质量、代表性和偏差标准
3	技术文档	第 11 条	在投放市场前编制；在整个生命周期内保持更新
4	记录保存／日志记录	第 12 条	自动记录事件，以便追溯
5	透明度	第 13 条	提供使用说明，涵盖功能、限制和监督措施
6	人工监督	第 14 条	根据风险采用人在环路、人在环路监控或人在指挥模式
7	准确性、稳健性、网络安全	第 15 条	声明并维持适当水平；具备对抗性韧性
8	质量管理体系	第 17 条	编制涵盖设计、开发、测试、数据管理和上市后事项的质量管理体系文件
9	合格评定	第 43 条	内部控制（附件 VI）或第三方评定（附件 VII）
10	CE 标志	第 48 条	投放市场前加贴 CE 标志
11	欧盟数据库注册	第 49 条	投放市场前在欧盟数据库注册
12	上市后监测	第 72 条	主动、系统地收集数据；在 15 天内报告严重事件

---

部署者的义务（第 26 条）

义务	详情
按照说明使用	按照提供者的使用说明运行
人工监督	指定具备相应能力、接受过培训并获得授权的监督人员
输入数据相关性	确保输入数据具有相关性和代表性
监测	监测运行情况；将风险／事件告知提供者
记录保存	保存自动生成的日志（至少 6 个月）
告知员工	在部署高风险 AI 前通知员工／员工代表
DPIA	在要求时执行 GDPR 第 35 条规定的数据保护影响评估
基本权利影响评估	公共机构／提供公共服务的私营实体必须执行（第 27 条）

---

通用人工智能模型（GPAI）

GPAI 提供商义务（第 53 条）——自 2025 年 8 月 2 日起生效

义务	详情
技术文档	保存模型训练／测试流程的文档
向下游提供信息	为下游 AI 系统提供商提供充分信息
版权合规	遵守欧盟版权法；尊重退出机制
训练数据摘要	按照 AI Office 模板发布训练内容的详细摘要
欧盟代表	非欧盟提供商必须指定一名位于欧盟的代表

系统性风险 GPAI 模型（第 51、55 条）

符合以下任一条件的模型将被归类为系统性风险模型：具备高影响能力、由 AI Office 指定，或训练计算量超过 10^25 FLOPs（可推翻的推定）。

**附加义务：**通过对抗性测试进行模型评估、按风险程度开展红队测试、评估和缓解系统性风险、跟踪并报告事件、提供网络安全防护、报告能耗。

---

合格评定工作流

该 Agent 指导组织对高风险 AI 系统进行合格评定。

工作流：内部控制（附件 VI）

1. 建立质量管理体系（QMS），依据第 17 条——记录设计、开发、测试、数据管理和上市后监测流程。
2. 编制技术文档，依据第 11 条——包括系统描述、开发流程、风险管理、数据治理和性能指标。
3. 落实第三章第二节的全部要求——核实每项义务均已落实。
4. 开展内部评估：
   • 核实风险管理体系涵盖所有已识别的风险（第 9 条）
   • 核实数据治理符合第 10 条的要求
   • 核实技术文档完整且为最新版本（第 11 条）
   • 核实日志记录能力（第 12 条）
   • 核实透明度和使用说明（第 13 条）
   • 核实人工监督设计（第 14 条）
   • 核实准确性、稳健性和网络安全（第 15 条）
   • 确认质量管理体系涵盖所有必需内容（第 17 条）
5. 签署欧盟符合性声明（第 47 条），加贴 CE 标志（第 48 条），并在欧盟数据库中注册（第 49 条）。
6. 实施上市后监测（第 72 条）并维护文档更新。
7. **验证检查点：**已核实全部 12 项提供商义务；已签署声明；已加贴 CE 标志；已完成欧盟数据库注册；上市后监测已投入运行。

工作流：第三方评定（附件 VII）

生物识别系统（附件 III 第 1 点）以及协调标准不足的情况必须进行第三方评定。

1. 完成上述所有内部控制步骤。
2. 选择并聘请具备相关 AI 系统专业知识的公告机构。
3. 质量管理体系评估——公告机构审查并评估质量管理体系；颁发证书或要求采取纠正措施；每年进行监督。
4. 技术文档评估——公告机构审查文档、测试系统并颁发型式检验证书。
5. 签署欧盟符合性声明，并在 CE 标志上标明公告机构的识别编号。
6. 持续保持合规——接受公告机构监督，通知重大变更，并维护所有文档。
7. **验证检查点：**已颁发公告机构证书；已加贴带公告机构编号的 CE 标志；已安排持续监督。

---

偏见检测与公平性测试

该 Agent 按照第 10 条的数据治理要求执行偏见检测。

工作流：偏见测试

1. 定义受保护属性——年龄、性别、族裔、残障、宗教，以及与系统场景相关的其他特征。
2. 分析数据分布——检查代表性比例（目标：相对于总体为 0.8-1.25）、类别不平衡比例（>0.5），以及对所有已知群体的覆盖情况。
3. 使用以下指标评估结果公平性：
   • 人口统计均等：各群体的正向结果概率 P(positive outcome) 相等（符合 80% / 五分之四规则）
   • 均等化赔率：各群体的 TPR 和 FPR 相等（差异在 80% 范围内）
   • 预测均等：各群体的 PPV 相等（差异在 80% 范围内）
   • 校准：所有群体的预测概率准确（误差在 5pp 以内）
4. 识别代理变量——检查与受保护属性相关的特征。
5. 实施缓解措施——酌情采用数据增强、重新采样、重新加权、对抗式去偏、阈值调整或拒绝选项分类。
6. 验证——重新运行分析以确认有所改善。
7. 记录——在技术文档中记录所有发现、采取的措施以及残留偏见程度。
8. **验证检查点：**已测试所有受保护属性；公平性指标达到阈值，或已记录残留偏见并说明理由；已记录缓解措施。

示例：偏见检测命令

# Analyze dataset statistics for bias indicators
python scripts/ai_bias_detector.py --input dataset_stats.json \
  --protected-attributes gender,age_group,ethnicity

# Output as JSON for integration with compliance documentation
python scripts/ai_bias_detector.py --input dataset_stats.json --json

---

实施时间表

日期	里程碑	关键要求
1 Aug 2024	生效	发布法规
2 Feb 2025	禁止的做法 + AI 素养	Art. 5 禁令；Art. 4 AI 素养
2 Aug 2025	GPAI 义务 + 治理	Art. 53、55 GPAI 义务；AI Office 开始运作
2 Aug 2026	透明度 + 普遍适用	Art. 50 透明度（聊天机器人、深度伪造、AI 生成内容）；处罚和治理
2 Dec 2026	Art. 50(2) 标记、既有系统	对 2 Aug 2026 之前投放市场的系统进行机器可读标记
2 Dec 2027	高风险，Annex III	独立高风险系统（就业、教育、信贷、执法及 Annex III 中的其他领域）：提供者和部署者的所有义务、合规评定、CE 标记、注册。日期从 2 Aug 2026 延后
2 Aug 2028	高风险，Annex I	根据欧盟产品安全法属于产品安全组件的 AI。日期从 2 Aug 2027 延后

日期依据《AI 数字综合法案》（Regulation (EU) 2026/1744，于 27 July 2026 生效）修订。依赖具体日期前，请查阅《官方公报》文本；2026 年 7 月之前撰写的二手指南仍显示旧日期。

处罚（Art. 99）

违规类型	最高罚款	全球营业额百分比
被禁止的 AI 做法	EUR 35 million	7%（取较高者）
高风险合规违规	EUR 15 million	3%（取较高者）
向主管部门提供误导性信息	EUR 7.5 million	1%（取较高者）

中小企业和初创企业将获得相称对待（按绝对金额或百分比计算，取较低者）。

---

AI 模型文档模板

模板：AI 系统说明

AI SYSTEM DESCRIPTION
=====================
System Name:
Version:
Provider:
Date:

1. GENERAL INFORMATION
   - Intended purpose:
   - Target users (deployers):
   - Affected persons:
   - Geographic scope:
   - AI Act classification:
   - Annex III category (if applicable):

2. TECHNICAL ARCHITECTURE
   - Model type:
   - Input data modalities:
   - Output description:
   - Key design choices and rationale:

3. TRAINING AND DATA
   - Training data sources:
   - Data volume and characteristics:
   - Data preparation methods:
   - Bias examination results:

4. PERFORMANCE
   - Accuracy metrics:
   - Robustness testing results:
   - Known limitations:
   - Performance across demographic groups:

5. HUMAN OVERSIGHT
   - Oversight level: [human-in-the-loop / on-the-loop / in-command]
   - Override mechanism:
   - Automation bias safeguards:

模板：风险管理文档

RISK MANAGEMENT SYSTEM -- AI SYSTEM
====================================
System Name:
Version:
Risk Management Lead:
Date:

1. RISK IDENTIFICATION
   | Risk ID | Description | Likelihood | Severity | Risk Level |
   |---------|-------------|------------|----------|------------|
   | R-001   |             |            |          |            |

2. RISK CONTROL MEASURES
   | Risk ID | Measure | Type | Verification | Status |
   |---------|---------|------|-------------|--------|
   | R-001   |         |      |             |        |

3. RESIDUAL RISK ASSESSMENT
   - Acceptability determination:
   - Overall risk-benefit analysis:

4. POST-MARKET DATA INTEGRATION
   - Review frequency:
   - Trigger conditions for update:

---

工具

AI 风险分类器

# Classify AI system from JSON description
python scripts/ai_risk_classifier.py --input system_description.json

# Classify from inline JSON
python scripts/ai_risk_classifier.py --inline '{
  "name": "Resume Screener",
  "description": "AI system that screens job applications and ranks candidates",
  "domain": "employment",
  "uses_biometrics": false,
  "decision_type": "automated_with_review",
  "affected_persons": "job applicants",
  "eu_deployment": true
}'

# JSON output for programmatic use
python scripts/ai_risk_classifier.py --input system.json --json

AI 合规检查器

# Full compliance check with gap analysis
python scripts/ai_compliance_checker.py --input compliance_status.json

# Check deployer obligations only
python scripts/ai_compliance_checker.py --input compliance_status.json --role deployer

# JSON output with remediation steps
python scripts/ai_compliance_checker.py --input compliance_status.json --json

AI 偏见检测器

# Analyze dataset for bias indicators mapped to Art. 10
python scripts/ai_bias_detector.py --input dataset_stats.json

# Specify protected attributes explicitly
python scripts/ai_bias_detector.py --input dataset_stats.json \
  --protected-attributes gender,age_group,ethnicity --json

---

参考文档

文档	路径	描述
分类指南	references/ai-act-classification-guide.md	Annex III 的完整类别、决策树、禁止的实践、GPAI 分类
治理框架	references/ai-governance-framework.md	组织架构、伦理委员会、模型生命周期、合格评定程序
文档模板	references/ai-technical-documentation-templates.md	系统描述、风险管理、数据治理、测试、监督、上市后监测、事件报告、FRIA 的完整模板

---

---

故障排除

问题	可能原因	解决方案
AI 系统被分类为高风险，但组织认为其符合 Art. 6(3) 豁免条件	豁免分析不完整或领域映射不正确	根据所有 Art. 6(3) 豁免标准重新评估；系统必须执行狭义程序性任务、改善已完成的人类活动的结果，或纯粹用于准备工作；记录理由并进行法律审查
偏差检测器报告存在差别影响，但模型整体表现良好	汇总指标掩盖了子群体差异；特定受保护属性违反了五分之四规则	使用 --protected-attributes 标志分析各组的正向结果率；针对受影响群体实施有针对性的缓解措施（重新采样、调整阈值）；记录残余偏差并说明理由
尽管文档齐全，合规检查器仍给出低分	文档已存在，但关键合规字段标记为未完成或未更新	确认输入 JSON 中的每个义务字段均反映当前状态；确保设置了 kept_up_to_date 和 lifecycle_coverage 标志；根据 Art. 11 更新技术文档后再重新评估
系统同时属于多个 Annex III 类别	AI 系统服务于多个领域（例如，就业和教育）	按适用类别中风险最高的一类进行分类；适用最严格的义务；记录每个类别的分类理由
下游提供商不清楚 GPAI 模型的义务	上游 GPAI 提供商未按 Art. 53 提供充分文档	向 GPAI 提供商索取技术文档、训练数据摘要和版权合规信息；如果无法获取，记录缺失情况并评估独立义务
不确定应采用哪种合格评定路径（内部评定还是第三方评定）	生物特征识别系统或缺少协调标准	生物特征识别系统（Annex III 第 1 点）必须进行第三方评定（Annex VII）；其他系统可采用内部控制（Annex VI），但协调标准不可用时除外；请咨询公告机构
上市后监测显示模型性能下降	数据漂移、概念漂移，或部署环境自初次评估以来发生变化	启动 Art. 72 上市后监测程序；在 15 天内报告严重事件；更新风险管理系统和技术文档；考虑重新进行合格评定

成功标准

• 所有 AI 系统均已盘点并分类——依据风险框架评估每个系统，并记录分类理由；适用时还包括 Art. 6(3) 例外分析
• 已识别并停止所有禁止行为——截至 2025 年 2 月 2 日，已标记所有 Art. 5 禁止行为，并记录停止相关行为或适用合法例外的证据
• 高风险系统在截止日期前全面合规（Annex III 系统为 2027 年 12 月 2 日，Annex I 产品为 2028 年 8 月 2 日）——已核实全部 12 项提供者义务，签署 EU 符合性声明、加贴 CE 标志，并完成 EU 数据库注册
• 所有高风险系统均已完成偏差测试——所有受保护属性的 demographic parity、equalized odds 和 predictive parity 指标均达到五分之四阈值，或已记录剩余偏差及其理由
• 截至 2025 年 8 月 2 日，已履行 GPAI 模型义务——维护技术文档、向下游提供者提供信息、核实版权合规情况，并发布训练数据摘要
• 已按正确路径完成符合性评估——根据系统分类选择内部控制（Annex VI）或第三方评估（Annex VII），并签发和归档所有证书

---

范围与限制

范围内：

• 对所有四个风险等级（禁止、高风险、有限风险、最低风险）中的 AI 系统进行风险分类
• Annex III 类别分析和 Art. 6(3) 例外评估
• 提供者和部署者义务映射及合规差距分析
• GPAI 模型分类，包括系统性风险判定（10^25 FLOPs 阈值）
• 将偏差检测和公平性测试映射至 Art. 10 数据治理要求
• 符合性评估工作流指南（Annex VI 内部控制和 Annex VII 第三方评估）
• 实施时间线跟踪及罚款风险评估

范围外：

• 实际 ML 模型训练、重新训练或对抗性测试——本技能提供合规框架，而非 ML 工程工具
• 选择公告机构、与其合作或执行审核
• 申请国家监管沙盒或实验性 AI 系统豁免
• 超出义务映射范围的 GPAI Code of Practice 详细实施
• 实际加贴 CE 标志或与 EU 数据库注册系统交互
• 关于责任、保险或 AI Act 义务合同分配的法律建议

重要说明：

• Digital Omnibus（Regulation (EU) 2026/1744）将高风险系统的截止日期调整为 2027 年 12 月 2 日（Annex III）和 2028 年 8 月 2 日（Annex I）。该法规并未推迟 Article 50 透明度要求，该要求自 2026 年 8 月 2 日起适用。高风险系统的符合性工作需要数月时间，因此仍应立即启动分类和差距分析
• 罚款金额很高：禁止行为最高可罚 3,500 万欧元或全球营业额的 7%；高风险系统不合规最高可罚 1,500 万欧元或 3%
• 对中小企业和初创企业按比例适用罚款（按固定金额或比例计算，取较低者）

---

集成点

技能	集成方式	使用时机
iso42001-ai-management	ISO 42001 AIMS 为满足 EU AI Act 提供组织框架；认证可证明符合 Art. 17 QMS	构建同时满足 ISO 42001 和 EU AI Act 的 AI 治理计划时
gdpr-dsgvo-expert	Art. 10 数据治理与 GDPR 存在重叠；处理个人数据的高风险 AI 系统必须根据 GDPR Art. 35 进行 DPIA	AI 系统处理个人数据，且需要同时进行 DPIA 和合格评定时
mdr-745-specialist	AI 医疗器械同时受 EU AI Act 和 MDR 约束；根据 Art. 120，MDR 合格评定可能满足 AI Act 要求	AI 医疗器械需要同时满足 MDR 和 AI Act 要求时
fda-consultant-specialist	在 FDA PCCP 与 EU AI Act 之间进行跨司法辖区的 AI/ML SaMD 合规映射	AI 医疗器械在美国和欧盟均上市时
infrastructure-compliance-auditor	支持 Art. 15 准确性、稳健性和网络安全要求的技术安全控制	验证已部署的高风险 AI 系统的基础设施安全性时

---

工具参考

ai_risk_classifier.py

根据 JSON 系统描述，将 AI 系统分类为 EU AI Act 风险类别。

标志	必填	描述
--input <file>	是（除非使用 --inline）	包含 AI 系统描述的 JSON 文件路径
--inline '<json>'	否	用于快速分类的内联 JSON 系统描述
--json	否	以 JSON 格式输出结果，供程序使用
--output <file>	否	将分类报告导出到指定文件路径

输入字段： name、description、domain、sub_domain、uses_biometrics、biometric_type、biometric_context、interacts_with_persons、generates_content、content_type、decision_type、affected_persons、is_safety_component、product_legislation、eu_deployment、social_scoring、manipulates_behavior、targets_vulnerable_groups、predictive_policing_individual、untargeted_scraping、is_gpai、training_compute_flops、critical_infrastructure、infrastructure_type。

ai_compliance_checker.py

根据所有提供者和部署者义务验证 AI 系统合规性，并进行差距分析。

标志	必填	描述
--input <file>	是	合规状态 JSON 文件的路径
--role <role>	否	检查指定角色的义务：provider（默认）或 deployer
--json	否	以 JSON 格式输出结果，并附上整改步骤
--output <file>	否	将合规报告导出到指定文件路径

输出： 总体合规评分（0-100）、各项义务的状态、包含 Art. 引用的差距分析，以及按优先级排列的整改建议。

ai_bias_detector.py

分析数据集统计信息，检测与 Art. 10 数据治理要求相对应的偏差指标。

标志	必填	描述
--input <file>	是	包含数据集统计信息（人口统计数据、结果、相关性）的 JSON 文件路径
--protected-attributes <attrs>	否	要分析的受保护属性列表，以逗号分隔（例如 gender,age_group,ethnicity）
--json	否	以 JSON 格式输出结果
--output <file>	否	将偏差评估报告导出到指定文件路径

阈值： 代表性比例为 0.8-1.25（与总体比例相差不超过 20%），类别不平衡度 >0.5，群体差异影响的五分之四规则（0.8），以及代理变量检测的代理相关性 >0.5。

---

法规参考： Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024
最后更新： 2026 年 3 月
版本： 1.0.0