ai-deployment-checklist

AI 系统部署前隐私检查清单

概述

部署处理个人数据的 AI 系统前，必须从多个维度核实其是否符合隐私合规要求。本检查清单是 Cerebrum AI Labs ML 部署流水线中的合规关卡。在所有强制检查项均通过核实并由数据保护官（DPO）签字确认之前，不得将任何 AI 系统部署到生产环境。本检查清单围绕 GDPR 要求、EU AI Act 义务（适用于高风险系统）和内部治理标准制定。

部署前合规关卡

关卡 1：法律依据和 DPIA

检查项	要求	状态	证据
已记录合法依据	已确定并记录所有个人数据处理的 Art. 6(1) 依据	必须	LIA 或同意记录
已评估特殊类别数据	已识别 Art. 9 数据；已记录明确同意或 Art. 9(2) 例外	必须	数据分类报告
已完成 DPIA	已针对高风险处理（用户画像、系统性监控、大规模特殊类别数据）完成 Art. 35 DPIA	适用时必须	经 DPO 签字的 DPIA 文档
已缓解 DPIA 风险	已记录 DPIA 中所有高风险／严重风险的缓解措施	必须	风险处置计划
事先咨询	若残余风险仍然较高，已根据 Art. 36 咨询监管机构	适用时必须	咨询记录
合法利益评估	若依据 Art. 6(1)(f) 处理，已完成 LIA 平衡测试	依据为 LI 时必须	LIA 文档

关卡 2：透明度和信息告知

检查项	要求	状态	证据
已更新隐私声明	Art. 13-14 信息中包含 AI 处理详情	必须	更新后的隐私声明
已说明逻辑	已向数据主体记录“有关所涉逻辑的有意义信息”	自动化决策时必须	说明文档
已披露影响	已披露 AI 处理可能产生的后果	自动化决策时必须	隐私声明章节
已披露用户画像	如果系统为个人建立用户画像，已在隐私声明中披露	进行用户画像时必须	隐私声明章节
AI Act 透明度	已满足 Art. 52 透明度义务（如适用）：告知用户其正在与 AI 交互	适用 AI Act 时必须	用户界面披露

关卡 3：数据主体权利

检查项	要求	状态	证据
已定义访问流程	已制定响应 AI 数据（输入、输出、用户画像）访问请求的流程	必须	已记录的 SOP
解释机制	可按请求生成个人解释	Art. 22 要求时必须	已验证技术能力
可进行人工干预	已建立 Art. 22(3) 人工审查流程	仅针对自动化决策时必须	流程文档 + 受训员工
异议渠道	数据主体可以对 AI 决策提出异议并要求复核	Art. 22 要求时必须	申诉流程文档
更正流程	已制定更正 AI 输入数据并重新生成输出的流程	必须	已记录的 SOP
删除流程	已制定从训练集、推理日志和嵌入中删除数据的流程	必须	已记录的 SOP

Gate 4：数据质量与偏差

检查项	要求	状态	证据
已记录训练数据	已记录数据来源、规模、收集方法和预处理方式	必需	数据卡 / 数据集文档
已完成偏差测试	已针对受保护属性（性别、种族、年龄、残障）对模型进行偏差测试	必需	偏差测试报告
公平性指标可接受	差别影响比率 >0.8（五分之四规则），或等效指标在可接受范围内	必需	公平性指标报告
已验证数据质量	已验证训练数据的完整性、准确性和代表性	必需	数据质量报告
已移除或说明 Art. 9 数据	已移除特殊类别数据，或已记录合法依据	必需	数据分类报告

Gate 5：安全与技术控制

检查项	要求	状态	证据
静态数据加密	训练数据和模型权重已加密（AES-256 或等效算法）	必需	安全配置
传输中数据加密	所有 API 端点均使用 TLS 1.2+	必需	SSL 证书
访问控制	对模型、训练数据和推理日志实行基于角色的访问控制	必需	IAM 策略
审计日志记录	记录所有模型调用及其时间戳、输入哈希、输出和用户	必需	日志配置
对抗鲁棒性	已针对与模型领域相关的常见对抗攻击进行测试	建议	安全测试报告
模型版本管理	已在注册表中对模型进行版本管理，并支持回滚	必需	MLflow / 模型注册表

Gate 6：监控与治理

检查项	要求	状态	证据
性能监控	生产环境中用于跟踪准确率、延迟和错误率的仪表板	必需	监控设置
漂移检测	已实现数据漂移和概念漂移检测	必需	漂移监控配置
偏差监控	持续跟踪部署后的偏差指标	必需	公平性监控仪表板
事件响应	处理 AI 相关隐私事件（例如歧视性输出、数据泄露）的流程	必需	事件响应计划
重新训练计划	已制定使用新数据重新训练模型的计划	必需	重新训练计划
保留期限执行	根据保留期限计划自动删除推理日志和训练数据	必需	保留政策 + 自动化

Gate 7：EU AI Act（仅限高风险系统）

检查项	要求	状态	证据
风险分类	已依据 Annex III 对系统进行分类	必需	分类文档
技术文档	已完成 Annex IV 文档	必需	技术文档包
风险管理系统	已实施 Art. 9 持续风险管理	必需	风险登记册 + 流程
合格评定	已完成内部或第三方合格评定	必需	评定报告
EU 符合性声明	已准备 Art. 47 声明	必需	已签署的声明
EU 数据库注册	已完成 Art. 49 注册	必需	注册确认

签署确认

角色	姓名	批准	日期
ML 工程负责人		[ ] 已批准 / [ ] 已阻止
数据保护官		[ ] 已批准 / [ ] 已阻止
信息安全官		[ ] 已批准 / [ ] 已阻止
产品负责人		[ ] 已批准 / [ ] 已阻止
法律顾问		[ ] 已批准 / [ ] 已阻止（仅限高风险）

关键法律参考

• GDPR Articles 5, 6, 9 — 数据处理原则、合法依据、特殊类别
• GDPR Article 22 — 自动化个人决策保障措施
• GDPR Article 25 — 通过设计和默认设置保护数据
• GDPR Article 35 — 数据保护影响评估
• EU AI Act Articles 9-15 — 高风险 AI 系统要求
• EU AI Act Article 52 — 某些 AI 系统的透明度义务
• EDPB Guidelines on Automated Decision-Making (WP 251 rev.01) — 对 Art. 22 的解读
• ISO/IEC 42001:2023 — AI 管理体系标准