ai-data-subject-rights

AI 系统中的数据主体权利

概述

AI 系统给数据主体行使权利带来了独特挑战。为结构化数据库设计的传统权利机制，无法直接适用于机器学习（ML）模型架构，因为个人数据可能被编码在模型权重中、在模型输出中重现，或用于不透明的决策流程。本技能提供了在 AI 处理场景下落实 GDPR 各项权利（第 15 至 22 条）和《AI 法案》第 86 条解释权的框架，涵盖训练时和推理时的权利。

AI 权利框架

访问权（第 15 条）

AI 场景	义务	实施方式
对训练数据的贡献	确认数据主体的数据是否在训练集中；如可行，提供副本	建立按数据主体标识符索引的训练数据目录；执行成员查询
AI 推理输入	提供用作 AI 决策输入的数据	记录推理输入并关联数据主体
AI 推理输出	提供影响数据主体的 AI 决策／评分／分类	通过数据主体 ID 记录决策
逻辑说明	第 15（1）（h）条：提供关于自动化决策逻辑的有意义信息	根据请求提供 SHAP／LIME 解释，或提供系统级说明
训练数据来源	第 14（2）（f）条：若数据并非从数据主体处收集，则提供数据来源	记录训练数据来源文档

技术挑战：

• 在海量训练数据集中识别特定记录
• 无需执行成员推断即可确定数据主体的数据是否在训练集中
• 为复杂模型提供有意义的逻辑说明

更正权（第 16 条）

AI 场景	义务	实施方式
更正训练数据	更正训练数据集中的不准确数据	更新训练数据；评估是否需要重新训练模型
更正模型输出	更正关于数据主体的不准确 AI 输出	建立输出更正机制；在决策系统中标记
更正推理输入	更正用作推理输入的数据	更新输入数据；重新运行推理

技术挑战：更正训练数据可能需要重新训练模型，才能使更正生效。对于已部署的模型，可能需要更新模型或重新训练流程。

删除权（第 17 条）

AI 场景	义务	实施方式
删除训练数据	从训练数据集中删除数据主体的数据	从训练数据中移除；评估对模型的影响
模型遗忘	从已训练的模型中移除已删除数据的影响	采用机器遗忘技术或完整重新训练
推理日志	删除与数据主体关联的推理输入和输出	从决策日志中清除
模型输出	删除有关数据主体的生成内容	建立内容移除机制

技术挑战：要从已训练的模型中真正删除数据，必须采用经验证的机器遗忘技术，或完整重新训练模型。EDPB 承认这一挑战，但要求控制者证明已尽到善意努力，并使用现有最佳技术。

限制处理权（第 18 条）

AI 场景	义务
准确性受到质疑	在核实训练数据或 AI 输出的准确性期间限制处理
处理不合法	若数据主体提出请求，应限制处理而非删除数据
评估异议期间	在控制者评估合法理由是否优先于异议期间限制处理

实施方式：在限制处理期间，将数据主体的数据从训练流程和推理流程中隔离。

数据可携权（第 20 条）

AI 场景	义务
训练数据贡献	以结构化、机器可读的格式提供数据主体贡献的训练数据
AI 生成的画像	如果 AI 创建了画像，则以可移植格式提供
推断历史	提供影响数据主体的 AI 决策历史

反对权（第 21 条）

AI 场景	义务
反对 AI 训练	如果训练基于合法利益（第 6(1)(f) 条），数据主体可以提出反对
反对画像分析	反对 AI 画像分析，包括对特征的推断
直接营销	对 AI 驱动的直接营销画像分析享有绝对反对权

提出反对后：除非存在压倒性的合法理由，否则控制者必须停止处理。对于 AI 训练：从训练流程中移除数据，并评估对模型的影响。

与自动化决策相关的权利（第 22 条）

权利	实施方式
不受自动化决策约束的权利	选择退出仅由自动化 AI 作出的、具有法律或重大影响的决策
人工介入权	由具备资质且有权推翻 AI 决策的人工审核员进行审核
表达意见权	提供机制，让数据主体补充相关背景信息
提出异议权	通过正式程序提出异议并接受独立审核
获得解释权	AI 法案第 86 条 + GDPR 序言第 71 条：清晰解释 AI 在决策中的作用

AI 法案第 86 条——解释权

对于高风险 AI 系统，受影响人员有权获得：

• 对 AI 系统在决策程序中所起作用的清晰且有意义的解释
• 所作决策的主要要素
• 此权利不影响 GDPR 赋予数据主体的权利

实施操作

AI 权利请求分类

Data subject rights request received
│
├─ Identify if AI processing is involved
│  ├─ Was AI used in any decision affecting the data subject?
│  ├─ Is the data subject's data in any training dataset?
│  └─ Has AI generated any content about the data subject?
│
├─ Determine applicable AI-specific rights
│  ├─ Access: training data, inference records, logic explanation
│  ├─ Rectification: training data or output correction
│  ├─ Erasure: training data deletion, model unlearning
│  ├─ Restriction: quarantine from AI pipeline
│  ├─ Objection: cease AI training on their data
│  └─ Automated decision: explanation, human review, contestation
│
├─ Route to appropriate team
│  ├─ Standard rights: data protection team
│  ├─ AI-specific: data protection + ML engineering team
│  └─ Contestation: independent review panel
│
└─ Process within Art. 12 timeframe (one month, extendable by two)

响应时限

请求类型	标准时限	延长时限	延长理由
访问（标准）	1 个月	3 个月	复杂、数据量大
访问（AI 逻辑）	1 个月	3 个月	需要生成技术说明
更正	1 个月	3 个月	可能需要重新训练模型
删除	1 个月	3 个月	机器遗忘的复杂性
解释（第 86 条）	不得无故拖延	—	对受影响人员而言时间至关重要
提出异议	30 天	90 天	需要独立审核

执法先例

• 奥地利数据保护机构诉 CRIF（2023 年）：违反第 15(1)(h) 条——信用评分系统在收到访问请求后，未能提供关于自动化决策逻辑的有意义信息。
• 意大利数据保护局诉 OpenAI（2023 年）：要求提供机制，让数据主体请求更正不准确的 AI 输出，并反对使用其数据进行 AI 训练。
• 荷兰数据保护机构指南（2024 年）：删除权包括处理从 AI 训练数据中删除数据的义务，即使技术上存在挑战。
• 欧洲数据保护委员会 ChatGPT 专项工作组（2024 年）：控制者必须证明其有能力处理影响训练数据的权利请求——技术难度不能作为豁免理由。

集成点

• ai-automated-decisions：提出异议和人工审核机制
• ai-transparency-reqs：逻辑解释履行透明度义务
• ai-data-retention：删除权与保留和机器遗忘相交
• ai-training-lawfulness：反对权适用于基于合法利益的训练