ai-training-lawfulness

AI 训练数据的合法依据

概述

为 AI 模型训练而处理个人数据，构成一项独立的处理活动，根据 GDPR 第 6(1) 条，需要有单独的合法依据。EDPB《04/2025 号指南》和 ChatGPT 协调工作组的调查结果指出，AI 训练带来了独特的合法依据挑战：数据收集规模庞大、难以为开放式 AI 训练目的取得有效同意、合法利益与数据主体预期之间存在冲突，以及难以确定从网络抓取和第三方数据集中获取的数据是否合法。本技能提供了用于 AI 训练数据处理的全面合法依据评估框架，并针对机器学习训练场景，逐一分析第 6(1) 条规定的各项合法依据。

基本原则

AI 训练属于个人数据处理

EDPB 已确认，在以下情况下，AI 模型训练构成 GDPR 第 4(2) 条所指的个人数据处理：

1. 训练数据集包含个人数据（可直接或间接识别的自然人）
2. 模型使用包含个人数据的数据进行训练，即使训练目的是学习一般模式
3. 生成的模型仍具备从训练集生成或复现个人数据的能力
4. 在任何流水线阶段使用个人数据：收集、清理、标注、增强、验证、测试

控制者不能以模型只是“学习”而非“存储”个人数据为由，规避 GDPR 义务。无论模型之后能否复现特定记录，处理行为都发生在训练时。

AI 训练的目的限定

第 5(1)(b) 条要求，个人数据必须为特定、明确且合法的目的而收集。对于 AI 训练，这意味着：

• “训练 AI 模型”不够具体——控制者必须说明正在开发的具体能力
• 通过 AI 训练“改进我们的服务”必须细分为具体目的
• 每项目的都必须在训练开始前记录，而不能事后再予以证明
• 必须依照第 13 至 14 条，在隐私声明中向数据主体告知目的

AI 训练的合法依据分析

第 6(1)(a) 条——同意

有效 AI 训练同意的要求

要求	在 AI 训练中的适用方式
自由给予	数据主体必须拥有真实的选择；除非 AI 训练是服务所必需，否则不得将同意与服务访问捆绑
具体明确	仅说明“AI 训练”并不足够——必须说明模型类型、训练目的以及使用的数据元素
知情	必须说明个人数据将如何用于训练、训练数据的保留期限、模型记忆数据的风险，以及无法从已训练模型中彻底删除数据
明确无误	必须采取明确的肯定行动；预先勾选的复选框或从服务条款中推定的同意均不充分
可撤回	控制者必须提供撤回同意的机制；但模型已经使用相关数据完成训练，会带来技术挑战

AI 训练中的同意挑战

1. 细粒度问题：AI 训练通常会使用所有可用数据，难以针对每个数据元素在训练中的用途逐一取得具体同意
2. 撤回的复杂性：模型一旦使用个人数据完成训练，要真正删除数据，就必须重新训练模型或经过验证的机器反学习
3. 目的演变：基础模型和迁移学习意味着模型可能会被用于其他目的；最初取得的同意可能并未涵盖后续用途
4. 规模导致的不切实际：实际上不可能取得数百万名数据主体的同意，而他们的数据可能出现在网络抓取的训练语料中
5. 权力不平衡：如果使用 AI 服务必须同意将数据用于训练（例如，“使用我们的 AI 助手，你的对话就会用于训练我们的模型”），那么这种同意可能并非自由给予

何时同意适用于 AI 训练

• 用户明确选择加入研究计划，且 AI 模型训练是其主要目的
• 用户向特定 AI 系统提供数据，并获得清晰披露（例如，“您的反馈将用于训练此推荐引擎”）
• 使用用户提供的数据进行微调，且用户了解并同意训练目的

Art. 6(1)(b) — 合同必要性

只有在以下情况下，AI 训练才能以合同必要性为依据：

• AI 模型训练对于履行与数据主体的合同确实必要
• 数据主体已签订一份要求提供 AI 驱动功能的合同
• 训练无法与服务交付分离

EDPB 的限制：

• 通过汇总训练来普遍改进 AI 系统，并非任何单独合同所“必需”
• 训练惠及未来用户的通用模型，对于当前数据主体的合同并非必要
• 如果个性化模型是合同约定服务的一部分，则基于单个用户交互进行微调可能符合要求

Art. 6(1)(f) — 合法利益

这是 AI 训练最常采用的依据。EDPB 要求进行严格的三部分评估：

第 1 部分：合法利益识别

控制者必须识别具体、真实且合法的利益：

利益类型	示例	EDPB 评估
商业产品改进	训练欺诈检测模型以保护客户	通常属于合法利益——为数据主体带来具体益处
研究与开发	训练用于医学影像分析的模型	若研究目的真实且具体，则属于合法利益
通用 AI 能力	训练用于通用用途的基础模型	受到严格审查——必须具体说明利益
竞争优势	通过训练使 AI 能力达到竞争对手的水平	属于合法的商业利益，但在权衡中依据较弱

第 2 部分：必要性评估

问题	评估标准
AI 训练对于已识别的利益是否必要？	是否无需使用个人数据进行训练也能实现该利益？
匿名化数据能否达到相同结果？	控制者是否使用匿名化数据测试过模型性能？
合成数据能否补充或替代个人数据？	是否评估过合成数据生成？
个人数据的数量是否适度？	是否确定了最低有效数据集？
联邦学习能否避免将个人数据集中存储？	是否评估过分布式训练？

第 3 部分：权衡测试

有利于控制者的因素：

• 训练数据可公开获取（但仅凭这一点不能作出决定）
• 模型服务于有益目的（预防欺诈、医学研究）
• 已采取严格的技术保障措施（差分隐私、访问控制）
• 数据主体能够有效行使退出权
• 使用前已对训练数据进行假名化处理

有利于数据主体的因素：

• 收集数据时并未考虑 AI 训练——此类处理远超原有预期
• 从多种来源大规模收集数据，且数据主体并不知情
• 训练数据中包含特殊类别数据，或可据此推断出此类数据
• 训练语料中包含儿童数据
• 不存在切实可行的退出机制
• 模型可能会记忆并复述个人数据
• 网络抓取绕过了数据主体对数据共享的选择

EDPB 关于 AI 训练合法利益的立场

EDPB《指南 04/2025》明确指出：

1. AI 训练并非自动适用合法利益作为法律依据——必须逐案评估
2. 为 AI 训练抓取个人数据的门槛尤其高
3. 数据收集规模是相关因素——数据集越大，所需的理由就越充分
4. 控制者必须证明处理具有必要性：提供证据，证明确实需要个人数据，而非匿名数据或合成数据等替代方案
5. 有效的退出机制是最低限度的保障措施
6. 权衡测试应考虑多个 AI 开发者抓取同一数据主体的数据并据此进行训练所产生的累积影响

第 6 条第 1 款第 e 项——公共利益

适用于公共机构和执行公共利益任务的组织：

• 为有益于公众的研究训练 AI 模型的学术研究机构
• 为提供公共服务而训练 AI 的政府机构
• 必须具有国家法律或欧盟法律依据
• 须满足比例原则要求

特殊情形

网络抓取的数据

EDPB 针对用于 AI 训练的网络抓取提供了具体指导：

1. Robots.txt 不等于同意：遵守 robots.txt 并不能构成合法依据
2. 公开可获取不等于具有合法依据：数据可公开获取，并不意味着可以任意将其用于 AI 训练
3. 合理预期：在线发布内容的数据主体不会合理地预期这些内容会被用于 AI 训练
4. 儿童数据：网络抓取的数据可能包含儿童数据——须提供更高程度的保护
5. 技术措施：设置隐私选项的数据主体已表明不希望其数据被广泛使用

网络抓取训练数据的评估框架：

因素	合法性较高的迹象	合法性较低的迹象
数据来源	明确采用开放许可的数据（CC0、公有领域）	个人资料、社交媒体、私人网站
数据类型	事实性、非个人内容	可识别个人身份的信息、照片、观点
数据主体的预期	发布数据时意在允许广泛重用	在特定情境下分享的数据（社交媒体、论坛）
保障措施	差分隐私、训练前过滤个人身份信息	未进行任何预处理以移除个人数据
退出机制	有效且易于使用的退出机制	没有退出机制，或退出机制在技术上难以实现
透明度	隐私声明涵盖用于 AI 训练的用途	未向数据主体告知 AI 训练相关事宜

第三方数据集

使用从第三方获取的数据集时：

1. 核实上游合法依据：控制者必须核实数据提供方收集和共享数据是否具有合法依据
2. 合同保证：要求提供方就合法收集、同意范围以及授予 AI 训练许可的权利作出保证
3. 尽职调查：对提供方的数据收集实践开展合理的尽职调查
4. 责任链：即使数据由第三方提供，AI 开发者仍作为控制者，负责确保处理合法

公共数据集

学术和政府数据集需要进行评估：

1. 是否包含个人数据？（许多数据集会意外包含个人数据）
2. 数据集最初的用途是什么？是否兼容 AI 训练？
3. 数据集许可是否允许将其用于商业 AI 训练？
4. 是否已针对同意和隐私问题对数据集进行伦理审查？
5. 是否存在已知问题（偏见、个人身份信息泄露、同意缺失）？

训练数据保留期限

第 5(1)(e) 条规定的存储期限限制适用于 AI 训练数据：

• 训练数据的保留时间不得超过实现训练目的所必需的时间
• 模型训练完成后，是否有充分理由继续保留训练数据？
• 如果为重新训练而保留训练数据，最长保留期限是多久？
• 编码了个人数据的模型产物（权重、嵌入）也受保留期限限制
• 删除验证：控制者能否证明训练数据已被有效删除？

训练数据相关的数据主体权利

权利	AI 训练中的应用	技术挑战
访问权（第 15 条）	数据主体可以要求确认其数据是否用于训练，并获取副本	在大型训练数据集中识别特定记录
更正权（第 16 条）	必须更正训练集中的不准确个人数据	更正可能需要重新训练模型
删除权（第 17 条）	数据主体可以要求从训练集中删除其数据	需要机器遗忘或重新训练模型
反对权（第 21 条）	数据主体可以反对基于合法利益的处理	除非有压倒性理由，否则控制者必须停止处理
限制处理权（第 18 条）	在对数据准确性或反对处理存在争议期间，必须限制处理	可能需要将数据从训练流程中隔离

执法先例

• Garante 诉 OpenAI（2023 年）：临时禁止处理——未确定 ChatGPT 训练数据具有合法依据。责令 OpenAI 确定训练数据的第 6(1) 条依据、实施年龄验证并提供退出机制。
• CNIL 诉 Clearview AI（SAN-2022-019，2022 年）：罚款 2,000 万欧元——未经合法依据抓取生物识别数据。未取得同意，也未进行合法利益平衡测试。
• Datatilsynet（挪威）诉 Meta（2023 年）：临时禁止将挪威用户数据用于 AI 训练——合法利益依据缺乏充分记录；平衡测试不充分。
• DPC（爱尔兰）诉 Meta（2024 年）：调查 Meta 基于合法利益依据使用公开的 Facebook/Instagram 帖子进行 AI 训练的情况。与 DPC 接洽后，Meta 暂停了在欧盟开展的 AI 训练。
• EDPB ChatGPT 专项工作组（2024 年）：协调得出的结论认为，基于合法利益进行大模型训练需要全面的平衡测试、透明度和有效的退出机制——仅仅声称存在合法利益并不足够。

集成点

• ai-dpia：训练数据合法性纳入 DPIA 第 2 阶段评估
• ai-data-subject-rights：训练数据相关权利的行使机制
• ai-data-retention：训练数据集的保留和删除要求
• ai-transparency-reqs：关于使用训练数据的透明度义务