ai-vendor-privacy-due

AI 供应商隐私尽职调查

概述

AI 服务会形成复杂的控制者—处理者关系，与传统数据处理安排有显著差异。AI 供应商属于处理者、共同控制者还是独立控制者，取决于供应商对个人数据处理的自主程度，尤其是是否使用客户数据训练模型、是否为改进模型而保留数据，以及供应商是否出于自身目的处理数据。本技能提供用于确定 AI 服务关系中控制者与处理者角色、对 AI 供应商开展隐私尽职调查，以及制定适当合同保护措施的框架。

AI 的控制者—处理者角色判定

决策框架

AI 服务模式	常见角色	关键因素	GDPR 条款
SaaS AI — 按指示处理客户数据	供应商 = 处理者	供应商仅根据控制者的指示处理数据；不作独立使用	需要 Art. 28 DPA
SaaS AI — 使用客户数据训练模型	供应商 = 共同控制者或独立控制者	供应商将客户数据用于合同服务范围之外的模型改进	Art. 26 JCA 或单独的控制者告知
嵌入式 AI — 在客户基础设施中运行预训练模型	客户 = 控制者；供应商可能是支持服务的处理者	模型在客户环境中运行；供应商可能为提供支持或更新而访问数据	若供应商访问数据，则适用 Art. 28
基于 API 的 AI — 客户发送数据以进行推理	供应商 = 处理者（不保留数据时），或共同控制者（使用输入数据训练时）	取决于供应商是否保留、使用或训练输入数据	需要评估
AI 平台 — 客户在供应商平台上构建模型	供应商是基础设施的处理者；是平台数据的控制者	供应商提供计算资源；客户控制数据和模型	Art. 28 DPA + 审计权
AI 市场 — 使用客户数据的预构建模型	取决于数据流向	如果客户数据进入供应商模型 → 评估是否构成共同控制者	逐案评估

关键判定问题

1. 谁决定处理目的？ — 决定为何处理个人数据的实体
2. 谁决定处理方式？ — 决定如何处理数据的实体（但“非必要方式”可委托给处理者）
3. 供应商是否将数据用于自身目的？ — 使用客户数据进行模型训练、基准测试、产品改进
4. 供应商是否在服务交付后继续保留数据？ — 推理后保留的数据、为训练而存储的数据、日志中留存的数据
5. 供应商是否对数据作出独立决定？ — 决定训练模型、向客户未指示的子处理者共享数据

常见 AI 供应商模式

模式 1：纯推理 API（供应商 = 处理者）

• 客户发送数据；接收推理结果
• 供应商不会在处理完成后继续保留输入数据
• 供应商不会使用客户数据进行训练
• 供应商仅按照客户的指示行事
• 合同：签订 Art. 28 DPA，并明确约定范围

模式 2：AI 模型改进（供应商 = 共同控制者）

• 客户发送数据；接收推理结果
• 供应商保留数据以改进其模型
• 供应商将模型训练确定为处理目的
• 双方均受益于模型改进
• 合同：签订 Art. 26 共同控制者协议

模式 3：使用匿名化数据进行分析（需要评估）

• 客户发送数据；接收推理结果
• 供应商声称会对数据进行匿名化，并使用汇总分析数据
• 如果匿名化有效：分析不涉及个人数据处理
• 如果匿名化无效（仍可能重新识别）：供应商是分析活动的控制者
• 评估：根据 WP216 验证匿名化的有效性

模式 4：嵌入式 AI 与遥测数据（供应商 = 处理者 + 可能为控制者）

• AI 模型在客户环境中运行
• 供应商收集遥测数据，包括模型性能数据
• 如果遥测数据包含个人数据：供应商可能是遥测数据处理的控制者
• 合同层面：模型支持需签订第 28 条 DPA，遥测数据需另行约定

尽职调查评估框架

阶段 1：供应商 AI 处理清单

针对每家 AI 供应商，记录：

要素	所需文档
AI 功能	供应商提供哪些 AI 功能？
个人数据输入	向供应商发送了哪些个人数据？
个人数据输出	供应商返回了哪些个人数据？
数据保留	供应商是否保留输入数据？保留多久？
模型训练	供应商是否使用客户数据进行训练？
子处理者	供应商是否使用子处理者进行 AI 处理？位于何处？
数据位置	AI 处理在哪里进行？涉及哪些司法管辖区？
安全措施	哪些安全控制措施可保护 AI 处理期间的数据？
人工审查	供应商人员是否会访问客户数据？

阶段 2：隐私风险评估

风险因素	评估	风险等级
数据敏感性	是否向 AI 供应商发送特殊类别数据？
数据量	供应商处理的个人数据量
供应商的数据使用	供应商是否将客户数据用于自身目的？
国际传输	数据是否在 EU/EEA 以外处理？
子处理者链	子处理者的数量和所在地
安全状况	是否具备认证（ISO 27001、SOC 2）？
事件历史	过往是否发生过数据泄露或执法行动？
AI 特定风险	模型记忆、输出泄露、偏见？

阶段 3：合同评估

合同要素	是否必需？	状态
第 28 条 DPA 或第 26 条 JCA	是
处理范围和目的限制	是
禁止超出指示范围使用数据（若为处理者）	是
退出模型训练	是（若供应商使用数据进行训练）
子处理者通知和审批	是
国际传输保障措施	如适用
合同终止时删除数据	是
审计权	是
泄露通知义务	是
AI 特定：模型隐私测试	建议
AI 特定：偏见评估义务	对高风险情况建议
AI 特定：输出准确性保证	建议

AI 特定合同条款

模型训练限制

The Processor shall not use Customer Data to train, improve, fine-tune, or
otherwise develop any machine learning model, algorithm, or AI system,
whether for the Customer's benefit or for any other purpose, without prior
written consent from the Customer. Any consent granted shall specify the
scope of permitted training, the data categories involved, and the privacy
safeguards to be applied.

AI 输出准确性

The Provider acknowledges that AI system outputs about identifiable data
subjects must comply with the accuracy principle under Art. 5(1)(d) GDPR.
The Provider shall implement measures to minimise inaccurate outputs about
data subjects and shall promptly correct inaccurate outputs upon
notification.

模型隐私与偏见义务

The Provider shall conduct periodic privacy audits of AI models processing
Customer Data, including membership inference testing and training data
extraction testing, and shall make results available to the Customer upon
request. The Provider shall monitor AI systems for discriminatory outcomes
and shall implement bias mitigation measures as required.

执法相关性

• EDPB《控制者与处理者指南 07/2020》：认定取决于实际情况，而非合同标签。被标记为“处理者”但将数据用于自身目的的供应商，实际上属于控制者。
• CJEU C-40/17（Fashion ID）：当一方能够影响处理目的和方式时，即使无法访问数据，也可能构成联合控制者。
• Garante 诉 OpenAI（2023）：确认 OpenAI 对 ChatGPT 训练数据的控制者角色——为模型训练而处理个人数据属于独立的控制者目的。
• DPC 诉 Meta（WhatsApp，2023）：罚款 550 万欧元——处理者与控制者的认定必须反映实际数据使用情况，而不只是合同条款。

集成要点

• ai-dpia：供应商 AI 处理必须纳入 DPIA 范围
• ai-training-lawfulness：供应商使用客户数据进行训练，必须评估其合法依据
• ai-transparency-reqs：必须告知数据主体有关供应商 AI 处理的情况
• ai-deployment-checklist：供应商尽职调查是部署前检查清单中的一项