dpia-automated-decisions

自动化决策系统的 DPIA

目的

根据 GDPR 第 35(3)(a) 条的要求，针对会对个人产生法律效力或类似重大影响的自动化决策（ADM）和画像系统开展专门的 DPIA。

前提条件

• ADM／画像系统的文档（算法设计、训练数据、决策逻辑）
• 已确认达到第 35(3)(a) 条规定的门槛：基于自动化处理（包括画像）对个人特征进行系统性和广泛评估，并据此作出对自然人产生法律效力或类似重大影响的决定
• 已识别处理的数据类别，包括任何第 9 条所述的特殊类别
• 如有，提供现有的第 22 条保障措施文档

工作流

步骤 1：系统说明和范围

记录正在评估的 ADM 系统：

1. 系统目的：业务目标和处理目的
2. 决策类型：系统作出或支持哪些决策（信用评分、保险定价、招聘筛选、欺诈检测、内容审核）
3. 处理范围：用作输入的数据类别、受影响的数据主体数量、地理范围
4. 自动化程度：完全自动化（没有人工参与）、半自动化（有人参与），或可由人工覆盖的自动化系统
5. 法律依据：处理所依据的第 6(1) 条依据；如果适用第 22 条，则说明所依赖的第 22(2) 条例外（合同、欧盟／成员国法律、明确同意）

步骤 2：必要性和比例性评估

评估自动化处理是否必要且合乎比例：

1. 目的限制：确认处理目的具体、明确且合法，符合第 5(1)(b) 条
2. 数据最小化：核实仅处理作出决策所严格必需的数据，符合第 5(1)(c) 条
3. 准确性：评估输入数据质量及其对决策准确性的影响，符合第 5(1)(d) 条
4. 侵扰性较低的替代方案：记录是否可以通过自动化程度较低的方式作出决策
5. 比例性：权衡组织所获益处与对个人权利和自由的影响

步骤 3：风险识别

识别 ADM 系统特有的风险：

1. 歧视风险：评估系统是否可能基于第 9 条所述特征（种族、族裔、政治观点、宗教、健康状况、性取向）产生歧视性结果
2. 不透明风险：评估能否根据第 13(2)(f) 条和第 14(2)(g) 条向受影响的个人解释决策逻辑
3. 准确性风险：评估误报率和漏报率及其后果
4. 数据质量风险：评估训练数据能否无偏差地反映现实世界的人群
5. 反馈循环风险：评估系统是否会造成自我强化的偏差
6. 范围蔓延风险：评估系统是否可能被用于超出预期目的的场景
7. 安全风险：评估对抗性操纵途径（数据投毒、模型提取）

步骤 4：第 22 条合规性评估

如果系统仅通过自动化方式作出具有法律效力或类似重大影响的决定：

1. 第 22(1) 条禁令核查：确认是否适用默认禁令
2. 第 22(2) 条例外：记录允许处理所依据的例外：
   • (a) 为订立或履行合同所必需
   • (b) 经欧盟或成员国法律授权，并设有适当保障措施
   • (c) 基于明确同意
3. 第 22(3) 条保障措施：核实是否实施了强制性保障措施：
   • 有权要求控制者进行人工干预
   • 有权表达数据主体的观点
   • 有权对决策提出异议
4. 第 22(4) 条特殊类别：如果处理第 9 条所述数据，确认是否依据第 9(2)(a) 条取得明确同意，或依据第 9(2)(g) 条出于重大公共利益并采取适当保障措施

第 5 步：透明度与可解释性

评估透明度义务：

1. 决策前透明度：第 13(2)(f) 条 / 第 14(2)(g) 条要求提供有关所涉逻辑、其重要性以及预期后果的有意义信息
2. 逻辑解释深度：记录所提供的解释达到何种程度：
   • 系统总体功能说明
   • 影响决策的关键因素／特征
   • 决策阈值及其依据
   • 针对特定个人某项具体决策的解释
3. 序言 71 的指导：核实是否依照序言 71 落实解释权（即获得对评估后作出的决定的解释的权利）

第 6 步：风险缓解措施

实施措施以缓解已识别的风险：

1. 偏见测试：定期测试对受保护特征不同群体的歧视性影响
2. 人工监督：明确人工审核人员在何种情况下以及如何介入
3. 准确性监控：持续监控性能，并设定明确的可接受阈值
4. 审计跟踪：完整记录每项决策的输入、模型版本和输出
5. 数据主体权利：为个人行使第 22(3) 条权利制定明确流程
6. 定期审查：制定定期重新评估计划（至少每年一次）

第 7 步：利益相关方咨询

按照第 35(9) 条咨询所需各方：

1. DPO 意见：按照第 35(2) 条取得 DPO 评估意见
2. 数据主体：在适当情况下，按照第 35(9) 条征求数据主体或其代表的意见
3. 技术专家：算法开发人员、数据科学家、领域专家
4. 法律顾问：评估 GDPR 以外的适用法律（《欧盟 AI 法案》、行业专项法规）

第 8 步：文档记录与结果

记录 DPIA 结果：

1. 风险矩阵：采取缓解措施后的剩余风险评级
2. DPO 建议：记录 DPO 关于是否可以继续处理的意见
3. 事先咨询：如果剩余风险仍然较高，记录根据第 36 条咨询监管机构的决定
4. 审查计划：下次强制审查日期以及触发提前审查的事件

验证

• 完整描述 ADM 系统，包括决策类型、自动化程度和数据类别
• 记录第 22(2) 条例外，并落实第 22(3) 条保障措施
• 评估涉及第 9 条所保护特征的歧视风险
• 按照第 13(2)(f) 条 / 第 14(2)(g) 条履行透明度义务
• 人工介入机制已投入运行并经过测试
• 争议处理流程已有记录，且数据主体可以访问
• 已取得并记录 DPO 意见
• 已制定审查计划，并明确触发事件