ai-data-subject-rights

AI システムにおけるデータ主体の権利

概要

AI システムでは、データ主体の権利行使に固有の課題が生じます。構造化データベース向けに設計された従来の権利行使の仕組みは、個人データがモデルの重みに符号化され、モデルの出力に再現され、または不透明な意思決定プロセスで使用される ML モデルのアーキテクチャにはそのまま適用できません。このスキルでは、AI による処理において GDPR の各権利（第 15～22 条）および説明を受ける権利に関する AI Act 第 86 条を実施するための枠組みを提示し、学習時と推論時の両方の権利に対応します。

AI における権利の枠組み

アクセス権（第 15 条）

AI における状況	義務	実施方法
学習データへの寄与	データ主体のデータが学習セットに含まれていたかを確認し、可能であればそのコピーを提供する	データ主体の識別子でインデックス化された学習データカタログ、所属確認クエリ
AI 推論の入力	AI による決定の入力として使用されたデータを提供する	データ主体との関連付けを含めて推論入力を記録する
AI 推論の出力	データ主体に影響を及ぼす AI による決定・スコア・分類を提供する	データ主体 ID とともに決定を記録する
ロジックの説明	第 15 条第 1 項（h）：自動化された決定のロジックに関する有意義な情報	要請に応じた SHAP/LIME による説明、またはシステムレベルの説明
学習データの情報源	第 14 条第 2 項（f）：データ主体から収集したものでない場合のデータの情報源	学習データの来歴に関する文書

技術的な課題：

• 大規模な学習データセットから特定のレコードを識別すること
• メンバーシップ推論を実行せずに、データ主体のデータが学習セットに含まれているか判断すること
• 複雑なモデルについて有意義なロジックの説明を提供すること

訂正権（第 16 条）

AI における状況	義務	実施方法
学習データの訂正	学習データセット内の不正確なデータを訂正する	学習データを更新し、モデルの再学習が必要か評価する
モデル出力の訂正	データ主体に関する不正確な AI 出力を訂正する	出力の訂正機能を用意し、決定システムにフラグを設定する
推論入力の訂正	推論入力として使用されたデータを訂正する	入力データを更新し、推論を再実行する

技術的な課題：学習データを訂正した場合、訂正内容を反映するためにモデルの再学習が必要になることがあります。デプロイ済みモデルでは、モデルの更新または再学習パイプラインが必要になる場合があります。

消去権（第 17 条）

AI における状況	義務	実施方法
学習データの削除	学習データセットからデータ主体のデータを削除する	学習データから削除し、モデルへの影響を評価する
モデルのアンラーニング	削除したデータの影響を学習済みモデルから取り除く	機械アンラーニング技術またはモデルの全面的な再学習
推論ログ	データ主体に関連付けられた推論入力と出力を削除する	決定ログから消去する
モデル出力	データ主体に関する生成コンテンツを削除する	コンテンツ削除機能

技術的な課題：学習済みモデルから真に消去するには、検証済みの機械アンラーニングを行うか、モデルを完全に再学習する必要があります。EDPB はこの課題を認めていますが、管理者には誠実な努力を示し、利用可能な最善の技術を用いることを求めています。

処理制限権（第 18 条）

AI における状況	義務
正確性への異議	学習データまたは AI 出力の正確性を確認する間、処理を制限する
違法な処理	データ主体が求める場合は、削除ではなく処理を制限する
異議申し立ての評価中	正当な理由が優先されるかを管理者が評価する間、処理を制限する

実施方法：制限期間中、データ主体のデータを学習パイプラインおよび推論パイプラインから隔離します。

データポータビリティの権利（第20条）

AI のコンテキスト	義務
学習データへの寄与	データ主体が学習データに提供したデータを、構造化された機械可読形式で提供する
AI が生成したプロファイル	AI がプロファイルを作成している場合、ポータブルな形式で提供する
推論履歴	データ主体に影響を与える AI の判断履歴を提供する

異議を申し立てる権利（第21条）

AI のコンテキスト	義務
AI 学習への異議申し立て	学習が正当な利益（第6条第1項（f））に基づく場合、データ主体は異議を申し立てることができます
プロファイリングへの異議申し立て	特性の推論を含む AI プロファイリングに異議を申し立てる
ダイレクトマーケティング	AI を利用したダイレクトマーケティングのプロファイリングに対して、無条件に異議を申し立てる権利

異議申し立て後：優先する正当な根拠がない限り、管理者は処理を停止しなければなりません。AI 学習については、学習パイプラインからデータを削除し、モデルへの影響を評価します。

自動化された意思決定に関する権利（第22条）

権利	実装
対象とならない権利	法的効果または重大な影響を及ぼす、完全に自動化された AI の意思決定をオプトアウトする
人の介入を受ける権利	AI の判断を覆す権限を持つ、適格な人間の審査担当者
意見を表明する権利	データ主体が追加の背景情報を提供できる仕組み
異議を申し立てる権利	独立した審査を伴う正式な異議申し立て
説明を受ける権利	AI の意思決定における役割についての明確な説明（AI 法第86条＋GDPR 前文第71項）

AI 法第86条 — 説明を受ける権利

高リスク AI システムについて、影響を受ける人は以下を受ける権利があります。

• 意思決定手続きにおける AI システムの役割について、明確で意味のある説明
• 下された決定の主な要素
• この権利は GDPR に基づくデータ主体の権利を損なうものではありません

運用上の実装

AI に関する権利請求のトリアージ

Data subject rights request received
│
├─ Identify if AI processing is involved
│  ├─ Was AI used in any decision affecting the data subject?
│  ├─ Is the data subject's data in any training dataset?
│  └─ Has AI generated any content about the data subject?
│
├─ Determine applicable AI-specific rights
│  ├─ Access: training data, inference records, logic explanation
│  ├─ Rectification: training data or output correction
│  ├─ Erasure: training data deletion, model unlearning
│  ├─ Restriction: quarantine from AI pipeline
│  ├─ Objection: cease AI training on their data
│  └─ Automated decision: explanation, human review, contestation
│
├─ Route to appropriate team
│  ├─ Standard rights: data protection team
│  ├─ AI-specific: data protection + ML engineering team
│  └─ Contestation: independent review panel
│
└─ Process within Art. 12 timeframe (one month, extendable by two)

対応期間

請求の種類	標準	延長時	延長の正当化理由
アクセス（標準）	1か月	3か月	複雑、大量
アクセス（AI のロジック）	1か月	3か月	技術的な説明の生成が必要
訂正	1か月	3か月	モデルの再学習が必要となる場合がある
消去	1か月	3か月	機械学習解除の複雑さ
説明（第86条）	不当な遅延なく	—	影響を受ける人にとって時間的制約がある
異議申し立て	30日	90日	独立した審査が必要

執行上の先例

• オーストリア DPA 対 CRIF（2023年）：第15条第1項（h）への違反 — 信用スコアリングシステムが、アクセス請求時に自動化された意思決定のロジックについて意味のある情報を提供できなかった。
• Garante 対 OpenAI（2023年）：データ主体が不正確な AI 出力の訂正を請求し、自身のデータを使った AI 学習に異議を申し立てるための仕組みを義務付けた。
• オランダ DPA のガイダンス（2024年）：消去の権利には、技術的に困難であっても、AI の学習データからの消去に対処する義務が含まれる。
• EDPB ChatGPT タスクフォース（2024年）：管理者は、学習データに影響する権利請求に対処できる能力を実証しなければなりません — 技術的な困難さは免除の理由になりません。

統合ポイント

• ai-automated-decisions：異議申し立てと人による審査の仕組み
• ai-transparency-reqs：ロジックの説明により透明性に関する義務を果たす
• ai-data-retention：消去の権利は保持および学習解除と関連する
• ai-training-lawfulness：異議を申し立てる権利は、正当な利益に基づく学習に適用される