ai-training-lawfulness

AI トレーニングデータの適法根拠

概要

AI モデルのトレーニングにおける個人データの処理は、GDPR 第 6 条第 1 項に基づく独自の適法根拠を必要とする、個別の処理行為です。EDPB ガイドライン 04/2025 および ChatGPT タスクフォースの連携調査結果では、AI トレーニングによって特有の適法根拠上の課題が生じることが示されています。具体的には、データ収集の規模、目的が限定されない AI トレーニングについて有意義な同意を得る難しさ、正当な利益とデータ主体の期待との緊張関係、ウェブスクレイピングや第三者のデータセットの適法性を判断する複雑さなどです。このスキルでは、ML トレーニングの状況に適用される第 6 条第 1 項の各適法根拠を取り上げ、AI トレーニングデータの処理について包括的に評価するための枠組みを提供します。

基本原則

個人データ処理としての AI トレーニング

EDPB は、以下の場合、AI モデルのトレーニングが GDPR 第 4 条第 2 項に基づく個人データの処理に該当することを確認しています。

1. トレーニングデータセットに個人データ（直接または間接的に識別可能な自然人に関するデータ）が含まれている
2. 一般的なパターンの学習を目的としていても、個人データを含むデータでモデルをトレーニングしている
3. 生成されたモデルが、トレーニングセットから個人データを生成または再現する能力を保持している
4. 収集、クリーニング、アノテーション、拡張、検証、テストなど、パイプラインのいずれかの段階で個人データが使用されている

モデルが個人データを「保存」したのではなく「学習」したと主張しても、管理者は GDPR 上の義務を回避できません。モデルが後に特定の記録を再現できるかどうかにかかわらず、処理はトレーニング時に行われます。

AI トレーニングの目的の特定

第 5 条第 1 項（b）は、個人データを特定され、明示され、正当な目的のために収集することを求めています。AI トレーニングにおいては、次のことを意味します。

• 「AI モデルのトレーニング」だけでは具体性が不十分です。管理者は、開発する具体的な機能を明確に示す必要があります
• AI トレーニングによる「サービスの改善」は、具体的な目的に分けて説明する必要があります
• 各目的はトレーニング開始前に文書化する必要があり、事後的に正当化してはなりません
• 第 13 条および第 14 条に従い、プライバシー通知でデータ主体に目的を伝える必要があります

AI トレーニングにおける適法根拠の分析

第 6 条第 1 項（a）— 同意

AI トレーニングにおいて有効な同意を得るための要件

要件	AI トレーニングへの適用
自由に与えられていること	データ主体に真の選択肢がなければなりません。AI トレーニングがサービスに必要でない限り、同意をサービスへのアクセスと一体化させることはできません
特定されていること	「AI トレーニング」だけでは不十分です。モデルの種類、目的、使用するデータ項目を具体的に示す必要があります
情報が与えられていること	トレーニングでの個人データの使用方法、トレーニングデータの保存期間、モデルがデータを記憶するリスク、トレーニング済みモデルからデータを完全に削除できないことを説明する必要があります
曖昧でないこと	明確な積極的行為が必要です。あらかじめチェックされたチェックボックスや、利用規約から推定される同意では不十分です
撤回可能であること	管理者は同意を撤回する仕組みを用意する必要があります。ただし、すでにデータを使ってモデルをトレーニングしている場合は、技術的な課題が生じます

AI トレーニングにおける同意の課題

1. 粒度の問題：AI トレーニングでは、多くの場合、利用可能なすべてのデータを使用するため、各データ項目のトレーニング利用について個別の同意を得ることは困難です
2. 撤回の複雑さ：個人データを使ってモデルをトレーニングした後に真に消去するには、モデルの再トレーニング、または検証済みの機械アンラーニングが必要です
3. 目的の変化：基盤モデルや転移学習によって、モデルが別の目的に転用される可能性があります。その場合、当初の同意では後続の利用をカバーできないことがあります
4. 規模の現実的な問題：ウェブスクレイピングされたトレーニングコーパスにデータが含まれる何百万人ものデータ主体から同意を得ることは、実際には不可能です
5. 力関係の不均衡：AI サービスの利用にトレーニングへの同意が必要な場合（例：「当社の AI アシスタントを利用すると、会話がモデルのトレーニングに使われます」）、同意は自由に与えられたものとは言えない可能性があります

AI トレーニングへの同意が有効な場合

• ユーザーが、AI モデルのトレーニングを主な目的とする研究プログラムへの参加を明示的に選択している
• ユーザーが、明確な説明を受けたうえで、特定の AI システムにデータを提供している（例：「お客様のフィードバックは、このレコメンデーションエンジンのトレーニングに使用されます」）
• ユーザーがトレーニングの目的を理解し、同意したうえで、ユーザー提供データを使ってファインチューニングを行う

第 6 条第 1 項（b）— 契約の履行に必要な場合

AI トレーニングが契約の履行に必要であることを根拠とできるのは、次の場合に限られます。

• AI モデルのトレーニングが、データ主体との契約を履行するうえで真に必要である
• データ主体が、AI を活用した機能を必要とする契約を締結している
• トレーニングをサービスの提供から切り離せない

EDPB による制限：

• 集約データを用いたトレーニングによる AI システムの全般的な改善は、いかなる個別の契約にとっても「必要」ではありません
• 将来のユーザーにも役立つ汎用モデルのトレーニングは、現在のデータ主体との契約にとって必要ではありません
• 個々のユーザーとのやり取りに基づくファインチューニングは、パーソナライズされたモデルが契約サービスの一部である場合、該当する可能性があります

第 6 条第 1 項（f）— 正当な利益

これは、AI トレーニングで最も一般的に根拠とされる法的根拠です。EDPB は、次の 3 部構成による厳格な評価を求めています。

第 1 部：正当な利益の特定

管理者は、具体的かつ現実的で、適法な利益を特定する必要があります。

利益の種類	例	EDPB による評価
商用製品の改善	顧客を保護するための不正検知モデルのトレーニング	一般に正当 — データ主体に具体的な利益がある
研究開発	医療画像解析用モデルのトレーニング	研究目的が真摯かつ具体的であれば正当
AI の全般的な能力	汎用目的で基盤モデルをトレーニングする	慎重に審査 — 利益を具体的に説明する必要がある
競争上の優位性	競合他社の AI 能力に追いつくためのトレーニング	正当な商業的利益だが、比較衡量では弱い

第 2 部：必要性の評価

質問	評価基準
特定した利益のために AI トレーニングは必要か？	個人データを使ったトレーニングをせずに、その利益を追求できるか？
匿名化データで同じ結果を得られるか？	管理者は匿名化データを使ってモデルの性能を検証したか？
合成データで個人データを補完または置き換えられるか？	合成データの生成を評価したか？
個人データの量は比例しているか？	効果を得るために必要な最小限のデータセットを特定したか？
連合学習により個人データの集中化を避けられるか？	分散型トレーニングを評価したか？

第 3 部：比較衡量テスト

管理者に有利な要素：

• トレーニングデータが公開されている（ただし、それだけで決定的とはなりません）
• モデルが有益な目的に役立つ（不正防止、医学研究）
• 強力な技術的保護措置が適用されている（差分プライバシー、アクセス制御）
• データ主体がオプトアウト権を効果的に行使できる
• 使用前にトレーニングデータが仮名化されている

データ主体に有利な要素：

• データが AI トレーニングを想定して収集されていない — 処理が当初の予想から大きく外れている
• データ主体に知らされないまま、多様な情報源から大規模にデータを収集している
• 特別カテゴリーデータが含まれている、またはトレーニングデータから推測できる
• トレーニングコーパスに子どものデータが含まれている
• 実用的なオプトアウトの仕組みがない
• モデルが個人データを記憶し、出力として再現する可能性がある
• ウェブスクレイピングが、データ共有に関するデータ主体の選択を回避している

AI トレーニングにおける正当な利益に関する EDPB の見解

EDPB ガイドライン 04/2025 では、次のように定められています。

1. AI トレーニングにおける正当な利益は自動的に認められるものではなく、個別の評価が必要です
2. AI トレーニングのために個人データをウェブスクレイピングする場合、特に高い基準が求められます
3. データ収集の規模は関連する要素です。データセットが大きいほど、より強い正当化が必要です
4. 管理者は必要性を立証しなければなりません。つまり、匿名化データや合成データではなく、個人データが必要であることを示す証拠が必要です
5. 最低限の保護措置として、効果的なオプトアウトの仕組みが求められます
6. バランステストでは、複数の AI 開発者が同じデータ主体のデータをスクレイピングしてトレーニングすることによる累積的な影響を考慮する必要があります

Art. 6(1)(e) — 公共の利益

公共機関および公共の利益のための任務を遂行する組織が利用できます。

• 公共に有益な研究のために AI モデルをトレーニングする学術研究機関
• 公共サービスの提供のために AI をトレーニングする政府機関
• 国内法または EU 法上の根拠が必要です
• 比例性の要件が適用されます

特別な状況

ウェブスクレイピングされたデータ

EDPB は、AI トレーニングにおけるウェブスクレイピングについて、具体的なガイダンスを示しています。

1. Robots.txt は同意ではありません：robots.txt を遵守しても、適法性の根拠にはなりません
2. 公開されていることは適法性の根拠ではありません：データが一般公開されていても、AI トレーニングに自由に利用できるとは限りません
3. 合理的な期待：オンラインにコンテンツを投稿するデータ主体は、それが AI トレーニングに利用されると合理的に期待していません
4. 子どものデータ：ウェブスクレイピングされたデータには子どものデータが含まれている可能性が高く、より強化された保護が適用されます
5. 技術的措置：プライバシー設定を使用するデータ主体は、広範なデータ利用を望まない意思を示しています

ウェブスクレイピングされたトレーニングデータの評価フレームワーク：

要素	適法性が高いことを示す指標	適法性が低いことを示す指標
データソース	明示的なオープンライセンスのデータ（CC0、パブリックドメイン）	個人プロフィール、ソーシャルメディア、個人のウェブサイト
データの種類	事実に基づく、個人に関係しないコンテンツ	識別可能な個人情報、写真、意見
データ主体の期待	広範な再利用を意図して公開されたデータ	特定の状況で共有されたデータ（ソーシャルメディア、フォーラム）
保護措置	差分プライバシー、トレーニング前の PII フィルタリング	個人データを削除する前処理がない
オプトアウト	効果的で利用しやすいオプトアウトの仕組み	オプトアウトの仕組みがない、または技術的に実行が困難なオプトアウト
透明性	プライバシー通知に AI トレーニングでの利用が記載されている	AI トレーニングについてデータ主体への通知がない

第三者のデータセット

第三者から取得したデータセットを使用する場合：

1. 上流の適法性の根拠を確認：管理者は、データ提供者がデータを収集および共有する適法性の根拠を有していたことを確認しなければなりません
2. 契約上の保証：適法な収集、同意の範囲、AI トレーニング用にライセンスする権利について、提供者から保証を得てください
3. デューデリジェンス：提供者のデータ収集慣行について、合理的なデューデリジェンスを実施してください
4. 説明責任の連鎖：データが第三者から提供された場合でも、AI 開発者は適法な処理に責任を負う管理者であり続けます

公開データセット

学術機関や政府機関のデータセットには評価が必要です。

1. 個人データは含まれていますか？（多くのデータセットには、意図せず個人データが含まれています）
2. データセットの当初の目的は何ですか？AI トレーニングと両立しますか？
3. データセットのライセンスは、商用 AI トレーニングを許可していますか？
4. 同意とプライバシーについて、データセットの倫理的な審査は行われていますか？
5. 既知の問題（バイアス、PII の漏えい、同意の欠落）はありますか？

トレーニングデータの保持期間

Art. 5(1)(e) の保存期間の制限は、AI のトレーニングデータにも適用されます。

• トレーニングデータを、トレーニングの目的に必要な期間を超えて保持してはなりません
• モデルのトレーニング完了後も、トレーニングデータを保持し続けることは正当化されますか？
• トレーニングデータを再トレーニングのために保持する場合、最長の保持期間はどのくらいですか？
• 個人データを含むモデル成果物（重み、埋め込み）も、保持期間の制限の対象となります
• 削除の検証：管理者は、トレーニングデータが実効的に削除されたことを証明できますか？

トレーニングデータに関するデータ主体の権利

権利	AI トレーニングへの適用	技術的な課題
アクセス（Art. 15）	データ主体は、自身のデータがトレーニングに使用されたことの確認を求め、そのコピーを受け取ることができます	大規模なトレーニングデータセットから特定のレコードを特定すること
訂正（Art. 16）	トレーニングセット内の不正確な個人データは訂正する必要があります	訂正にはモデルの再トレーニングが必要となる場合があります
消去（Art. 17）	データ主体は、トレーニングセットから自身のデータを削除するよう求めることができます	機械アンラーニングまたはモデルの再トレーニングが必要です
異議申し立て（Art. 21）	データ主体は、正当な利益に基づく処理に異議を申し立てることができます	管理者は、優先する正当な理由がない限り、処理を停止しなければなりません
処理の制限（Art. 18）	正確性または異議申し立てについて争いがある間、処理を制限する必要があります	トレーニングパイプラインからデータを隔離する必要が生じる場合があります

執行に関する先例

• Garante v. OpenAI（2023）：一時的な処理禁止 — ChatGPT のトレーニングデータについて、適法な根拠が確認されませんでした。OpenAI に対し、トレーニングデータに適用される Art. 6(1) の法的根拠を特定し、年齢確認を実施し、オプトアウトの仕組みを提供するよう命じました。
• CNIL v. Clearview AI（SAN-2022-019、2022）：2,000 万ユーロの罰金 — 適法な根拠なく、生体データをウェブスクレイピングで収集しました。同意がなく、正当な利益に関する比較衡量テストも実施されていませんでした。
• Datatilsynet（ノルウェー）v. Meta（2023）：AI トレーニングへのノルウェーのユーザーデータの利用を一時的に禁止 — 正当な利益を根拠とする十分な文書がなく、比較衡量テストも不十分でした。
• DPC（アイルランド）v. Meta（2024）：正当な利益を根拠として、公開されている Facebook／Instagram の投稿を AI トレーニングに利用することを調査しました。DPC の関与を受け、Meta は EU での AI トレーニングを一時停止しました。
• ChatGPT に関する EDPB タスクフォース（2024）：LLM のトレーニングに正当な利益を根拠として適用するには、包括的な比較衡量テスト、透明性、実効的なオプトアウトが必要であり、正当な利益を主張するだけでは不十分であるとの協調的な判断が示されました。

統合ポイント

• ai-dpia：トレーニングデータの適法性は、DPIA のフェーズ 2 の評価に反映されます
• ai-data-subject-rights：トレーニングデータに関する権利行使の仕組み
• ai-data-retention：トレーニングデータセットの保持および削除要件
• ai-transparency-reqs：トレーニングデータの利用に関する透明性義務