ai-vendor-privacy-due

AI ベンダーのプライバシーデューデリジェンス

概要

AI サービスでは、従来のデータ処理契約とは大きく異なる複雑な管理者と処理者の関係が生じます。AI ベンダーが処理者、共同管理者、独立管理者のいずれに該当するかは、個人データの処理に対するベンダーの自律性の程度によって異なります。特に、顧客データを使ったモデルのトレーニング、モデル改善を目的としたデータの保持、データに関するベンダー独自の目的が判断の要点です。このスキルでは、AI サービスにおける管理者と処理者の役割を判断し、AI ベンダーのプライバシーデューデリジェンスを実施し、適切な契約上の保護措置を定めるためのフレームワークを提供します。

AI における管理者と処理者の判定

判定フレームワーク

AI サービスモデル	典型的な役割	主な要素	GDPR 条項
SaaS AI — 指示に従って顧客データを処理	ベンダー = 処理者	ベンダーは管理者の指示にのみ従ってデータを処理し、独自に利用しない	第 28 条の DPA が必要
SaaS AI — モデルトレーニングに顧客データを利用	ベンダー = 共同管理者または独立管理者	ベンダーが、契約したサービスの範囲を超えて、自社のモデル改善に顧客データを利用する	第 26 条の JCA、または独立した管理者通知
組み込み AI — 顧客のインフラストラクチャに事前トレーニング済みモデルを導入	顧客 = 管理者、ベンダー = サポートの処理者となる可能性あり	モデルは顧客環境で実行され、ベンダーがサポートや更新のためにデータにアクセスする場合がある	ベンダーがデータにアクセスする場合は第 28 条
API ベースの AI — 顧客が推論用のデータを送信	データを保持しない場合はベンダー = 処理者、入力データをトレーニングに利用する場合は共同管理者	ベンダーが入力データを保持、利用、またはトレーニングするかどうかによる	評価が必要
AI プラットフォーム — 顧客がベンダーのプラットフォーム上でモデルを構築	インフラストラクチャについてはベンダー = 処理者、プラットフォームデータについては管理者	ベンダーはコンピューティングを提供し、顧客はデータとモデルを管理する	第 28 条の DPA + 監査権
AI マーケットプレイス — 顧客データを使った既成モデル	データの流れによる	顧客データがベンダーのモデルに入力される場合 → 共同管理者に該当するか評価	ケースごとに判断

主な判定事項

1. 誰が処理の目的を決定するか？ — 個人データを「なぜ」処理するかを決定する主体
2. 誰が処理の手段を決定するか？ — データを「どのように」処理するかを決定する主体（ただし、「本質的でない手段」は処理者に委任できる場合があります）
3. ベンダーはデータを自らの目的に利用するか？ — 顧客データを使ったモデルのトレーニング、ベンチマーク、製品改善
4. ベンダーはサービスの提供後もデータを保持するか？ — 推論後も保持されるデータ、トレーニング用に保存されるデータ、ログに保持されるデータ
5. ベンダーはデータについて独自に判断するか？ — モデルをトレーニングするかどうかの決定、顧客の指示によらないサブプロセッサーとの共有

AI ベンダーによく見られるパターン

パターン 1：純粋な推論 API（ベンダー = 処理者）

• 顧客がデータを送信し、推論結果を受け取る
• ベンダーは処理後に入力データを保持しない
• ベンダーは顧客データを使ってトレーニングしない
• ベンダーは顧客の指示にのみ従って処理する
• 契約上の対応：適用範囲を明確にした第 28 条の DPA

パターン 2：モデル改善を伴う AI（ベンダー = 共同管理者）

• 顧客がデータを送信し、推論結果を受け取る
• ベンダーは自社のモデル改善のためにデータを保持する
• ベンダーはモデルのトレーニングを目的として決定する
• 両当事者がモデル改善の恩恵を受ける
• 契約上の対応：第 26 条の共同管理者契約

パターン 3：匿名化された分析を伴う AI（評価が必要）

• 顧客がデータを送信し、推論結果を受け取る
• ベンダーはデータを匿名化して集計分析に利用すると主張する
• 匿名化が有効な場合：分析に個人データの処理は発生しない
• 匿名化が有効でない場合（再識別が可能な場合）：ベンダーは分析に関する管理者となる
• 評価：WP216 に従って匿名化の有効性を検証する

パターン 4：テレメトリを伴う組み込み AI（ベンダー＝処理者＋場合によっては管理者）

• AI モデルは顧客環境で実行されます
• ベンダーはモデルのパフォーマンスを含むテレメトリデータを収集します
• テレメトリに個人データが含まれる場合：ベンダーはテレメトリ処理に関する管理者となる可能性があります
• 契約上：モデルサポートには第 28 条の DPA を、テレメトリには別途取り決めを適用します

デューデリジェンス評価フレームワーク

フェーズ 1：ベンダーの AI 処理インベントリ

各 AI ベンダーについて、以下を文書化します。

要素	必要な文書
AI 機能	ベンダーはどのような AI 機能を提供していますか？
個人データの入力	どのような個人データをベンダーに送信しますか？
個人データの出力	ベンダーはどのような個人データを返しますか？
データ保持	ベンダーは入力データを保持しますか？保持期間はどのくらいですか？
モデルのトレーニング	ベンダーは顧客データを使ってトレーニングしますか？
サブプロセッサー	ベンダーは AI 処理にサブプロセッサーを使用しますか？使用する場合、その場所はどこですか？
データの所在地	AI 処理はどこで実行されますか？どの法域が対象ですか？
セキュリティ対策	AI 処理中にデータを保護するため、どのようなセキュリティ管理策を講じていますか？
人によるレビュー	ベンダーの担当者は顧客データにアクセスしますか？

フェーズ 2：プライバシーリスク評価

リスク要因	評価	リスクレベル
データの機微性	特別カテゴリのデータを AI ベンダーに送信していますか？
データ量	ベンダーが処理する個人データの量
ベンダーによるデータ利用	ベンダーは顧客データを自らの目的に利用しますか？
国際移転	データは EU／EEA 外で処理されますか？
サブプロセッサーの連鎖	サブプロセッサーの数と所在地
セキュリティ体制	認証（ISO 27001、SOC 2）を取得していますか？
インシデント履歴	過去にデータ侵害や執行措置がありましたか？
AI 固有のリスク	モデルによる記憶、出力からの情報漏えい、バイアスはありますか？

フェーズ 3：契約上の評価

契約要素	必須か？	状況
第 28 条の DPA または第 26 条の JCA	はい
処理の範囲と目的の限定	はい
指示の範囲を超えるデータ利用の禁止（処理者の場合）	はい
モデルトレーニングのオプトアウト	はい（ベンダーがデータを使ってトレーニングする場合）
サブプロセッサーに関する通知と承認	はい
国際移転の保護措置	該当する場合
契約終了時のデータ削除	はい
監査権	はい
侵害通知義務	はい
AI 固有：モデルのプライバシーテスト	推奨
AI 固有：バイアス評価義務	高リスクの場合は推奨
AI 固有：出力精度の保証	推奨

AI 固有の契約条項

モデルトレーニングの制限

The Processor shall not use Customer Data to train, improve, fine-tune, or
otherwise develop any machine learning model, algorithm, or AI system,
whether for the Customer's benefit or for any other purpose, without prior
written consent from the Customer. Any consent granted shall specify the
scope of permitted training, the data categories involved, and the privacy
safeguards to be applied.

AI 出力の精度

The Provider acknowledges that AI system outputs about identifiable data
subjects must comply with the accuracy principle under Art. 5(1)(d) GDPR.
The Provider shall implement measures to minimise inaccurate outputs about
data subjects and shall promptly correct inaccurate outputs upon
notification.

モデルのプライバシーおよびバイアスに関する義務

The Provider shall conduct periodic privacy audits of AI models processing
Customer Data, including membership inference testing and training data
extraction testing, and shall make results available to the Customer upon
request. The Provider shall monitor AI systems for discriminatory outcomes
and shall implement bias mitigation measures as required.

執行上の重要性

• EDPB Guidelines 07/2020 on Controller-Processor：判断は契約上の呼称ではなく、事実関係に基づきます。「処理者」と称されるベンダーが自らの目的にデータを利用する場合、事実上は管理者です。
• Garante v. OpenAI (2023)：ChatGPT のトレーニングデータに関する OpenAI の管理者としての役割が確認されました。モデルのトレーニングを目的とする個人データの処理は、独立した管理者の目的に該当します。
• CJEU C-40/17 (Fashion ID)：データにアクセスしなくても、処理の目的および手段に影響を及ぼす当事者は、共同管理者となる可能性があります。
• DPC v. Meta (WhatsApp, 2023)：550 万ユーロの制裁金。処理者と管理者の判定は、契約条件だけでなく、実際のデータ利用を反映する必要があります。

統合ポイント

• ai-dpia：ベンダーによる AI 処理を DPIA の対象範囲に含める必要があります
• ai-training-lawfulness：ベンダーが顧客データを使ってトレーニングする場合、適法性の根拠を評価する必要があります
• ai-transparency-reqs：データ主体に、AI ベンダーによる処理について通知する必要があります
• ai-deployment-checklist：ベンダーのデューデリジェンスは、導入前チェックリストの項目です