ai-privacy-inference

AI のプライバシーに関する推論と派生データ

概要

AI システムは、データ主体から直接提供されたことのない、個人の信用力、健康リスク、性格特性、政治的意見、行動パターンに関する予測など、個人についての推論を日常的に生成します。こうした AI による推論は、重要なプライバシー上の疑問を提起します。推論は個人データに該当するのでしょうか。推論が GDPR 第 22 条に基づくプロファイリングに該当するのはどのような場合でしょうか。AI による予測にはどのような正確性の義務が適用されるのでしょうか。データ主体は、自分について導き出された推論へのアクセス、訂正、異議申し立てができるのでしょうか。CJEU、EDPB、各国の DPA は、特定または識別可能な人物に関する推論は個人データであり、GDPR 上の権利は派生データや推論データにも及ぶことを段階的に明確にしてきました。Cerebrum AI Labs は、AI システムが個人について生成するすべての推論を分類・管理し、その内容を透明性をもって提供する必要があります。

AI による推論の法的枠組み

推論が個人データに該当する場合

基準	分析	例
特定された人物に関するもの	推論が特定の顧客レコードまたはユーザープロファイルに紐付けられている	「顧客 C-12345 の解約確率は 78%」
識別可能な人物に関するもの	他のデータと組み合わせることで、推論を人物に紐付けられる	「セッショントークン X-789 を持つユーザーは、25～34 歳である可能性が高い」
人物の評価に使用されるもの	推論を誰かの評価、分類、または意思決定に使用する	取引パターンから導き出されたクレジットスコア
人物に影響を及ぼすもの	推論によって、その人物の処遇や利用可能な選択肢が変わる	予測された健康リスクに基づく保険料の調整

CJEU C-434/16 (Nowak, 2017)：個人データには、データ主体に関する「あらゆる情報」が含まれます。これには、本人が直接提供した事実データだけでなく、意見、評価、推論も含まれます。

ソーシャルメディアユーザーのターゲティングに関する EDPB ガイドライン 8/2020：推論データ（管理者が観察または導出によって作成したデータ）は個人データに該当し、GDPR 上の権利の全範囲が適用されます。

推論の種類に関する GDPR 上の分類

推論の種類	分類	GDPR 上の影響
観察データ	直接のやり取りを通じて収集されたデータ（閲覧履歴、購入記録）	標準的な個人データ — 第 6 条に基づく適法な根拠が必要
派生データ	既存のデータに対する計算によって管理者が作成したデータ（クレジットスコア、リスク評価）	個人データ — アクセス、訂正、異議申し立ての権利の対象
推論データ	直接観察されていない特性に関する確率的予測（性格、健康リスク）	個人データ — 第 9 条の特性を予測する場合、特別カテゴリーに該当する可能性がある
集計データ	個人に紐付けられていない、グループレベルの統計出力	真に匿名化されている場合（k-匿名性が検証済みの場合）、個人データには該当しない

推論が特別カテゴリーのデータに該当する場合

予測される特性	第9条のカテゴリー	該当する条件
名前や所在地のパターンからの民族的出自	人種または民族的出自	確率的なものも含め、民族的背景に関するあらゆる推論
コンテンツへの反応からの政治的傾向	政治的意見	政治的傾向に基づく分類やターゲティングに予測を使用する場合
購買パターンからの宗教的所属	宗教的信条	ハラール／コーシャの購買スコアリング、礼拝時間帯の活動パターン
行動上のシグナルからの健康状態	健康データ	歩数の減少からうつ病を予測する場合、タイピングパターンの分析
閲覧データやソーシャルデータからの性的指向	性的指向	正確性にかかわらず、性的指向に関するあらゆる推論
購買パターンの変化からの妊娠	健康データ＋性別	購買カテゴリーの分析による妊娠状態の予測

Cerebrum AI Labs のポリシー：第9条の特性を予測、推定、または分類する推論は、間接的または確率的なものであっても、すべて特別カテゴリーのデータとして扱い、処理には第9条第2項の条件を満たす必要があります。

GDPR第22条に基づくプロファイリング

プロファイリングの定義（第4条第4項）

プロファイリングとは、個人データを使用して自然人に関する特定の個人的側面を評価する、あらゆる形態の個人データの自動処理を意味します。特に、以下に関する側面を分析または予測することを指します。

• 職務遂行能力
• 経済状況
• 健康
• 個人の好み
• 関心
• 信頼性
• 行動
• 所在地
• 移動

3段階の枠組み

レベル	説明	GDPR の要件	Cerebrum AI Labs の例
プロファイリングのみ	意思決定を伴わない自動評価	第6条の適法な根拠＋第13～14条の透明性	分析ダッシュボード用の顧客セグメンテーション
プロファイリング＋人による意思決定	人間の意思決定者に情報を提供する自動評価	第6条の適法な根拠＋透明性＋意味のある人間の関与	融資担当者が審査する信用リスクスコア
法的または重大な影響を伴う、完全に自動化された意思決定	意味のある人間の関与なしに、法的または同様に重大な影響をもたらす自動意思決定	第22条第1項の禁止が適用されます。第22条第2項の例外に該当する必要があります	AI の信用スコアのみに基づく自動融資拒否

完全に自動化された意思決定を認める第22条第2項の例外

例外	要件	Cerebrum AI Labs での適用
第22条第2項(a) — 契約	契約の締結または履行に意思決定が必要であること	既存顧客向けの自動信用事前承認
第22条第2項(b) — 法律	適切な保護措置を伴い、EU または加盟国の法律で認められていること	規制により義務付けられた不正利用スクリーニング
第22条第2項(c) — 明示的な同意	データ主体の明示的な同意を取得していること	顧客が自動ポートフォリオ・リバランスをオプトインすること

必要な保護措置（第22条第3項）

保護措置	Cerebrum AI Labs での実装
人間による介入を受ける権利	顧客ポータルのエスカレーションボタンから、2営業日以内に訓練を受けた人間の審査担当者へ対応が引き継がれます
意見を表明する権利	顧客は、人間による審査の前に異議申し立てフォームから追加の事情を提出できます
意思決定に異議を申し立てる権利	独立した審査委員会による再審査プロセスがあり、AI の誤りが立証された場合は決定が覆されます
説明を受ける権利	SHAP 値を用いて、AI の決定に影響した上位5つの要因を示す個別の説明が生成されます

推論の正確性と品質に関する義務

GDPR 第 5 条第 1 項 (d) — 正確性の原則

AI による推論は正確であり、必要に応じて最新の状態に保たれなければなりません。確率的な予測の場合、これは次のことを意味します。

義務	実装
正確性の測定	人口統計グループごとに予測精度の指標（適合率、再現率、F1）を追跡します
信頼度のしきい値	信頼度が 70% 未満の推論は、人による確認なしに実行可能なものとして提示しません
陳腐化の検出	基盤となるデータが変更された場合は推論を再評価し、90 日を超えた推論にフラグを付けます
正確性の開示	データ主体に、推論が確率的な性質を持つこと、および既知の正確性について知らせます
推論の訂正	データ主体が推論に異議を申し立てられるようにします。入力データが訂正された場合は、推論を再生成します

推論の正確性に関する EDPB の見解

自動化された意思決定に関する EDPB ガイドライン（WP 251 rev.01）では、管理者は次のことを行う必要があるとされています。

1. プロファイリングに適切な数学的または統計的手法を使用する
2. 誤りのリスクを最小限に抑えるため、適切な技術的および組織的措置を実施する
3. 不正確な情報を訂正し、訂正を可能にする
4. 差別的な影響を防ぐため、個人データを保護する

AI による推論の透明性要件

第 13 条・第 14 条の情報要件

情報	要件	Cerebrum AI Labs の実装
プロファイリングの存在	プロファイリングが行われることをデータ主体に知らせます	プライバシー通知のセクション：「AI を使用したデータの分析方法」
関係するロジック	関係するロジックについて意味のある情報を提供します	技術解説：「当社の AI は、取引パターン、口座保有期間、製品の利用状況を分析し、必要なサービスを予測します」
重要性	その処理によって想定される結果	「この分析は、お客様に表示される製品や特典に影響し、信用に関する判断にも影響する場合があります」
使用するデータのカテゴリー	推論に使用するデータ	「当社は、取引履歴、口座保有期間、保有製品、サービスとのやり取りを使用します」
推論の出力	生成される推論	「当社は、解約確率、製品親和性スコア、信用リスク指標を生成します」

AI Act の透明性要件

義務	AI Act の条項	Cerebrum AI Labs の実装
AI とやり取りしていることをユーザーに知らせる	第 52 条第 1 項	チャットインターフェースでの開示：「AI アシスタントとやり取りしています」
AI が生成したコンテンツを開示する	第 52 条第 3 項	出力に「この推奨は AI によって生成されました」と明記します
感情認識を開示する	第 52 条第 2 項	該当しません — Cerebrum AI Labs は感情認識を使用していません
高リスクシステムの導入者による透明性	第 13 条	要請があれば、規制当局に技術文書を提供します

推論ガバナンスの枠組み

Cerebrum AI Labs 推論レジストリ

個人に関する推論を生成するすべての AI システムは、Cerebrum AI Labs 推論レジストリに登録する必要があります。

レジストリ項目	説明
システム ID	AI システムの一意の識別子
推論の種類	生成される推論のカテゴリー（行動、人口統計、金融、健康）
影響を受けるデータ主体	プロファイリング対象となる個人のカテゴリーと概算人数
入力特徴量	推論の生成に使用するデータ要素
出力形式	推論の出力（スコア、カテゴリー、確率、ランキング）
正確性の指標	人口統計グループごとの最新の適合率、再現率、F1
保持期間	削除前に推論を保存しておく期間
第 22 条の評価	推論が専ら自動化された意思決定に用いられるかどうか
適法性の根拠	推論の生成に関する第 6 条、および該当する場合は第 9 条の根拠
DPIA の参照情報	関連する DPIA 文書の ID

推論ライフサイクルの管理

フェーズ	管理策
生成	タイムスタンプ、モデルのバージョン、信頼度スコア、入力データのハッシュを含め、すべての推論を記録します
保存	推論結果を暗号化し、個人単位の推論を閲覧できるユーザーを制限するアクセス制御を適用します
利用	推論結果の下流での利用状況を追跡し、文書化された目的を超える目的の逸脱を防止します
開示	データ主体から請求があった場合、推論結果を提供します（第15条のアクセス権）
訂正	基礎となるデータが訂正された場合、依存する推論結果にフラグを付け、再生成します
削除	保持スケジュールに従って推論結果を削除します（運用上は90日、監査目的では12か月）

執行と規制上の先例

• CJEU C-634/21（SCHUFA、2023年）：CJEUは、民間事業者による信用スコアの生成が、そのスコアが第三者による後続の決定に決定的な役割を果たす場合、第22条に基づく「自動化された個人に関する決定」に該当すると判断しました。つまり、AIによって算出されたスコアが後続の決定に使用される場合、AIプロバイダーが最終決定者でなくても、第22条の保護が適用される可能性があります。
• オーストリアのDPA — Case DSB-D550.038（2022年）：ソーシャルメディア上の活動から推測された政治的見解は、推論が確率的で不正確な可能性がある場合でも、第9条に基づく特別カテゴリのデータに該当すると判断しました。
• ノルウェーのDPA — Grindr Decision（2021年）：性的指向の推論を可能にするデータの共有に対し、6,500万NOKの罰金を科しました。第9条の特性の推論を可能にするデータ自体が、特別カテゴリのデータであることを確立しました。
• CNIL — Clearview AI（2022年）：公開写真から得られた生体認証に関する推論（顔埋め込み）は、GDPRの全面的な遵守義務の対象となる個人データであると判断し、2,000万ユーロの罰金を科しました。

主な法的参照

• GDPR第4条（4） — プロファイリングの定義
• GDPR第5条（1）（d） — 正確性の原則
• GDPR第13条（2）（f） — プロファイリングのロジックと重要性に関する情報を得る権利
• GDPR第15条（1）（h） — プロファイリング情報へのアクセス権
• GDPR第22条 — プロファイリングを含む自動化された個人に関する決定
• GDPR前文71 — プロファイリングおよび自動化された決定に関する保護措置
• GDPR前文72 — プロファイリングに関するガイドライン
• CJEU C-434/16（Nowak、2017年） — 評価を含む個人データの広義の解釈
• CJEU C-634/21（SCHUFA、2023年） — 自動化された決定としての信用スコアリング
• EDPB Guidelines on Automated Decision-Making (WP 251 rev.01) — 第22条の解釈
• EDPB Guidelines 8/2020 on Targeting of Social Media Users — 推論データも個人データに該当
• EU AI Act第52条 — AIシステムの透明性義務
• EU AI Act第14条 — 高リスクAIシステムに対する人間による監視