ai-data-retention

AI モデルの保持とアンラーニング

概要

GDPR 第 5 条（1）（e）の保存期間の制限では、個人データを処理目的に必要な期間を超えて保持しないことが求められます。AI システムでは、これにより複雑な保持上の課題が生じます。モデルの構築に使用した学習データは学習の完了後に不要になる場合がありますが、モデル自体には学習データに関する情報がエンコードされています。機械アンラーニング（学習済みモデルから特定のデータの影響を取り除くプロセス）は、学習データの削除とモデルパラメーターからその影響を排除することの間にある隔たりに対処する新興分野です。このスキルでは、AI コンプライアンスに向けた保持ポリシー、削除の検証方法、機械アンラーニングの手法を提供します。

AI データの保持カテゴリ

データカテゴリ	説明	保持に関する考慮事項
生の学習データ	モデルの学習に使用する元の個人データ	再学習のために保持する必要がない限り、学習後に削除します
処理済み学習データ	クリーニング、拡張、特徴量エンジニアリングを行ったデータ	生データと同様に、学習目的を終えた時点で削除します
検証／テストデータ	モデルの評価に使用するデータ	モデルの監査と比較のために保持し、仮名化します
モデルの重み／パラメーター	学習データの情報をエンコードした学習済みモデルの成果物	モデルの稼働中は保持し、廃止時に削除します
推論ログ	モデルの予測に対する入力と出力	目的（監査、デバッグ、権利行使）に基づいて保持します
モデルのメタデータ	学習設定、ハイパーパラメーター、来歴	コンプライアンス文書のために保持します。プライバシーリスクは低いです
埋め込みベクトル	個人データから導出された高密度表現	個人データを含む場合があるため、保持ポリシーを適用します

保持ポリシーのフレームワーク

学習データの保持に関する判断ツリー

Training data category identified
│
├─ Is the data still needed for model retraining?
│  ├─ YES → Retain with documented justification and review date
│  └─ NO → Continue
│
├─ Is the data needed for model validation or audit?
│  ├─ YES → Retain in pseudonymised form with access controls
│  └─ NO → Continue
│
├─ Is the data needed for data subject rights exercise?
│  ├─ YES → Retain for rights exercise period, then delete
│  └─ NO → Continue
│
├─ Is there a legal obligation to retain?
│  ├─ YES → Retain per legal requirement
│  └─ NO → DELETE the training data
│
└─ After deletion: assess model for residual data encoding

モデルのライフサイクルにおける保持

フェーズ	保持ルール
開発	開発が進行中の間、学習データを保持します
デプロイ	定められた期間内に再学習を予定していない限り、学習データを削除します
運用	目的に応じて推論ログを保持します（デバッグは 30 日間、監査は 1 年間）
再学習	新しい学習データを収集し、学習後に古いデータを削除します
廃止	モデルの成果物、学習データ、ログをすべて削除し、コンプライアンス文書のみを保持します

機械アンラーニングの手法

正確なアンラーニング

完全な再学習：削除対象のレコードを除いたデータセットで、モデルをゼロから再学習します。

特性	値
保証	完全 — モデルは削除されたデータに関する知識を持ちません
コスト	非常に高い — 削除リクエストごとに学習全体のコストがかかります
実現可能性	大規模モデルや頻繁な削除リクエストには現実的ではありません
使用する場面	小規模モデル、まれなリクエスト、高機密性データ

SISA（シャーディング、分離、スライス、集約）学習

データをシャード単位に分割してモデルを学習します。アンラーニングするには、影響を受けるシャードのみを再学習します。

特性	値
保証	影響を受けるシャード内では正確です
コスト	完全な再学習の 1/k（k = シャード数）
実現可能性	最初から SISA アーキテクチャを採用する必要があります
トレードオフ	寄与するシャードが少なくなると、モデルの精度が低下する場合があります

近似アンラーニング

勾配ベースのアンラーニング

忘却させるデータに対して勾配上昇法を適用し、その後、残りのデータでファインチューニングします。

特性	値
保証	近似 — 再学習したモデルと統計的に類似しています
コスト	低い — 勾配ステップが少数で済みます
実現可能性	ほとんどの微分可能なモデルで機能します
検証	検証にはメンバーシップ推論テストが必要です

影響関数ベースのアンラーニング

影響関数を使用してデータを削除した場合の影響を推定し、それに応じてモデルを調整します。

特性	値
保証	近似 — 一次近似
コスト	中 — ヘッセ行列の計算が必要
実現可能性	小規模モデルまたは線形モデルに最適

アンラーニングの検証

アンラーニングを適用した後、その効果を検証します。

1. メンバーシップ推論テスト：アンラーニング対象のレコードに対して MI 攻撃を実行します — 非メンバーとして分類されるはずです
2. 出力比較：アンラーニング対象のデータがある場合とない場合のモデル出力を比較します
3. カナリアテスト：カナリアレコードが含まれていた場合、それらを抽出できなくなっていることを確認します
4. 統計的検定：モデルを、削除されたレコードを除いた同じデータで最初から再トレーニングしたモデルと比較します

コンプライアンスのためのモデルのバージョン管理

バージョン管理の要件

要素	ドキュメント
モデルのバージョン ID	一意の識別子（例：model-v2.3.1-20260314）
トレーニングデータのスナップショット	このバージョンで使用したトレーニングデータセットのハッシュ
トレーニング日	トレーニングを実行した日時
適用したデータ削除	このバージョンに反映されているデータ主体の削除
適用したアンラーニング	前回の完全な再トレーニング以降に適用した近似アンラーニング
プライバシー特性	DP のイプシロン、このバージョンの MI テスト結果
デプロイ日	デプロイした日時と廃止した日時

再トレーニングのトリガー

トリガー	アクション
累積した削除リクエストがしきい値を超える	更新されたデータセットで完全な再トレーニングを行う
定期的な再トレーニングの予定	保留中の削除をすべて反映する
プライバシー監査で許容できない漏えいが明らかになる	プライバシー対策を強化して再トレーニングする
モデルのパフォーマンスが低下する	現在のデータ（削除後）で再トレーニングする
規制の変更	コンプライアンスのために再トレーニングが必要か評価する

法執行上の関連性

• EDPB Guidelines 04/2025：トレーニングデータの保持には正当な理由が必要です。トレーニングデータを削除しても、モデルに個人データがエンコードされている場合、モデルに対する GDPR の義務が自動的に消滅するわけではありません。
• Garante v. OpenAI (2023)：トレーニングデータからデータを削除する仕組みが求められました。技術的な課題は認められましたが、誠実な取り組みが期待されました。
• EDPB ChatGPT Taskforce (2024)：管理者は、トレーニングデータに影響する消去請求に対応する能力を示さなければなりません。

統合ポイント

• ai-data-subject-rights：消去権の実装にはアンラーニングが必要です
• ai-dpia：DPIA では保持と削除の能力を評価します
• ai-model-privacy-audit：監査で削除の有効性を検証します
• ai-training-lawfulness：保持の正当性は、適法性の根拠の評価の一部です