ai-deployment-checklist

AI システムのデプロイ前プライバシーチェックリスト

概要

個人データを処理する AI システムをデプロイする前に、システムの稼働開始前に複数の側面でプライバシーコンプライアンスを確認する必要があります。このチェックリストは、Cerebrum AI Labs の ML デプロイパイプラインにおけるコンプライアンスゲートとして機能します。必須項目のすべてが確認され、データ保護責任者（DPO）の承認を得るまで、AI システムを本番環境にデプロイすることはできません。このチェックリストは、GDPR の要件、EU AI Act の義務（高リスクシステムの場合）、および社内ガバナンス基準に基づいて構成されています。

デプロイ前コンプライアンスゲート

ゲート 1：法的根拠と DPIA

確認項目	要件	ステータス	証拠
適法な根拠の文書化	すべての個人データ処理について、Art. 6(1) の根拠を特定し、記録している	必須	LIA または同意記録
特別カテゴリの評価	Art. 9 のデータを特定し、明示的な同意または Art. 9(2) の例外を文書化している	必須	データ分類レポート
DPIA の完了	高リスクの処理（プロファイリング、体系的な監視、大規模な特別カテゴリのデータ処理）について Art. 35 の DPIA を完了している	該当する場合は必須	DPO が署名した DPIA 文書
DPIA リスクの軽減	DPIA で特定されたすべての高リスク／重大リスクについて、軽減策を文書化している	必須	リスク対応計画
事前協議	残存リスクが高い場合、監督機関と Art. 36 の協議を実施している	該当する場合は必須	協議記録
正当な利益の評価	Art. 6(1)(f) に依拠する場合、LIA の利益衡量テストを完了している	LI を根拠とする場合は必須	LIA 文書

ゲート 2：透明性と情報提供

確認項目	要件	ステータス	証拠
プライバシー通知の更新	Art. 13-14 の情報に AI 処理の詳細が含まれている	必須	更新済みプライバシー通知
ロジックの説明	データ主体に対する「関連するロジックについての有意義な情報」を文書化している	自動化された意思決定では必須	説明文書
重要性の開示	AI 処理によって想定される結果を開示している	自動化された意思決定では必須	プライバシー通知の該当セクション
プロファイリングの開示	システムが個人をプロファイリングする場合、その旨をプライバシー通知で開示している	プロファイリングを行う場合は必須	プライバシー通知の該当セクション
AI Act の透明性	Art. 52 の透明性義務（該当する場合）を満たしている：AI とやり取りしていることを利用者に通知する	AI Act の対象では必須	ユーザーインターフェースでの開示

ゲート 3：データ主体の権利

確認項目	要件	ステータス	証拠
アクセス手続きの定義	AI データ（入力、出力、プロファイル）へのアクセス請求に対応する手続きを定めている	必須	文書化された SOP
説明の仕組み	個別の説明を請求に応じて生成できる	Art. 22 では必須	技術的な機能を確認済み
人による介入の可用性	Art. 22(3) に基づく人によるレビュー手続きを確立している	専ら自動化された意思決定では必須	手続き文書＋訓練を受けたスタッフ
異議申し立て窓口	データ主体が AI による決定に異議を申し立て、レビューを受けられる	Art. 22 では必須	異議申し立て手続き文書
訂正手続き	AI の入力データを訂正し、出力を再生成する手続きを定めている	必須	文書化された SOP
消去手続き	トレーニングセット、推論ログ、埋め込みからデータを削除する手続きを定めている	必須	文書化された SOP

ゲート 4：データ品質とバイアス

チェック項目	要件	状態	証拠
トレーニングデータが文書化されている	データソース、規模、収集方法、前処理が文書化されている	必須	データカード／データセットの文書
バイアステストが完了している	保護対象属性（性別、人種、年齢、障害）に関するバイアスについてモデルをテスト済み	必須	バイアステストレポート
公平性指標が許容範囲内である	不均衡影響比率が 0.8 超（5 分の 4 ルール）、または同等の指標が許容範囲内	必須	公平性指標レポート
データ品質が検証されている	トレーニングデータの完全性、正確性、代表性が検証されている	必須	データ品質レポート
第 9 条のデータが削除されている、または正当化されている	特別カテゴリデータが削除されているか、適法な根拠が文書化されている	必須	データ分類レポート

ゲート 5：セキュリティと技術的管理策

チェック項目	要件	状態	証拠
保存データの暗号化	トレーニングデータとモデルの重みが暗号化されている（AES-256 または同等）	必須	セキュリティ設定
転送中データの暗号化	すべての API エンドポイントで TLS 1.2 以降を使用している	必須	SSL 証明書
アクセス制御	モデル、トレーニングデータ、推論ログへのロールベースのアクセス制御	必須	IAM ポリシー
監査ログ	すべてのモデル呼び出しについて、タイムスタンプ、入力ハッシュ、出力、ユーザーを記録している	必須	ログ設定
敵対的攻撃への堅牢性	対象分野に関連する一般的な敵対的攻撃に対してモデルをテスト済み	推奨	セキュリティテストレポート
モデルのバージョン管理	ロールバック機能を備えたレジストリでモデルをバージョン管理している	必須	MLflow／モデルレジストリ

ゲート 6：モニタリングとガバナンス

チェック項目	要件	状態	証拠
パフォーマンスのモニタリング	本番環境の精度、レイテンシ、エラー率を追跡するダッシュボード	必須	モニタリング設定
ドリフト検出	データドリフトとコンセプトドリフトの検出を実装している	必須	ドリフトモニタリング設定
バイアスのモニタリング	デプロイ後のバイアス指標を継続的に追跡している	必須	公平性モニタリングダッシュボード
インシデント対応	AI 関連のプライバシーインシデント（差別的な出力、データ漏えいなど）への対応プロセス	必須	インシデント対応計画
再トレーニングのスケジュール	最新データを用いたモデルの再トレーニングについて、定められたスケジュール	必須	再トレーニング計画
保持期間の適用	保持スケジュールに従って推論ログとトレーニングデータを自動削除する	必須	保持ポリシー＋自動化

ゲート 7：EU AI Act（高リスクシステムのみ）

チェック項目	要件	状態	証拠
リスク分類	附属書 III に従ってシステムを分類している	必須	分類文書
技術文書	附属書 IV の文書がすべて揃っている	必須	技術文書一式
リスク管理システム	第 9 条に基づく継続的なリスク管理を実施している	必須	リスク台帳＋プロセス
適合性評価	社内または第三者による適合性評価が完了している	必須	評価レポート
EU 適合宣言書	第 47 条に基づく宣言書を作成している	必須	署名済み宣言書
EU データベースへの登録	第 49 条に基づく登録が完了している	必須	登録確認書

承認

役割	氏名	承認	日付
ML エンジニアリングリード		[ ] 承認 / [ ] 保留
データ保護責任者		[ ] 承認 / [ ] 保留
情報セキュリティ責任者		[ ] 承認 / [ ] 保留
プロダクトオーナー		[ ] 承認 / [ ] 保留
法務顧問		[ ] 承認 / [ ] 保留（高リスクのみ）

主要な法的参考資料

• GDPR 第5条、第6条、第9条 — データ処理の原則、適法な根拠、特別なカテゴリー
• GDPR 第22条 — 自動化された個人に関する意思決定の保護措置
• GDPR 第25条 — データ保護の設計段階およびデフォルト設定による実施
• GDPR 第35条 — データ保護影響評価
• EU AI Act 第9条〜第15条 — 高リスク AI システムの要件
• EU AI Act 第52条 — 特定の AI システムに関する透明性義務
• 自動化された意思決定に関する EDPB ガイドライン（WP 251 rev.01） — 第22条の解釈
• ISO/IEC 42001:2023 — AI マネジメントシステム規格