ai-transparency-reqs

AI の透明性要件

概要

AI の透明性は、GDPR のデータ主体への情報提供に関する権利（第 13～14 条）と EU AI Act の透明性義務（第 13～14 条、第 50 条）という 2 つの規制枠組みが交差する領域です。これらを合わせると、管理者と導入者は、AI システムの機能、限界、意思決定ロジック、および個人データの処理について、意味があり、理解しやすい情報を提供する必要があります。このスキルは、複雑な ML モデルの技術的な説明可能性の課題と、影響を受ける個人に AI による処理を平易な言葉で伝える法的義務の両方に対応し、透明性に関する統合的な枠組みを実装します。

AI システムに関する GDPR の透明性

AI に適用される第 13～14 条の情報要件

AI システムによって個人データが処理される場合、データ主体には以下を通知する必要があります。

情報項目	GDPR 条文	AI 固有の適用
処理の目的	第 13 条第 1 項（c）／第 14 条第 1 項（c）	一般的な「サービス改善」ではなく、具体的な AI のユースケース
適法性の根拠	第 13 条第 1 項（c）／第 14 条第 1 項（c）	AI の学習と AI の推論それぞれの根拠
正当な利益	第 13 条第 1 項（d）／第 14 条第 2 項（b）	AI による処理が実現する具体的な利益
受領者	第 13 条第 1 項（e）／第 14 条第 1 項（e）	AI インフラストラクチャープロバイダー、モデルホスティングサービス
国際移転	第 13 条第 1 項（f）／第 14 条第 1 項（f）	AI による処理が行われる場所（学習と推論の場所）
保存期間	第 13 条第 2 項（a）／第 14 条第 2 項（a）	学習データの保存期間、推論ログの保存期間、モデルのライフサイクル
データ主体の権利	第 13 条第 2 項（b）／第 14 条第 2 項（c）	説明、異議申し立て、人による審査など、AI 固有の権利を含む
データの出所	第 14 条第 2 項（f）	学習データの出所（個々の出所ではなく、カテゴリーでよい）
自動化された意思決定	第 13 条第 2 項（f）／第 14 条第 2 項（g）	ロジック、重要性、想定される結果に関する意味のある情報

第 13 条第 2 項（f）／第 14 条第 2 項（g）— 自動化されたロジックに関する意味のある情報

これは、AI システムにとって最も難しい透明性要件です。EDPB と第 29 条作業部会は、次のように明確化しています。

「関係するロジックに関する意味のある情報」で求められる内容：

1. システムレベルの説明：AI システムの仕組みに関する一般的な説明 — どのような要素が考慮され、どのような手法が用いられ、モデルがどのように学習されたか
2. 目的と背景：AI システムが使用される理由、およびその出力が意思決定で果たす役割
3. 主要な変数：AI の出力に影響する主なデータポイントや特徴量。専有アルゴリズムの開示は求められません
4. 意思決定基準：モデルの出力がどのように意思決定へ反映されるか（例：スコアのしきい値、分類カテゴリー）
5. 重要性：意思決定がデータ主体にとって実際にどのような意味を持つか
6. 結果：AI に基づく意思決定がもたらす可能性のある影響（意図されたものと予見可能なものの両方）

求められない内容：

• ソースコードまたはモデルの重みの全面的な開示
• アルゴリズムの数学的な説明
• 専有の企業秘密（ただし、これを理由に意味のある説明が免除されるわけではありません）
• 個々のモデル予測についてのリアルタイムの説明（ただし、第 22 条に基づき必要となる場合があります）

AI の透明性に対する段階的アプローチ

EDPB は、段階的な透明性アプローチを推奨しています。

レイヤー	内容	提供方法
レイヤー 1：初回通知	処理に AI を使用していること、一般的な目的、詳細情報へのリンク	インタラクション時（バナー、ツールチップ、通知）
レイヤー 2：概要	AI システムの説明、使用する主要なデータ、意思決定ロジックの概要、利用可能な権利	プライバシー通知のセクション、AI 情報ページ
レイヤー 3：詳細情報	技術的な詳細説明、トレーニングデータのカテゴリ、公平性対策、精度指標、制限事項	補足資料、要請に応じて提供
レイヤー 4：個別の説明	特定の決定に影響を与えた具体的な要因、不服申し立ての仕組み	要請に応じて、または重要な決定に対して自動的に提供

EU AI Act の透明性義務

Art. 13 — デプロイヤーへの透明性と情報提供（高リスク）

高リスク AI システム（Annex III）は、以下を確保できるように設計・開発する必要があります。

要件	説明
解釈可能性	システム設計により、デプロイヤーが出力を解釈し、適切に使用できる
使用上の説明	能力、制限事項、意図された目的、予見可能な誤用についての詳細な文書
パフォーマンス指標	精度レベル、堅牢性指標、特定のグループに関する既知の制限事項
人間による監督に関する情報	人間による監督措置とその実施方法の説明
入力データの仕様	システムが処理するように設計された入力データの説明
トレーニングデータの説明	出所や前処理を含む、トレーニングデータに関する関連情報

Art. 14 — 人間による監督（高リスク）

高リスク AI システムは、効果的な人間による監督を可能にするように設計する必要があります。

• AI システムの出力と信頼度を明確に示す
• AI の出力を文脈に沿って正しく解釈できる
• AI による決定を覆す、または取り消すことができる
• システムに介入、またはシステムを停止できる（「停止ボタン」）
• 自動化バイアスのリスクを認識する

Art. 50 — 特定の AI システムに関する透明性

AI システムの種類	透明性の義務
人とインタラクションする AI	AI システムとインタラクションしていることを通知する（文脈から明らかな場合を除く）
感情認識／生体分類	システムの動作について通知し、GDPR に準拠して個人データを処理する
AI が生成または操作したコンテンツ（ディープフェイク）	機械可読形式で、コンテンツが AI によって生成されたことを明示する
公益に関する AI 生成テキスト	テキストが人工的に生成または操作されたことを開示する

Art. 50(1) — AI とのインタラクションに関する通知

管理者は、自然人が AI システムとインタラクションしていることを通知する必要があります。これは以下に適用されます。

• チャットボットおよびバーチャルアシスタント
• AI を活用したカスタマーサービスシステム
• メールまたはメッセージの自動生成
• 直接的なユーザーインターフェースを備えた AI 主導のレコメンデーションシステム
• 音声ベースの AI アシスタント

例外：状況や文脈から、その人が AI とインタラクションしていることが明らかな場合（例：工場内のロボット）。

AI の透明性に関する文書化フレームワーク

モデルカードの要件

デプロイ済みの AI モデルごとに、以下を含むモデルカードを維持してください。

セクション	内容
モデルの概要	名前、バージョン、種類、開発者、デプロイ日
想定される用途	具体的な目的、対象ユーザー、デプロイのコンテキスト
対象外の用途	モデルの設計対象ではない用途、予見可能な誤用
トレーニングデータの概要	データソース（カテゴリ）、データ量、対象期間、対象地域、既知のバイアス
パフォーマンス指標	関連するサブグループごとの正確度、適合率、再現率、F1、各種公平性指標
制限事項	既知の失敗パターン、人口統計グループ間のパフォーマンスの差、エッジケース
プライバシー特性	適用した差分プライバシー（ε）、メンバーシップ推論テストの結果、トレーニングデータ抽出のリスク
人による監督	必要な監督レベル、レビュアーの資格、上書き手順
更新履歴	再トレーニング日、データ更新、パフォーマンスの変化

AI システム透明性台帳

複数の AI システムを運用する組織は、中央台帳を維持してください。

フィールド	説明
システム ID	一意の識別子
システム名	人が読みやすい名前
AI Act の分類	許容不可／高リスク／限定的リスク／最小リスク
目的	具体的な処理目的
影響を受けるデータ主体	カテゴリと推定人数
処理する個人データ	トレーニング時および推論時
意思決定権限	AI による意思決定支援／自動意思決定
透明性確保の措置	通知、説明、文書化
導入者	内部／外部導入
登録日	EU AI Act データベースへの登録日（高リスクの場合）

コンプライアンスのための説明可能性技法

グローバルな説明可能性（システムレベル）

Art. 13(2)(f) の「ロジックに関する意味のある情報」を提供する技法：

技法	最適な用途	制限事項
特徴量重要度（SHAP、LIME）	主要な変数の特定	複雑な相互作用を過度に単純化する可能性があります
決定ルールの抽出	モデルのロジックを人が読めるルールに変換	複雑なモデルでは精度が低下します
部分依存プロット	特徴量が予測に与える影響の表示	特徴量の独立性を前提とします
反実仮想による説明	どのような変更があれば結果が異なるかを表示	特徴量が多い場合、計算コストが高くなります
アテンションの可視化	Transformer モデルでモデルが注目する対象を表示	アテンションは必ずしも重要度を意味しません

ローカルな説明可能性（個別の意思決定）

Art. 22 に基づく個別の意思決定に関する説明を受ける権利のために：

技法	説明	ユースケース
LIME	ローカルで解釈可能なモデル非依存の説明	あらゆるモデル — 解釈可能なモデルで局所的な動作を近似
SHAP 値	個別の予測に対する Shapley 加法的説明	特定の予測に対する特徴量の寄与
反実仮想	「X が理由で却下されました。X が Y であれば、結果は異なります」	信用、採用、保険に関する意思決定
Anchors	予測に必要な十分条件	個別の事例に対するルールベースの説明
概念ベース	意思決定に影響した高レベルの概念	特徴量を直接解釈できない場合

執行に関する先例

• Garante v. OpenAI (2023)：AI のトレーニングデータの処理、モデルの機能および制限について透明性を確保するよう要求 — プライバシー通知は、AI システムの透明性を確保するには不十分と判断されました。
• CNIL v. Clearview AI (SAN-2022-019, 2022)：2,000 万ユーロの罰金 — 顔認識 AI の処理に関する透明性が完全に欠如していました。データ主体には、自分の画像がスクレイピングされ、処理されたという通知がありませんでした。
• Austrian DPA v. CRIF (DSB-D213.636, 2023)：信用スコアリング AI — Art. 13(2)(f) に基づく自動意思決定のロジックについての説明が不十分でした。データ主体にはスコアのみが提示され、要因に関する有意義な情報がありませんでした。
• Dutch DPA v. Tax Authority (SyRI, 2020)：裁判所は、アルゴリズムによる不正検出に透明性が欠けていると判断しました。市民は、システムがどのように自分を評価したのか理解できず、私生活の権利を侵害していました。
• AEPD v. CaixaBank (PS/00421/2020, 2021)：600 万ユーロの罰金 — 関連するロジックとデータ主体にとっての重要性について適切な透明性を確保せずに、自動信用決定を行っていました。

統合ポイント

• ai-automated-decisions：Art. 22 の説明要件を透明性義務と統合します
• ai-dpia：透明性評価は、DPIA の必要性および比例性の分析の一部です
• ai-act-high-risk-docs：Art. 13 AI Act の文書化要件は、透明性の枠組みと重複します
• ai-deployment-checklist：デプロイ前の透明性検証はチェックリスト項目です