owasp-ai-testing

OWASP AI Testing Guide

このスキルを使うと、AI エージェントは、OWASP Foundation が2025年11月に公開した OWASP AI Testing Guide v1 に基づいて、AI システムの体系的な信頼性テストを実施できます。

AI Testing Guide は、AI の信頼性テストに関する業界初のオープンスタンダードです。存在するリスクを特定する脆弱性リストとは異なり、このガイドでは、AI システムをテストする方法について、実践的で再現可能な手法を示します。4つのレイヤーにわたる32のテストケースを定めており、それぞれに目的、ペイロード、観察可能な応答、修正のガイダンスが含まれています。

このガイドの中核となる原則は、**「セキュリティだけでは不十分であり、AI の信頼性こそが真の目標である」**ということです。AI システムは、バイアス、ハルシネーション、アラインメントのずれ、不透明性、データ品質の問題など、従来のセキュリティを超える理由で失敗します。

このスキルを使って、包括的な AI テストを実施し、信頼性を確保するための制御を検証し、監査に備え、AI システム向けの再現可能なテストスイートを構築できます。

脆弱性の特定には「OWASP LLM Top 10」、リスク管理には「NIST AI RMF」、ガバナンスへの準拠には「ISO 42001 AI Governance」と組み合わせてください。

このスキルを使用する場合

次の場合にこのスキルを呼び出してください。

• AI／ML システムのペネトレーションテストを実施する場合
• 本番環境へのデプロイ前に AI の信頼性を検証する場合
• AI アプリケーション向けの自動テストスイートを構築する場合
• AI 機能に対するレッドチーム演習を実施する場合
• AI セキュリティ監査や認証の準備をする場合
• RAG システム、チャットボット、エージェント、ML パイプラインをテストする場合
• モデルの堅牢性と敵対的攻撃への耐性を評価する場合
• データ品質、バイアス、プライバシーへの準拠を評価する場合
• AI サプライチェーンのセキュリティを検証する場合
• モデルの更新、ファインチューニング、またはデータの変更後にテストする場合

必要な入力

このテストガイドを実行する際は、以下の情報を収集してください。

• ai_system_description：AI システムの説明（種類、目的、アーキテクチャ、使用モデル）［必須］
• system_architecture：技術アーキテクチャ（API、モデル、ベクトルストア、プラグイン、データパイプライン）［任意ですが推奨］
• testing_scope：テストするレイヤー（アプリケーション、モデル、インフラストラクチャ、データ、またはすべて）［任意。デフォルトはすべて］
• model_details：モデルプロバイダー、バージョン、ファインチューニングの詳細、ホスティング方式（クラウド／セルフホスト）［任意］
• data_details：トレーニングデータのソース、ベクトルデータベース、データパイプライン［任意］
• existing_controls：現在のセキュリティ対策および信頼性確保のための対策［任意］
• risk_context：データの機密性、規制要件、デプロイ環境［任意］
• testing_authorization：アクティブテストを行うための明示的な許可、環境、境界［ライブ環境またはアクティブテストでは必須］
• safe_testing_mode：documentation-only、staging、production-readonly、production-approved のいずれか［任意。デフォルトは、許可が明確でない限り documentation-only］

許可されたテストの範囲

ユーザーが所有するシステム、またはテストを行う明示的な許可を得たシステムに限り、アクティブテストを実施してください。testing_authorization がない場合、または内容が曖昧な場合は、アーキテクチャレビュー、チェックリストによる評価、安全な仮想ペイロードの例の提示に限定してください。

本番システムの場合：

• 読み取り専用の検証、またはステージング環境の使用を優先してください
• 書面による許可と範囲が明示されていない限り、破壊的なテスト、永続化テスト、サービス拒否テスト、データ流出テストを試みないでください
• レポートでは、認証情報、シークレット、PII、機密性の高い出力をマスキングしてください
• テストが承認された範囲を超えた場合は、テストを停止して報告してください

---

4層テストフレームワーク

OWASP AI Testing Guide では、32のテストケースを4つのレイヤーに分類しています。

┌─────────────────────────────────────────┐
│        AI Application Layer             │
│   (AITG-APP-01 to AITG-APP-14)         │
│   Prompts, interfaces, outputs, agency  │
├─────────────────────────────────────────┤
│        AI Model Layer                   │
│   (AITG-MOD-01 to AITG-MOD-07)         │
│   Robustness, alignment, privacy       │
├─────────────────────────────────────────┤
│        AI Infrastructure Layer          │
│   (AITG-INF-01 to AITG-INF-06)         │
│   Supply chain, resources, boundaries  │
├─────────────────────────────────────────┤
│        AI Data Layer                    │
│   (AITG-DAT-01 to AITG-DAT-05)         │
│   Training data, privacy, diversity    │
└─────────────────────────────────────────┘

---

テストケース

このガイドでは、4 つのレイヤーにわたる 32 件のテストケースを定義しています。各ケースには、目的、ペイロード／手順、観察可能な応答、重大度の目安、修正方法が含まれます。ペイロードと P0～P2 の優先度インデックスを含む完全な一覧は、references/test-cases.md にあります。32 件すべてを一度に読み込むのではなく、テスト対象のレイヤーのセクションを参照してください。

レイヤー	プレフィックス	ケース数	対象
1. アプリケーション	AITG-APP	14	プロンプト、インターフェース、出力、エージェンシー
2. モデル	AITG-MOD	7	堅牢性、アラインメント、プライバシー
3. インフラストラクチャ	AITG-INF	6	サプライチェーン、リソース、境界
4. データ	AITG-DAT	5	トレーニングデータ、プライバシー、多様性

システムの種類に基づいてケースを選択します（手順のステップ 1 を参照）：LLM／チャットボット → APP 全件 + INF-01/02/03、ML 分類器 → MOD 全件 + DAT-03/04、RAG → APP-02/03/08 + DAT-01/02、エージェント → APP-06 + INF-03/04。DAT-05（プライバシー／同意）は必ず含めてください。

---

テスト手順

ステップ 1：範囲の特定と計画（15 分）

1. システムを把握します：

   • ai_system_description と system_architecture を確認します
   • AI コンポーネント、データフロー、信頼境界を特定します
   • システムの種類に基づいて、適用するテストケースを決定します

2. テストケースを選択します：

   • LLM／チャットボットシステムの場合：AITG-APP（全件）、AITG-INF-01/02/03 を優先します
   • ML 分類器の場合：AITG-MOD（全件）、AITG-DAT-03/04 を優先します
   • RAG システムの場合：AITG-APP-02/03/08、AITG-DAT-01/02 を優先します
   • AI エージェントの場合：AITG-APP-06、AITG-INF-03/04 を優先します
   • すべてのシステムで：AITG-DAT-05（プライバシーコンプライアンス）を含めます

3. テスト環境を準備します：

   • テストツールとフレームワークを特定します
   • モニタリングとロギングを設定します
   • ベースライン測定値を確立します

ステップ 2：テストケースの実行（60～90 分）

選択したテストケースをレイヤーごとに実行します：

アプリケーションレイヤー（25～35 分）

• システムの種類に基づいて AITG-APP テストを実行します
• 証拠（スクリーンショット、ログ、ペイロード）とともに調査結果を記録します
• 各調査結果の重大度と悪用可能性を記録します

モデルレイヤー（15～20 分）

• 堅牢性とアラインメントに関する AITG-MOD テストを実行します
• 挙動の異常を記録します
• 敵対的攻撃への耐性をテストします

インフラストラクチャレイヤー（10～15 分）

• サプライチェーンと境界に関する AITG-INF テストを実行します
• 完全性の制御を検証します
• リソースの制限をテストします

データレイヤー（10～20 分）

• プライバシーと品質に関する AITG-DAT テストを実行します
• データガバナンスを監査します
• コンプライアンス制御を検証します

ステップ 3：リスク評価（15 分）

各調査結果を評価します：

重大度	説明	対応時間
Critical	影響が大きく、悪用可能な脆弱性	即時
High	重大なリスク、中程度の悪用難易度	7 日
Medium	中程度のリスク、特定の条件が必要	30 日
Low	軽微なリスク、影響が限定的	90 日
Info	所見。差し迫ったリスクはありません	バックログ

ステップ 4：レポートの作成（20 分）

調査結果を構造化レポートにまとめます。

---

出力形式

結果を OWASP AI Testing 評価レポートにまとめます。コピーして使用できるテンプレートは、references/report-template.md にあります。

レポートには以下が含まれます：

1. エグゼクティブサマリー — 全体的な信頼性評価、テストカバレッジ表（レイヤーごとの実施／合格／不合格／該当なし）、重大な調査結果
2. 詳細なテスト結果 — ケースごとの結果（PASS/FAIL/PARTIAL/N/A）、重大度、証拠、調査結果、推奨事項
3. 修正ロードマップ — 重大度別の段階的な計画（Critical 0～7 日／High 7～30 日／Medium 30～90 日）
4. 信頼性評価 — セキュリティ、公平性、プライバシー、信頼性、説明可能性、安全性の各項目の状況
5. 次のステップ — 修正、再テスト、CI/CD 統合、継続的なモニタリング

---

リソース

• OWASP AI Testing Guide
• OWASP GenAI Security Project
• OWASP AI Testing Guide GitHub

---

ベストプラクティス

1. 早期かつ頻繁にテストする：開発ライフサイクルに AI テストを組み込みます
2. テストを階層化する：アプリケーションだけでなく、4 つすべての階層をカバーします
3. 可能な限り自動化する：CI/CD で再現可能なテストスイートを構築します
4. 攻撃者の視点で考える：テスト設計に敵対的な思考を取り入れます
5. セキュリティ以外も対象にする：公平性、説明可能性、信頼性もテストします
6. すべてを文書化する：コンプライアンスと監査のために証拠を維持します
7. 変更後に再テストする：モデルの更新、ファインチューニング、データの変更後には再テストが必要です
8. 継続的に監視する：本番環境の監視は定期的なテストを補完します
9. 最新情報を把握する：AI の攻撃手法は急速に進化します
10. 多様なテスターを参加させる：セキュリティ、ML、倫理、各分野の専門家の視点を取り入れます

---

バージョン

1.0 - 初回リリース（OWASP AI Testing Guide v1、2025年11月）

---

覚えておいてください：AI の信頼性テストは従来のセキュリティの範囲を超えます。バイアスがあり、不透明で、信頼性に欠ける安全な AI システムは、信頼できるとは言えません。信頼性のあらゆる側面を包括的にテストしてください。