mcpField
P
prompt-injection-test

prompt-injection-test

github.com/owaspセキュリティ208172 回インストール2 週間前に更新
リポジトリ

prompt-injection-test について

Prompt Injection Testingは、LLMアプリケーションのプロンプトインジェクション防御を体系的にテストするスキルです。直接・間接の入力経路で攻撃意図、手法、回避策を組み合わせ、結果や指摘、優先度付きの推奨事項をまとめます。

主な機能

  1. 01攻撃者が制御できる入力経路の特定
  2. 0213種類の攻撃意図によるテスト
  3. 0318種類の手法と20種類の回避策の適用
  4. 04テストマトリクスの実行と結果評価
  5. 055層の防御確認と推奨事項の作成

活用シーン

  1. 01チャットやAPI入力への防御テスト
  2. 02ファイル、Web取得、RAG文書経由の間接攻撃の確認
  3. 03ツール出力やMCPリソースに対する防御の検証

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/owasp/secure-agent-playbook --skill prompt-injection-test

インストール後、Claude Code で/prompt-injection-testを入力して読み込まれたか確認します。

詳細

プロンプトインジェクションテスト

plays/prompt-injection-testing.md の全手順に従い、LLM アプリケーションのプロンプトインジェクション防御を体系的にテストします。

Jason Haddix(Arcanum Information Security)による Arcanum PI Taxonomy に基づいています。CC BY 4.0。

手順

  1. スコープと入力面のマッピング — 攻撃者が制御するコンテンツが LLM に到達するすべての経路を特定します。直接的な経路(チャット、API パラメーター)と間接的な経路(ファイルのアップロード、ウェブ取得、RAG ドキュメント、ツールの出力、MCP リソース)が含まれます。

  2. 攻撃意図ごとのテスト(13 の意図)— 許可された各意図について、攻撃者の目的を達成できるか試します。

    • INT-01 システムプロンプトの漏えい、INT-02 ジェイルブレイク、INT-03 ツールの列挙
    • INT-04 API の列挙、INT-05 プロンプトの秘密情報の取得、INT-06 ユーザーへの攻撃
    • INT-07 データポイズニング、INT-08 サービス拒否、INT-09 有害な内容の議論
    • INT-10 マルチチェーン攻撃、INT-11 画像の生成、INT-12 バイアスのテスト
    • INT-13 ビジネスの整合性
  3. 攻撃手法ごとのテスト(18 の手法)— 既知のペイロード構築手法を適用します。

    • フレーミング、ナラティブ・スマグリング、認知的過負荷、メタプロンプティング
    • ロシアン・ドール、メモリーの悪用、インタープリターとしての振る舞い、矛盾
    • 終端シーケンス、反転、ルールの追加、変数の展開
    • リンクインジェクション、パズル、反有害性の強制、ASCII/空間
    • バイナリストリーム、空間バイト配列
  4. 回避レイヤーの適用(20 の回避手法)— 手法がブロックされた場合は、難読化して再試行します。

    • エンコーディング:base64、hex、morse、暗号、逆順
    • 言語:別の言語、架空の言語、音声的な置換、絵文字
    • 構造:JSON/XML でのラップ、Markdown、メタ文字の混乱、空白、スプラット
    • 高度な手法:ステガノグラフィー、リンクスマグリング、グラフノード、波形、大文字小文字の変更
  5. テストマトリックスの実行 — 意図 × 手法 × 回避手法を組み合わせます。影響の大きい意図を優先し、次に間接的な入力面をテストし、直接的な試行をブロックした防御に対して回避手法を一通り試します。

  6. 結果の評価 — インジェクションに成功した場合は、それぞれについて重大度、攻撃経路(意図 + 手法 + 回避手法 + 入力面)、正確なペイロード、検出上のギャップ、修正方法を記録します。

  7. 防御の検証 — 5 層の防御チェックリストを確認します。エコシステムの強化、モデルのガードレール、プロンプト層の防御、データ層の制御、アプリケーション層の検証が含まれます。

出力

テスト結果の概要表(意図/手法/回避手法/入力面/結果/重大度)、templates/finding.md を使用した詳細な検出事項、ギャップを明示した防御範囲チェックリスト、優先順位付けされた推奨事項。

OWASP の参照項目

  • LLM01:プロンプトインジェクション
  • LLM05:不適切な出力処理
  • LLM06:過剰な権限
  • LLM07:システムプロンプトの漏えい

コメント