mcpField
L
llm-attacks-security

llm-attacks-security

github.com/gmh5225セキュリティ6160 回インストール4 日前に更新
リポジトリ

llm-attacks-security について

LLMのセキュリティ攻撃パターンを整理し、OWASP LLM Top 10を参照するスキルです。攻撃と防御の検討や、AIセキュリティ資料の整理に向いています。

主な機能

  1. 01プロンプトインジェクションの分類
  2. 02ジェイルブレイク手法
  3. 03データ抽出のリスク
  4. 04モデル操作のパターン
  5. 05OWASP LLM Top 10の参照

活用シーン

  1. 01プロンプトインジェクションの脅威を確認
  2. 02ジェイルブレイク研究のリンクを整理
  3. 03データ抽出リスクを評価

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/gmh5225/awesome-ai-security --skill llm-attacks-security

インストール後、Claude Code で/llm-attacks-securityを入力して読み込まれたか確認します。

詳細

LLM セキュリティ攻撃

対象範囲

次の作業を行う場合に、このスキルを使用してください。

  • プロンプトインジェクション攻撃と防御
  • LLM のジェイルブレイク手法
  • 学習データの抽出
  • モデル出力の操作
  • AI の安全対策の回避

LLM によくある脆弱性（チートシート）

プロンプトインジェクション
  • 直接的なインジェクション（ユーザープロンプトの操作）
  • 間接的なインジェクション（外部データソース経由）
  • システムプロンプトの抽出
  • ロールプレイ攻撃
  • エンコーディング／難読化による回避
ジェイルブレイク
  • DAN（今すぐ何でも実行する）プロンプト
  • キャラクターのロールプレイによる制約回避
  • 複数ターンにわたる操作
  • トークンスマグリング
  • クレッシェンド攻撃
データ抽出
  • 学習データの記憶内容の抽出
  • コンテキストからの個人識別情報（PII）の漏えい
  • システムプロンプトの開示
  • API キー／シークレットの抽出
  • モデルアーキテクチャの調査
モデルの操作
  • 出力の誘導
  • 幻覚の悪用
  • バイアスの増幅
  • 有害なコンテンツの生成

OWASP LLM Top 10 リファレンス

  1. LLM01 - プロンプトインジェクション
  2. LLM02 - 安全でない出力処理
  3. LLM03 - 学習データのポイズニング
  4. LLM04 - モデルのサービス拒否
  5. LLM05 - サプライチェーンの脆弱性
  6. LLM06 - 機密情報の漏えい
  7. LLM07 - 安全でないプラグイン設計
  8. LLM08 - 過剰な自律性
  9. LLM09 - 過度な依存
  10. LLM10 - モデルの窃取

README にリンクを追加する場所

  • プロンプトインジェクションのツール／研究：AI Security & Attacks → Prompt Injection
  • ジェイルブレイクの手法：AI Security & Attacks → Model Security
  • データ抽出の研究：AI Security & Attacks → Privacy & Extraction
  • 防御ツール：AI Security & Attacks → Model Security
  • CTF／チャレンジ：AI Security Starter Pack → CTFs / Practice

注意事項

追加内容は次の条件を満たすようにしてください。

  • AI／LLM セキュリティに焦点を当てる
  • URL の重複を避ける
  • 構造の変更を最小限に抑える

データソース

詳細かつ最新のリソースについては、次から完全なリストを取得してください。

https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md

このスキルに含まれていない特定のツール、論文、リソースが必要な場合は、この URL を使って最新の厳選リンクを取得してください。

コメント

Markdown 対応