ai-security-tooling

AI セキュリティツール

対象範囲

以下を追加または整理する場合は、このスキルを使用してください。

• LLM セキュリティツール（ガードレール、検出器）
• 敵対的機械学習ライブラリ
• AI 脆弱性スキャナー
• モデル安全性ツール
• セキュリティベンチマークとフレームワーク

ツールのカテゴリ

LLM セキュリティツール

• ガードレール：NeMo Guardrails、LLM Guard、Rebuff
• 検出器：Vigil-LLM、Nova Framework、Garak
• スキャナー：ModelScan、AI Security Analyzer

敵対的機械学習ライブラリ

• 攻撃ライブラリ：ART、CleverHans、Foolbox、TextAttack
• 防御ライブラリ：SecML
• ファジング：OSS-Fuzz-Gen、Brainstorm

AI レッドチーム

• Microsoft：Counterfit、PyRIT
• Meta：PurpleLlama
• NVIDIA：Garak、NeMo Guardrails

ベンチマーク

• 堅牢性：RobustBench
• ジェイルブレイク：JailbreakBench
• 安全性：Stanford AIR-Bench
• ハルシネーション：Vectara Leaderboard

標準とフレームワーク

• MITRE ATLAS：AI 脅威マトリックス
• NIST AI RMF：リスク管理フレームワーク
• OWASP：LLM Top 10、GenAI Security Project

分類ルール

• LLM ガードレール／検出器 → AI Security & Attacks → Model Security
• プロンプトインジェクションツール → AI Security & Attacks → Prompt Injection
• 敵対的機械学習ライブラリ → AI Security & Attacks → Adversarial Attacks または AI Security Libraries
• AI リバースエンジニアリング／デバッグツール → AI Security Tools & Frameworks → AI Reverse Engineering
• AI 脆弱性スキャナー → AI Security Tools & Frameworks → AI Vulnerability Detection
• ベンチマーク → Benchmarks & Standards
• MCP セキュリティツール → AI Pentesting & Red Teaming → AI Security MCP Tools

品質基準

• 公式リポジトリを優先してください
• 意味のある機能を追加していないフォークは避けてください
• 簡潔な説明を追加してください
• 既存の URL と重複させないでください
• ツールは AI／機械学習に特化している必要があります

主なベンダーのツール

ベンダー	ツール
Microsoft	Counterfit、PyRIT
Meta	PurpleLlama（Llama Guard、Prompt Guard、Code Shield）
NVIDIA	Garak、NeMo Guardrails
IBM	Adversarial Robustness Toolbox (ART)
Google	OSS-Fuzz-Gen
ProtectAI	Rebuff、LLM Guard、ModelScan

メモ

追加する項目は、以下を満たすようにしてください。

• AI／機械学習のセキュリティに特化している
• URL が重複していない
• 構造の変更が最小限である

データソース

詳細かつ最新のリソースを確認するには、以下から完全なリストを取得してください。

https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md

このスキルに含まれていない特定のツール、論文、リソースが必要な場合は、この URL を使用して最新の厳選リンクを取得してください。