awesome-ai-security-overview

Awesome AI Security - プロジェクト概要

目的

これは、ペンテスター、レッドチーム担当者、セキュリティ研究者向けに、AI／ML セキュリティに関する資料やリソースを厳選してまとめたコレクションです。リストをAI に特化し、質の高い情報を集め、適切に分類し、重複を避けることを目指しています。

プロジェクト構成

awesome-ai-security/
├── README.md                # Main resource list (curated)
├── LICENSE                  # License
├── .claude/
│   └── skills/              # Claude skills (this directory)
└── ref/                     # Reference notes (not curated)
    ├── my_collect.md        # Personal collection
    ├── Awesome-AI-Security-1/
    ├── awesome-ai-security-2/
    ├── 模型安全/             # Model security notes
    ├── 渗透测试相关/          # Pentesting notes
    └── 网络安全相关/          # Network security notes

README.md の書式規約

見出し構造

• トップレベルのカテゴリには ## を使用します。
• サブカテゴリには ### を使用します（例：AI Security & Attacks 内）。
• Starter Pack では、サブセクションに太字の箇条書きを使用します（例：- **CTFs / Practice**）。

リンク形式

• 箇条書き1行につき、完全な URL を1つ使用します。
• 角括弧内に短い説明を追加します：- https://... [短い説明]
• 説明は簡潔にします。
• 同じ URL を複数の場所に追加しないでください。

エントリー例

### Prompt Injection
- https://github.com/example/tool [Prompt injection detector]

分類ルール（新しいリンクの配置方法）

• AI Security Starter Pack：CTF、コース、ブログ、ニュースレター、初心者向けリソース。
• AI/LLM Guide：LLM の基礎、チュートリアル、awesome リスト。
• AI Security & Attacks：プロンプトインジェクション、敵対的攻撃、ポイズニング、プライバシー、モデルセキュリティ。
• AI Pentesting & Red Teaming：AI を活用したペンテストツール、レッドチーム活動、MCP セキュリティツール。
• AI Security Tools & Frameworks：AI による脆弱性検出、CVE 分析、OSINT、セキュリティライブラリ、TLS／フィンガープリント／ボットシグナル（JA3 クライアント、サイトのボット検出、自動化の強化に関する研究。倫理的かつ許可された対象にのみ使用してください）。
• AI Agents & Frameworks：エージェントフレームワーク、形式手法／Lean エージェント（例：AI を活用した定理証明のオーケストレーション）、AI メモリと長文コンテキスト（潜在メモリ、再帰的コンテキスト、長期メモリ RAG）、RAG スタック／コレクション、ブラウザー自動化、MCP サーバー、エージェントのサンドボックスと分離（ポリシーを適用するランタイム、コンテナー／VM の境界）。
• AI Development & Training：トレーニングフレームワーク、ローカルモデル、検閲のないモデル、プロンプト。
• AI Applications：チャットアシスタント、ディープリサーチ、検索エンジン、コード分析、ウェブスクレイピング、ビジョン／ドメインアプリケーション（例：LLM による農業関連または専門分野の画像理解）。
• AI Image & Video：画像生成、動画生成、TTS、顔認識。
• Benchmarks & Standards：AI 安全性ベンチマーク、脅威フレームワーク、標準。

AI 関連性フィルター

AI／ML 関連のリソースのみを含めてください。 以下は追加しないでください。

• 従来型のセキュリティツール（AI を活用したものを除く）
• Web3／ブロックチェーンツール（AI 関連のものを除く）
• AI との統合がない一般的なペンテストツール
• ブラウザーの脆弱性、フィッシングツール、CVE コレクション（AI による分析を含むものを除く）

重複ポリシー

README.md に同じ URL を重複して掲載しないでください。 複数のカテゴリに当てはまるリンクは、最も適切なカテゴリを1つ選んでください。

コントリビューションチェックリスト

1. 追加する前に README.md で重複がないか確認します。
2. リソースが AI／ML 関連であることを確認します。
3. リンクが正規のソースを指していることを確認します（価値の低いフォークは避けてください）。
4. 説明は簡潔で役立つものにします。
5. 最も適切なカテゴリに追加します。
6. 大規模なセクションの再フォーマットよりも、最小限の変更を優先します。

ユーティリティセクション

README.md の末尾には、エージェント向け CLI、生産性向上ツール、メール／ID（例：セルフホスト可能なドメインメール、暗号化された P2P メール）を含むユーティリティセクションがあります。AI ワークフローに関する運用やプライバシーを支援するものを掲載し、エントリーは簡潔にしてください。

データソース

詳細かつ最新のリソースについては、以下から完全なリストを取得してください。

https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md

特定のツール、論文、リソースが必要な場合は、この URL を使って最新の厳選リンクを取得してください。