mcpField
C
ctf-ai-ml

ctf-ai-ml

github.com/wgpsecセキュリティ1.8k46 回インストール5 日前に更新
リポジトリ

ctf-ai-ml について

CTF参加者向けのAI・ML攻撃手法ガイドです。モデルファイル、分類器、LLMの対象別に分析方法を整理し、他のセキュリティ分野へ切り替える目安も示します。

主な機能

  1. 01モデル重みの分析と操作
  2. 02画像分類器への敵対的攻撃
  3. 03LLMへのプロンプトインジェクションと脱獄
  4. 04対象別の判断ツリー
  5. 05関連するCTF分野への案内

活用シーン

  1. 01.ptや.safetensorsモデルファイルの分析
  2. 02敵対的な画像の作成
  3. 03チャットボットのセキュリティ検証

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/wgpsec/aboutsecurity --skill ctf-ai-ml

インストール後、Claude Code で/ctf-ai-mlを入力して読み込まれたか確認します。

同梱ファイル

SKILL.md と一緒にインストールされる参考資料やスクリプト。

references/
adversarial-ml.md
llm-attacks.md
model-attacks.md

詳細

CTF AI/ML 攻撃手法

使用する場面

  • チャレンジに ML モデルファイル（.pt、.pth、.safetensors、.onnx、.h5）が含まれている
  • 対象が AI チャットボット、LLM ベースのアプリケーション、または ML 分類器である
  • 画像／テキスト分類器を欺くために敵対的サンプルを作成する必要がある
  • チャレンジでモデルの重みが提供され、解析または改変できる
  • AI/ML プラットフォームのセキュリティテスト（モデル抽出、メンバーシップ推論）

クイックスタート

pip install torch transformers numpy scipy Pillow safetensors scikit-learn
file model.*
python3 -c "import torch; m=torch.load('model.pt'); print(type(m), m.keys() if hasattr(m,'keys') else '')"

判断ツリー

  1. モデルの重みファイル（.pt/.safetensors） → model-attacks.md
    • 重みの摂動反転、モデル反転、LoRA マージ、エンコーダー衝突
  2. 欺く対象が画像分類器 → adversarial-ml.md
    • FGSM、PGD、C&W 攻撃、敵対的パッチ、回避、データポイズニング
  3. LLM／チャットボットが対象 → llm-attacks.md
    • プロンプトインジェクション、ジェイルブレイク、トークンスマグリング、ツール使用の悪用
  4. ML 内の純粋な数学／暗号 → ctf-crypto に切り替える
  5. コンパイル済みモデルバイナリ → ctf-reverse に切り替える
  6. チャットボットでラップされた Python ジェイル → ctf-misc に切り替える

分岐の兆候

  • チャレンジが ML を含まない純粋な暗号／数論の場合 → /ctf-crypto
  • コンパイル済みの推論バイナリをリバースエンジニアリングする場合 → /ctf-reverse
  • チャットボットのラッパー内で Python サンドボックスを脱出する場合 → /ctf-misc
  • AI 機能を備えた Web アプリ（Web 経由のプロンプトインジェクション）の場合 → /ai-security/prompt-injection

コメント

Markdown 対応