mcpField
A
adversarial-machine-learning

adversarial-machine-learning

github.com/gmh5225セキュリティ6151 回インストール4 日前に更新
リポジトリ

adversarial-machine-learning について

敵対的機械学習の攻撃、プライバシーリスク、防御策を整理するスキルです。AIセキュリティの研究者や実務者向けに、脅威の分類と関連リソースをまとめています。

主な機能

  1. 01敵対的サンプル攻撃の分類
  2. 02ポイズニングとバックドア攻撃
  3. 03回避攻撃のカテゴリ
  4. 04プライバシー攻撃の種類
  5. 05防御カテゴリとツール

活用シーン

  1. 01MLモデルへの脅威の分類
  2. 02バックドアやポイズニングリスクの調査
  3. 03モデルのプライバシー攻撃の確認

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/gmh5225/awesome-ai-security --skill adversarial-machine-learning

インストール後、Claude Code で/adversarial-machine-learningを入力して読み込まれたか確認します。

詳細

敵対的機械学習

対象範囲

次の作業でこのスキルを使用します。

  • 敵対的サンプル（モデルを誤動作させる摂動）
  • データポイズニング攻撃
  • モデルのバックドアとトロイの木馬
  • 回避攻撃
  • メンバーシップ推論とモデル反転

攻撃の分類

敵対的サンプル
  • ホワイトボックス攻撃（モデルへの完全なアクセス）
  • ブラックボックス攻撃（クエリのみでアクセス）
  • 転移可能性を利用した攻撃
  • 物理世界における敵対的サンプル
  • パッチ攻撃
ポイズニング攻撃
  • ラベル反転
  • クリーンラベルポイズニング
  • 勾配マッチングポイズニング
  • 学習中のバックドア挿入
バックドア攻撃
  • トロイの木馬のトリガー（視覚的パターン、特定の入力）
  • 指示のバックドア（LLM 向け）
  • 重み空間のバックドア
  • サプライチェーンのバックドア
回避攻撃
  • 特徴空間での回避
  • 問題空間での回避
  • 防御に対する適応的攻撃
プライバシー攻撃
  • メンバーシップ推論攻撃（MIA）
  • モデル反転攻撃
  • 学習データの抽出
  • モデルの窃取／抽出

防御の分類

  • 敵対的学習
  • 認証可能な堅牢性
  • 入力の前処理
  • 異常検知
  • 差分プライバシー

主なフレームワークとツール

  • Adversarial Robustness Toolbox (ART) - IBM
  • CleverHans - TensorFlow
  • Foolbox - PyTorch/JAX/TensorFlow
  • TextAttack - NLP の敵対的攻撃
  • SecML - セキュア ML ライブラリ

README にリンクを追加する場所

  • 敵対的サンプルのツール：AI Security & Attacks → Adversarial Attacks
  • ポイズニング／バックドアの研究：AI Security & Attacks → Poisoning & Backdoors
  • プライバシー攻撃：AI Security & Attacks → Privacy & Extraction
  • 防御ライブラリ：AI Security Tools & Frameworks → AI Security Libraries
  • ベンチマーク：Benchmarks & Standards

注意事項

追加する項目は、次の条件を満たすようにしてください。

  • ML／AI セキュリティに焦点を当てる
  • URL が重複していない
  • 査読済み、または適切に保守されているツールを優先する

データソース

詳細で最新のリソースについては、次の場所から完全なリストを取得してください。

https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md

このスキルで扱っていない特定のツール、論文、リソースが必要な場合は、この URL から最新の厳選リンクを取得してください。

コメント

Markdown 対応