mcpField
A
adversarial-machine-learning

adversarial-machine-learning

github.com/gmh5225安全6151 次安装4 天前更新
代码仓库

关于 adversarial-machine-learning

用于梳理对抗机器学习攻击、隐私风险与防御方法的 Skill，面向 AI 安全研究者和实践者，涵盖威胁分类及相关工具资源。

主要功能

  1. 01对抗样本攻击分类
  2. 02投毒与后门攻击
  3. 03规避攻击类别
  4. 04隐私攻击类型
  5. 05防御类别与工具

适用场景

  1. 01分类机器学习模型威胁
  2. 02研究后门与投毒风险
  3. 03梳理模型隐私攻击

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/gmh5225/awesome-ai-security --skill adversarial-machine-learning

安装后在 Claude Code 中输入/adversarial-machine-learning确认已加载。

详细介绍

对抗机器学习

范围

在处理以下内容时使用此技能：

  • 对抗样本（能够欺骗模型的扰动）
  • 数据投毒攻击
  • 模型后门和木马
  • 规避攻击
  • 成员推断和模型反演

攻击分类

对抗样本
  • 白盒攻击（可完全访问模型）
  • 黑盒攻击（只能查询）
  • 可迁移性攻击
  • 物理世界对抗样本
  • 补丁攻击
投毒攻击
  • 标签翻转
  • 干净标签投毒
  • 梯度匹配投毒
  • 训练期间植入后门
后门攻击
  • 木马触发器（视觉模式、特定输入）
  • 指令后门（针对大模型）
  • 权重空间后门
  • 供应链后门
规避攻击
  • 特征空间规避
  • 问题空间规避
  • 针对防御措施的自适应攻击
隐私攻击
  • 成员推断攻击（MIA）
  • 模型反演攻击
  • 训练数据提取
  • 模型窃取／提取

防御类别

  • 对抗训练
  • 认证鲁棒性
  • 输入预处理
  • 异常检测
  • 差分隐私

主要框架和工具

  • 对抗鲁棒性工具箱（ART）- IBM
  • CleverHans - TensorFlow
  • Foolbox - PyTorch/JAX/TensorFlow
  • TextAttack - NLP 对抗攻击
  • SecML - 安全机器学习库

在 README 中添加链接的位置

  • 对抗样本工具：AI Security & Attacks → Adversarial Attacks
  • 投毒／后门研究：AI Security & Attacks → Poisoning & Backdoors
  • 隐私攻击：AI Security & Attacks → Privacy & Extraction
  • 防御库：AI Security Tools & Frameworks → AI Security Libraries
  • 基准测试：Benchmarks & Standards

注意事项

添加内容应：

  • 聚焦于机器学习／AI 安全
  • 避免重复 URL
  • 优先选择经过同行评审或维护良好的工具

数据来源

如需详细且最新的资源，请获取完整列表：

https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md

当你需要此技能未涵盖的特定工具、论文或资源时，请使用此 URL 获取最新整理的链接。

评论

支持 Markdown