mcpField
A
awesome-ai-security-overview

awesome-ai-security-overview

github.com/gmh5225安全6141 次安装4 天前更新
代码仓库

关于 awesome-ai-security-overview

awesome-ai-security-overview 是面向渗透测试人员、红队和安全研究者的 AI/ML 安全资源精选清单，按主题分类并避免重复链接。该技能说明如何筛选和维护清单。

主要功能

  1. 01按主题整理 AI 安全资源
  2. 02覆盖攻击、工具与基准
  3. 03规定链接描述和分类方式
  4. 04筛除非 AI 相关资源
  5. 05检查并避免重复链接

适用场景

  1. 01为 AI 安全研究查找分类资料
  2. 02向精选清单添加并归类新链接

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/gmh5225/awesome-ai-security --skill awesome-ai-security-overview

安装后在 Claude Code 中输入/awesome-ai-security-overview确认已加载。

详细介绍

Awesome AI Security - 项目概览

目的

这是一个为渗透测试人员、红队人员和安全研究人员精选的 AI/ML 安全资料与资源合集。目标是让列表保持聚焦 AI、信号质量高、分类清晰且无重复。

项目结构

awesome-ai-security/
├── README.md                # Main resource list (curated)
├── LICENSE                  # License
├── .claude/
│   └── skills/              # Claude skills (this directory)
└── ref/                     # Reference notes (not curated)
    ├── my_collect.md        # Personal collection
    ├── Awesome-AI-Security-1/
    ├── awesome-ai-security-2/
    ├── 模型安全/             # Model security notes
    ├── 渗透测试相关/          # Pentesting notes
    └── 网络安全相关/          # Network security notes

README.md 格式约定

标题结构
  • 顶级类别使用 ##。
  • 子类别使用 ###（例如，位于 AI Security & Attacks 中）。
  • Starter Pack 使用加粗项目符号表示子部分（例如，- **CTFs / Practice**）。
链接格式
  • 使用完整 URL，每条项目符号一行。
  • 添加简短描述，并用方括号括起：- https://... [简短描述]
  • 描述保持简洁。
  • 不要在多个位置添加相同的 URL。
条目示例
### Prompt Injection
- https://github.com/example/tool [Prompt injection detector]

分类规则（如何放置新链接）

  • AI Security Starter Pack：CTF、课程、博客、新闻简报、入门资源。
  • AI/LLM Guide：LLM 基础知识、教程、Awesome 列表。
  • AI Security & Attacks：提示词注入、对抗攻击、投毒、隐私、模型安全。
  • AI Pentesting & Red Teaming：AI 驱动的渗透测试工具、红队测试、MCP 安全工具。
  • AI Security Tools & Frameworks：AI 漏洞检测、CVE 分析、OSINT、安全库、TLS / 指纹 / 机器人信号（JA3 客户端、网站机器人检测、自动化加固研究——仅以符合伦理的方式用于授权目标）。
  • AI Agents & Frameworks：Agent 框架、形式化方法 / Lean Agent（例如，AI 辅助的定理证明编排）、AI 记忆与长上下文（潜在记忆、递归上下文、长记忆 RAG）、RAG 技术栈/合集、浏览器自动化、MCP 服务、Agent 沙箱与隔离（策略强制执行的运行时、容器/VM 边界）。
  • AI Development & Training：训练框架、本地模型、无限制模型、提示词。
  • AI Applications：聊天助手、深度研究、搜索引擎、代码分析、网页抓取、视觉 / 领域应用（例如，使用大模型进行农业或专业图像理解）。
  • AI Image & Video：图像生成、视频生成、TTS、人脸识别。
  • Benchmarks & Standards：AI 安全基准、威胁框架、标准。

AI 相关性筛选

仅收录与 AI/ML 相关的资源。 不要添加：

  • 传统安全工具（除非由 AI 驱动）
  • Web3/区块链工具（除非与 AI 相关）
  • 未集成 AI 的通用渗透测试工具
  • 浏览器漏洞、钓鱼工具、CVE 合集（除非通过 AI 分析）

重复内容政策

README.md 中不得有重复 URL。 如果一个链接适合多个类别，请选择其主要所属类别。

贡献检查清单

  1. 添加前先检查 README.md 中是否存在重复项。
  2. 确认资源与 AI/ML 相关。
  3. 确认链接指向权威来源（避免价值较低的分叉项目）。
  4. 保持描述简洁且实用。
  5. 将其放入最合适的类别。
  6. 优先进行最少量的更改，避免重排大段内容。

Utilities 部分

README.md 末尾包含 Utilities（混合类别）：面向 Agent 的 CLI、生产力工具，以及邮件/身份（例如，可自托管的域名邮件、加密 P2P 邮件），前提是它们能为 AI 工作流相关的运维或隐私提供支持——条目保持简洁。

数据来源

如需获取详细且最新的资源，请从以下位置获取完整列表：

https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md

需要特定工具、论文或资源时，请使用此 URL 获取最新精选链接。

评论

支持 Markdown