mcpField
L
llm-attacks-security

llm-attacks-security

github.com/gmh5225安全6160 次安装4 天前更新
代码仓库

关于 llm-attacks-security

这是一项用于梳理 LLM 安全攻击模式并参考 OWASP LLM Top 10 的技能，面向攻击与防御研究及 AI 安全资源整理。

主要功能

  1. 01提示词注入分类
  2. 02越狱技术类别
  3. 03数据提取风险
  4. 04模型操纵模式
  5. 05OWASP LLM Top 10 参考

适用场景

  1. 01梳理提示词注入威胁
  2. 02整理越狱研究链接
  3. 03评估数据提取风险

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/gmh5225/awesome-ai-security --skill llm-attacks-security

安装后在 Claude Code 中输入/llm-attacks-security确认已加载。

详细介绍

大模型安全攻击

范围

在处理以下内容时使用此技能：

  • 提示词注入攻击与防御
  • 大模型越狱技术
  • 训练数据提取
  • 模型输出操纵
  • 绕过 AI 安全防护

常见大模型漏洞（速查表）

提示词注入
  • 直接注入（操纵用户提示词）
  • 间接注入（通过外部数据源）
  • 提取系统提示词
  • 角色扮演攻击
  • 编码／混淆绕过
越狱
  • DAN（立即执行任何操作）提示词
  • 角色扮演逃逸
  • 多轮操纵
  • 令牌走私
  • 渐进式攻击
数据提取
  • 提取模型记忆的训练数据
  • 从上下文中泄露个人身份信息（PII）
  • 泄露系统提示词
  • 提取 API 密钥／机密
  • 探测模型架构
模型操纵
  • 引导输出
  • 利用幻觉
  • 放大偏见
  • 生成有害内容

OWASP 大模型十大风险参考

  1. LLM01 - 提示词注入
  2. LLM02 - 不安全的输出处理
  3. LLM03 - 训练数据投毒
  4. LLM04 - 模型拒绝服务
  5. LLM05 - 供应链漏洞
  6. LLM06 - 敏感信息泄露
  7. LLM07 - 不安全的插件设计
  8. LLM08 - 过度代理权限
  9. LLM09 - 过度依赖
  10. LLM10 - 模型窃取

在 README 中添加链接的位置

  • 提示词注入工具／研究：AI Security & Attacks → Prompt Injection
  • 越狱技术：AI Security & Attacks → Model Security
  • 数据提取研究：AI Security & Attacks → Privacy & Extraction
  • 防御工具：AI Security & Attacks → Model Security
  • CTF／挑战：AI Security Starter Pack → CTFs / Practice

注意事项

新增内容需：

  • 聚焦 AI／大模型安全
  • 避免重复 URL
  • 尽量减少结构性改动

数据来源

如需获取详细且最新的资源，请从以下位置获取完整列表：

https://raw.githubusercontent.com/gmh5225/awesome-ai-security/refs/heads/main/README.md

当你需要此技能未涵盖的特定工具、论文或资源时，请使用此 URL 获取最新精选链接。

评论

支持 Markdown