mcpField
P
prompt-jailbreak

prompt-jailbreak

github.com/wgpsecセキュリティ1.8k88 回インストール4 日前に更新
リポジトリ

prompt-jailbreak について

LLM のセキュリティ研究者や評価担当者向けの脱獄手法論です。モデルの動作境界を狙う手法を分類し、詳細なペイロードや事例の資料を案内します。

主な機能

  1. 01ロールプレイと権限の偽装
  2. 02エンコード・形式・言語による回避
  3. 03コンテキストと複数ターンでの段階的誘導
  4. 04敵対的サフィックスと仮想化
  5. 05詳細な手法と事例の資料

活用シーン

  1. 01LLM 脱獄手法の分類を調べる
  2. 02アラインメントやフィルターの弱点を研究する
  3. 03攻撃テンプレートや参考資料を確認する

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/wgpsec/aboutsecurity --skill prompt-jailbreak

インストール後、Claude Code で/prompt-jailbreakを入力して読み込まれたか確認します。

同梱ファイルreferences/bypass-templates.mdreferences/jailbreak-techniques.md

詳細

AI プロンプトのジェイルブレイク手法

概要

プロンプトのジェイルブレイク（Jailbreak）とは、巧みに構成した入力によって、LLM の安全性に関するアライメント（alignment）やコンテンツフィルタリングのポリシーを回避し、本来禁止されている動作をモデルに実行させることです。プロンプトインジェクションとは異なり、ジェイルブレイクの目的はモデル自体の動作の境界を直接操作することです。

詳細な参考資料

  • 各種ジェイルブレイク技術の詳細なペイロード（ロールプレイ／エンコーディング／多言語／コンテキスト／高度な技術） → references/jailbreak-techniques.md
  • 回避事例、実践的なプロンプトテンプレート、防御を回避するためのポイント → references/bypass-templates.md

主な分類

カテゴリ原理成功率対象モデル
ロールプレイモデルに架空の役割を演じさせ、アライメントを回避する★★★★GPT/Claude/オープンソース
エンコーディングによる回避エンコーディングで機密性の高いキーワードを隠す★★★GPT/オープンソース（Claude は比較的強固）
多言語への切り替え英語以外の言語でアライメントが弱い点を利用する★★★★英語のアライメントが強いモデル
コンテキストのオーバーフロー長文で安全指示の重みを薄める★★★コンテキストウィンドウの大きいモデル
論理的な段階的誘導複数回の対話を通じて、リクエストを段階的にエスカレートさせる★★★★★すべてのモデル
システムプロンプトの上書きより高い権限を持つと直接主張する★★簡易的にデプロイされたアプリケーション
仮想化による入れ子仮想マシン／エミュレーター内で実行中だと主張する★★★GPT/オープンソース
敵対的サフィックス自動検索された敵対的なトークン列★★★★オープンソースモデル

手法の概要

Phase 1: ロールプレイによるジェイルブレイク
  • DAN (Do Anything Now)：制限のない AI の人格を作り、トークンペナルティシステムを強化する
  • Developer/Debug Mode：モデルが開発者モードに入ったと主張する
  • Evil Confidant：モデルに「邪悪な相談役」を演じさせる
  • 翻訳者／教育者：合法的な用途（研究／教育）を利用して回避する
Phase 2: エンコーディング／フォーマットによる回避
  • Base64 / ROT13 エンコーディングで機密性の高い指示を隠す
  • Unicode の同形文字に置き換えてキーワードフィルタリングを回避する
  • トークン分割（W-E-A-P-O-N）
  • コードモード（モデルに関数の実装を「補完」させる）
Phase 3: 多言語への切り替え
  • 低リソース言語による攻撃（ズールー語／スワヒリ語など、アライメントが弱い言語）
  • 言語の混在／翻訳チェーン
Phase 4: コンテキストウィンドウへの攻撃
  • 長文による希釈（5000 字以上の無害な文章の中に悪意のある指示を挟み込む）
  • System Prompt の重みの減衰
  • Few-shot ポイズニング
Phase 5: 論理的な段階的誘導（複数回の対話によるジェイルブレイク）
  • 段階的なエスカレーション：無害な質問から始め、機密性の高いリクエストへ徐々に移行する（成功率が最も高い）
  • 仮定のシナリオ：合法的なテストシナリオを構築する
  • ソクラテス式の問いかけ：教育的な方法で誘導する
Phase 6: システムプロンプトの上書き
  • 直接上書き（偽造した [SYSTEM] メッセージ）
  • JSON/XML 形式のインジェクション
  • Markdown 形式のインジェクション
Phase 7: 高度な技術
  • トークンスマグリング（トークナイザーの違いを利用する）
  • 敵対的サフィックス GCG Attack（勾配探索）
  • 仮想化／エミュレーターによるジェイルブレイク
  • ASCII アートのステガノグラフィ

すべての技術の詳細なペイロードと例については、references/jailbreak-techniques.md を参照してください。

参考資料

コメント

Markdown 対応