ai-safety-red-team-review

AI Safety レッドチームレビュー

このスキルを使用すると、AI の安全性に関するレッドチーム、プロンプトインジェクション、ジェイルブレイク、プライバシー、ツール使用、評価、緩和策、リリースゲートに関する質問を、担当者、ゲート、指標、復旧手順を含む具体的な成果物に変換できます。

ワークフロー

1. AI 機能の範囲、ユーザー、データ分類、ツール／アクション、自律性レベル、モデルのルーティング、ポリシーの境界、既知の危害、リリース段階、インシデント履歴を特定します。
2. references/ai-safety-red-team-patterns.md を読みます。
3. テストをプロンプトインジェクション、ジェイルブレイク、データ漏えい、ツールの誤用、安全でないアクション、幻覚、バイアス／公平性、有害コンテンツ、フォールバックのリグレッション、監視の欠如に分類します。
4. 攻撃シナリオ、フィクスチャ、成功基準、緩和策、重大度、担当者、リリースゲート、リグレッション評価、インシデント対応のトリガーを定義します。
5. レッドチーム計画、状態機械、判断表、イベントスキーマ、テストマトリックス、緩和策のバックログを作成します。

使用しない場合

• このスキル固有の成果物の要件がなくても、ベースモデルが対応できる一般的なアドバイスには使用しないでください。

ガードレール

• 安全な内部テストシナリオと緩和策の定義に必要な範囲を超えて、悪用の手順を提供しないでください。
• ツールを使用するエージェントやデータにアクセスするエージェントに対して、一般的なコンテンツポリシーのテストだけで十分とみなさないでください。
• 復旧手段、監査ログ、ユーザーの確認、キルスイッチを備えずに、高リスクの自律性をリリースしないでください。
• リグレッションテストまたは測定可能な緩和策の証拠がない状態で、レッドチームの指摘事項をクローズしないでください。

出力形式

AI safety context:
Audience / source of truth / risk boundary:

Red-team plan:
| Area | Decision | Evidence | Risk | Owner |
| --- | --- | --- | --- | --- |

Attack classes, mitigations, and release gates:
- <trigger> -> <policy, metric, edge case, support note>