guardrail-design

ガードレールの設計

ガードレールとは、AI 製品が何を行い、何を行わないかを定める行動上の境界です。単なる安全上の制約ではなく、ユーザー体験全体を形作る設計上の判断です。

ガードレールの種類

• コンテンツのガードレール：AI が話題にすること、しないこと。生成する内容と、生成を拒否する内容。
• アクションのガードレール：メールの送信、購入、データの削除など、AI が実行できることと、人間の承認が必要なこと。
• トーンのガードレール：AI のコミュニケーション方法。使用する言葉、フォーマルさやカジュアルさの程度、率直に伝える場面と外交的に伝える場面。
• 範囲のガードレール：AI が自らの役割の範囲内と範囲外と見なすこと。コーディングアシスタントが医療に関する助言をすべきではありません。
• 確信度のガードレール：AI が推測するのではなく、不確実さを示したり、断定を避けたり、回答を拒否したりすべき場面。

製品上の判断としてのガードレール設計

ガードレールはどれも、トレードオフを伴う製品上の判断です。

• 厳しすぎる場合：製品が制限されていて、使いづらく、過保護に感じられます。ユーザーはガードレールを回避しようとします。
• 緩すぎる場合：製品が害をもたらし、信頼を失い、法的責任を生じさせる可能性があります。
• 一貫性がない場合：ユーザーはAIが何を行い、何を行わないか予測できず、信頼が損なわれます。 目指すのは、恣意的な制限ではなく、適切な判断だと感じられるガードレールです。

ガードレールの仕様

各ガードレールについて、以下を定義します。

• 防止すること：制限対象となる具体的な行動や出力
• 存在する理由：防止する害、または守る価値
• 表れ方：ガードレールが作動したときにユーザーに表示される内容（拒否メッセージ、代替案の提示、エスカレーション）
• 境界事例：ガードレールが厳しすぎたり緩すぎたりする可能性のある曖昧なケース
• 上書き条件：ガードレールを緩和できるかどうか、またその方法（管理者設定、ユーザー確認、状況に応じた調整）

ガードレールの伝え方

AI がガードレールをどう伝えるかは、ガードレールそのものと同じくらい重要です。

• 透明性のある拒否：「それには協力できません。理由は……」— 境界を正直に伝えます。
• 別の方法を示す拒否：「X はできませんが、Y ならお手伝いできます」— 代替案を提示します。
• 暗黙のガードレール：境界に触れずに、AI がその境界を避けるように誘導します。
• エスカレーション：「人間による確認が必要です」— 拒否するのではなく、担当者に引き継ぎます。

設計成果物

• ガードレール仕様表：カテゴリ | ルール | 根拠 | ユーザー体験 | 境界事例
• ガードレールの種類ごとの拒否メッセージのテンプレート
• ガードレールの重大度レベル（ハードブロック、ソフト警告、軽い促し）
• 各ガードレールのテストシナリオ