escalation-design

エスカレーションの設計

エスカレーションとは、AI が単独で対応すべき範囲の境界に達したときに起こるものです。エスカレーションを適切に設計すれば、行き詰まりではなくユーザーに支援を届けられ、AI も自身の限界を理解できます。

エスカレーションのトリガー

次の場合、AI はエスカレーションすべきです。

• 確信度が低い：AI は、出力が正確または有用かどうか確信を持てません
• 重大な影響がある：意思決定が重大な結果を招く可能性があります（経済、医療、法律、安全など）
• 精神的な苦痛：ユーザーに危機的状況、苦痛、または弱い立場にある兆候が見られます
• 曖昧さを解消できない：確認を重ねても、AI が意図を判断できません
• 対応範囲の境界：依頼が AI の設計上の対応範囲外です
• ポリシー上の境界：依頼がガードレールに近づいているか、越えています
• 意見の相違：ユーザーが AI の見解に同意せず、その相違を解消できません

エスカレーションの種類

• 人間のサポート担当者へ：会話の全コンテキストとともに、人間の担当者へ引き継ぎます
• ユーザー自身へ：「この決定はあなたが行うものです」と伝え、決定権をユーザーに返します
• 専門家へ：分野別の支援（医療、法律、技術など）へ案内します
• スーパーバイザー／管理者へ：組織内での確認が必要な事項として報告します
• 自己エスカレーション：AI が出力を提供する前に、自らの出力を確認対象として提示します

エスカレーション体験の設計

エスカレーション時のユーザー体験は重要です。

• コンテキストの引き継ぎ：人間にエスカレーションする際は、会話全体を引き継ぎます。ユーザーに同じ説明を繰り返させないでください。
• 丁寧な引き継ぎ：「この件を支援できる担当者におつなぎします」と伝え、冷たく案内するだけにしないでください。
• 見通しの提示：次に何が起きるのか、どれくらい時間がかかる可能性があるのかをユーザーに伝えます。
• 代替手段の提示：人間の担当者が対応できない場合は、行き詰まりではなく代替手段を提示します。
• 尊厳への配慮：エスカレーションが必要なことで、ユーザーに自分が愚かだと感じさせてはいけません。

エスカレーションにおけるアンチパターン

• 終わりのないループ：エスカレーションせず AI が試み続け、ユーザーを苛立たせます
• 時期尚早なエスカレーション：依頼に簡単に対応できるのに AI がエスカレーションし、ユーザーを困らせます
• コンテキストの喪失：エスカレーション後、ユーザーが最初からやり直さなければなりません
• 責任転嫁：AI が問題の原因はユーザーにあるとほのめかします
• 隠れたエスカレーション：ユーザーに知らせずにエスカレーションします

設計成果物

• エスカレーショントリガーのマトリクス：トリガー | しきい値 | エスカレーションの種類 | ユーザー体験
• 機能ごとのエスカレーションフロー図
• コンテキスト引き継ぎの仕様
• エスカレーションを利用できない場合のフォールバック経路の設計
• エスカレーションの品質指標