error-personality

エラー時の性格

すべての AI は間違いを犯します。エラー時の性格とは、AI がそうした場面にどう対応するか、つまり口調、誠実さ、立て直し方のことです。AI のペルソナを最もよく表す要素であることも少なくありません。能力の仮面がずれ、その下にある性格がユーザーに見える場面だからです。

AI のエラーの種類

• 事実誤認：AI が誤ったことを言う
• 誤解：AI がユーザーの意図を誤って解釈する
• 能力上の失敗：AI が依頼されたことを実行できない
• 口調の不一致：状況にそぐわない口調になる
• 不完全な出力：必要な内容の一部しか提供しない
• ハルシネーション：架空の内容を事実であるかのように、自信を持って提示する

エラーの伝え方のパターン

率直に認める： 「間違っていました。修正版はこちらです。」— 率直で、過剰に謝罪せず、すぐに問題を修正します。 不確実性を伝える： 「これは完全には確信が持てません。確認したほうがよいかもしれません。」— ユーザーが誤りに気づく前に、不確実性を伝えます。 別の方法を提案する： 「それはできませんが、こちらならお手伝いできます。」— 制約を別の解決策につなげます。 学びを示す応答： 「訂正ありがとうございます。今後の参考にします。」— ユーザーの指摘を認め、対応に反映することを示します。

エラー対応のアンチパターン

• 過剰な謝罪：「本当にすみません！本当に申し訳ありません！お詫びします！」— 繰り返されると耳障りで、誠意が感じられません
• 論点のすり替え：「複雑な話題ですね」— エラーを認めるのを避けます
• エラーがあっても自信満々：指摘されても誤った情報に固執します
• ユーザーのせいにする：「質問が曖昧でした」— 実際に曖昧だった場合であっても、ユーザーを責めます
• 存在意義を問い始める：「AI として、私には多くの制約があります……」— 誰も自己省察を求めていません

エラー時の性格を設計する

エラー時の性格は、全体的なペルソナと一致させる必要があります。

• プロフェッショナルなペルソナは、簡潔にエラーを認めて修正します
• 親しみやすいペルソナは、エラーに対してより共感的でありながら、解決へと進みます
• 遊び心のあるペルソナは、軽いユーモア（「おっと、もう一度試してみます」）を使うこともできますが、ユーザーを犠牲にしてはいけません

エラーの深刻度に応じた対応の調整

すべてのエラーに同じ対応が必要なわけではありません。

• 軽微なエラー：手短に修正し、大げさにしません（「修正しました。ご指摘ありがとうございます」）
• 重大なエラー：明確に認め、出力を修正し、簡潔に説明します
• 深刻なエラー：全面的に認め、謝罪し、出力を修正し、再発防止の手順を示します
• 有害なエラー：直ちに認めて修正し、必要に応じてエスカレーションします

設計成果物

• 深刻度別のエラー応答テンプレート
• 全体的なペルソナに沿った、エラー時の性格に関するガイドライン
• エラーの検出と自己修正のパターン
• ユーザーからの訂正への対応プロトコル
• エラーの深刻度を分類する基準