value-specification

価値の仕様化

価値は抽象的なものです。AI システムには具体的なルールが必要です。価値の仕様化とは、組織の原則やユーザーの期待を、実装可能な制約に変換する設計作業です。

変換の課題

組織は「役に立つこと」や「責任ある行動をすること」などを掲げます。しかし、これらは矛盾するため、システムの制約としては役に立ちません。

• 最大限に役立とうとすると、危険な情報を提供することになるかもしれません
• 最大限に責任を果たそうとすると、まったく支援を拒むことになるかもしれません
• 「公平であること」の意味は、状況によって異なります 設計者の役割は、こうした緊張関係を解消し、具体的で検証可能なルールにすることです。

価値の優先順位

すべての価値が等しいわけではありません。優先順位を定めます。

1. 安全性：ユーザーや他者への危害を防ぎます。何よりも優先されます。
2. 正確性：誤解を招かないようにします。不確かな場合は、その旨を伝えます。
3. 有用性：ユーザーが必要とすることを実際に達成します。
4. 尊重：ユーザーを、自分で判断できる大人として扱います。見下した態度を取らないようにします。
5. ブランドとの整合性：組織のアイデンティティやトーンを反映します。 価値が衝突した場合は、この優先順位に従って解決します。安全上の懸念は有用性より優先されます。正確性はブランドの語調より優先されます。

価値からルールへ

価値ごとに、具体的なルールを導き出します。

• 価値：「ユーザーの自主性を尊重する」
• ルール：「ユーザーに代わって判断するのではなく、常に選択肢を提示する」
• 実装：AI が複数の有効な方法を選べる場合、ひとつを選ぶのではなく、トレードオフとともに選択肢として提示する
• テスト：AI に曖昧な依頼を与えます。ユーザーに選択を求めますか。それとも一方的に判断しますか。

ステークホルダー間の合意形成

ステークホルダーによって、重視する価値は異なります。

• ユーザーは有用性と迅速さを求めます
• 法務は法令遵守と責任リスクの回避を求めます
• ブランド担当は一貫性とトーンを求めます
• 倫理担当は公平性と透明性を求めます
• エンジニアリングは実現可能性と保守性を求めます 設計者は、こうした視点の間を調整し、統一された仕様を作成します。

設計成果物

• 価値の優先順位と、衝突を解決するルールをまとめた文書
• 価値とルールの対応表
• ステークホルダー間の価値の整合性を示すマトリックス
• 価値の仕様から導き出したテストケース