consent-and-agency

同意と主体性

AI 製品は、ユーザーに代わって判断を下し、アクションを実行し、情報を処理します。同意と主体性を考慮した設計により、ユーザーはAIが何をするのかを理解し、それに同意したうえで、必要に応じて介入できるため、常に主導権を保てます。

AIに関する十分な情報に基づく同意

ユーザーが理解し、同意すべき内容は次のとおりです。

• AIが使用するデータ：会話履歴、個人データ、アップロードした文書、閲覧行動
• AIがデータをどのように扱うか：トレーニング、パーソナライズ、第三者との共有、保存
• AIが実行するアクション：メッセージの送信、変更の実施、システムへのアクセス
• AIにできないこと：ユーザーの期待に影響する可能性がある制限事項 同意はサインアップ時にチェックボックスをクリックして終わるものではありません。利用体験全体を通じて取り組むべき、継続的な設計課題です。

主体性を考慮した設計

主体性とは、ユーザーが主導権を持っていると感じ、実際に主導権を持てることです。

• オプトアウトよりオプトイン：AI機能は押し付けるのではなく、ユーザーが有効にするべきです
• 取り消し可能性：可能な限り、AIのアクションを元に戻せるようにします
• 介入手段：ユーザーはいつでもAIを停止したり、指示を変更したり、AIの動作を上書きしたりできます
• 離脱手段：ユーザーは不利益を受けることなく、いつでもAIの支援を終了できます
• 設定の調整：ユーザーはAIの動作、適用範囲、自律性のレベルを調整できます

同意のパターン

• 段階的な同意：すべてを一度に尋ねるのではなく、新しい機能が必要になった時点で段階的に許可を求めます
• 状況に応じた同意：事前ではなく、アクションを実行する直前に尋ねます
• 細かな同意設定：一括した許可ではなく、特定のアクションやデータの使用に対する同意をユーザーに求めます
• 撤回可能な同意：ユーザーは同意を撤回でき、その撤回が実際に反映されます

主体性を損なうアンチパターン

• ダークパターン：AIのオプトアウトや動作の上書きを困難にします
• 同意疲れ：ユーザーが読まずに進めてしまうほど、頻繁に許可を求めます
• 学習性無力感：AIが多くのことを代行するため、ユーザーが自分で行う方法を忘れてしまいます
• 見えないアクション：ユーザーが知らないうちにAIがアクションを実行します
• 取り消せないデフォルト設定：ユーザーが気付かないまま、元に戻せないアクションをAIが実行します

設計成果物

• 機能ごとの同意フロー図
• 主体性を確保するチェックポイントの仕様
• 介入手段の一覧
• データ使用の透明性マトリックス
• オプトアウト経路の設計