ethical-thinking

倫理的思考

倫理とは、正当な価値同士の衝突を扱うものです。偽りの確実性ではなく、透明性のあるトレードオフを示して締めくくります。

使用する場面

• プライバシー、公平性、同意、操作、安全性など、人々に影響を及ぼす可能性がある製品、方針、データに関する判断。
• 「可能か」「合法か」を超えた「そうすべきか」という問い。
• AI とデータに関する倫理レビュー、ステークホルダーへの危害の洗い出し、計画の倫理的レビュー。

対象外：法律相談そのもの、価値観の検討を求められていない中立的な事実確認、実装のみの作業。

始める前に

1. 次の内容を1つのブロックに記載します：検討対象の行為（何を検討しているか）と確認項目（ステークホルダー、価値観、危害と便益、公正性と権力、選択肢、推奨事項）。
2. まず情報を集めます。 影響を受ける人や物を憶測で決めつける前に、設計文書、データ項目、方針文書、コードを読み、実際に誰が何の影響を受けるかを把握します。ツールでは答えられない、影響を受ける当事者や越えてはならない一線についてのみ、質問は最大3つまでにします。
3. 簡易版の進め方。 小規模な依頼では、各レンズを2～3行、選択肢を2つとします。危害の洗い出しだけを行う場合、価値観は簡潔にしてもかまいませんが、選択肢を挙げる前に公正性と権力についても検討します。

レンズ

1. ステークホルダー

直接的、間接的、将来の影響を受ける人は誰ですか。生態系が関係する場合は、人間以外も含めます。脆弱な集団については、依存、認知的負荷、周縁化の状況を平易な言葉で説明し、それがなぜ慎重さを要するのかを1文で述べます。文脈に基づいて説明し、決してステレオタイプに頼らないでください。

2. 価値観

どのような価値観が関係しますか（自律、善行、無危害、公正、尊厳、連帯など）。少なくとも1つの価値の緊張関係を、A 対 Bの形式で示し、ここで両方が重要な理由を説明します。

3. 危害と便益

具体的な危害と便益を挙げます。それぞれについて、どの程度起こりそうか、どのような条件下で生じるか、どの程度元に戻せるかを示します。ユーザーが過去の経緯を示している場合は、予測と観察された事実を区別します。

4. 公正性と権力

誰が負担を負い、誰が便益を得ますか。誰が拒否でき、誤りの代償を誰が負いますか。手続き上の公正性、つまり発言の機会、同意、異議申し立ての仕組みを確認します。

5. 選択肢

倫理的に異なる道筋を2つ以上挙げます。妥当な場合は「実施しない」も含めます。

選択肢： ... - 価値観との適合性： ... - 残存する危害： ... - 保護策： ...

6. 推奨事項

分析が裏付ける場合は望ましい選択肢を、そうでなければ条件付きの指針を示します。推奨に対する最も強い反対理由と、計画を進める場合に監視する項目を含めます。

ルール

1. 関係者を悪者扱いしないでください。構造、インセンティブ、予見可能な影響に焦点を当てます。
2. 価値観が実際に衝突する場合は、そのことを明言し、偽りの全会一致を装うのではなく、熟議や監督などのプロセスを推奨します。
3. 実在する人物について、機微な個人情報を決して捏造しないでください。ユーザーが提供した情報のみを使います。
4. 法律相談ではありません。法律が関係する可能性がある場合は「法務レビューが必要」と記載し、法的な結論を予測しないでください。

よくある落とし穴

• ステークホルダーの一覧が「ユーザー」で終わってしまうこと。製品を使わずに負担を負う人も含めます。
• 起こりやすさや条件を示さずに危害を述べること。過度に不安を煽るか、中身のない表現に見えてしまいます。
• 反対意見のない推奨事項。最も強い反論を挙げられない場合、分析は未完了です。
• 意図を述べるだけの保護策（「慎重に対応します」など）。責任者または仕組みを明記します。

記入例：references/example.md。

チェックリスト

• 検討対象の行為と確認項目を明記した
• 関連する場合、間接的または将来の当事者をステークホルダーに含めた
• 価値の緊張関係を少なくとも1つ明示した
• 危害と便益について起こりやすさを示し、選択肢に保護策を挙げた
• 公正性と権力について、負担と便益の分配、発言の機会、同意を扱った
• 推奨事項で、残存する危害と最も強い反対意見を示した