ai-ethics

AI 倫理

バイアスの検出、公平性の評価、責任ある AI 開発、規制遵守を網羅する AI 倫理スキルです。

このスキルを使用する場面

• AI モデルのバイアスを評価する
• 公平性を確保するための対策を実施する
• 倫理的影響評価を実施する
• 規制遵守を確保する（EU AI Act など）
• ヒューマン・イン・ザ・ループのシステムを設計する
• AI の透明性に関する文書を作成する
• AI ガバナンスのフレームワークを開発する

倫理原則

AI 倫理の中核原則

原則	説明
公平性	AI は個人や集団を差別してはなりません
透明性	AI の判断は説明可能であるべきです
プライバシー	個人データを保護しなければなりません
説明責任	AI の結果に対する責任の所在を明確にします
安全性	AI は危害をもたらしてはなりません
人間の主体性	人間が制御を維持するべきです

ステークホルダーに関する考慮事項

• ユーザー：システムを利用する人々にどのような影響がありますか？
• 対象者：AI が判断を下す対象となる人々にどのような影響がありますか？
• 社会：社会全体にどのような影響がありますか？
• 環境：環境への影響はどのようなものですか？

バイアスの検出と緩和

AI バイアスの種類

バイアスの種類	原因	例
歴史的バイアス	過去の差別を反映したトレーニングデータ	男性候補者を優先する採用モデル
表現バイアス	トレーニングデータで一部の集団が十分に代表されていない	肌の色が濃い人を正しく認識できない顔認識
測定バイアス	保護対象属性の代理変数	郵便番号と人種の相関
集約バイアス	多様な集団に単一のモデルを適用すること	1 つの民族のみを対象にトレーニングした医療モデル
評価バイアス	偏りのある評価指標	精度によって集団間の不均衡な影響が隠される

公平性の指標

集団公平性：

• 人口統計学的同等性：集団間で陽性率が等しいこと
• 等化オッズ：集団間で TPR と FPR が等しいこと
• 予測的同等性：集団間で適合率が等しいこと

個人公平性：

• 類似する個人には類似する予測を行うべきです
• 反実仮想的公平性：保護対象属性が異なっていた場合、結果は変わりますか？

バイアス緩和戦略

前処理：

• トレーニングデータのリサンプリング／再重み付け
• 偏りのある特徴量の削除
• 十分に代表されていない集団向けのデータ拡張

処理中：

• 損失関数への公平性制約の導入
• 敵対的デバイアス処理
• 公平な表現学習

後処理：

• 集団ごとのしきい値調整
• キャリブレーション
• 棄却オプション分類

説明可能性と透明性

説明の種類

種類	対象者	目的
グローバル	開発者	モデル全体の挙動を理解する
ローカル	エンドユーザー	個別の判断を説明する
反実仮想	影響を受ける当事者	結果を変えるには何を変更する必要があるかを示す

説明可能性の手法

• SHAP：特徴量の重要度を示す値
• LIME：局所的で解釈可能な説明
• アテンションマップ：ニューラルネットワーク向け
• 決定木：本質的に解釈可能
• 特徴量の重要度：モデル全体の理解

モデルカード

各モデルについて以下を記録します。

• モデルの目的と意図された用途
• トレーニングデータの説明
• サブグループごとのパフォーマンス指標
• 制限事項と倫理的な考慮事項
• バージョンと更新履歴

AI ガバナンス

AI リスク評価

リスクカテゴリ（EU AI Act）：

リスクレベル	例	要件
許容できない	ソーシャルスコアリング、操作	禁止
高	医療、雇用、信用	厳格な要件
限定的	チャットボット	透明性に関する義務
最小	スパムフィルター	要件なし

ガバナンスのフレームワーク

1. ポリシー：倫理原則と境界を定義する
2. プロセス：レビューと承認のワークフロー
3. 人員：役割と責任（倫理委員会）
4. テクノロジー：監視と実施のためのツール

ドキュメントの要件

• データの出所とリネージ
• モデルトレーニングのドキュメント
• テストと検証の結果
• デプロイと監視の計画
• インシデント対応手順

人間による監督

ヒューマン・イン・ザ・ループのパターン

パターン	ユースケース	例
ヒューマン・イン・ザ・ループ	重大な意思決定	医療診断の確認
ヒューマン・オン・ザ・ループ	介入を伴う監視	コンテンツモデレーションのエスカレーション
ヒューマン・アウト・オブ・ザ・ループ	低リスクで大量の処理	スパムフィルタリング

人間による制御を考慮した設計

• 明確なエスカレーション経路
• オーバーライド機能
• 自動化の信頼度しきい値
• 監査証跡
• フィードバックの仕組み

プライバシーに関する考慮事項

データの最小化

• 必要なデータのみを収集します
• 可能な場合は匿名化します
• 個人単位のデータではなく集計データを使用します
• 不要になったデータは削除します

プライバシー保護技術

• 差分プライバシー
• フェデレーテッドラーニング
• セキュアなマルチパーティ計算
• 準同型暗号化

環境への影響

考慮事項

• トレーニングに必要な計算リソース
• 推論時のエネルギー消費
• ハードウェアのライフサイクル
• データセンターのエネルギー源

緩和策

• 効率的なアーキテクチャ
• モデル蒸留
• 転移学習
• グリーンホスティングプロバイダー

参照ファイル

• references/bias_assessment.md - 詳細なバイアス評価の方法論
• references/regulatory_compliance.md - AI 規制の要件

他のスキルとの連携

• machine-learning - モデル開発向け
• testing - バイアステスト向け
• documentation - モデルカード向け