moderation-trust-review について
プロダクトとトラストチームが、コンテンツモデレーションの課題をレビュー可能なフローやポリシーにまとめるスキルです。ポリシーの不確実性、品質問題、悪用、違法コンテンツ、緊急事態、常習者を区別し、エスカレーションと異議申し立ても整理します。
主な機能
- 01コンテンツ、当事者、危害の評価
- 02モデレーションと異議申し立ての整理
- 03キュー方針と措置段階の設計
- 04透明性に関する文面とイベントスキーマ
活用シーン
- 01コンテンツ審査と異議申し立てのプロセス設計
- 02危害の種類ごとの措置定義
- 03モデレーターキューと監査記録の計画
インストール
コマンドをコピーしてターミナルで実行します。
$
npx skills add https:/インストール後、Claude Code で/moderation-trust-reviewを入力して読み込まれたか確認します。
同梱ファイルagents/openai.yamlreferences/moderation-trust-patterns.md
詳細
モデレーションの信頼性レビュー
このスキルを使うと、繰り返し発生するプロダクト運用上の課題を、一般的なアドバイスではなく、具体的でレビュー可能な成果物にできます。
ワークフロー
- コンテンツの種類、関係者、危害の分類、公開状態、執行権限、異議申し立ての担当者を特定します。
references/moderation-trust-patterns.mdを読みます。- 投稿、自動チェック、キューのトリアージ、人によるレビュー、措置、通知、異議申し立て、監査ログ記録の流れを整理します。
- ポリシーの不確実性、リスクの低い品質上の問題、乱用・不正行為、違法コンテンツ、安全上の緊急事態、常習的な違反者を区別します。
- モデレーションのワークフロー、キューポリシー、措置の段階、透明性に関する説明文、イベントスキーマを作成します。
使用しない場合
- このスキル固有の成果物要件がなくてもベースモデルが対応できる一般的なアドバイスには使用しないでください。
ガードレール
- 自動化の信頼度が低い場合、それだけを根拠にアカウントやクリエイターに対する取り消し不能な措置を行わないでください。
- 安全かつ具体的に説明できる場合は、措置の理由を隠さないでください。
- モデレーター向けツール、ユーザー向けポリシー、プロダクトのランキングロジックを分離してください。
- 法律、子どもの安全、自傷行為、または管轄区域固有の義務については、適切な専門家によるレビューにエスカレーションしてください。
出力形式
Moderation context:
Content / actor / surface:
State flow:
- <state> -> <action / reviewer / user-visible effect>
Decision table:
| Scenario | Visibility | Enforcement | Appeal | Evidence |
| --- | --- | --- | --- | --- |
Queue policy and events:
- <queue/SLA/event>
コメント
Markdown 対応