azure-content-safety

Foundry Control Plane スキルにおけるコンテンツセーフティ

このスキルでは、Foundry Control Plane のコンテンツセーフティに関する専門的なガイダンスを提供します。トラブルシューティング、ベストプラクティス、意思決定、アーキテクチャと設計パターン、制限とクォータ、セキュリティ、構成、統合とコーディングパターン、デプロイについて説明します。ローカルのクイックリファレンスコンテンツと、リモートドキュメントの取得機能を組み合わせています。

このスキルの使用方法

IMPORTANT for Agent: 関連するセクションを見つけるには、以下のカテゴリインデックスを使用してください。行の範囲（例：L35-L120）が記載されたカテゴリでは、指定された行を使って read_file を実行してください。ファイルへのリンク（例：[security.md](security.md)）が記載されたカテゴリでは、リンク先の参照ファイルに対して read_file を実行してください。

IMPORTANT for Agent: metadata.generated_at が3か月以上前の場合は、リポジトリから最新バージョンを取得するようユーザーに提案してください。mcp_microsoftdocs ツールを利用できない場合は、インストールを提案してください：インストールガイド

このスキルでドキュメントコンテンツを取得するには、ネットワークアクセスが必要です：

• 推奨：クエリ文字列 from=learn-agent-skill を指定して mcp_microsoftdocs:microsoft_docs_fetch を使用します。Markdown が返されます。
• 代替手段：クエリ文字列 from=learn-agent-skill&accept=text/markdown を指定して fetch_webpage を使用します。Markdown が返されます。

カテゴリインデックス

カテゴリ	行	説明
トラブルシューティング	L37-L41	HTTP ステータスコード、一般的な失敗原因、推奨される修正や再試行など、Azure AI Content Safety API エラーの診断と解決。
ベストプラクティス	L42-L46	誤分類を減らすための Content Safety のしきい値、カテゴリ、プロンプトの調整、および安全性、再現率、ユーザーエクスペリエンスのバランスを取るための戦略。
意思決定	L47-L52	アプリを Content Safety プレビューから GA に移行する方法と、アクセス制限付きの Content Safety 機能やモデルをいつ、どのように使用するかを判断するためのガイダンス。
アーキテクチャと設計パターン	L53-L57	クラウド、ハイブリッド、デバイス上の Azure AI Content Safety を組み合わせるためのアーキテクチャガイダンス。設計パターン、デプロイオプション、統合戦略を含みます。
制限とクォータ	L58-L66	Content Safety/Moderator の制限、クォータ、リージョンごとの上限（画像と用語のリスト、カスタムカテゴリ、コードの保護対象コンテンツチェック）と、それらを構成する方法や上限内に収める方法。
セキュリティ	L67-L71	Azure AI Content Safety による保存データの暗号化の詳細。暗号化モデル、キー管理オプション、コンプライアンスとセキュリティに関する考慮事項を含みます。
構成	L72-L78	Azure AI Content Safety と Prompt Shields の Docker コンテナーの構成と実行、および安全でないコンテンツや許可されていないコンテンツをフィルターするテキストブロックリストの設定と使用。
統合とコーディングパターン	L79-L85	コンテンツセーフティを統合するための API とパターン：メディアの来歴チェック、Azure AI による根拠性の検出、プロンプトインジェクション攻撃をブロックするためのプロンプトシールド呼び出し。
デプロイ	L86-L90	独自の環境でテキスト、画像、プロンプトシールドの分析を行うための Azure AI Content Safety Docker コンテナーのインストール、構成、実行方法。

トラブルシューティング

トピック	URL
Azure AI Content Safety API のエラーコードを解決する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/concepts/response-codes

ベストプラクティス

トピック	URL
Content Safety の誤検知と見逃しを減らす	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/improve-performance

意思決定

トピック	URL
アプリを Content Safety プレビューから GA に移行する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/migrate-to-general-availability
アクセス制限付きの Content Safety 機能をいつ使用するか判断する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/limited-access

アーキテクチャと設計パターン

トピック	URL
ハイブリッドおよびデバイス上のコンテンツセーフティソリューションを設計する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/embedded-content-safety

制限とクォータ

トピック	URL
Content Moderator で画像リストのクォータを適用する	https://learn.microsoft.com/en-us/azure/ai-services/content-moderator/image-lists-quickstart-dotnet
Content Moderator の画像リストと用語リストの制限について理解する	https://learn.microsoft.com/en-us/azure/ai-services/content-moderator/samples-dotnet
Content Safety でカスタムカテゴリを作成してトレーニングする	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-custom-categories
コード出力に対して保護対象コンテンツの検出を使用する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-protected-material-code
Azure AI Content Safety のリージョンごとの制限を確認する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/region-availability

セキュリティ

トピック	URL
Content Safety の保存データ暗号化について理解する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/encrypt-data-at-rest

構成

トピック	URL
Azure AI Content Safety の Docker コンテナーを構成して実行する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/install-run-container
Azure Content Safety Prompt Shields コンテナーを構成して実行する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/prompt-shields-container
Content Safety でテキストブロックリストを構成して使用する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/use-blocklist

インテグレーションとコーディングパターン

トピック	URL
メディアに Content Provenance Detection API を使用する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/how-to-provenance-detection
Azure AI Content Safety の根拠性検出 API を使用する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-groundedness
Prompt Shields API を呼び出してプロンプト攻撃を検出する	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-jailbreak

デプロイ

トピック	URL
Docker で画像分析用 Content Safety コンテナーをデプロイする	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/image-container
Docker でテキスト分析用 Content Safety コンテナーをデプロイする	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/text-container