azure-content-safety

Foundry 控制平面中的内容安全技能

此技能为 Foundry 控制平面中的内容安全提供专家指导，涵盖故障排除、最佳实践、决策、架构与设计模式、限制与配额、安全性、配置、集成与编码模式以及部署。它结合了本地快速参考内容与远程文档获取功能。

如何使用此技能

IMPORTANT for Agent：使用下面的类别索引查找相关章节。对于带有行范围的类别（例如，L35-L120），请使用 read_file 并指定相应行。对于带有文件链接的类别（例如，[security.md](security.md)），请使用 read_file 读取链接的参考文件

IMPORTANT for Agent：如果 metadata.generated_at 已超过 3 个月，请建议用户从存储库拉取最新版本。如果无法使用 mcp_microsoftdocs 工具，请建议用户安装该工具：安装指南

此技能需要网络访问才能获取文档内容：

• 首选：使用 mcp_microsoftdocs:microsoft_docs_fetch，查询字符串为 from=learn-agent-skill。返回 Markdown。
• 备用：使用 fetch_webpage，查询字符串为 from=learn-agent-skill&accept=text/markdown。返回 Markdown。

类别索引

类别	行	描述
故障排除	L37-L41	诊断和解决 Azure AI Content Safety API 错误，包括 HTTP 状态代码、常见故障原因以及建议的修复或重试方法。
最佳实践	L42-L46	调整 Content Safety 阈值、类别和提示词以减少误分类，并采用策略平衡安全性、召回率和用户体验。
决策	L47-L52	将应用从 Content Safety 预览版迁移到 GA 的指导，以及决定何时及如何使用受限访问的 Content Safety 功能和模型。
架构与设计模式	L53-L57	关于组合使用云端、混合和设备端 Azure AI Content Safety 的架构指导，包括设计模式、部署选项和集成策略。
限制与配额	L58-L66	Content Safety/Moderator 的限制、配额和区域上限（图像和术语列表、自定义类别、代码受保护材料检查），以及如何进行配置或确保不超出限制。
安全性	L67-L71	Azure AI Content Safety 如何加密静态数据的详细信息，包括加密模型、密钥管理选项以及合规性和安全性注意事项。
配置	L72-L78	配置和运行 Azure AI Content Safety 与 Prompt Shields Docker 容器，以及设置和使用文本阻止列表来筛选不安全或不允许的内容。
集成与编码模式	L79-L85	内容安全集成的 API 和模式：媒体来源检查、使用 Azure AI 检测接地性，以及调用 prompt shield 来阻止提示注入攻击。
部署	L86-L90	如何在自己的环境中安装、配置和运行 Azure AI Content Safety Docker 容器，以分析文本、图像和 prompt shield。

故障排除

主题	URL
解决 Azure AI Content Safety API 错误代码	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/concepts/response-codes

最佳实践

主题	URL
减少 Content Safety 中的误报和漏报	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/improve-performance

决策

主题	URL
将应用从 Content Safety 预览版迁移到 GA	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/migrate-to-general-availability
决定何时使用受限访问的 Content Safety 功能	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/limited-access

架构与设计模式

主题	URL
设计混合式和设备端内容安全解决方案	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/embedded-content-safety

限制与配额

主题	URL
在 Content Moderator 中应用图像列表配额	https://learn.microsoft.com/en-us/azure/ai-services/content-moderator/image-lists-quickstart-dotnet
了解 Content Moderator 图像列表和术语列表的限制	https://learn.microsoft.com/en-us/azure/ai-services/content-moderator/samples-dotnet
使用 Content Safety 创建和训练自定义类别	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-custom-categories
使用受保护材料检测来检查代码输出	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-protected-material-code
查看 Azure AI Content Safety 的区域限制	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/region-availability

安全性

主题	URL
了解 Content Safety 中静态数据的加密	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/encrypt-data-at-rest

配置

主题	URL
配置并运行 Azure AI Content Safety Docker 容器	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/install-run-container
配置并运行 Azure Content Safety Prompt Shields 容器	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/prompt-shields-container
配置并使用 Content Safety 中的文本阻止列表	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/use-blocklist

集成与编码模式

主题	URL
使用媒体内容溯源检测 API	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/how-to-provenance-detection
使用 Azure AI Content Safety 基础性检测 API	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-groundedness
调用 Prompt Shields API 检测提示攻击	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/quickstart-jailbreak

部署

主题	URL
使用 Docker 部署图像分析 Content Safety 容器	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/image-container
使用 Docker 部署文本分析 Content Safety 容器	https://learn.microsoft.com/en-us/azure/ai-services/content-safety/how-to/containers/text-container