purview-ai-hub

Microsoft Purview AI Hub（DSPM for AI）

Purview AI Hub — 现已重新定位为 Microsoft Purview Data Security Posture Management (DSPM) for AI — 是跨 AI 的可见性层：正在使用哪些 AI 应用、由谁使用、其中包含哪些敏感内容，以及哪些策略在保护这些内容。它涵盖 Microsoft Copilot 产品、Copilot Studio Agent 和 第三方生成式 AI（ChatGPT、Gemini、Claude、Perplexity，以及约 600 款已编入目录的 AI 应用）。

适用场景

你需要了解组织内 AI 的使用情况（包括已批准和影子使用），并通过策略防止敏感数据流向未经批准的 AI，同时审计发送给已批准 AI 的提示词。

不要将此技能用于 AI 工作负载侧的安全态势管理（defender-for-cloud-ai）、Azure AI Content Safety 提示词筛选（azure-ai-content-safety）或 Copilot 推广指南（copilot-for-m365-readiness）。

可查看和控制的内容

范围	可见性	策略
Microsoft 365 Copilot	提示词、响应、敏感度上下文	Copilot 的 DLP、敏感度标签限制
Copilot Studio Agent	按用户查看 Agent 交互	相同的 DLP + 标签模型
第三方 AI（ChatGPT、Gemini 等）	通过 Defender for Cloud Apps + Edge for Business 终端信号发现	浏览器 DLP 阻止/警告；在 Edge 上收集提示词证据
自定义 AI 应用（你自己的应用）	通过 Purview SDK / Microsoft Graph（预览版）	自定义标签和 DLP 集成

方法

1. 先决条件。 配置 Defender for Cloud Apps 云发现；部署 Microsoft Edge for Business 以支持提示词捕获；具备 Purview E5 / Compliance E5；建议使用 Audit Premium。

2. 启用 AI 应用发现。 AI Hub 使用云发现日志（来自防火墙/代理/MDE 的 Defender for Cloud Apps 日志）填充目录。7 天内即可看到用户正在使用哪些 AI 应用，以及用户数量和流量。

3. 对 AI 应用目录进行分类。

   • 已批准：经公司批准（Microsoft 365 Copilot、自有 Copilot Studio Agent、签订 DPA 的付费企业版 ChatGPT/Gemini）。
   • 容忍：未获批准，但暂不阻止。
   • 未经批准/已阻止：不受企业条款约束的影子消费级 AI。

4. 使用现成策略。

   • “检测有风险的 AI 使用情况” — 显示通过 Edge 粘贴到未经批准 AI 中的敏感内容。
   • “检测 AI 中的不道德行为” — 对有害提示词进行模式匹配。
   • “Microsoft Copilot 过度共享” — 标记源自权限设置过宽内容的 Copilot 响应。 先从监控模式开始；调整策略；再升级为阻止。

5. 生成式 AI 的 DLP。使用 生成式 AI 条件系列编写 Purview DLP 规则：

   • 阻止在 Edge 中将信用卡号/SSN/源代码粘贴到 ChatGPT/Gemini 等应用。
   • 对复制到 AI 提示词中的公司机密标签内容发出警告。 浏览器 DLP 需要 Edge for Business + 设备上的终端 DLP Agent。

6. 提示词/响应审计。 对于 Microsoft Copilot 产品，提示词和响应会进入统一审计日志。创建 Sentinel 查询和仪表板：

   • 按敏感度命中次数统计的热门提示词。
   • 风险评分较高的用户（与 IRM 配合使用）。
   • 非工作时间提示词量异常。

7. IRM 集成 — 启用 Risky AI usage IRM 策略模板。AI Hub 信号会影响用户风险评分，Adaptive Protection 随后会利用该评分收紧 DLP。

8. Sentinel / Defender XDR。 转发 AI Hub 发现结果；与终端和身份信号关联，以获得完整上下文的事件。

防护措施

• 基于浏览器的 AI 控制仅适用于启用了终端 DLP 的 Edge for Business。 Chrome 和 Firefox 会绕过提示词捕获和 DLP，除非叠加代理或网络 控制。
• 发现质量取决于云发现数据。 没有代理/防火墙日志 = 无法了解影子 AI。
• 不要在第一天就屏蔽所有第三方 AI。 如果没有获准的替代方案，用户就会转而使用个人设备，你将完全失去可见性。
• 提示词内容本身可能包含敏感信息。 记录了包含个人身份信息（PII）的提示词的审核日志也属于 PII。限制审核日志的访问权限；考虑在 IRM 中使用假名化。
• 面向 AI 的 DSPM 是 Purview 治理工具，而非内容安全防护措施。 它不会实时筛选大模型输出。这由 azure-ai-content-safety 负责。
• Microsoft Copilot 会遵循敏感度标签；第三方 AI 则不会。 标签加密可以防止 Copilot 获取数据，却无法阻止用户将内容复制粘贴到 ChatGPT 中——因此需要浏览器 DLP 层。
• AI 应用目录并不完整。 每周都有新的 AI 应用出现；有时需要手动添加。

常见反模式

• “只发现，不分类” —— 仪表板看起来很有意思，却没有后续行动。
• “第一天就屏蔽所有未经批准的 AI” —— 员工会反弹，转而使用个人手机。应先提供获准的使用途径。
• “没有 Edge for Business 却配置浏览器 DLP” —— Chrome 用户可以绕过所有控制。
• “记录提示词，却从不审查” —— 风险会继续隐蔽存在。将其接入 SOC 和 IRM。
• “用 AI Hub 保护 Azure OpenAI 工作负载” —— 产品用错了。应使用 Defender for Cloud AI 工作负载保护。
• “将 AI Hub 发现项视为需要分类处理的警报” —— 这些是安全态势和 DLP 信号；大多数应转至风险评分/IRM，仅将高严重性事件升级到 SOC。
• “跳过 IRM 集成” —— DSPM 信号会与用户风险评估脱节。

示例提示词

• 部署适用于 AI 的 Purview DSPM：发现、目录、即用型策略，以及针对第三方 AI 的浏览器 DLP。
• 编写一项 DLP 策略，阻止在 Edge for Business 中将信用卡数据粘贴到 ChatGPT 和 Gemini。
• 构建一个 Sentinel 工作簿，显示触及机密标签敏感信息类型的 Copilot 提示词。
• 将 AI Hub 信号与 IRM 的“高风险 AI 使用”模板和自适应保护集成。
• 将包含 600 个应用的 AI 目录分类为获准/容忍/屏蔽，并制定切换计划。
• 比较 AI Hub 对 Microsoft Copilot、第三方 AI 和自定义应用的覆盖范围。
• 编写 Sentinel 查询，统计所有 AI 使用场景中敏感提示词数量最多的用户。

Microsoft Learn

• 适用于 AI 的 DSPM 概述：https://learn.microsoft.com/purview/ai-microsoft-purview
• 开始使用适用于 AI 的 DSPM：https://learn.microsoft.com/purview/dspm-for-ai-considerations
• 发现 AI 应用（Defender for Cloud Apps）：https://learn.microsoft.com/defender-cloud-apps/risk-score
• 生成式 AI 的 DLP：https://learn.microsoft.com/purview/dlp-learn-about-dlp
• 即用型 AI 策略：https://learn.microsoft.com/purview/ai-microsoft-purview-considerations
• 审核 Copilot：https://learn.microsoft.com/purview/audit-copilot
• IRM 高风险 AI 使用：https://learn.microsoft.com/purview/insider-risk-management-policies#risky-ai-usage
• 浏览器 DLP / Edge for Business：https://learn.microsoft.com/purview/endpoint-dlp-using