sap-ai-core

SAP AI Core 与 AI Launchpad 技能

相关技能

• sap-btp-cloud-platform：用于了解平台背景、设置 BTP 账户和集成服务
• sap-cap-capire：用于使用 CAP 构建 AI 应用或集成 AI 服务
• sap-cloud-sdk-ai：用于 SDK 集成、调用 AI 服务以及 Java/JavaScript 实现
• sap-btp-best-practices：用于了解生产部署模式和 AI 治理指南

何时使用此技能

在预配 SAP AI Core、使用 SAP AI Launchpad、配置 Generative AI Hub 编排、选择模型提供商、构建 RAG 或 grounding 流程、管理提示词模板、部署训练/推理工作负载，或将 AI 功能接入 SAP 应用时，请使用此技能。

目录

1. 概览
2. 快速入门
3. 服务计划
4. 模型提供商
5. 编排
6. 内容过滤
7. 数据屏蔽
8. Grounding（RAG）
9. 工具调用
10. 结构化输出
11. 嵌入
12. ML 训练
13. 部署
14. 捆绑资源
15. SAP AI Launchpad
16. 提示词注册表
17. API 参考
18. 常见模式
19. 故障排除
20. 参考资料

概览

SAP AI Core 是 SAP Business Technology Platform（BTP）上的一项服务，以标准化、可扩展且不受超大规模云服务商限制的方式管理 AI 资产执行。SAP AI Launchpad 为 AI 运行时（包括 Generative AI Hub）提供管理界面。

核心功能

功能	描述
Generative AI Hub	通过统一 API 访问多个提供商的大模型
编排	用于模板化、过滤、grounding 和屏蔽的模块化流水线
ML 训练	基于 Argo Workflows 的模型训练批处理流水线
推理服务	将模型部署为用于预测的 HTTPS 端点
Grounding/RAG	用于提供上下文感知 AI 的向量数据库集成

三个组成部分

1. SAP AI Core：AI 工作流和模型服务的执行引擎
2. SAP AI Launchpad：AI 运行时和 GenAI Hub 的管理界面
3. AI API：跨运行时的标准化生命周期管理

快速入门

前提条件

• SAP BTP 企业账户
• SAP AI Core 服务实例（GenAI 需使用 Extended 计划）
• 带有凭据的服务密钥

1. 获取身份验证令牌

# Set environment variables from service key
export AI_API_URL="<your-ai-api-url>"
export AUTH_URL="<your-auth-url>"
export CLIENT_ID="<your-client-id>"
export CLIENT_SECRET="<your-client-secret>"

# Get OAuth token
AUTH_TOKEN=$(curl -s -X POST "$AUTH_URL/oauth/token" \
  -H "Content-Type: application/x-www-form-urlencoded" \
  -d "grant_type=client_credentials&client_id=$CLIENT_ID&client_secret=$CLIENT_SECRET" \
  | jq -r '.access_token')

2. 创建编排部署

# Check for existing orchestration deployment
curl -X GET "$AI_API_URL/v2/lm/deployments" \
  -H "Authorization: Bearer $AUTH_TOKEN" \
  -H "AI-Resource-Group: default" \
  -H "Content-Type: application/json"

# Create orchestration deployment if needed
curl -X POST "$AI_API_URL/v2/lm/deployments" \
  -H "Authorization: Bearer $AUTH_TOKEN" \
  -H "AI-Resource-Group: default" \
  -H "Content-Type: application/json" \
  -d '{
    "configurationId": "<orchestration-config-id>"
  }'

3. 使用统一 API 进行模型推理

ORCHESTRATION_URL="<deployment-url>"

curl -X POST "$ORCHESTRATION_URL/v2/completion" \
  -H "Authorization: Bearer $AUTH_TOKEN" \
  -H "AI-Resource-Group: default" \
  -H "Content-Type: application/json" \
  -d '{
    "config": {
      "module_configurations": {
        "llm_module_config": {
          "model_name": "gpt-4o",
          "model_version": "latest",
          "model_params": {
            "max_tokens": 1000,
            "temperature": 0.7
          }
        },
        "templating_module_config": {
          "template": [
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user", "content": "{{?user_query}}"}
          ]
        }
      }
    },
    "input_params": {
      "user_query": "What is SAP AI Core?"
    }
  }'

服务计划

计划	费用	GenAI Hub	支持	资源组
Free	免费	否	仅社区支持	仅默认资源组
Standard	按资源计费 + 基础费用	否	完整 SLA	多个
Extended	按资源计费 + 令牌费用	是	完整 SLA	多个

主要限制：

• Free 和 Standard 不能同时用于同一子账户
• 可从 Free 升级到 Standard；不支持降级
• 每个租户最多可有 50 个资源组

模型提供商

SAP AI Core 通过特定于租户的目录提供对模型提供商的访问。在通过 GET /v2/lm/scenarios/foundation-models/models 或 SAP AI Launchpad Model Library 确认目标租户中的信息之前，请将确切的模型名称和版本视为示例。

• Azure OpenAI：符合授权条件时，可使用 GPT 系列聊天、视觉、推理、实时和嵌入模型
• SAP Open Source：启用后，可使用 Llama/Falcon/Mistral 系列开源模型
• Google Vertex AI：符合授权条件时，可使用 Gemini 系列聊天、视觉、代码和嵌入模型
• AWS Bedrock：符合授权条件时，可使用 Anthropic Claude 和 Amazon 系列模型
• Mistral AI：启用后，可使用 Mistral Large/Small/Codestral 系列模型
• IBM：Granite 模型
• Perplexity：启用后，可使用基于网络信息的 Sonar 系列模型

有关提供商配置和模型列表的详细信息，请参阅 references/model-providers.md。

编排

编排服务通过包含 8 个执行阶段的模块化管道，提供对多个模型的统一访问：

1. Grounding（信息依据）→ 2. Templating（模板化，必需）→ 3. Input Translation（输入翻译）→ 4. Data Masking（数据屏蔽）→ 5. Input Filtering（输入过滤）→ 6. Model Configuration（模型配置，必需）→ 7. Output Filtering（输出过滤）→ 8. Output Translation（输出翻译）

有关完整的编排模块配置、示例和高级模式，请参阅 references/orchestration-modules.md。

内容过滤

Azure Content Safety：过滤 4 个类别（仇恨、暴力、色情、自我伤害）的内容，严重程度分为 0–6 级。Azure OpenAI 会自动拦截严重程度为 4 级及以上的内容。其他功能包括 PromptShield 和受保护材料检测。

Llama Guard 3：涵盖 14 个类别，包括暴力犯罪、隐私侵犯和代码解释器滥用。

数据屏蔽

两种个人身份信息（PII）保护方法：

• 匿名化：MASKED_ENTITY（不可逆）
• 假名化：MASKED_ENTITY_ID（可逆）

支持的实体（共 25 种）：个人数据、ID、财务信息、SAP 专属 ID 和敏感属性。有关完整的实体列表和实施详情，请参阅 references/orchestration-modules.md。

信息依据（RAG）

集成来自 SharePoint、S3、SFTP、SAP Build Work Zone 和 DMS 的外部数据。支持 PDF、HTML、DOCX、图像等。限制：每条管道最多 2,000 个文档，每日刷新。有关详细设置说明，请参阅 references/grounding-rag.md。

工具调用

通过 5 步工作流，让大模型执行函数：定义工具 → 接收 tool_calls → 执行函数 → 返回结果 → 大模型整合响应。模板位于 templates/tool-definition.json。

结构化输出

使用严格验证，强制模型响应符合 JSON Schema。适用于结构化数据提取和 API 响应。

嵌入

通过 /v2/embeddings 端点生成语义嵌入，用于 RAG 和相似性搜索。支持文档、查询和文本输入类型。

ML 训练

使用 Argo Workflows 构建训练管道。主要要求：创建 default 对象存储密钥、定义工作流模板、创建包含参数的配置，并执行训练。有关完整的工作流模式，请参阅 references/ml-operations.md。

部署

通过两步流程部署模型：先创建配置（绑定模型），再创建具有 TTL 的部署。状态：Pending → Running → Stopping → Stopped/Dead。模板位于 templates/deployment-config.json。

SAP AI Launchpad

基于 Web 的 UI，包含 4 个主要应用：

• Workspaces：管理连接和资源组
• ML Operations：训练、部署和监控模型
• Generative AI Hub：提示词实验和编排
• Functions Explorer：浏览可用的 AI 函数

所需角色包括 genai_manager、genai_experimenter、prompt_manager、orchestration_executor 和 mloperations_editor。有关完整指南，请参阅 references/ai-launchpad-guide.md。

提示词注册表

提示词注册表负责管理提示词模板从设计到运行时的整个生命周期，并将其集成到 SAP AI Core 和编排工作流中。

两种管理接口：

• 命令式 API：通过 REST 实现完整的 CRUD 操作，用于设计时优化提示词
• 声明式 API：同步 Git 存储库，用于运行时和 CI/CD 场景

关键端点：

• POST /v2/lm/promptTemplates — 创建提示词模板
• POST /v2/lm/promptTemplates/{id}/substitution — 按 ID 填充模板
• POST /v2/lm/scenarios/{scenario}/promptTemplates/{name}/versions/{version}/substitution — 按名称填充模板

如需查看完整的提示词注册表文档，请参阅 references/ai-launchpad-guide.md。

API 参考

核心端点

关键端点：/v2/lm/scenarios、/v2/lm/configurations、/v2/lm/deployments、/v2/lm/executions、/lm/meta。如需查看包含示例的完整 API 参考，请参阅 references/api-reference.md。

常见模式

CAP 集成：SAP CAP 是 BTP 上 AI Core 的主要使用框架。通过 MTA 将 AI Core 服务实例绑定到 CAP 应用，然后使用 SAP Cloud SDK for AI 在 CAP 事件处理程序中调用编排 API。在生产环境中，始终异步处理 LLM 调用（返回 202 Accepted，通过 cds.spawn 在后台处理），以避免 BTP 负载均衡器超时。如需完整代码示例，请参阅 sap-cap-capire 和 sap-cloud-sdk-ai 技能。

简单聊天：使用模板模块进行基本模型调用 带依据的 RAG：结合向量搜索和 LLM，生成上下文相关的回答 安全的企业聊天：结合过滤、脱敏和依据，为 PII 提供保护 模板位于 templates/orchestration-workflow.json。

故障排除

常见问题：

• 401 Unauthorized：刷新 OAuth 令牌
• 403 Forbidden：检查 IAM 角色，申请提高配额
• 404 Not Found：验证 AI-Resource-Group 标头
• 部署状态为 DEAD：检查部署日志
• 训练失败：创建 default 对象存储密钥

通过支持工单申请提高配额（组件：CA-ML-AIC）。

随附资源

参考文档

1. references/orchestration-modules.md - 所有编排模块的详细说明
2. references/generative-ai-hub.md - GenAI 中心完整文档
3. references/model-providers.md - 模型提供方和配置
4. references/api-reference.md - 完整 API 端点参考
5. references/grounding-rag.md - 依据与 RAG 实现
6. references/ml-operations.md - ML 运维与训练
7. references/advanced-features.md - 聊天、应用、安全和审计
8. references/ai-launchpad-guide.md - SAP AI Launchpad UI 完整指南

模板

1. templates/deployment-config.json - 部署配置模板
2. templates/orchestration-workflow.json - 编排工作流模板
3. templates/tool-definition.json - 工具调用定义模板

官方来源

• SAP AI Core 指南：https://help.sap.com/docs/sap-ai-core
• SAP AI Launchpad 指南：https://help.sap.com/docs/sap-ai-launchpad
• SAP Note 3437766：模型令牌费率和限制