aws-ai-ml

AWS AI/ML 模型定制

掌握在 Amazon SageMaker 上微调和部署模型的领域知识。涵盖从规划到生产部署的完整模型定制生命周期。

路由

根据用户意图匹配相应的参考文件夹，并仅加载其中的内容。

用户意图	参考资料	使用时机
规划模型定制项目、了解工作范围、恢复或修改计划	references/planning/	用户的请求与模型定制或部署相关（微调、训练、构建、定制、审核数据、部署或启动模型——包括选择或部署无需训练的现成模型或基础模型——或寻求方案建议）。始终与其他意图共同启用，以了解完整工作范围。如果请求符合此表中的多行，首先加载此参考资料，再决定是否路由到单一操作参考资料：先阅读其计划模板。
定义业务问题、成功标准或用例规范	references/use-case-specification/	用户说“定义我的用例”“收集需求”“我应该预先决定什么”，或将其作为任何计划的默认第一步。仅当用户明确拒绝时才跳过。
选择或更换基础模型	references/model-selection/	用户询问应使用哪个模型、提到模型名称或系列，或想了解可用选项。即使已知模型名称，也始终启用 model-selection，因为必须确定确切的 Hub 模型 ID。**建议：**先路由到 use-case-specification 以收集需求——这样能获得更好的筛选结果。如果用户提供了具体模型名称/ID 或拒绝，则无需先路由到 use-case-specification。如果意图不明确（微调还是直接部署），model-selection 必须先确认采用哪种路径，再继续。部署时的基础模型筛选必须通过 select-for-deployment.md 及其脚本进行，才能给出最终建议。
选择微调技术（SFT、DPO、RLVR、RLAIF）	references/finetuning-technique/	用户已决定进行微调，需要选择技术，或需要根据所选模型的配方验证技术。必须先选择基础模型。
验证数据集质量和格式	references/dataset-evaluation/	用户说“我的数据集没问题吗”“检查我的训练数据”“我有自己的数据”，或在开始任何微调任务之前。
转换数据集格式	references/dataset-transformation/	用户说“转换”“更改格式”，或需要更改数据集架构。始终使用此参考资料，不要直接编写转换代码。
生成微调代码并开始训练	references/finetuning/	用户说“开始训练”“微调我的模型”“我准备好训练了”，或计划进入微调步骤。支持 SFT、DPO、RLVR、RLAIF 训练器。
使用 SageMaker Training 任务训练模型	references/training-jobs/	目标是拟合或更新模型参数，并生成模型构件或检查点时使用。涵盖配方、JumpStart 传统机器学习、自定义训练脚本或容器、分布式训练以及训练任务诊断。
使用 SageMaker Processing 任务处理数据	references/processing-jobs/	目标是预处理、特征工程、评估、转换或 ETL，且不以模型训练为主要操作时使用。涵盖脚本、框架处理器、Spark、自定义容器、Athena、Redshift 以及处理任务诊断。
评估或基准测试训练好的模型	references/model-evaluation/	用户说“评估我的模型”“运行基准测试”“测试模型性能”“比较模型”。支持 LLM-as-Judge 和 Custom Scorer。
在端点或 Bedrock 上部署、基准测试或优化模型	references/model-deployment/	用户说“部署我的模型”“创建端点”或“让它可用”（普通部署）——或者，对于仅限 SageMaker 实时端点的推理优化子工作流，用户说“对我的端点进行基准测试”/“比较基准测试运行结果”（基准测试），或提出新部署的性能/成本/延迟/吞吐量目标，例如“找到最便宜的实例”（建议）。涵盖 Nova 与 OSS 部署路径。
设置 IAM 角色、S3 存储桶、SDK 配置	references/sdk-getting-started/	用户说“设置”“开始使用”“检查我的环境”“配置 SDK”，或作为任何涉及 SageMaker 训练/评估/部署计划的第一步。
管理项目目录和构件	references/directory-management/	开始新项目、恢复现有项目，或需要将 PLAN.md 关联到项目目录时。
设置、更新或删除 SageMaker Managed MLflow 应用	references/manage-mlflow/	用户说“设置 MLflow”“创建 MLflow 应用”“更新我的 MLflow 应用”“删除我的 MLflow 应用”“我需要一个 MLflow 服务”，询问“SageMaker MLflow 是什么”，或工作流需要 MLflow 后端但尚未连接时。
诊断故障或运行异常的 SageMaker 端点	references/endpoint-diagnostics/	用户报告端点错误、延迟、推理失败或部署失败。例如：“我的端点状态如何？”“我的端点是否报错？”“我的端点失败了——为什么？”“我的端点后面运行着多少个实例？”“延迟是由我的模型还是 SageMaker 导致的？”“显示我的端点的容器日志。”不适用于训练任务问题、删除端点、更改扩缩容设置或新部署。

规则

• 服务边界。 此技能涵盖 SageMaker，包括将定制模型部署到 Bedrock。Bedrock 原生功能（调用 Bedrock 托管的基础模型、Bedrock Agents、Knowledge Bases、Guardrails、AgentCore）受 AWS 支持，但此技能没有经过验证的工作流：请告知用户这一点，并基于通用 AWS 知识尽力提供指导。如果用户询问 AWS 上的模型，但未指定服务，请比较 SageMaker 和 Bedrock，或询问一个有关服务选择的问题。不要默认选择某项服务。这两项服务的模型目录、部署路径和定价各不相同，默认选择可能会将用户引入错误的工作流。
• 渐进式披露。 仅加载与当前用户意图相关的参考文件夹。不要一次性加载所有参考资料。
• 尽力提供帮助。 如果用户的请求不在此技能的参考资料范围内，不要让对话陷入僵局。请使用通用 AWS 知识和文档帮助用户，并告知用户此指导不属于此技能经过验证的工作流。
• 使用情况归因。 在运行任何 AWS CLI 命令或打包脚本之前，设置 export AWS_SDK_UA_APP_ID=AWSSkill-SageMaker。