关于 airunway-aks-setup
AI Runway AKS Setup 是一项 Agent 技能,引导用户在已有的 AKS 集群上从零完成 AI Runway 部署,涵盖集群检查、控制器安装、GPU 评估、推理提供方配置到首个模型部署。该技能按步骤顺序执行,并可通过 skip-to-step N 从指定阶段继续。
主要功能
- 01分六步执行的部署流程
- 02集群上下文与 GPU 节点检测
- 03控制器 CRD 与部署安装
- 04GPU 型号与 dtype、注意力约束评估
- 05推理提供方推荐与安装
- 06首个模型部署与 Ready 状态验证
适用场景
- 01在现有 AKS 集群上首次搭建 AI Runway
- 02从中间步骤恢复未完成的 AI Runway 配置
- 03为模型部署前评估 GPU 硬件兼容性
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ microsoft/ azure-skills --skill airunway-aks-setup安装后在 Claude Code 中输入/airunway-aks-setup确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
references/gpu-profiles.mdmodel-sizing.mdoptional-gpu-day2.mdpowershell-notes.mdtroubleshooting.mdreferences/steps/step-1-verify.mdstep-2-controller.mdstep-3-gpu.mdstep-4-provider.mdstep-5-deploy.mdstep-6-summary.md详细介绍
AI Runway AKS 设置
本技能将引导用户从空白 Kubernetes 集群开始,直至运行 AI 模型部署。除非用户提供 skip-to-step N,以从特定阶段恢复,否则请按顺序执行每个步骤。
成本提示: GPU 节点池会产生高额计算费用(A100-80GB 的费用可能达到每小时 $3–5 以上)。在预配 GPU 资源前,请确认用户了解相关成本。
前提条件
本技能假设 AKS 集群已存在。如果用户还没有集群,请先转交给 azure-kubernetes 技能进行预配(除非可以接受仅使用 CPU 进行推理,否则应包含 GPU 节点池),然后再返回此处。
快速参考
| 属性 | 值 |
|---|---|
| 最适用于 | 在 AKS 上端到端接入 AI Runway |
| CLI 工具 | kubectl、make、curl |
| MCP 工具 | 无 |
| 相关技能 | azure-kubernetes(集群设置)、azure-diagnostics(基线故障排除)、可选的 aks-gpu-inference(仅用于现有 GPU/推理 Day-2 事件) |
何时使用此技能
当用户希望执行以下操作时,请使用此技能:
- 从头开始在现有 AKS 集群上设置 AI Runway
- 安装 AI Runway 控制器和 CRD
- 评估模型部署的 GPU 硬件兼容性
- 选择并安装推理提供程序(KAITO、Dynamo、KubeRay)
- 通过 AI Runway 将首个 AI 模型部署到 AKS
- 从特定步骤继续尚未完成的 AI Runway 设置
GPU 设置与 Day-2 事件
请在此技能中处理初始 GPU 节点池、提供程序、控制器和模型设置。 对于影响现有 GPU 或推理部署的事件,请先加载 optional-gpu-day2.md,再决定是否 提供专门的可选附加内容。
MCP 工具
此技能不使用 MCP 工具。所有集群操作均通过 kubectl 和 make 直接执行。
规则
- 按顺序执行步骤——到达每一步时加载相应参考文档
- 在每一步报告集群状态:✓ 正常、✗ 缺失/失败
- 在执行任何安装或部署操作前征求用户确认
- 如果某一步已完成,报告状态并跳至下一步
- 如果用户提供
skip-to-step N,则从第 N 步开始;假定此前步骤均已完成
步骤
| # | 步骤 | 参考文档 |
|---|---|---|
| 1 | 集群验证 — 检查上下文、节点清单、GPU 检测 | step-1-verify.md |
| 2 | 控制器安装 — 部署 CRD 和控制器 | step-2-controller.md |
| 3 | GPU 评估 — 检测 GPU 型号,标记 dtype/attention 限制 | step-3-gpu.md |
| 4 | 提供程序设置 — 推荐并安装推理提供程序 | step-4-provider.md |
| 5 | 首次部署 — 选择模型、部署并验证其 Ready 状态 | step-5-deploy.md |
| 6 | 总结 — 回顾、冒烟测试、后续步骤 | step-6-summary.md |
错误处理
| 错误 / 症状 | 可能原因 | 解决方法 |
|---|---|---|
| 没有 kubeconfig 上下文 | 未连接到集群 | 运行 az aks get-credentials 或等效命令 |
| 控制器处于 CrashLoopBackOff 状态 | 配置或 RBAC 问题 | kubectl logs -n airunway-system -l control-plane=controller-manager --previous |
| 提供程序未就绪 | 镜像拉取或 RBAC 问题 | 对提供程序 Pod 运行 kubectl logs <pod-name> -n <namespace> |
| ModelDeployment 卡在 Pending 状态 | GPU 调度失败或提供程序未就绪 | 查看 kubectl describe modeldeployment <name> -n <namespace> 事件 |
推理时出现 bfloat16 错误 | T4 或 V100 不支持 bfloat16 | 在服务参数中添加 --dtype float16 |
完整的错误处理和回滚流程,请参阅 troubleshooting.md。
评论
支持 Markdown