senior-ml-engineer

高级 ML 工程师

面向模型部署、MLOps 基础设施和 LLM 集成的生产级 ML 工程模式。

核心能力

• 模型部署 — 导出为 ONNX/TorchScript/SavedModel、容器化、金丝雀发布，并通过 FastAPI、Triton、TF Serving、TorchServe 或 Ray Serve 提供服务，同时满足 p95<100ms / error<0.1% 门槛。
• MLOps 流水线 — 特征存储（Feast/Tecton）、实验跟踪（MLflow/W&B）、模型注册表、A/B 测试，以及由漂移触发的再训练。
• LLM 集成 — 提供方抽象、带指数退避的重试/回退、令牌计数、响应缓存、成本跟踪，以及 Pydantic 输出验证。
• RAG 系统 — 向量数据库选择、分块策略、数据导入、检索和重排。
• 模型监控 — 延迟/错误跟踪、输入漂移检测（KS test、PSI）、预测偏移告警，以及自动再训练触发机制。

适用场景

• 通过金丝雀发布和监控，将训练好的模型部署到生产环境。
• 搭建 MLOps 基础设施（特征存储、注册表、再训练）。
• 通过提供方抽象和成本控制集成 LLM API。
• 构建 RAG 流水线（向量 DB + 分块 + 检索 + 重排）。
• 设置漂移检测和模型健康告警。

先行确认

生成产物前，请确认以下输入。如果有任何内容未知或含糊不清，请先询问，不要自行假设：

• 任务 — 模型部署 / RAG 流水线构建 / 监控设置（决定所用脚本和工作流）
• 服务目标与发布方式 — 容器还是 K8s，以及金丝雀发布还是直接发布（决定生成的 Dockerfile/清单和健康门槛）
• 模型或数据接口 — 输入/输出契约；对于 RAG，还包括语料库 + 向量存储（决定脚手架的结构）

停止规则：只询问最可能影响输出的 2-3 项。如果用户说“直接起草”，则继续，并在产物顶部列出你的假设。

工具

工具	用途	命令
model_deployment_pipeline.py	生成部署产物（Dockerfile、K8s 清单、健康检查）	python scripts/model_deployment_pipeline.py --input <path> --output <path> [--config <file>]
rag_system_builder.py	搭建包含向量存储 + 检索逻辑的 RAG 流水线脚手架	python scripts/rag_system_builder.py --input <path> --output <path> [--config <file>]
ml_monitoring_suite.py	设置漂移检测、告警和仪表板	python scripts/ml_monitoring_suite.py --input <path> --output <path> [--config <file>]

所有工具都支持 --verbose/-v，并向 stdout 输出 JSON（status、start_time、end_time、processed_items）。完整标志详情请参阅 references/tool-reference.md。

参考资料

加载与任务相匹配的参考资料 — 保持此文件精简，按需查阅详细信息：

• references/production-ml-workflows.md — 五个分步工作流（模型部署、MLOps 设置、LLM 集成、RAG、监控），包含所有代码模板、服务/向量数据库/分块表格、故障排查矩阵和成功标准。执行任何工作流时都应阅读。
• references/tool-reference.md — 三个脚本的完整标志/参数表和输出格式。编写工具脚本时应阅读。
• references/mlops_production_patterns.md — 使用 Kubernetes 清单的模型部署流水线、包含 Feast 示例的特征存储架构、包含漂移检测代码的模型监控、使用流量拆分的 A/B 测试，以及使用 MLflow 的自动再训练。构建 MLOps 基础设施时应阅读。
• references/llm_integration_guide.md — 提供商抽象层、使用 tenacity 实现的重试/回退、提示词模板（少样本、CoT）、使用 tiktoken 优化令牌、成本计算与跟踪。集成大模型时应阅读。
• references/rag_system_architecture.md — RAG 流水线实现代码、向量数据库比较/集成、分块策略、嵌入模型选择、混合搜索与重排序。构建 RAG 系统时应阅读。

范围与限制

此技能涵盖：

• 端到端模型部署流水线（打包、容器化、服务、金丝雀发布）
• MLOps 基础设施设置（特征存储、实验跟踪、模型注册表、再训练）
• 大模型集成模式（提供商抽象、重试、缓存、成本跟踪）
• RAG 系统架构（向量数据库、分块、检索、重排序）

此技能不涵盖：

• 模型训练算法或超参数调优（参见 senior-data-scientist）
• 原始数据流水线构建和 ETL 编排（参见 senior-data-engineer）
• 提示词工程技术、少样本设计或提示词优化（参见 senior-prompt-engineer）
• 图像/视频模型架构或计算机视觉推理优化（参见 senior-computer-vision）

集成点

技能	集成方式	数据流
senior-data-scientist	接收训练好的模型和评估指标以供部署	数据科学家导出模型产物和基线指标；ML 工程师打包并部署
senior-data-engineer	使用特征流水线和数据质量输出	数据工程师构建 ETL 和特征流水线；ML 工程师从特征存储读取数据以提供服务
senior-prompt-engineer	为提示词工作流提供大模型服务基础设施	提示词工程师设计提示词；ML 工程师部署提供商抽象并管理成本/延迟
senior-devops	利用 CI/CD 和 Kubernetes 基础设施提供模型服务	DevOps 工程师管理集群和流水线；ML 工程师定义部署清单和健康检查
senior-computer-vision	通过共享服务基础设施部署视觉模型	CV 工程师训练并导出模型；ML 工程师负责 Triton/TorchServe 部署和监控
senior-security	对模型容器和 API 端点进行安全扫描	安全工程师审查容器镜像和端点身份验证；ML 工程师在晋级前修复发现的问题

---

上次更新： 2026 年 6 月 版本： 1.1.0