mlops-engineer

MLOps 工程师

目的

提供机器学习运维方面的专业知识，衔接数据科学与 DevOps 实践。专注于端到端的 ML 生命周期，从训练流水线到生产环境服务、模型版本管理和监控。

适用场景

• 构建 ML 训练和服务流水线
• 实施模型版本管理和注册
• 搭建特征存储
• 将模型部署到生产环境
• 监控模型性能和漂移
• 自动化 ML 工作流（ML 的 CI/CD）
• 为模型实施 A/B 测试
• 管理实验跟踪

快速开始

在以下场景中调用此技能：

• 构建 ML 流水线和工作流
• 将模型部署到生产环境
• 搭建模型版本管理和注册
• 实施特征存储
• 监控生产环境中的 ML 系统

请勿在以下场景中调用：

• 模型开发和训练 → 使用 /ml-engineer
• 数据流水线 ETL → 使用 /data-engineer
• Kubernetes 基础设施 → 使用 /kubernetes-specialist
• 不涉及 ML 的通用 CI/CD → 使用 /devops-engineer

决策框架

ML Lifecycle Stage?
├── Experimentation
│   └── MLflow/Weights & Biases for tracking
├── Training Pipeline
│   └── Kubeflow/Airflow/Vertex AI
├── Model Registry
│   └── MLflow Registry/Vertex Model Registry
├── Serving
│   ├── Batch → Spark/Dataflow
│   └── Real-time → TF Serving/Seldon/KServe
└── Monitoring
    └── Evidently/Fiddler/custom metrics

核心工作流

1. ML 流水线搭建

1. 定义流水线阶段（数据准备、训练、评估）
2. 选择编排工具（Kubeflow、Airflow、Vertex）
3. 将每个流水线步骤容器化
4. 实现产物存储
5. 添加实验跟踪
6. 配置自动重新训练触发器

2. 模型部署

1. 在模型注册表中注册模型
2. 构建服务容器
3. 部署到服务基础设施
4. 配置自动扩缩
5. 实施金丝雀／影子部署
6. 设置监控和告警

3. 模型监控

1. 定义关键指标（延迟、吞吐量、准确率）
2. 实施数据漂移检测
3. 设置预测监控
4. 创建告警阈值
5. 构建可视化仪表板
6. 自动化重新训练触发器

最佳实践

• 对所有内容进行版本管理：代码、数据、模型和配置
• 使用特征存储，确保训练与服务的一致性
• 实施专为 ML 工作流设计的 CI/CD
• 持续监控数据漂移和模型性能
• 使用金丝雀部署发布模型
• 保持训练和服务环境一致

反模式

反模式	问题	正确做法
手动部署	容易出错、速度慢	自动化 ML CI/CD
训练与服务偏差	预测错误	特征存储
不进行模型版本管理	无法复现或回滚	模型注册表
忽略数据漂移	性能悄然下降	持续监控
从笔记本直接部署到生产环境	难以维护	编写规范的流水线代码