mcpField
M
mlflow-trace-metrics

mlflow-trace-metrics

github.com/mlflow其他8216 次安装2 天前更新
代码仓库

关于 mlflow-trace-metrics

用于查询 MLflow 的 trace、span 和 assessment 指标的 skill,指导选择指标与聚合方式、限定时间范围,并解读不完整或缺失的结果。

主要功能

  1. 01查询 trace、span 或 assessment
  2. 02选择指标与聚合方式
  3. 03设置明确的时间边界
  4. 04检查维度与单位
  5. 05识别分页及数据缺失

适用场景

  1. 01统计一段时间内的 token 总量
  2. 02汇总延迟分布
  3. 03按状态统计 trace 数量
  4. 04查看数值型 assessment 分数

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/mlflow/skills --skill mlflow-trace-metrics

安装后在 Claude Code 中输入/mlflow-trace-metrics确认已加载。

附带文件references/api_reference.mdscripts/fetch_metrics.py

详细介绍

查询 MLflow 指标

复用服务、实验 ID 和请求的时间窗口。选择所需的确切指标、视图、聚合方式和分组;令牌数量不等于货币成本。

前置条件

对于聚合查询,请阅读指标 API 参考。如果任务还需要单条轨迹,请在搜索前阅读轨迹检索;如果无法获取,请使用搜索指南。

步骤 1:检查客户端

根据此技能文件的相对路径找到 scripts/fetch_metrics.py;使用 --help 查看标志。Databricks 托管的跟踪不支持指标端点和辅助脚本。对于 OSS,它们接受 HTTP(S),不接受 databricks:// 配置文件,也不会添加身份验证标头。请使用现有的、受支持的已认证客户端,或说明阻碍;切勿将 Databricks 配置文件转换为工作区 URL,也不要索要粘贴的令牌。

步骤 2:选择指标

使用API 参考选择 TRACES(默认)、SPANS 或 ASSESSMENTS。实体使用 COUNT,令牌使用 SUM,分布使用 AVG/P95。不要默默替换指标。

步骤 3:查询时间窗口

查询明确的边界:epoch 毫秒、带时区的 ISO 时间戳、now 或 -24h 这类相对值。分桶单位为秒,且必须同时指定两个边界。

python <SKILL_DIR>/scripts/fetch_metrics.py -s <SERVER> -x <EXPERIMENT_ID> \
  -m total_tokens -a SUM -t 3600 --start-time="-24h" --end-time=now -o json

延迟:-m latency -a AVG,P95 -d trace_name。数值质量:-v ASSESSMENTS -m assessment_value -a AVG -d assessment_name。状态计数:-m trace_count -a COUNT -d trace_status。保持相同的明确时间窗口。

验证

检查实际的 metric_name、维度和值;报告确切的实验和时间窗口、指标、聚合方式、单位、筛选条件及覆盖范围。data_points 为空不代表用量为零;缺少令牌检测可能导致计数偏低。质量摘要需要提供每个评分器的量表,以及有效/错误/缺失分母:零/false 可能是有效值,评分器失败不等于零分,不相关的评分器不应求平均。

next_page_token 表示结果不完整;辅助脚本会显示它,但无法获取后续页面。请使用现有的、支持分页的客户端,或说明结果不完整。按状态统计的数量不等于错误率:只有在分母完整且明确说明时,才能用 ERROR / 所有状态推导错误率。区分请求/身份验证失败和空结果。聚合结果需要有代表性的轨迹证据,才能进行因果诊断。

参考

API 参考:传输字段、指标/视图兼容性,以及指标专用筛选条件。

评论

支持 Markdown