mcpField
M
msverl-daily-regression-triage

msverl-daily-regression-triage

github.com/ascend测试与质量52127 次安装25 周前更新
代码仓库

关于 msverl-daily-regression-triage

用于分析固定的 verl + MindSpeed 每日训练结果,判断训练错误或准确率回归,并根据近期提交筛选可能原因。适合维护相关训练流程的开发者。

主要功能

  1. 01检查对比日志并分类结果
  2. 02提取训练日志中的错误摘要
  3. 03收集并排序近期仓库提交
  4. 04按需检查候选提交差异

适用场景

  1. 01确认每日训练是否通过
  2. 02定位训练错误的高信号日志片段
  3. 03调查准确率回归的潜在提交

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/ascend/agent-skills --skill msverl-daily-regression-triage

安装后在 Claude Code 中输入/msverl-daily-regression-triage确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

agents/
openai.yaml
scripts/
extract_failure_tail.py
list_recent_commits.py
parse_result_log.py
rank_candidate_commits.py
sync_repos.py
triage_msverl_regression.py

详细介绍

MSVerl 每日回归排查

当固定的每日 verl + MindSpeed 训练任务运行完毕,且 Codex 需要判断结果是否正常、是否存在训练失败或准确率回归,以及哪个近期提交最有可能是原因时,使用此技能。

默认值

  • 基线对比日志:/home/st_daily_verl/msverl.log
  • 训练日志模式:/home/st_daily_verl/logs/msverl_YYYYMMDD.log
  • verl 仓库:https://github.com/verl-project/verl.git,分支为 main
  • MindSpeed 仓库:https://gitcode.com/Ascend/MindSpeed.git,分支为 master
  • 临时克隆的缓存根目录:/tmp/msverl-skill-cache
  • 时间范围:从本地时间前一天的 00:00:00 到任务执行时间

强制停止规则

  • 首先读取对比日志。
  • 如果日志包含 mean abs diff:,且解析出的值恰好为 0,则停止并报告成功。
  • 如果日志包含 mean abs diff:,且该值不为零,则归类为 accuracy_regression。
  • 如果日志包含 error, please check log,则归类为 train_error。
  • 如果对比日志含义不明确,则报告 unknown,并在进行耗时操作前说明缺少哪些证据。

工作流

  1. 对比日志运行 parse_result_log.py。
  2. 如果结果为 pass,立即停止。
  3. 对于 train_error,对每日训练日志运行 extract_failure_tail.py,并仅保留最后一段高信号错误信息。
  4. 对于 accuracy_regression,将解析出的奖励列表和 mean abs diff 作为主要证据。
  5. 使用 sync_repos.py 同步轻量本地克隆。
  6. 除非用户指定了其他时间范围,否则使用 list_recent_commits.py 收集两个仓库在默认时间范围内的近期提交。
  7. 使用 rank_candidate_commits.py 对可疑提交排序。
  8. 仅当提交标题和改动文件不足以说明可能的修复方向时,才检查排名靠前的少数提交的差异。

成本控制

  • 除非基于日志尾部的提取器连续失败两次,否则绝不加载完整训练日志。
  • 从日志尾部开始;优先查看最后一段回溯信息或最后一个 ERROR 块。
  • 先根据标题和改动文件对提交排序,再阅读差异。
  • 除非证据仍然薄弱,否则每个仓库深入阅读差异的候选提交不超过 3 个。

预期输出

返回一份简洁报告,包含:

  • status:pass、train_error、accuracy_regression 或 unknown
  • time_window
  • evidence_summary
  • candidate_repo
  • candidate_commits
  • confidence:high、medium 或 low
  • fix_direction

证据薄弱时,请明确说明,不要勉强断定某个提交是唯一原因。

参考

评论

支持 Markdown