关于 msverl-daily-regression-triage
用于分析固定的 verl + MindSpeed 每日训练结果,判断训练错误或准确率回归,并根据近期提交筛选可能原因。适合维护相关训练流程的开发者。
主要功能
- 01检查对比日志并分类结果
- 02提取训练日志中的错误摘要
- 03收集并排序近期仓库提交
- 04按需检查候选提交差异
适用场景
- 01确认每日训练是否通过
- 02定位训练错误的高信号日志片段
- 03调查准确率回归的潜在提交
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ ascend/ agent-skills --skill msverl-daily-regression-triage安装后在 Claude Code 中输入/msverl-daily-regression-triage确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
agents/openai.yamlscripts/extract_failure_tail.pylist_recent_commits.pyparse_result_log.pyrank_candidate_commits.pysync_repos.pytriage_msverl_regression.py详细介绍
MSVerl 每日回归排查
当固定的每日 verl + MindSpeed 训练任务运行完毕,且 Codex 需要判断结果是否正常、是否存在训练失败或准确率回归,以及哪个近期提交最有可能是原因时,使用此技能。
默认值
- 基线对比日志:
/home/st_daily_verl/msverl.log - 训练日志模式:
/home/st_daily_verl/logs/msverl_YYYYMMDD.log verl仓库:https://github.com/verl-project/verl.git,分支为mainMindSpeed仓库:https://gitcode.com/Ascend/MindSpeed.git,分支为master- 临时克隆的缓存根目录:
/tmp/msverl-skill-cache - 时间范围:从本地时间前一天的
00:00:00到任务执行时间
强制停止规则
- 首先读取对比日志。
- 如果日志包含
mean abs diff:,且解析出的值恰好为0,则停止并报告成功。 - 如果日志包含
mean abs diff:,且该值不为零,则归类为accuracy_regression。 - 如果日志包含
error, please check log,则归类为train_error。 - 如果对比日志含义不明确,则报告
unknown,并在进行耗时操作前说明缺少哪些证据。
工作流
- 对比日志运行 parse_result_log.py。
- 如果结果为
pass,立即停止。 - 对于
train_error,对每日训练日志运行 extract_failure_tail.py,并仅保留最后一段高信号错误信息。 - 对于
accuracy_regression,将解析出的奖励列表和mean abs diff作为主要证据。 - 使用 sync_repos.py 同步轻量本地克隆。
- 除非用户指定了其他时间范围,否则使用 list_recent_commits.py 收集两个仓库在默认时间范围内的近期提交。
- 使用 rank_candidate_commits.py 对可疑提交排序。
- 仅当提交标题和改动文件不足以说明可能的修复方向时,才检查排名靠前的少数提交的差异。
成本控制
- 除非基于日志尾部的提取器连续失败两次,否则绝不加载完整训练日志。
- 从日志尾部开始;优先查看最后一段回溯信息或最后一个
ERROR块。 - 先根据标题和改动文件对提交排序,再阅读差异。
- 除非证据仍然薄弱,否则每个仓库深入阅读差异的候选提交不超过
3个。
预期输出
返回一份简洁报告,包含:
status:pass、train_error、accuracy_regression或unknowntime_windowevidence_summarycandidate_repocandidate_commitsconfidence:high、medium或lowfix_direction
证据薄弱时,请明确说明,不要勉强断定某个提交是唯一原因。
参考
- 运行 triage_msverl_regression.py,执行端到端本地工作流。
- 手动验证日志时,可分别使用 parse_result_log.py 和 extract_failure_tail.py。
- 需要获取近期提交原始清单但无需排序时,使用 list_recent_commits.py。
评论
支持 Markdown