关于 evaluating-machine-learning-models
面向使用 Claude 评估机器学习模型的用户,通过 `model-evaluation-suite` 插件运行评估并呈现性能指标,支持模型比较与改进分析。
主要功能
- 01评估准确率、精确率和召回率
- 02计算 F1 分数及自定义 KPI
- 03比较多个模型的表现
- 04基于留出数据集评估模型
适用场景
- 01评估图像分类模型的准确率
- 02比较两个模型的 F1 分数
- 03在部署前验证模型表现
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ jeremylongshore/ tons-of-skills-marketplace --skill evaluating-machine-learning-models安装后在 Claude Code 中输入/evaluating-machine-learning-models确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
assets/README.mdvisualization_script.pyreferences/README.mdscripts/README.md详细介绍
模型评估套件
使用全面的指标套件评估机器学习模型,包括准确率、精确率、召回率、F1 分数和自定义 KPI。
概述
此技能可帮助 Claude 全面评估机器学习模型,并提供详细的性能分析。它借助 model-evaluation-suite 插件生成一系列指标,帮助用户在模型选择和优化方面做出明智决策。
工作原理
- 分析上下文:Claude 分析用户的请求,确定要评估的模型以及用户关注的具体指标。
- 执行评估:Claude 使用
/eval-model命令,在model-evaluation-suite插件中启动模型评估流程。 - 呈现结果:Claude 向用户展示生成的指标和分析结果,突出关键绩效指标以及可改进之处。
何时使用此技能
在以下情况下,此技能会启用:
- 评估机器学习模型的性能。
- 比较多个模型的性能。
- 找出模型的可改进之处。
- 在部署前验证模型的性能。
示例
示例 1:评估模型准确率
用户请求:“评估我的图像分类模型的准确率。”
此技能将:
- 调用
/eval-model命令。 - 分析模型在留出数据集上的表现。
- 报告准确率分数和其他相关指标。
示例 2:比较模型性能
用户请求:“比较模型 A 和模型 B 的 F1 分数。”
此技能将:
- 分别为两个模型调用
/eval-model命令。 - 从评估结果中提取 F1 分数。
- 对比模型 A 和模型 B 的 F1 分数。
最佳实践
- 指定指标:清晰定义评估所关注的具体指标。
- 验证数据:确保用于评估的数据能够代表模型在实际应用中会遇到的数据。
- 解读结果:提供评估结果的背景信息和解读,以帮助用户做出明智决策。
集成
此技能与 model-evaluation-suite 插件无缝集成,可在 Claude Code 环境中提供全面的模型评估方案。它还可以与其他技能结合,构建自动化机器学习工作流。
前提条件
- 拥有适当的文件访问权限
- 已安装所需依赖项
说明
- 满足触发条件时调用此技能
- 提供必要的上下文和参数
- 查看生成的输出
- 根据需要进行修改
输出
此技能会生成与任务相关的结构化输出。
错误处理
- 输入无效:提示用户更正
- 缺少依赖项:列出所需组件
- 权限错误:建议补救步骤
资源
- 项目文档
- 相关技能和命令
评论
支持 Markdown