关于 model-comparison-tool
面向评估机器学习模型的数据从业者的模型比较技能,整合交叉验证、指标、统计检验、可视化和按条件推荐模型。
主要功能
- 01比较多种算法
- 02K 折、分层和时间序列验证
- 03分类与回归指标
- 04配对 t 检验显著性分析
- 05性能与学习曲线可视化
- 06按条件推荐模型
适用场景
- 01对任务中的算法进行基准比较
- 02比较超参数配置
- 03评估特征工程方案
- 04选择生产环境模型
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ dkyazzentwatwa/ chatgpt-skills --skill model-comparison-tool安装后在 Claude Code 中输入/model-comparison-tool确认已加载。
附带文件scripts/model_comparison_tool.pyscripts/requirements.txt
详细介绍
模型比较工具
通过交叉验证、指标评估和自动模型选择,系统地比较多个机器学习模型。
用途
模型比较适用于:
- 算法选择与基准测试
- 超参数调优比较
- 模型性能验证
- 特征工程评估
- 生产环境模型选择
功能
- 多模型比较:同时测试 5 种以上算法
- 交叉验证:K 折、分层、时间序列拆分
- 全面的指标:准确率、F1、ROC-AUC、RMSE、MAE、R²
- 统计检验:用于显著性检验的配对 t 检验
- 可视化:性能图表、ROC 曲线、学习曲线
- 自动选择:根据标准推荐最佳模型
快速开始
from model_comparison_tool import ModelComparisonTool
# Compare classifiers
comparator = ModelComparisonTool()
comparator.load_data(X_train, y_train, task='classification')
results = comparator.compare_models(
models=['rf', 'gb', 'lr', 'svm'],
cv_folds=5
)
best_model = comparator.get_best_model(metric='f1')
CLI 用法
# Compare models on CSV data
python model_comparison_tool.py --data data.csv --target target --task classification
# Custom model comparison
python model_comparison_tool.py --data data.csv --target price --task regression --models rf,gb,lr --cv 10
# Export results
python model_comparison_tool.py --data data.csv --target y --output comparison_report.html
局限性
- 需要足够的数据才能进行有效的交叉验证
- 大型数据集的比较耗时可能较长
- 不包含深度学习模型(请使用专用框架)
- 必须提前完成特征工程
评论
支持 Markdown