关于 finetuning-technique
根据使用场景指导选择微调技术,并检查所选模型是否支持。涵盖 SFT、DPO、RLVR 和 RLAIF,最后与用户确认选择。
主要功能
- 01基于使用场景提供技术建议
- 02选择 SFT、DPO、RLVR 或 RLAIF
- 03检查模型配方兼容性
- 04汇总已确认的选择
适用场景
- 01决定微调后选择适用技术
- 02检查所选基础模型是否支持某项技术
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ awslabs/ agent-plugins --skill finetuning-technique安装后在 Claude Code 中输入/finetuning-technique确认已加载。
附带文件references/finetune_technique_selection_guide.mdscripts/get_recipes.py
详细介绍
微调技术
根据用户的使用场景,引导其选择微调技术,并验证该技术是否与所选模型兼容。
适用场景
- 用户已决定进行微调,需要选择一种技术
- 用户想更改微调技术
- 需要验证所选技术是否适用于所选模型
前置条件
- 已选择基础模型(通过 model-selection skill)。必须知道模型名称和 hub。
- 存在
use_case_spec.md文件。如果不存在,请先启用 use-case-specification skill 来生成该文件。
工作流
步骤 1:确定微调技术
参考 references/finetune_technique_selection_guide.md,根据使用场景和用户需求,推荐最合适的技术(SFT、DPO、RLVR、RLAIF)。
向用户说明推荐方案及理由。询问用户是愿意采用推荐方案,还是更倾向于选择其他技术。
步骤 2:验证技术是否可用
- 用户确认技术后,通过运行以下命令获取所选模型支持的微调技术:
python finetuning-technique/scripts/get_recipes.py <model-name> <hub-name>- 该命令仅返回模型实际支持的技术,并筛选出 SFT、DPO、RLVR 和 RLAIF。仅支持这四种技术——即使模型的 recipes 中包含其他技术,也请忽略。
- 如果模型支持所选技术,请继续执行步骤 3。
- 如果模型不支持所选技术,请说明所选模型在 SageMaker 上不支持该技术,并提出返回 model-selection,选择其他支持该技术的模型。
步骤 3:确认选择
向用户展示以下摘要:
Here's what we've selected:
- Base model: [model name]
- Fine-tuning technique: [SFT/DPO/RLVR/RLAIF]
参考资料
references/finetune_technique_selection_guide.md— 技术指南(SFT/DPO/RLVR/RLAIF)
评论
支持 Markdown