together-fine-tuning

Together 微调

概述

当用户需要根据自己的数据或行为调整模型时，使用 Together AI 微调。

此代码库支持以下工作流：

• LoRA 微调
• 全量微调
• DPO 偏好微调
• VLM 微调
• 函数调用微调
• 推理微调
• BYOM 上传路径

此技能适用的场景

• 使用自定义指令或对话数据训练模型
• 使用监督示例提高函数调用的可靠性
• 根据偏好而非仅根据示例进行训练
• 微调多模态模型或面向推理的模型
• 稍后通过专用端点部署微调后的模型

转交给其他技能

• 无需训练的普通推理，请使用 together-chat-completions
• 要衡量模型微调前后的表现，请使用 together-evaluations
• 要托管微调后的模型，请使用 together-dedicated-model-inference
• 只有当用户需要原始基础设施而非托管式微调时，才使用 together-gpu-clusters

快速选择

• 标准 LoRA 或全量微调
  • 从 scripts/finetune_workflow.py 开始
  • 阅读 references/data-formats.md
• DPO 偏好微调
  • 从 scripts/dpo_workflow.py 开始
• 函数调用微调
  • 从 scripts/function_calling_finetune.py 开始
• 推理微调
  • 从 scripts/reasoning_finetune.py 开始
• VLM 微调
  • 从 scripts/vlm_finetune.py 开始
• 模型支持和部署选项
  • 阅读 references/supported-models.md
  • 阅读 references/deployment.md

工作流

1. 选择与预期行为变化相匹配的微调方法。
2. 在投入训练令牌前验证数据集格式。
3. 上传训练数据并保存返回的文件 ID。
4. 使用明确的特定方法参数创建作业。
5. 在转交部署前，监控作业状态、事件、检查点和逐步训练指标。

重要规则

• Python 脚本需要 Together v2 SDK（together>=2.0.0）。如果用户使用的是旧版本，必须先升级：uv pip install --upgrade "together>=2.0.0"。
• 除非用户有明确理由承担全量微调的费用，否则优先使用 LoRA。
• 将数据格式验证安排在上传步骤之前，以便尽早发现无效文件。
• 将部署视为单独阶段；微调成功并不代表服务部署也会自动成功。
• 使用特定方法的脚本，不要试图用一个通用工作流处理所有模式。
• 在自动化中将数据集路径、模型 ID 和后缀设为参数，不要永远固定使用某个演示数据集。

资源索引

• 数据格式：references/data-formats.md
• 支持的模型：references/supported-models.md
• 部署指南：references/deployment.md
• LoRA 或全量微调工作流：scripts/finetune_workflow.py
• DPO 工作流：scripts/dpo_workflow.py
• 函数调用工作流：scripts/function_calling_finetune.py
• 推理工作流：scripts/reasoning_finetune.py
• VLM 工作流：scripts/vlm_finetune.py

官方文档

• 微调快速入门
• 数据准备
• 微调模型
• 部署微调后的模型
• 微调 API