together-fine-tuning

Together Fine-Tuning

概要

ユーザーが独自のデータや動作に合わせてモデルを適応させる必要がある場合は、Together AI のファインチューニングを使用します。

このリポジトリでサポートされているワークフロー：

• LoRA ファインチューニング
• フルファインチューニング
• DPO による選好調整
• VLM ファインチューニング
• 関数呼び出しのファインチューニング
• 推論のファインチューニング
• BYOM アップロードの方法

このスキルが適している場合

• 独自の指示データや会話データでモデルをトレーニングする
• 教師ありのサンプルで関数呼び出しの信頼性を向上させる
• デモンストレーションだけでなく、選好データでトレーニングする
• マルチモーダルモデルや推論指向のモデルをファインチューニングする
• 専用エンドポイントを通じて、後からファインチューニング済みモデルの出力をデプロイする

別のスキルに引き継ぐ場合

• トレーニングなしで通常の推論を行う場合は together-chat-completions を使用します
• ファインチューニングの前後にモデルを評価する場合は together-evaluations を使用します
• ファインチューニング済みモデルをホストする場合は together-dedicated-model-inference を使用します
• 管理型のファインチューニングではなく、生のインフラストラクチャが必要な場合に限り together-gpu-clusters を使用します

クイックルーティング

• 標準的な LoRA またはフルファインチューニング
  • scripts/finetune_workflow.py から開始します
  • references/data-formats.md を読みます
• DPO による選好調整
  • scripts/dpo_workflow.py から開始します
• 関数呼び出しのファインチューニング
  • scripts/function_calling_finetune.py から開始します
• 推論のファインチューニング
  • scripts/reasoning_finetune.py から開始します
• VLM のファインチューニング
  • scripts/vlm_finetune.py から開始します
• モデルのサポートとデプロイの選択肢
  • references/supported-models.md を読みます
  • references/deployment.md を読みます

ワークフロー

1. 変更したい動作に合ったファインチューニング方法を選択します。
2. トレーニングにトークンを使う前に、データセットの形式を検証します。
3. トレーニングデータをアップロードし、返されたファイル ID を保持します。
4. 方法固有のパラメーターを明示してジョブを作成します。
5. デプロイに引き継ぐ前に、ジョブの状態、イベント、チェックポイント、ステップごとのトレーニング指標を監視します。

重要なルール

• Python スクリプトには Together v2 SDK（together>=2.0.0）が必要です。古いバージョンを使用している場合は、先にアップグレードしてください：uv pip install --upgrade "together>=2.0.0"。
• フルファインチューニングの費用を負担する特別な理由がない限り、LoRA を優先してください。
• 不正なファイルを早い段階で検出できるよう、データ形式の検証はアップロード手順の近くで行ってください。
• デプロイは別のフェーズとして扱います。ファインチューニングの成功が、サービングの成功を自動的に意味するわけではありません。
• すべてのモードに汎用ワークフローを流用するのではなく、方法固有のスクリプトを使用してください。
• 自動化では、データセットのパス、モデル ID、サフィックスをパラメーター化し、常に同じデモ用データセットを埋め込んだままにしないでください。

リソース一覧

• データ形式：references/data-formats.md
• サポート対象モデル：references/supported-models.md
• デプロイガイド：references/deployment.md
• LoRA またはフルワークフロー：scripts/finetune_workflow.py
• DPO ワークフロー：scripts/dpo_workflow.py
• 関数呼び出しワークフロー：scripts/function_calling_finetune.py
• 推論ワークフロー：scripts/reasoning_finetune.py
• VLM ワークフロー：scripts/vlm_finetune.py

公式ドキュメント

• ファインチューニングのクイックスタート
• データの準備
• モデルのファインチューニング
• ファインチューニング済みモデルのデプロイ
• ファインチューニング API