llama-factory

Llama-Factory スキル

公式ドキュメントを基に作成された、llama-factory 開発に関する包括的なサポートです。

このスキルを使用するタイミング

次のような場合に、このスキルを使用してください。

• llama-factory を使用している
• llama-factory の機能や API について質問している
• llama-factory を使ったソリューションを実装している
• llama-factory のコードをデバッグしている
• llama-factory のベストプラクティスを学んでいる

クイックリファレンス

よくあるパターン

このスキルを使用するにつれて、クイックリファレンスのパターンが追加されます。

リファレンスファイル

このスキルには、references/ に包括的なドキュメントが含まれています。

• _images.md - 画像に関するドキュメント
• advanced.md - 高度な内容に関するドキュメント
• getting_started.md - はじめに関するドキュメント
• other.md - その他のドキュメント

詳細な情報が必要な場合は、view を使用して該当するリファレンスファイルを読んでください。

このスキルの使い方

初心者向け

基本的な概念を学ぶには、getting_started または tutorials のリファレンスファイルから始めてください。

特定の機能について

詳細な情報については、該当するカテゴリのリファレンスファイル（api、guides など）を使用してください。

コード例について

上記のクイックリファレンスセクションには、公式ドキュメントから抽出されたよくあるパターンが含まれています。

リソース

references/

公式ソースから抽出したドキュメントを整理して格納しています。これらのファイルには次の内容が含まれています。

• 詳細な説明
• 言語注釈付きのコード例
• 元のドキュメントへのリンク
• すばやく移動できる目次

scripts/

よくある自動化タスク用のヘルパースクリプトをここに追加してください。

assets/

テンプレート、ボイラープレート、サンプルプロジェクトをここに追加してください。

注意事項

• このスキルは公式ドキュメントから自動的に生成されています
• リファレンスファイルは、元のドキュメントの構成と例を保持しています
• コード例には、シンタックスハイライトを改善するための言語検出が含まれています
• クイックリファレンスのパターンは、ドキュメント内の一般的な使用例から抽出されています

更新

このスキルを最新のドキュメントで更新するには、次の手順を実行してください。

1. 同じ設定でスクレーパーを再実行します
2. 最新情報を使ってスキルが再構築されます

エージェントの運用手順

1. 環境を確認します。 GPU の種類、メモリ、ドライバー／CUDA のバージョン（nvidia-smi）、フレームワークのバージョン、データセットの場所とサイズを確認します。
2. 入力を明確にします。 データまたはユーザーから、形式、識別子、パラメーターを確認します。結果に影響する値は推測せず、質問してください。
3. まず小規模に実行します。 スモークテストを行います。小さなモデルまたはサブセットを使い、少ないステップ数で実行して、損失が減少し、チェックポイントが保存されることを確認します。
4. 上記の手順とリファレンスを使って、タスク全体を実行します。
5. 結果を検証します。 保留データでメトリクスを追跡し、ベースラインと比較して、シード、設定、ハードウェアを記録します。
6. 報告します。 実行した内容（バージョン、コマンド、パラメーター）、確認した内容、未確認の事項を明記します。

このような場合	対応方法
CUDA のメモリ不足	バッチサイズを小さくする、勾配累積／チェックポイント機能または混合精度を有効にする、あるいはモデルをシャード化します。
損失が NaN になる、または発散する	学習率を下げ、データに無効な値がないか確認し、勾配クリッピングを有効にします。
インストール済みバージョンに、これらの手順で使われている関数、フラグ、エンドポイントがない	インストール済みバージョンのドキュメント（help()、--help、公式ドキュメント）を確認して対応し、その旨をユーザーに伝えます。API を捏造してはいけません。
必須の入力、識別子、パラメーターが曖昧	ユーザーに確認するか、実行前に前提を明示します。

整合性に関する規則

• 結果、パラメーター、識別子、引用、統計情報を決して捏造しないでください。実行または検証できない場合は、そのことを率直に伝えてください。
• ログがない状態で学習結果を主張しないでください。大規模なジョブを開始する前に、計算コストを見積もってください。
• ここに記載されたバージョン固有の情報は古くなっている可能性があります。インストール済みバージョンの公式ドキュメントで確認してください。
• 費用が発生する場合、共有 GPU やクラウドのクォータを消費する場合、個人データまたは患者データに触れる場合、あるいは取り消せない操作を行う場合は、事前に許可を得てください。

関連スキル

• axolotl：Axolotl を使った大規模言語モデルのファインチューニングに関するガイダンスを提供します。YAML トレーニング設定、LoRA と QLoRA、選好トレーニングなどを扱います…
• unsloth：LoRA と QLoRA を使った高速かつ省メモリなトレーニングを実現するライブラリ Unsloth を使った、大規模言語モデルのファインチューニングに関するガイダンスを提供します。ベース…
• gptq：AutoGPTQ と transformers を使い、グループ単位の量子化（デフォルトのグループサイズは 128）で GPTQ により LLM を 4 ビット（3 ビットにも対応）に量子化します。