mcpField
L
llm-tuning-patterns

llm-tuning-patterns

github.com/parcadeiエージェントワークフロー3.9k480 回インストール39 週間前に更新
リポジトリ

llm-tuning-patterns について

llm-tuning-patterns は、APOLLO と Godel-Prover の研究に基づき、タスク別に LLM の設定を選ぶスキルです。定理証明、コード生成、創造的な探索向けのパラメーターとプロンプトの指針を示します。

主な機能

  1. 01タスク別の LLM パラメーター指針
  2. 02定理証明の設定と証明計画プロンプト
  3. 03難しい証明の並列サンプリング
  4. 04コード生成の設定
  5. 05創造的なタスクの設定とアンチパターン

活用シーン

  1. 01定理証明向けの LLM 設定
  2. 02証明計画に基づく Lean 4 戦術の生成
  3. 03コード生成パラメーターの調整
  4. 04創造的な探索向けパラメーターの選択

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/parcadei/continuous-claude-v3 --skill llm-tuning-patterns

インストール後、Claude Code で/llm-tuning-patternsを入力して読み込まれたか確認します。

詳細

LLM チューニングパターン

APOLLO と Godel-Prover の研究に基づく、LLM パラメーター設定のエビデンスに基づいたパターンです。

パターン

タスクによって必要な LLM 設定は異なります。エビデンスに基づいた以下の設定を使用してください。

定理証明/形式推論

APOLLO のパリティ分析に基づいています。

パラメーター値理由
max_tokens4096証明の思考連鎖に必要な領域を確保します
temperature0.6戦術の探索における創造性を高めます
top_p0.95多様な証明経路を許容します
証明計画プロンプト

戦術を実行する前に、必ず証明計画を求めてください。

Given the theorem to prove:
[theorem statement]

First, write a high-level proof plan explaining your approach.
Then, suggest Lean 4 tactics to implement each step.

証明計画(思考連鎖)により、戦術の品質が大幅に向上します。

並列サンプリング

難しい証明には、並列サンプリングを使用してください。

  • N=8-32 個の証明試行候補を生成します
  • 最良の候補を選択します
  • 各サンプルの temperature は 0.6-0.8 にします

コード生成

パラメーター値理由
max_tokens2048ほとんどの関数には十分です
temperature0.2-0.4決定論的な出力を優先します

創造/探索タスク

パラメーター値理由
max_tokens4096探索に必要な領域を確保します
temperature0.8-1.0創造性を最大限に高めます

アンチパターン

  • 証明に対してトークン数が少なすぎる:512 トークンでは思考連鎖が途中で切れます
  • 証明に対して temperature が低すぎる:0.2 では創造的な戦術の経路を見逃します
  • 証明計画がない:計画なしに戦術へ進むと、成功率が低下します

セッションのソース

  • このセッション:APOLLO のパリティ分析に基づき、max_tokens を 512 から 4096 に、temp を 0.2 から 0.6 に引き上げました
  • このセッション:戦術を実行する前の思考連鎖に向けた証明計画プロンプトを追加しました

コメント