llm-tuning-patterns について
llm-tuning-patterns は、APOLLO と Godel-Prover の研究に基づき、タスク別に LLM の設定を選ぶスキルです。定理証明、コード生成、創造的な探索向けのパラメーターとプロンプトの指針を示します。
主な機能
- 01タスク別の LLM パラメーター指針
- 02定理証明の設定と証明計画プロンプト
- 03難しい証明の並列サンプリング
- 04コード生成の設定
- 05創造的なタスクの設定とアンチパターン
活用シーン
- 01定理証明向けの LLM 設定
- 02証明計画に基づく Lean 4 戦術の生成
- 03コード生成パラメーターの調整
- 04創造的な探索向けパラメーターの選択
インストール
コマンドをコピーしてターミナルで実行します。
$
npx skills add https:/ / github.com/ parcadei/ continuous-claude-v3 --skill llm-tuning-patternsインストール後、Claude Code で/llm-tuning-patternsを入力して読み込まれたか確認します。
詳細
LLM チューニングパターン
APOLLO と Godel-Prover の研究に基づく、LLM パラメーター設定のエビデンスに基づいたパターンです。
パターン
タスクによって必要な LLM 設定は異なります。エビデンスに基づいた以下の設定を使用してください。
定理証明/形式推論
APOLLO のパリティ分析に基づいています。
| パラメーター | 値 | 理由 |
|---|---|---|
| max_tokens | 4096 | 証明の思考連鎖に必要な領域を確保します |
| temperature | 0.6 | 戦術の探索における創造性を高めます |
| top_p | 0.95 | 多様な証明経路を許容します |
証明計画プロンプト
戦術を実行する前に、必ず証明計画を求めてください。
Given the theorem to prove:
[theorem statement]
First, write a high-level proof plan explaining your approach.
Then, suggest Lean 4 tactics to implement each step.
証明計画(思考連鎖)により、戦術の品質が大幅に向上します。
並列サンプリング
難しい証明には、並列サンプリングを使用してください。
- N=8-32 個の証明試行候補を生成します
- 最良の候補を選択します
- 各サンプルの temperature は 0.6-0.8 にします
コード生成
| パラメーター | 値 | 理由 |
|---|---|---|
| max_tokens | 2048 | ほとんどの関数には十分です |
| temperature | 0.2-0.4 | 決定論的な出力を優先します |
創造/探索タスク
| パラメーター | 値 | 理由 |
|---|---|---|
| max_tokens | 4096 | 探索に必要な領域を確保します |
| temperature | 0.8-1.0 | 創造性を最大限に高めます |
アンチパターン
- 証明に対してトークン数が少なすぎる:512 トークンでは思考連鎖が途中で切れます
- 証明に対して temperature が低すぎる:0.2 では創造的な戦術の経路を見逃します
- 証明計画がない:計画なしに戦術へ進むと、成功率が低下します
セッションのソース
- このセッション:APOLLO のパリティ分析に基づき、max_tokens を 512 から 4096 に、temp を 0.2 から 0.6 に引き上げました
- このセッション:戦術を実行する前の思考連鎖に向けた証明計画プロンプトを追加しました
コメント
Markdown 対応