mcpField
L
llm-cost-optimizer

llm-cost-optimizer

github.com/borghei開発1.0k86 回インストール5 日前に更新
リポジトリ

llm-cost-optimizer について

LLM Cost Optimizer は、LLM API の予算を管理するチーム向けのコマンドラインスキルです。モデル別のトークン数と費用を見積もり、プロンプトの削減案を分析し、プロンプトキャッシュのコストを計算します。

主な機能

  1. 01モデル別のトークン数と費用の見積もり
  2. 02プロンプトのトークン削減機会の分析
  3. 03プロンプトキャッシュのコストと節約額の計算
  4. 04ファイル、テキスト、標準入力への対応

活用シーン

  1. 01新規プロジェクトのモデル別リクエスト費用の比較
  2. 02高コストなプロンプトの最適化と削減量の確認
  3. 03プロンプトキャッシュの再利用の損益分岐点の見積もり

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/borghei/claude-skills --skill llm-cost-optimizer

インストール後、Claude Code で/llm-cost-optimizerを入力して読み込まれたか確認します。

同梱ファイル

SKILL.md と一緒にインストールされる参考資料やスクリプト。

references/
caching-and-batch-economics.md
llm-pricing-guide.md
scripts/
cache_savings_calculator.py
prompt_optimizer.py
token_counter.py

詳細

LLM コスト最適化

カテゴリ： エンジニアリング 分野： AI コスト管理

概要

LLM コスト最適化スキルは、トークン数のカウント、さまざまな LLM プロバイダーのコスト見積もり、品質を損なわずにトークン使用量を削減するプロンプトの最適化を行うツールを提供します。大規模に LLM API の予算を管理するチームに不可欠です。

まず確認すること

見積もりや最適化の前に、以下の情報を確認してください。不明確な項目がある場合は、推測せずに質問してください。

  • 入力プロンプト／テキスト — カウントまたは最適化するプロンプトファイルまたはテキスト（--file／--text／--stdin で入力）
  • 対象モデル — コストを見積もるモデル（--models と料金比較を指定）
  • 目的 — コスト見積もりかプロンプト最適化か、また目標とする削減率（token_counter.py と prompt_optimizer.py のどちらを選ぶか、および --target-reduction を指定）

停止ルール：出力に最も影響する2〜3項目だけを質問してください。ユーザーが「とりあえず下書きして」と言った場合は作業を進め、成果物の冒頭に前提を列挙してください。

クイックスタート

# Count tokens in a prompt file and estimate costs
python scripts/token_counter.py --file prompt.txt --models gpt-4o claude-sonnet

# Count tokens from stdin
echo "Hello world" | python scripts/token_counter.py --stdin --models all

# Analyze a prompt for optimization opportunities
python scripts/prompt_optimizer.py --file system_prompt.txt

# Optimize with target reduction
python scripts/prompt_optimizer.py --file prompt.txt --target-reduction 30

ツールの概要

ツール目的主なフラグ
token_counter.pyモデルごとのトークン数のカウントとコストの見積もり--file、--text、--stdin、--models
prompt_optimizer.pyトークン削減の機会をプロンプトから分析--file、--target-reduction、--format
cache_savings_calculator.pyプロンプトキャッシュのコストをモデル化：キャッシュなしとキャッシュありのコスト、損益分岐となる再利用回数、削減率--requests、--cached-tokens、--cache-write-multiplier、--cache-read-multiplier、--base-input-price、--json

ワークフロー

新規プロジェクトのコスト見積もり
  1. サンプルプロンプトを収集します（システムプロンプト＋ユーザーメッセージ）
  2. 対象モデルを指定して token_counter.py を実行します
  3. 1リクエストあたりのコストに、予想される1日あたりの実行回数を掛けます
  4. コストと品質のトレードオフをモデル間で比較します
プロンプト最適化スプリント
  1. 使用ログから最もコストの高いプロンプトを特定します
  2. それぞれに対して prompt_optimizer.py を実行します
  3. 提案された最適化を適用します
  4. トークン数を再カウントし、削減を検証します
  5. 最適化版と元の版を A/B テストし、品質を確認します

リファレンスドキュメント

  • LLM の料金ガイド - 主要な LLM プロバイダーの現在の料金、トークンの推定方法
  • キャッシュとバッチ処理のコスト - プロンプト／コンテキストのキャッシュが損益分岐となる計算、バッチ API のコストとトレードオフ、推論強度がコストに与える影響、構造化出力のトークンオーバーヘッド（モデルに依存せず、料金はユーザーが指定）

よくあるパターン

トークン削減の手法
  • 冗長な指示や例を削除する
  • 少数例のプロンプトでは、変数名を短くする
  • 冗長なシステムプロンプトを簡潔にする
  • 繰り返し使うコンテキストを参照に置き換える
  • 構造化出力形式（JSON）を使って応答トークンを削減する
  • 可能な場合は、複数のリクエストを1つのプロンプトにまとめる
コスト効率の高いモデル選択
  • 分類／抽出タスクには小規模なモデルを使用する
  • 複雑な推論には大規模なモデルを使用する
  • クエリの複雑さに応じてモデルを振り分ける
  • 同一または類似したクエリへの応答をキャッシュする
  • 安定したシステムプロンプト／コンテキスト／スキーマのプレフィックスをキャッシュし（最も安定したものを先に、変動しやすいものを最後に配置）、cache_savings_calculator.py で再利用の損益分岐を確認する
  • 一括で実行する非対話型の処理はバッチ API に振り分けます（レイテンシーが増える代わりにコストは約半分）。ルートごとに推論強度を適切に設定し、精度が求められる場合にのみ高くします

コメント

Markdown 対応