GenPark LLM Token Bucket & Sliding Window Rate Limiter について
適応型の多段制限、リーキーバケットキュー、バースト時の待ち時間推定により、LLM のトークンとリクエストのレートを管理する Python 製 MCP サーバーです。TPM と RPM の使用量を調整するワークフロー向けです。
主な機能
- 01適応型の多段 TPM・RPM 制限
- 02リーキーバケットキュー
- 03バースト時の待ち時間推定
- 04Python 3 標準ライブラリで実装
活用シーン
- 01TPM 使用量の制御
- 02RPM 使用量の制御
MCP 対応
Claude Desktop または Cursor の設定に追加して MCP サーバーとして実行できます。LLM のトークンとリクエストのレート制限を行います。
設定
ローカルサーバーの設定はどのクライアントでも共通です。コピーしてクライアントの MCP 設定ファイルに貼り付けてください。
インストール方法は未掲載です
このサーバーのパッケージやリモートエンドポイントはまだ取得できていません。プロジェクトの README の手順に従ってください。
ツール
ツール一覧はまだ取得されていません
ローカルサーバーのツールはマシン上で起動して初めて取得できます。メンテナーはまだツール一覧を提供していません。
詳細
genpark-llm-token-bucket-sliding-window-rate-limiter-skill
スムーズなリーキーバケットキューイングと予測型バースト待機時間推定を備えた、適応型の多階層 TPM・RPM レートリミッターです。
クイックインストールと MCP 統合
Claude Desktop または Cursor の設定に追加してください。
{
"mcpServers": {
"genpark-llm-token-bucket-sliding-window-rate-limiter-skill": {
"command": "python",
"args": ["mcp_server.py"]
}
}
}
依存関係ゼロ
Python 3 の標準ライブラリのみで実装されています。
コメント
Markdown 対応
AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。