mcpField
G
GenPark LLM Token Bucket & Sliding Window Rate Limiter

GenPark LLM Token Bucket & Sliding Window Rate Limiter

ローカル
genpark.aiAI・エージェント71 週間前に更新

GenPark LLM Token Bucket & Sliding Window Rate Limiter について

適応型の多段制限、リーキーバケットキュー、バースト時の待ち時間推定により、LLM のトークンとリクエストのレートを管理する Python 製 MCP サーバーです。TPM と RPM の使用量を調整するワークフロー向けです。

主な機能

  1. 01適応型の多段 TPM・RPM 制限
  2. 02リーキーバケットキュー
  3. 03バースト時の待ち時間推定
  4. 04Python 3 標準ライブラリで実装

活用シーン

  1. 01TPM 使用量の制御
  2. 02RPM 使用量の制御

MCP 対応

Claude Desktop または Cursor の設定に追加して MCP サーバーとして実行できます。LLM のトークンとリクエストのレート制限を行います。

設定

ローカルサーバーの設定はどのクライアントでも共通です。コピーしてクライアントの MCP 設定ファイルに貼り付けてください。

インストール方法は未掲載です

このサーバーのパッケージやリモートエンドポイントはまだ取得できていません。プロジェクトの README の手順に従ってください。

リポジトリ
パッケージ
mcpbgenpark-llm-token-bucket-sliding-window-rate-limiter-skill.mcpb

ツール

ツール一覧はまだ取得されていません

ローカルサーバーのツールはマシン上で起動して初めて取得できます。メンテナーはまだツール一覧を提供していません。

詳細

genpark-llm-token-bucket-sliding-window-rate-limiter-skill

Smithery による検証済み LinkedIn Webサイト

スムーズなリーキーバケットキューイングと予測型バースト待機時間推定を備えた、適応型の多階層 TPM・RPM レートリミッターです。

クイックインストールと MCP 統合

Claude Desktop または Cursor の設定に追加してください。

{
  "mcpServers": {
    "genpark-llm-token-bucket-sliding-window-rate-limiter-skill": {
      "command": "python",
      "args": ["mcp_server.py"]
    }
  }
}

依存関係ゼロ

Python 3 の標準ライブラリのみで実装されています。

コメント

MCP は初めてですか?

プロトコルの概要から最初のサーバーの導入まで、よくある疑問にまとめて答えます。

AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。