LLM Latency Tracker

📊 LLM Latency Tracker

地域ごとの AI API のレイテンシと稼働率を測定し、その結果をオープンデータとして公開します。

🌐 リアルタイムランキング · JSON API · MCP エンドポイント

⚡ できること

• 🌍 地域別の測定 — 分散型のプローブノードから、プロバイダーの応答時間と可用性を比較します。
• ⏱️ 2 種類のプローブ — ネットワークの初回バイト到達時間（TTFB）と、任意で推論の初回トークン到達時間（TTFT）を測定します。
• 📈 オープンデータセット — 日次ランキング、過去のスナップショット、地域別の p50／p95 統計を公開します。
• 🤖 エージェントからのアクセス — JSON API、MCP、Markdown ページ、llms.txt インデックスを利用できます。
• 🗓️ モデルのライフサイクル — プロバイダーの告知へのリンク付きの廃止カレンダーを提供します。

🔧 測定に最適化

• エッジプローブには Python 標準ライブラリのみを使用します。推論プローブにはプロバイダーの API キーが必要です。
• SQLite ストレージと地域別集計を採用し、リモートノードから中央ノードへ測定結果を送信します。
• ウェブサイトと JSON データセットを静的に公開します。
• テストとリンティングを CI でチェックし、公開するスナップショットには測定日を記載します。

結果の読み方： エッジの TTFB は、ネットワーク／API の応答性を測定するもので、モデルの生成速度を示すものではありません。推論の TTFT とは分けて比較してください。結果は地域、プローブの種類、時間枠によって異なります。

🚀 クイックスタート

インストールせずに公開データを利用できます。

curl https://llmlatency.dev/api/rankings.json

または、Python 3.12+ を使ってローカルでエッジプローブを実行できます。

git clone https://github.com/mazamaka/llm-latency-tracker.git
cd llm-latency-tracker
REGION=local python3 run.py
python3 aggregate.py --region local

公開 API を使用するローカルの stdio MCP サーバーを実行する場合（標準ライブラリのみ、API キー不要）：

python3 mcp_server.py

ツール：get_ai_api_latency（地域別のプロバイダーランキング）、get_provider_latency（1 つのプロバイダーを複数地域で比較）、get_model_deprecations（モデルの提供終了カレンダー）、get_coding_agent_health（Claude Code／Codex の速度と精度の変化）。すべて読み取り専用です。

推論プローブ、API アクセス、サイト生成 → · デプロイ →

🧪 コントリビューション

プロバイダーの追加、新しいプローブ地域の提供、測定コードの改善にご協力ください。セットアップとチェックについては CONTRIBUTING.md をご覧ください。

---

Python · SQLite · JSON API · MCP · Cloudflare Pages

コード：MIT · データ：CC-BY-4.0、llmlatency.dev の表示を条件とします。

📈 最新の日次スナップショット

日次スナップショット — 2026-10-27

4 地域の 46 の AI 推論プロバイダーで測定したレイテンシです。測定方法：分散型エッジプローブ（DNS→TCP→TLS→TTFB）と推論プローブ（TTFT）、直近 24 時間。ライセンス：CC-BY-4.0。

地域	最速のプロバイダー（p50）	p50	p95	稼働率
アジア（東京）	fireworks	23 ms	73 ms	100%
ヨーロッパ（ドイツ）	fireworks	98 ms	201 ms	100%
南アメリカ（サンパウロ）	openrouter	61 ms	92 ms	100%
米国（中部）	fireworks	32 ms	83 ms	100%

• 全データセット：data/rankings/2026-10-27.json (最新)
• 引用可能なアーカイブ（DOI）：10.5281/zenodo.23388429 — 日次集計、CC-BY-4.0
• Hugging Face データセット：https://huggingface.co/datasets/llmlatency/llm-latency-tracker
• Kaggle データセット：https://www.kaggle.com/datasets/llmlatency/llm-latency-tracker
• Software Heritage にアーカイブ済み：swh:1:snp:2778cbabd72a70a629ee35fbd5ac536d1ccb7a9a
• Python クライアント：https://pypi.org/project/llmlatency/
• リアルタイムランキングと測定方法：https://llmlatency.dev
• 機械可読 API：https://llmlatency.dev/api/rankings.json
• モデル廃止カレンダー：https://llmlatency.dev/deprecations

スナップショット生成日時：2026-10-27T07:24:20Z — この表は毎日再生成されます。