Getting Started

はじめに

このプロジェクトでは、初期の LiteLLM MCP 実装を、ほかのいくつかの MCP サーバーおよびクライアントと組み合わせてテストします。特に、mark3labs の Go ベースの MCP サーバーとクライアントを使用します。

必要条件

以下がインストールされている必要があります。

• go 1.24.1
• uv

依存関係のセットアップ

uv venv --python 3.13
source .venv/bin/activate # windows -- source .venv/Scripts/active
uv pip install -r requirements.txt

# cd into each and install dependencies
cd client;go mod download; cd ..
cd server; go mod download; cd ..

litellm プロキシのセットアップ

または、docker を使用します。

docker compose up

MCP Go サーバーの実行

cd server
go mod download
go run main.go -t sse -p 8080 # transport over http network with port 8080

MCP Go クライアントの実行

# run go mcp server first on sse transport
cd client
go run main.go -t sse -mcpUri 'http://localhost:8080/sse' # connect to mcp server on uri
go run main.go -t http -mcpUri 'http://localhost:3000/mcp' # connect to http mcp server on uri

Litellm SDK MCP クライアントのテスト

# run go mcp server first on sse transport

# run client
cd bridge
python litellm_client.py

LiteLLM Proxy MCP での Python SDK のテスト

# run go litellm proxy
docker compose up

# run client
cd bridge
python mcp_client.py
# Initializing session...
# Session initialized
# Loading tools...
# Loaded 1 tools
# meta=None content=[TextContent(type='text', text='13:04', annotations=None)] isError=Fals

LiteLLM proxy MCP での Go クライアントのテスト

# run go litellm proxy
docker compose up

cd bridge
go run main.go -mcpUri http://localhost:4000/mcp
# 2025/03/29 06:02:11 Connected to server with name litellm-mcp-server
# 2025/03/29 06:02:11 Ping successful
# 2025/03/29 06:02:11 Found 1 tools
# 2025/03/29 06:02:11 Tool: get_current_time

# 2025/03/29 06:02:11 Calling get_current_time tool

# 2025/03/29 06:02:11 Result: 13:02