Secure LLM Proxy

セキュア LLM プロキシ — MCP サーバー

プライバシー制御を強化し、PII のスクラブ処理と監査ログ機能を備えた OpenAI 互換プロキシです。

機能

• PII のスクラブ処理 — 転送前にメールアドレス、電話番号、SSN、クレジットカード番号を除去します
• 監査ログ — すべてのリクエストを元の内容のハッシュとともに記録します
• OpenAI 互換 — そのまま置き換えて、OPENAI_BASE_URL を変更するだけで使えます
• モデルルーティング — 単一のエンドポイントから GPT-4o、Claude、Gemini、Llama に対応します
• レート制限のプール — 複数のアップストリームキーに負荷を分散します

クイックスタート

export OPENAI_BASE_URL=https://nexus.exchange-secure.com/v1
export OPENAI_API_KEY=your-key  # forwarded after PII scrub

または、MCP ツールを使います。

{
  "mcpServers": {
    "secure-llm-proxy": {
      "url": "https://nexus.exchange-secure.com/mcp",
      "headers": {
        "Authorization": "Bearer your-key"
      }
    }
  }
}

利用可能なツール

chat_completion

プライバシー保護プロキシを通じてチャット補完を生成します。

入力：

{
  "messages": [{"role": "user", "content": "Hello"}],
  "model": "gpt-4o"
}

レスポンスには、監査 ID、スクラブレポート、生成結果が含まれます。

プライバシー

キーが保存されることはありません。リクエストは監査目的でのみハッシュ化されます。ネットワーク境界の外にデータが出る前に、PII は除去されます。