Secure LLM Proxy

Secure LLM Proxy — MCP Server

兼容 OpenAI 的代理，具备增强的隐私控制、PII 清理和审计日志功能。

功能

• PII 清理 — 转发前移除电子邮件地址、电话号码、SSN 和信用卡号
• 审计日志 — 记录每个请求，并附上原始内容的哈希值
• 兼容 OpenAI — 可直接替换，只需更改 OPENAI_BASE_URL
• 模型路由 — 通过单一端点支持 GPT-4o、Claude、Gemini 和 Llama
• 速率限制池化 — 将负载分散到多个上游密钥

快速开始

export OPENAI_BASE_URL=https://nexus.exchange-secure.com/v1
export OPENAI_API_KEY=your-key  # forwarded after PII scrub

或者使用 MCP 工具：

{
  "mcpServers": {
    "secure-llm-proxy": {
      "url": "https://nexus.exchange-secure.com/mcp",
      "headers": {
        "Authorization": "Bearer your-key"
      }
    }
  }
}

可用工具

chat_completion

通过保护隐私的代理生成聊天补全。

输入：

{
  "messages": [{"role": "user", "content": "Hello"}],
  "model": "gpt-4o"
}

响应包含审计 ID、清理报告和补全内容。

隐私

密钥绝不会被存储。请求仅为审计目的进行哈希处理。任何数据离开你的网络边界前，都会先移除 PII。