关于 OpenAI Complete MCP Server
OpenAI Complete MCP Server 将 MCP 客户端连接到兼容 OpenAI 的文本补全 API,主要面向基础模型。它提供单一补全文本工具,不支持聊天补全。
主要功能
- 01单一 `complete` 工具
- 02兼容 OpenAI 的 API
- 03异步请求处理
- 04超时回退处理
- 05取消进行中的请求
适用场景
- 01使用基础模型生成文本
- 02设置补全文本限制和采样参数
- 03取消正在进行的补全请求
MCP 相关
通过 stdio 向 MCP 客户端提供 `complete` 工具。该工具接受提示词和可选的生成参数。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
工具
还没有获取到工具列表
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
OpenAI Complete MCP Server
一个 MCP(Model Context Protocol)服务,为大模型提供简洁的接口,使其能够通过 MCP 协议使用文本补全功能。该服务充当大模型客户端与任何兼容 OpenAI 的 API 之间的桥梁。其主要用途是服务于基础模型,因为该服务不支持聊天补全。
功能
- 提供一个名为 "complete" 的工具,用于生成文本补全
- 妥善处理异步任务,避免阻塞
- 实现超时处理,并提供优雅的回退机制
- 支持取消正在进行的请求
安装
# Clone the repository
git clone <repository-url>
cd mcp-openai-complete
# Install dependencies
pnpm install
# Build the project
pnpm run build
配置
需要设置以下环境变量:
OPENAI_API_KEY=your-hyperbolic-api-key
OPENAI_API_BASE=https://api.hyperbolic.xyz/v1
OPENAI_MODEL=meta-llama/Meta-Llama-3.1-405B
使用方法
启动服务:
pnpm start
这将在标准输入输出上启动服务,使 MCP 客户端能够与其通信。
Docker 使用方法
构建 Docker 镜像
docker build -t mcp-openai-complete .
运行容器
# Run with environment variables
docker run -it --rm \
-e OPENAI_API_KEY="your-api-key" \
-e OPENAI_MODEL="gpt-3.5-turbo-instruct" \
mcp-openai-complete
你也可以使用 .env 文件:
# Run with .env file
docker run -it --rm \
--env-file .env \
mcp-openai-complete
"complete" 工具的参数
prompt(字符串,必填):要补全的文本提示词max_tokens(整数,可选):生成的最大 token 数,默认值:150temperature(数字,可选):控制随机性(0-1),默认值:0.7top_p(数字,可选):通过核采样控制多样性,默认值:1.0frequency_penalty(数字,可选):降低 token 序列重复的程度,默认值:0.0presence_penalty(数字,可选):提高讨论新主题的可能性,默认值:0.0
开发
使用自动重新加载进行开发:
npm run dev
许可证
MIT
评论
支持 Markdown
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。