关于 LibreChat
LibreChat 是可自托管的 AI 聊天平台,面向希望在统一界面使用多种模型、Agent 和工具的个人及团队。它还提供多用户管理、代码执行、Artifacts 和对话搜索。
主要功能
- 01统一接入多种 AI 模型
- 02创建并分享 Agent
- 03集成 MCP 服务与工具
- 04沙箱代码执行和文件处理
- 05生成聊天代码 Artifacts
- 06多用户认证与管理
适用场景
- 01在不同模型和服务提供商间切换
- 02构建可共享的专用 Agent
- 03在聊天中分析文件并执行代码
- 04管理团队访问权限和对话
MCP 相关
LibreChat 支持通过 MCP 将 MCP 服务作为 Agent 工具使用,并支持将 MCP 服务与部署 Skills 打包为插件;其更新也提及 MCP OAuth 会话。
详细介绍
LibreChat
English · 中文
🚀 v0.8.8 新功能
- Agent 管理 API(Beta): 创建、发现、更新和删除 Agent;管理 Agent 文件和技能;并通过绑定部署的 OIDC 身份验证机器客户端,同时保留现有角色和 Agent 访问控制。公开的 OpenAPI 和 Swagger UI 涵盖推理、事件、Agent 管理和技能管理。
- 附加工作区(高度实验性): 为每个受管理或个人编码工作进程选择或保存每个 Agent 的默认工作区,然后让 Agent 检查目录树、读取和搜索文件、编写更改,并在限定的超时时间内运行 Bash。个人工作进程支持有限的自助注册、就绪状态和每个 Agent 的 Git 身份。
- 后台工具控制: 可选取消普通后台工具(包括附加的 Bash),同时保持分离的 Subagent 执行独立运行。
- 代码审批控制: 在管理员允许的情况下,为文件写入和命令执行选择 询问、允许 或 拒绝,还可在可信的附加环境中使用 完全访问 模式。File Search 和 Run Code 也遵循角色授权。
- 手动压缩上下文: 在上下文窗口填满前启动仅执行摘要的轮次,并根据部署的摘要策略保留近期对话内容。
- 上下文用量: 检查对话、保留的工具流量、Agent 指令、缓存、成本和运行空间压力,同时避免重复计算类别子集。
- 统一附件: 只需上传一次,LibreChat 即可将内容路由至模型或提取的文本,然后仅在需要时配置 File Search 和 Code 工具。
- 模型: 新增 GPT-6 Astra 和 GPT-6.1 Sol,支持 Responses API 路由和工具调用。
- Agent 和聊天 UI: 统一工具活动、推理、搜索和 Agent 工作流;为聊天和收藏项新增一个可拖动的置顶分区、形态变化的状态图标、高对比度主题、富文本消息复制、更清晰的侧边栏标题,以及优化后的实时阶段布局。
- 可观测性: 在 Trace Viewer 中检查有序的模型对话、工具轮次和成本;通过 OpenTelemetry 导出关联的应用日志;配置 Langfuse 追踪身份和元数据的允许列表;使用客户端构建 ID 标记浏览器诊断信息;并将 Insights 限定为已授权的 Agent。
- 可靠性和安全性: 加强 Agent 延续和检查点恢复、Redis 存活检测、DocumentDB 协调、OpenID 和 MCP OAuth 会话、共享链接限流、租户隔离、附件限制及上传错误处理。
✨ 功能
-
🖥️ UI 和体验:借鉴 ChatGPT,提供增强的设计和功能
-
🤖 AI 模型选择:
- Anthropic(Claude)、AWS Bedrock、OpenAI、Azure OpenAI、Google、Vertex AI、OpenAI Responses API(包括 Azure)
- 自定义端点:无需代理,即可在 LibreChat 中使用任何兼容 OpenAI 的 API
- 兼容本地和远程 AI 提供商:
- Ollama、AMD Lemonade、groq、Cohere、Mistral AI、Apple MLX、koboldcpp、together.ai、
- OpenRouter、Helicone、Perplexity、ShuttleAI、Deepseek、Qwen 等
-
🔧 代码解释器 API:
- 在 Python、Node.js(JS/TS)、Go、C/C++、Java、PHP、Rust 和 Fortran 中安全地进行沙箱执行
- 无缝处理文件:直接上传、处理和下载文件
- 无隐私顾虑:执行环境完全隔离且安全
- 开源且可自托管:由 ClickHouse/code-interpreter 提供支持
-
🔦 Agent 与工具集成:
- LibreChat Agents:
- 无代码自定义助手:构建专用的 AI 驱动帮手
- Agent 市场:发现并部署社区构建的 Agent
- 协作共享:与特定用户和群组共享 Agent
- 灵活且可扩展:使用 MCP 服务、工具、文件搜索、代码执行等
- 技能:创建可复用的
SKILL.md指令包,用于手动、自动或始终运行的 Agent 工作流 - Agent 插件:通过实验性功能,将部署技能和 MCP 服务打包为启动时加载的程序包
- 子 Agent:将专门任务委派给隔离运行的子 Agent,每个子 Agent 都有自己的上下文窗口
- Agent 管理 API:使用与部署绑定的 OIDC 客户端,自动管理 Agent、文件和技能
- 附加代码工作区:让 Agent 在托管或个人工作区中检查、搜索、编辑并运行命令(高度实验性)
- 兼容自定义端点、OpenAI、Azure、Anthropic、AWS Bedrock、Google、Vertex AI、Responses API 等
- 支持用于工具的 Model Context Protocol (MCP)
- LibreChat Agents:
-
🔍 网页搜索:
- 搜索互联网并检索相关信息,丰富 AI 上下文
- 结合搜索提供商、内容抓取器和结果重排器,以获得最佳结果
- 可自定义的 Jina 重排:为重排服务配置自定义 Jina API URL
- 了解更多 →
-
🪄 带代码工件的生成式 UI:
- 代码工件可直接在聊天中创建 React、HTML 和 Mermaid 内容
- 全屏打开预览,并将 Mermaid 图表导出为 SVG 或 PNG
-
🎨 图像生成与编辑
- 使用 GPT-Image-1进行文生图和图生图
- 使用 Stable Diffusion、Flux或任意 MCP 服务进行文生图
- 通过提示词生成令人惊叹的视觉内容,或仅用一条指令润色现有图像
-
💾 预设与上下文管理:
- 创建、保存和共享自定义预设
- 在聊天过程中切换 AI 端点和预设
- 编辑、重新提交并继续消息,同时支持对话分支
- 与特定用户和群组创建并共享提示词
- 分叉消息与对话,实现高级上下文控制
- 按需压缩长对话,同时保留近期上下文
-
💬 多模态与文件交互:
- 使用 Claude 3、GPT-4.5、GPT-4o、o1、Llama-Vision 和 Gemini 上传并分析图像 📸
- 使用自定义端点、OpenAI、Azure、Anthropic、AWS Bedrock 和 Google 与文件聊天 🗃️
- 将消息复制为格式化的富文本,用于文档、电子邮件和协作应用
-
🌎 多语言 UI:
- 英语、中文(简体)、中文(繁体)、阿拉伯语、德语、西班牙语、法语、意大利语
- 波兰语、葡萄牙语(PT)、葡萄牙语(BR)、俄语、日语、瑞典语、韩语、越南语
- 土耳其语、荷兰语、希伯来语、加泰罗尼亚语、捷克语、丹麦语、爱沙尼亚语、波斯语
- 芬兰语、匈牙利语、亚美尼亚语、印度尼西亚语、格鲁吉亚语、拉脱维亚语、泰语、维吾尔语
-
🧠 推理 UI:
- 为 DeepSeek-R1 等思维链/推理 AI 模型提供动态推理 UI
-
🎨 可自定义界面:
- 可自定义的下拉菜单和界面,兼顾高级用户与新手
- 浅色、深色、系统和高对比度外观模式
-
📈 可观测性:
- 使用 OpenTelemetry 导出追踪数据和日志,并连接 Langfuse,深入了解 Agent 和模型
-
🌊 可恢复流:
- 不再丢失回复:如果连接中断,AI 回复会自动重新连接并恢复
- 多标签页和多设备同步:在多个标签页中打开同一聊天,或在另一台设备上继续聊天
- 可用于生产环境:适用于单服务配置,也适用于使用 Redis 的水平扩展部署
-
🗣️ 语音与音频:
- 使用语音转文本和文本转语音,免手动聊天
- 自动发送和播放音频
- 支持 OpenAI、Azure OpenAI 和 Elevenlabs
-
📥 导入和导出对话:
- 从 LibreChat、ChatGPT、Chatbot UI 导入对话
- 将对话导出为截图、Markdown、文本、JSON
-
🔍 搜索与发现:
- 搜索所有消息和对话
-
👥 多用户与安全访问:
- 支持多用户,并通过 OAuth2、LDAP 和电子邮件登录进行安全身份验证
- 内置审核和令牌用量工具
-
🎛️ 管理面板:
- 基于浏览器的 UI,可管理用户、群组、角色和配置覆盖项
- 实时编辑设置以及各角色/群组的权限,无需重新部署
- 随 Docker Compose 配置包一并提供,可通过一条命令完成设置
-
⚙️ 配置与部署:
- 配置代理、反向代理、Docker 及多种部署选项
- 使用 S3 与 CloudFront 实现稳定的媒体链接、边缘传输、签名 Cookie 和安全下载
- 完全在本地使用,或部署到云端
-
📖 开源与社区:
- 完全开源,并公开开发过程
- 由社区推动开发、支持和反馈
🪶 使用 LibreChat 畅享一体化 AI 对话
LibreChat 是一个可自托管的 AI 聊天平台,可在注重隐私的单一界面中整合所有主流 AI 提供商。
除了聊天功能,LibreChat 还提供 AI Agents、Model Context Protocol (MCP) 支持、Artifacts、Code Interpreter、自定义操作、对话搜索,以及适用于企业的多用户身份验证。
开源、持续开发,适合所有重视 AI 基础设施控制权的人。
🌐 资源
GitHub 仓库:
其他:
- 网站: librechat.ai
- 文档: librechat.ai/docs
- 博客: librechat.ai/blog
📝 更新日志
请访问发布页面和更新说明,了解最新动态:
⚠️ 更新前,请查阅更新日志了解重大变更。
⭐ 星标历史
✨ 贡献
欢迎贡献、提出建议、报告错误和提交修复!
对于新功能、组件或扩展,请先提交 issue 并进行讨论,然后再发送 PR。
如果您愿意帮助将 LibreChat 翻译成您的语言,我们非常期待您的贡献!改进翻译不仅能让世界各地的用户更方便地使用 LibreChat,也能提升整体用户体验。请查看我们的翻译指南。
💖 本项目能发展至今,离不开所有贡献者的支持
🎉 特别鸣谢
感谢 Locize 提供翻译管理工具,为 LibreChat 支持多种语言提供助力。
评论
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。