← 返回文章

LibreChat:把多个模型放进同一个界面的聊天应用

更新于

把多个模型放进同一个界面的聊天应用。

LibreChat 的官方界面或演示截图
封面:来源 · 以仓库为准

LibreChat 是一个可自托管的 AI 聊天平台,把 OpenAI、Anthropic、Google、Azure、AWS Bedrock、Vertex AI 以及任意 OpenAI 兼容接口放进同一个界面。项目由 LibreChat-AI 组织维护,TypeScript 编写,2023 年 2 月创建,提供多用户认证、对话管理、Agents、MCP、代码解释器和 Artifacts。它与“再套一层聊天框”不同,重点在于把多家模型、工具和团队权限放在一套可部署的系统里。本文按官方 README 整理,未在本机完整实测;具体功能和部署要求以当前版本文档为准。

一个界面接多家模型

README 列出的模型来源包括 Anthropic(Claude)、AWS Bedrock、OpenAI、Azure OpenAI、Google、Vertex AI、OpenAI Responses API,以及 Ollama、Groq、Cohere、Mistral、OpenRouter、DeepSeek、Qwen 等兼容端点。自定义端点不需要额外代理,填 Base URL 和 Key 即可。

对话层面提供预设、消息分支、编辑后重新提交、对话分叉、全文搜索、导入导出和断线续传。对同时用多家模型的用户,最大的变化是不用在几个网页之间复制上下文:同一个对话里可以切换端点和预设,历史记录留在自己的数据库。导入功能兼容 LibreChat、ChatGPT 和 Chatbot UI 的对话格式。

Agents、MCP 与代码解释器

Agents 是当前版本的重点功能之一。可以在界面里创建不写代码的助手,挂载 MCP Server、文件搜索、代码执行和 Skills;Agent 可以分享给指定用户或组,也有社区 Agent 市场。子代理把任务交给带独立上下文的子运行,Agent Management API 允许用 OIDC 客户端管理 Agent、文件和 Skill。

代码解释器基于 ClickHouse/code-interpreter,支持 Python、Node.js、Go、C/C++、Java、PHP、Rust 和 Fortran 的沙箱执行,文件可以上传、处理和下载。Artifacts 能直接在聊天里生成 React、HTML 和 Mermaid 内容,Mermaid 图可导出 SVG 或 PNG。Web Search 把搜索、抓取和重排组合起来,为模型补充上下文。语音方面支持语音转文字和文字转语音,可接 OpenAI、Azure OpenAI 和 ElevenLabs。

部署与运维

README 提供 Docker Compose 方案,也给出 Railway、Zeabur、Sealos 的一键部署按钮。自托管需要准备数据库、Redis 和存储;Redis 用于断线续传和横向扩展,媒体文件可以接 S3 与 CloudFront。端点、模型和功能开关通过 librechat.yaml 配置,管理面板可以在浏览器里管理用户、组、角色和配置覆盖,不必每次改文件重启。

多用户场景支持 OAuth2、LDAP 和邮箱登录,带审核与 token 花费统计。可观测性方面可以接 OpenTelemetry 和 Langfuse,查看模型调用、工具轮次和成本。README 特别提醒升级前读 changelog,因为版本之间会有破坏性变更。

典型场景

一个十人小团队不想让每个人各自订阅几个 AI 网页版,于是用 Docker 在内网部署 LibreChat。管理员配置好 OpenAI 和 Anthropic 的 Key,成员用公司账号登录;有人在 Agent 里挂上内部文档的检索,有人用代码解释器跑数据分析。对话和文件留在自己的服务器,离职时账号一停即可。对外分享时,可以只把某个 Agent 分享给指定用户或组,不必把整个后台交出去。

和官方客户端、轻量前端的差别

ChatGPT、Claude 的官方客户端体验最完整,但只服务自家模型,数据在厂商侧;LibreChat 把选择权和数据主权交给自己,代价是运维。与只面向本地 Ollama 的轻量聊天前端相比,LibreChat 的功能面更宽,带多用户、权限、MCP 和审计,但也更重。它不提供模型本身,所有推理仍走你配置的 API 或本地运行时。

限制与风险

自托管意味着数据库、密钥、备份、升级和安全补丁都要自己负责。不同提供商的能力并不对齐,图像、推理、工具调用是否可用取决于端点和模型。版本迭代快,README 明确要求升级前看 changelog;生产环境还应配置反向代理、TLS、速率限制和日志脱敏。代码解释器和 Agent 工作区能执行代码,必须限制可访问的文件和网络范围,避免把沙箱变成跳板。许可证以仓库为准,商用前要确认条款。

适合谁

适合需要统一多个模型、要求数据留在自有环境、并且有能力维护 Docker 服务的团队;也适合想给非技术同事提供 AI 入口、同时保留权限和审计的管理员。只想偶尔聊几句、不愿维护服务器的个人,用官方客户端更省事。

入口