今天聊聊LibreChat,应该很多人都知道,我们好早之前也聊过这个,在 GitHub 上快4万Star了。之前这项目还是Danny Avila一个人写的,现在ClickHouse把它收了,2300多万次Docker拉取,370多个贡献者,算是一步步成长起来了。

这玩意到底是啥
LibreChat是个开源AI聚合项目,MIT协议,免费,自己部署。OpenAI、Anthropic、Google、Azure、AWS、Groq、Mistral、DeepSeek、Ollama,全塞进一个界面。
用了它之后不用在ChatGPT和Claude之间切来切去了。数据存在我们自己服务器上,对话不会流到第三方平台。30多种语言界面,自带用户管理和SSO,团队能用,个人开发者装家里NAS上也能跑。

功能详情
一个界面管所有模型
界面跟ChatGPT长得差不多,左边会话列表,中间聊天窗口,底部输入框,上手没门槛。

模型切换是最爽的地方,顶部下拉菜单里,GPT-5、Claude Sonnet 4.6、Gemini 2.5、DeepSeek V3、本地Ollama跑的Llama 3,随便选。

同一个会话里,随时换模型继续聊。刚才用Claude写代码,下一句切到GPT画图,再让DeepSeek推个理,官方平台给不了这种自由度。
它还支持自定义API端点。只要接口兼容OpenAI格式,我们自己的vLLM、LM Studio、公司私有模型,全都能塞进去。
Agent和MCP工具
LibreChat内置了一套Agent框架。界面上拖拽配置,不用写代码就能搭专属助手,Agent能调用MCP服务器、执行代码、搜索文件、调用外部API。

社区有人共享Agent。下载别人的配置,改改参数就能用。团队协作时,把自己的Agent分享给特定用户或组,别人点开就能用。

Skills功能也挺有意思,写一套SKILL.md指令包,让Agent按固定流程干活。手动触发也行,自动触发也行,常驻后台也行,自己挑。Subagent把复杂任务拆给子Agent,每个子Agent有自己的上下文窗口,互不干扰。
代码解释器
LibreChat自带代码解释器。Python、Node.js、Go、Java、C/C++、PHP、Rust、Fortran,都能跑。执行环境做了沙箱隔离。上传文件,处理数据,下载结果,全在聊天窗口里搞定。
分析CSV文件的时候,直接拖进聊天框,让模型写Python脚本处理。脚本在沙箱里运行,结果以表格或图表返回,不需要本地装Python环境。
这个解释器跑在ClickHouse开源的code-interpreter项目上。自己部署,数据不会离开服务器。
Artifacts和图像生成
Artifacts让模型直接在聊天里生成React组件、HTML页面、Mermaid流程图。点一下就能预览,代码和可视化结果并排显示。

图像生成支持DALL-E 3、Stable Diffusion、Flux、GPT-Image-1。文本生图、图片编辑、图生图,都能做,还能接任何支持图像生成的MCP服务器。
多模态和文件处理
上传图片、PDF、视频给模型分析,Claude 3、GPT-4o、Gemini这些支持视觉的模型,直接读取图片内容。PDF也能解析,模型根据文档内容回答问题。
独立的rag_api服务管RAG功能。上传文档,系统向量化存进pgvector数据库。之后问问题,模型先检索文档里的相关内容,再生成答案,适合搭内部知识库。
会话管理和搜索
LibreChat的会话管理比官方ChatGPT更灵活。给会话打标签、建文件夹、搜索历史消息。MeiliSearch把所有对话内容做了索引,输入关键词,瞬间找到三个月前某段代码。
Fork功能很实用,聊到一半,想换个方向试试,点一下Fork,从当前消息分出一个新会话。原来的会话还在,新的会话自己跑自己的。对比不同模型的回答,或者测试不同提示词的效果。
断网重连机制做得可以。网络波动导致连接中断,恢复后自动续上流式输出。换设备、换浏览器标签,同一会话状态同步。
快速上手
LibreChat用Docker Compose部署。我们准备一台Linux服务器,至少4G内存。
克隆仓库:
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
复制环境变量文件:
cp .env.example .env
编辑.env,填入我们的API密钥。OpenAI、Anthropic、Google,想接哪个填哪个。本地Ollama的话,填Ollama地址。
启动服务:
docker-compose up -d
服务会拉取MongoDB、RediSearch、LibreChat主程序这几个容器。等容器跑起来,我们打开浏览器访问服务器的3080端口,注册第一个账号,这个账号自动获得管理员权限。
管理员面板直接在浏览器里操作。我们管理用户、分配角色、设置API密钥、配置模型参数。改完即时生效,不需要重启服务。

最后聊聊
LibreChat不完美,UI偶尔卡顿,Agent配置有时候抽风。但比起每个月给OpenAI、Anthropic、Google分别充钱,还要担心平台拿你的数据去训练,自己搭一个显然更划算。
开源项目的好处就在这儿,代码摊开给你看,不喜欢就改,觉得缺功能就提PR或者自己写。ClickHouse收购之后,开发节奏反而更快了。
如果你还在各个AI平台之间来回切换,或者公司数据不敢往第三方云上传,LibreChat值得试试。部署大概二十分钟,装完你就明白为什么它能霸榜GitHub。
GitGub仓库:
https://github.com/danny-avila/LibreChat