社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

GitHub开源神器:自建AI聊天站,所有模型一键切换!

Java知音 • 2 月前 • 330 次点击  

 

今天聊聊LibreChat,应该很多人都知道,我们好早之前也聊过这个,在 GitHub 上快4万Star了。之前这项目还是Danny Avila一个人写的,现在ClickHouse把它收了,2300多万次Docker拉取,370多个贡献者,算是一步步成长起来了。

这玩意到底是啥

LibreChat是个开源AI聚合项目,MIT协议,免费,自己部署。OpenAI、Anthropic、Google、Azure、AWS、Groq、Mistral、DeepSeek、Ollama,全塞进一个界面。

用了它之后不用在ChatGPT和Claude之间切来切去了。数据存在我们自己服务器上,对话不会流到第三方平台。30多种语言界面,自带用户管理和SSO,团队能用,个人开发者装家里NAS上也能跑。

功能详情

一个界面管所有模型

界面跟ChatGPT长得差不多,左边会话列表,中间聊天窗口,底部输入框,上手没门槛。

模型切换是最爽的地方,顶部下拉菜单里,GPT-5、Claude Sonnet 4.6、Gemini 2.5、DeepSeek V3、本地Ollama跑的Llama 3,随便选。

同一个会话里,随时换模型继续聊。刚才用Claude写代码,下一句切到GPT画图,再让DeepSeek推个理,官方平台给不了这种自由度。

它还支持自定义API端点。只要接口兼容OpenAI格式,我们自己的vLLM、LM Studio、公司私有模型,全都能塞进去。

Agent和MCP工具

LibreChat内置了一套Agent框架。界面上拖拽配置,不用写代码就能搭专属助手,Agent能调用MCP服务器、执行代码、搜索文件、调用外部API。

社区有人共享Agent。下载别人的配置,改改参数就能用。团队协作时,把自己的Agent分享给特定用户或组,别人点开就能用。

Skills功能也挺有意思,写一套SKILL.md指令包,让Agent按固定流程干活。手动触发也行,自动触发也行,常驻后台也行,自己挑。Subagent把复杂任务拆给子Agent,每个子Agent有自己的上下文窗口,互不干扰。

代码解释器

LibreChat自带代码解释器。Python、Node.js、Go、Java、C/C++、PHP、Rust、Fortran,都能跑。执行环境做了沙箱隔离。上传文件,处理数据,下载结果,全在聊天窗口里搞定。

分析CSV文件的时候,直接拖进聊天框,让模型写Python脚本处理。脚本在沙箱里运行,结果以表格或图表返回,不需要本地装Python环境。

这个解释器跑在ClickHouse开源的code-interpreter项目上。自己部署,数据不会离开服务器。

Artifacts和图像生成

Artifacts让模型直接在聊天里生成React组件、HTML页面、Mermaid流程图。点一下就能预览,代码和可视化结果并排显示。

图像生成支持DALL-E 3、Stable Diffusion、Flux、GPT-Image-1。文本生图、图片编辑、图生图,都能做,还能接任何支持图像生成的MCP服务器。

多模态和文件处理

上传图片、PDF、视频给模型分析,Claude 3、GPT-4o、Gemini这些支持视觉的模型,直接读取图片内容。PDF也能解析,模型根据文档内容回答问题。

独立的rag_api服务管RAG功能。上传文档,系统向量化存进pgvector数据库。之后问问题,模型先检索文档里的相关内容,再生成答案,适合搭内部知识库。

会话管理和搜索

LibreChat的会话管理比官方ChatGPT更灵活。给会话打标签、建文件夹、搜索历史消息。MeiliSearch把所有对话内容做了索引,输入关键词,瞬间找到三个月前某段代码。

Fork功能很实用,聊到一半,想换个方向试试,点一下Fork,从当前消息分出一个新会话。原来的会话还在,新的会话自己跑自己的。对比不同模型的回答,或者测试不同提示词的效果。

断网重连机制做得可以。网络波动导致连接中断,恢复后自动续上流式输出。换设备、换浏览器标签,同一会话状态同步。

快速上手

LibreChat用Docker Compose部署。我们准备一台Linux服务器,至少4G内存。

克隆仓库:

git clone https://github.com/danny-avila/LibreChat.git
cd
 LibreChat

复制环境变量文件:

cp .env.example .env

编辑.env,填入我们的API密钥。OpenAI、Anthropic、Google,想接哪个填哪个。本地Ollama的话,填Ollama地址。

启动服务:

docker-compose up -d

服务会拉取MongoDB、RediSearch、LibreChat主程序这几个容器。等容器跑起来,我们打开浏览器访问服务器的3080端口,注册第一个账号,这个账号自动获得管理员权限。

管理员面板直接在浏览器里操作。我们管理用户、分配角色、设置API密钥、配置模型参数。改完即时生效,不需要重启服务。

最后聊聊

LibreChat不完美,UI偶尔卡顿,Agent配置有时候抽风。但比起每个月给OpenAI、Anthropic、Google分别充钱,还要担心平台拿你的数据去训练,自己搭一个显然更划算。

开源项目的好处就在这儿,代码摊开给你看,不喜欢就改,觉得缺功能就提PR或者自己写。ClickHouse收购之后,开发节奏反而更快了。

如果你还在各个AI平台之间来回切换,或者公司数据不敢往第三方云上传,LibreChat值得试试。部署大概二十分钟,装完你就明白为什么它能霸榜GitHub。

GitGub仓库:

https://github.com/danny-avila/LibreChat

 

点击下方卡片,关注Java知音

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/198148