社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

5 天 5 万 Star!又一款开源的「AI工作台」在GitHub上杀疯了

Java知音 • 1 月前 • 209 次点击  

 

 

 

字数 2328,阅读大约需 12 分钟

5月31号,GitHub上多了一个叫odysseus的仓库。

五天,5万多个 Star。

这个Star增速放在整个开源圈都少见,赶紧下载体验了一下这什么东西这么牛X。

Odysseus是什么

Odysseus 不生产模型、不训练模型、不微调模型。

它是一个工作台,把 ChatGPT 那种对话体验搬到你自己的机器上,数据不出门,不经过任何第三方服务器。

PewDiePie在README里写的原话:

meant to be the self-hosted version of the UI experience you get from ChatGPT and Claude. But with more jank and fun.

但别被这句自嘲骗了,这东西不是玩具。它底下接了三套正经的开源基础设施:Agent能力跑在opencode上,Cookbook的硬件扫描和模型推荐跑在llmfit上,Deep Research模块从阿里通义的DeepResearch项目改编过来,每一层都不是从零造的轮子。

拼在一起,成了一个我还没在别处见过的组合平台。

功能详情

1. Cookbook:硬件扫描和模型一键部署

打开Cookbook,它先扫你的硬件。CPU型号、内存、VRAM大小、GPU支不支持CUDA。扫完之后,从270多个模型里筛出能在你机器上跑的那一批,按适配度排序。点一个,自动下载,自动启动推理服务。

我手头这台机器只有一张RTX 3060,12GB显存。Cookbook扫完给我推了Llama 3.1 8B的4-bit量化版,还有Qwen 2.5的几个变体。下载全自动,跑起来之后在Settings里加一个endpoint就能用。

平时想跑个本地模型,我们得先去 HuggingFace找GGUF文件,选量化版本,配llama.cpp参数,调半天还不一定跑得起来。Cookbook把这堆操作压成了一个按钮。

不是说它完美。Cookbook依赖tmux做后台下载,Windows上得额外装Git for Windows才能用。macOS上vLLM和SGLang完全跑不了,只能用llama.cppOllama。这些限制它全写在文档里了,使用之前多看看文档。

2. Chat:多模型对话切换

标准对话式UI,跟ChatGPTClaude的Web版长得差不多。支持vLLMllama.cppOllamaOpenRouterOpenAIGitHub Copilot这些后端。想用哪个加哪个,切换方便。

Odysseus的Chat和Agent界面演示:左侧对话列表,右侧聊天窗口,支持多模型切换
Odysseus的Chat和Agent界面演示:左侧对话列表,右侧聊天窗口,支持多模型切换

3. Agent:自主执行任务

基于opencode,能调MCP工具,读写文件,执行shell命令,上网搜索,有持久记忆。给它一个任务"把Downloads里所有PDF转成Markdown然后按日期分类",它自己规划步骤然后干活。

这个操作其实是有风险的,开了shell权限之后,理论上存在被注入恶意命令的可能。

PewDiePie在文档里写了:非管理员默认不给shell权限,部署别把端口暴露到公网。这个是实话,把能跑shell的Agent当玩具随便部署,早晚要出事。

4. Deep Research:自动搜索和报告生成

脱胎于阿里通义的DeepResearch项目。输入问题,自己去网上搜资料、读网页、做摘要,生成结构化研究报告。界面上能看到它一步步打开网页、提取信息、组织内容。

Deep Research功能演示:左侧展示研究步骤和来源,右侧生成结构化的研究报告
Deep Research功能演示:左侧展示研究步骤和来源,右侧生成结构化的研究报告

我拿"2026年上半年最好的开源LLM推理框架对比"跑了一轮。大概八分钟,翻了十几个网页,输出了一份带小标题的报告。质量中规中矩。没惊艳到拍桌子,但省了我自己开网页的时间。

5. Compare:模型盲测对比

输入一个prompt,选两个不同模型(比如Llama 3.1 8BQwen 2.5 7B),同时发过去。结果并排展示,但你看不到哪个结果是哪个模型出的,纯盲测。自己判断完,点reveal揭晓。

Compare盲测功能:两个模型输出并排显示,隐藏模型身份,用户判断后点击reveal才揭晓答案
Compare盲测功能:两个模型输出并排显示,隐藏模型身份,用户判断后点击reveal才揭晓答案

这个设计把品牌偏见直接干掉了,很多时候所谓的"大模型排名"在具体任务上根本不成立。

6. 文档编辑器:AI辅助写作

支持MarkdownHTML,带语法高亮。AI能帮你改写、提建议,但不替你从头写。PewDiePie在README里的原话:"YOU write the text, AI is there to assist, not the opposite."

文档编辑器:支持Markdown和HTML,带语法高亮,AI辅助编辑
文档编辑器:支持Markdown和HTML,带语法高亮,AI辅助编辑

7. 笔记与任务管理

快速笔记带提醒,待办清单,定时任务Agent可以自动执行。支持ntfy、浏览器、邮件三种通知渠道。

笔记和任务管理:类似Google Keep的轻量笔记,支持提醒和清单
笔记和任务管理:类似Google Keep的轻量笔记,支持提醒和清单

8. 邮件与日历

邮件模块支持IMAP/SMTP,AI自动分类、摘要、草拟回复,还能识别垃圾邮件。日历走CalDAV协议,同步RadicaleNextcloudApple CalendarFastmail,Agent可以直接读写日程。

说实话,邮件、日历、笔记这一套,我用得最少。不是因为做得不好,这年头谁还没自己用惯了的工具。Odysseus的野心是让你不需要别的工具了,AI工作台本来就该一站式。实际我该用Notion还是Notion,该用Apple Calendar还是Apple Calendar

但如果你在搭一个完全离线的个人工作环境,这套组合拳确实省事。不用装七八个应用,一个docker compose全起来了。

再谈 ‌Vibe Coding

Vibe Coding 这个词,Odysseus发布之后彻底火了。

PewDiePie自己承认,这个项目的代码绝大部分是AI生成的。他对着ClaudeGPT-4描述想要什么功能,把代码贴进去,跑一下看效果,不行继续让AI改。很多代码是在手机上用AI写完的。

结果:一个功能完整的AI工作台,5万 Star,六百多个社区PR。

Odysseus的Star增长曲线,从5月31日发布后几乎垂直上升
Odysseus的Star增长曲线,从5月31日发布后几乎垂直上升

社区反应两极分化。一边觉得太牛了,一个没受过正规编程训练的人,靠AI辅助搞出了正经能用的产品。另一边觉得代码质量堪忧,安全性打了折扣,PewDiePie的亿万粉丝可能不了解风险就装上跑。

我看了几眼源码。确实有些地方写得随意,异常处理不完整,模块耦合有点紧。但这不是我见过最差的代码,说实在的,古法编程的项目代码不如这个的大把。社区介入之后重构速度很快,第一波PR就有人在整理架构、加测试、修安全漏洞。

PewDiePie 把项目放在MIT协议下开源,感兴趣的人可以随便fork,随便改,随便商用。代码写得不好可以重构,但方向对了、功能全了、社区进来了,这些比"代码写得漂亮"重要得多。

部署体验

Ubuntu 22.04,Docker部署。三条命令:

git clone https://github.com/pewdiepie-archdaemon/odysseus.git

cd odysseus

docker compose up -d --build

打开localhost:7000,终端打印临时管理员密码。admin登录,改密码,进Settings配置模型。

从clone到第一次对话,不到十分钟。自托管项目里算顶级体验,比Open WebUI初始配置还简单,Cookbook帮你搞定了模型下载和配置那部分。

没GPU也能用。接OpenAIOpenRouterAPI key,Chat和Agent功能照常跑。只是Cookbook的本地模型推荐对你没太大意义。

macOS用户注意:

Docker在macOS上用不了Metal GPU加速。PewDiePie给了start-macos.sh脚本原生跑,但即便原生跑,vLLMSGLang也不支持macOS,只能用llama.cppOllama

Windows用户有launch-windows.ps1脚本。Cookbook完整功能(后台下载模型、Agent的shell工具)需要Git for Windows提供的bash.exe。文档里写了,不算坑。

硬件要求

跑本地大模型绕不开硬件,PewDiePie自己在视频里展示的是一台两万美元的多GPU机器,跑Llama 3.1 70B跟喝水一样简单。

我的3060 12GB跑8B模型没问题,13B模型需要4-bit量化才能勉强跑。没独显的笔记本,接API是唯一实用的选择。

这不是Odysseus的问题,是大模型推理本身的限制。README里写了:"The app itself is lightweight; local model serving is the heavy part and depends on the model, runtime, GPU, and VRAM."

总结

Odysseus不是一个完美的项目,代码有粗糙的地方,安全需要自己多加小心,部分功能处于"能用但别太依赖"的状态。

但它做了一件很重要的事:把AI工作台从云端搬到本地,门槛低到普通用户能接受。Cookbook单拎出来都值得一个独立项目。AgentDeep ResearchCompare这些模块的整合方式,说明PewDiePie对"用户到底需要什么AI工具"想得很清楚。

Vibe Coding这事,我的态度:代码是手段,产品是目的。 粗糙可以打磨,哪个现象级的产品第一版也都是能用就行,先跑起来验证市场,再谈其他。

有好GPU、对数据隐私有洁癖、想试试把ChatGPT装自己电脑上,值得装一个。轻薄本想跑本地模型,省省吧,接API用Chat模式够了。

GitHub仓库:

https://github.com/pewdiepie-archdaemon/odysseus

 

点击下方卡片,关注Java知音

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/197425