字数 2328,阅读大约需 12 分钟
5月31号,GitHub上多了一个叫 odysseus 的仓库。
五天,5万多个 Star。
这个Star增速放在整个开源圈都少见,赶紧下载体验了一下这什么东西这么牛X。
Odysseus是什么 Odysseus 不生产模型、不训练模型、不微调模型。
它是一个工作台,把 ChatGPT 那种对话体验搬到你自己的机器上,数据不出门,不经过任何第三方服务器。
PewDiePie在 README 里写的原话:
meant to be the self-hosted version of the UI experience you get from ChatGPT and Claude. But with more jank and fun.
但别被这句自嘲骗了,这东西不是玩具。它底下接了三套正经的开源基础设施:Agent能力跑在 opencode 上, Cookbook 的硬件扫描和模型推荐跑在llmfit上, Deep Research 模块从阿里通义的 DeepResearch 项目改编过来,每一层都不是从零造的轮子。
拼在一起,成了一个我还没在别处见过的组合平台。
功能详情 1. Cookbook:硬件扫描和模型一键部署 打开 Cookbook ,它先扫你的硬件。CPU型号、内存、VRAM大小、GPU支不支持CUDA。扫完之后,从270多个模型里筛出能在你机器上跑的那一批,按适配度排序。点一个,自动下载,自动启动推理服务。
我手头这台机器只有一张RTX 3060,12GB显存。Cookbook扫完给我推了 Llama 3.1 8B 的4-bit量化版,还有 Qwen 2.5 的几个变体。下载全自动,跑起来之后在 Settings 里加一个 endpoint 就能用。
平时想跑个本地模型,我们得先去
HuggingFace 找GGUF文件,选量化版本,配 llama.cpp 参数,调半天还不一定跑得起来。 Cookbook 把这堆操作压成了一个按钮。
不是说它完美。 Cookbook 依赖tmux做后台下载,Windows上得额外装 Git for Windows 才能用。macOS上vLLM和SGLang完全跑不了,只能用 llama.cpp 和 Ollama 。这些限制它全写在文档里了,使用之前多看看文档。
2. Chat:多模型对话切换 标准对话式UI,跟 ChatGPT 、 Claude 的Web版长得差不多。支持 vLLM 、 llama.cpp 、 Ollama 、 OpenRouter 、 OpenAI 、 GitHub Copilot 这些后端。想用哪个加哪个,切换方便。
Odysseus的Chat和Agent界面演示:左侧对话列表,右侧聊天窗口,支持多模型切换 3. Agent:自主执行任务 基于 opencode ,能调MCP工具,读写文件,执行shell命令,上网搜索,有持久记忆。给它一个任务"把Downloads里所有PDF转成 Markdown 然后按日期分类",它自己规划步骤然后干活。
这个操作其实是有风险的,开了shell权限之后,理论上存在被注入恶意命令的可能。
PewDiePie在文档里写了:非管理员默认不给shell权限,部署别把端口暴露到公网。这个是实话,把能跑shell的Agent当玩具随便部署,早晚要出事。
4. Deep Research:自动搜索和报告生成 脱胎于阿里通义的 DeepResearch 项目。输入问题,自己去网上搜资料、读网页、做摘要,生成结构化研究报告。界面上能看到它一步步打开网页、提取信息、组织内容。
Deep Research功能演示:左侧展示研究步骤和来源,右侧生成结构化的研究报告 我拿"2026年上半年最好的开源LLM推理框架对比"跑了一轮。大概八分钟,翻了十几个网页,输出了一份带小标题的报告。质量中规中矩。没惊艳到拍桌子,但省了我自己开网页的时间。
5. Compare:模型盲测对比 输入一个prompt,选两个不同模型(比如 Llama 3.1 8B 和 Qwen 2.5 7B ),同时发过去。结果并排展示,但你看不到哪个结果是哪个模型出的,纯盲测。自己判断完,点reveal揭晓。
Compare盲测功能:两个模型输出并排显示,隐藏模型身份,用户判断后点击reveal才揭晓答案 这个设计把品牌偏见直接干掉了,很多时候所谓的"大模型排名"在具体任务上根本不成立。
6. 文档编辑器:AI辅助写作 支持 Markdown 和 HTML ,带语法高亮。AI能帮你改写、提建议,但不替你从头写。PewDiePie在 README里 的原话:" YOU write the text, AI is there to assist, not the opposite. "
文档编辑器:支持Markdown和HTML,带语法高亮,AI辅助编辑 7. 笔记与任务管理 快速笔记带提醒,待办清单,定时任务Agent可以自动执行。支持ntfy、浏览器、邮件三种通知渠道。
笔记和任务管理:类似Google Keep的轻量笔记,支持提醒和清单 8. 邮件与日历 邮件模块支持IMAP/SMTP,AI自动分类、摘要、草拟回复,还能识别垃圾邮件。日历走 CalDAV 协议,同步 Radicale 、 Nextcloud 、 Apple Calendar 、 Fastmail ,Agent可以直接读写日程。
说实话,邮件、日历、笔记这一套,我用得最少。不是因为做得不好,这年头谁还没自己用惯了的工具。 Odysseus 的野心是让你不需要别的工具了,AI工作台本来就该一站式。实际我该用 Notion 还是 Notion ,该用 Apple Calendar 还是 Apple Calendar
。
但如果你在搭一个完全离线的个人工作环境,这套组合拳确实省事。不用装七八个应用,一个 docker compose 全起来了。
再谈 Vibe Coding Vibe Coding 这个词, Odysseus 发布之后彻底火了。
PewDiePie自己承认,这个项目的代码绝大部分是AI生成的。他对着 Claude 和 GPT-4 描述想要什么功能,把代码贴进去,跑一下看效果,不行继续让AI改。很多代码是在手机上用AI写完的。
结果:一个功能完整的AI工作台,5万 Star,六百多个社区PR。
Odysseus的Star增长曲线,从5月31日发布后几乎垂直上升 社区反应两极分化。一边觉得太牛了,一个没受过正规编程训练的人,靠AI辅助搞出了正经能用的产品。另一边觉得代码质量堪忧,安全性打了折扣,PewDiePie的亿万粉丝可能不了解风险就装上跑。
我看了几眼源码。确实有些地方写得随意,异常处理不完整,模块耦合有点紧。但这不是我见过最差的代码,说实在的,古法编程的项目代码不如这个的大把。社区介入之后重构速度很快,第一波PR就有人在整理架构、加测试、修安全漏洞。
PewDiePie 把项目放在MIT协议下开源,感兴趣的人可以随便fork,随便改,随便商用。代码写得不好可以重构,但方向对了、功能全了、社区进来了,这些比"代码写得漂亮"重要得多。
部署体验 Ubuntu 22.04 ,Docker部署。三条命令:
git clone https://github.com/pewdiepie-archdaemon/odysseus.git cd odysseus docker compose up -d --build 打开 localhost:7000 ,终端打印临时管理员密码。admin登录,改密码,进 Settings 配置模型。
从clone到第一次对话,不到十分钟。自托管项目里算顶级体验,比 Open WebUI 初始配置还简单, Cookbook 帮你搞定了模型下载和配置那部分。
没GPU也能用。接 OpenAI 或 OpenRouter 的 API key ,Chat和Agent功能照常跑。只是 Cookbook 的本地模型推荐对你没太大意义。
macOS用户注意:
Docker在macOS上用不了Metal GPU加速。PewDiePie给了 start-macos.sh 脚本原生跑,但即便原生跑, vLLM 和 SGLang 也不支持macOS,只能用 llama.cpp 和 Ollama 。
Windows用户有 launch-windows.ps1 脚本。 Cookbook 完整功能(后台下载模型、Agent的 shell 工具)需要 Git for Windows 提供的 bash.exe 。文档里写了,不算坑。
硬件要求 跑本地大模型绕不开硬件,PewDiePie自己在视频里展示的是一台两万美元的多GPU机器,跑 Llama 3.1 70B 跟喝水一样简单。
我的3060 12GB跑8B模型没问题,13B模型需要 4-bit 量化才能勉强跑。没独显的笔记本,接API是唯一实用的选择。
这不是 Odysseus 的问题,是大模型推理本身的限制。 README 里写了: "The app itself is lightweight; local model serving is the heavy part and depends on the model, runtime, GPU, and VRAM." 。
总结 Odysseus 不是一个完美的项目,代码有粗糙的地方,安全需要自己多加小心,部分功能处于"能用但别太依赖"的状态。
但它做了一件很重要的事:把AI工作台从云端搬到本地,门槛低到普通用户能接受。Cookbook单拎出来都值得一个独立项目。 Agent 、 Deep Research 、 Compare 这些模块的整合方式,说明PewDiePie对"用户到底需要什么AI工具"想得很清楚。
Vibe Coding 这事,我的态度: 代码是手段,产品是目的。 粗糙可以打磨,哪个现象级的产品第一版也都是能用就行,先跑起来验证市场,再谈其他。
有好GPU、对数据隐私有洁癖、想试试把 ChatGPT 装自己电脑上,值得装一个。轻薄本想跑本地模型,省省吧,接API用Chat模式够了。
GitHub仓库:
https://github.com/pewdiepie-archdaemon/odysseus