Jev 模型国外火完国内火，最近到处都在聊它。
这是 TypeSafe AI 推出的一个决策模型。
![]()
这个模型不能聊天、不会写文章、不会写代码，只下判断。
你给它一段文本和几个问题，它几十毫秒就能返回结构化的答案和概率。快，还省钱。
下面这几个网站收集了各种 JEV 模型的实超案例。不了解 JEV 模型的，可以直接看真实的使用案例。就能很好的体会这个模型到底是怎么个情况。render.qmuse.pub/p/muse/8079593307628562/index.html
还可以通过下面这个链接，了解一下哪些开源的项目在应用 Jev 模型。logicrw.github.io/awesome-jev-projects/
回到正题。
AI 时代的 GitHub 定律：今天有一个叫 xxx 的东西刷屏，明天一定有一个叫 Openxxx 的登上开源热搜。当初 Manus 刚爆火，开源复刻就来了。Claude Design 也是。Muse 火了，一定会有 OpenMuse 除了。Jev 也没逃过这个规律。有一个叫 Laya 的开源项目就是开源版的 Jev 模型。Laya 是一个开源的非自回归决策模型，和 Jev 一样不做文本生成，只做结构化判断。
名字来自梵文"लय"，意思是消融。
一段文本输入进去，经过模型后坍缩成一个判断结果，挺形象的。
地址：https://github.com/NandhaKishorM/laya
这个项目上线一周左右拿到了将近 2 万个 Star。
有意思的是，Laya 的研究其实比 Jev 更早。
作者在 2025 年 3 月就发了第一篇论文，同年 9 月又发了第二篇。
比 Jev 早了将近一年半。
只是当时做的是垂直场景，没引起广泛关注。Jev 把同样的思路做成了通用水平产品，一下子就出圈了。
相比月 Jev，Laya 宣称在精度、速度、校准、多语言覆盖和成本五个维度全面优于 Jev。
整体可以看这个图。
Laya 开源时间不长，社区已经出现了不少周边项目。
Laya-MLX：Mac 本地版，用贪吃蛇秀操作
@mizorewww 把 Laya 搬到了 Apple 的 MLX 框架上，让 Mac 用户可以直接在本地跑。
不用装 PyTorch 啥的乱七八糟的东西。
比如用 Laya-MLX 玩贪吃蛇。
模型每秒做 60 次决策，实时判断，每一步都根据当前画面状态决定蛇往哪个方向走。
给浏览器 Agent 装一个快速判断
浏览器 Agent 在操作网页时需要做大量小决策：点哪个元素、填什么内容、当前页面状态是什么。
以前这些决策要么交给大模型就比较慢。
有一个开发者把 Laya 微调成了浏览器 Agent 的决策头。
在约 45 个候选元素中选对目标的成功率从 0.10 提升到 0.66。
真实任务成功率从 0% 到 62%，每步只要 17-23 毫秒。
Laya 的部署方式挺灵活的，从一行命令到完整的服务化都有。
最快的方式，装个 Python 环境，一行命令搞定：
装好后可以直接用命令行试试：
想跑 HTTP 服务也支持：
pip install "laya[serve]"LAYA_DEVICE=cuda LAYA_PRELOAD=1 laya-serve
这样会在本地起一个 FastAPI 服务，暴露 POST /v1/systemone 接口，和 Jev 的 API 格式兼容。
如果你的系统已经在用 Jev，把请求地址从 Jev 的 API 换成本地地址就行。
支持用环境变量控制设备、预加载哪些模型、线程数等。
想用 Docker，项目提供了 Compose 配置：
docker compose -f compose.yaml -f compose.http.yaml up --build laya-serve
支持 CPU 和 CUDA GPU。第一次启动会下载模型权重，之后就很快了。
想在 Mac 上本地跑，社区版 Laya-MLX 不需要 PyTorch，原生 MLX 运行：
内存占用不到 1GB，M 系列芯片上延迟只要几毫秒。
想微调，项目提供了 Kaggle Notebook，在免费 2xT4 GPU 上大约 4-5 个小时就能完成完整流程：构建数据集、RLCD 训练、温度拟合、评估、推送到 Hub。
在自己的领域数据上微调后，效果会比基础版好很多。
04
点击下方卡片，关注逛逛 GitHub
这个公众号历史发布过很多有趣的开源项目，如果你懒得翻文章一个个找，你直接关注微信公众号：逛逛 GitHub ，后台对话聊天就行了：
