Py学习  »  docker

现在可以通过Docker本地运行Unsloth GGUF模型了!-20251119064440

爱可可-爱生活 • 4 天前 • 37 次点击  

2025-11-19 06:44

现在可以通过Docker本地运行Unsloth GGUF模型了!无论是Mac还是Windows,只需一行命令,甚至无需写代码,就能轻松启动大型语言模型(LLM)。

这是Unsloth与Docker的合作成果,动态GGUF格式现已开放给所有人。只需执行:

docker model run ai/gpt-oss:20B

即可在本地快速运行20亿参数的模型,极大提 ...
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/189346