本地运行大模型推理经常需要复杂的Python环境、Ollama笨重二进制或llama.cpp编译烦恼，依赖多、启动慢、配置麻烦。Shimmy 用一个Rust单二进制搞定一切，提供完全OpenAI API兼容的本地推理服务器，GGUF + SafeTensors支持，免费永远免费。不仅自动发现Hugging Face/Ollama模型，还支持热模型切换、 ...
