GitHub: github.com/dvmazur/mixtr-20231230152346

GitHub: github.com/dvmazur/mixtral-offloading //@爱可可-爱生活:研究了如何在消费者硬件上运行大型MoE语言模型，并提出一种新的卸载(offloading)策略，利用MoE LLM的特性加速卸载过程，实现了在桌面硬件和Google Colab实例上的高效运行。