社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

推荐 GitHub 上一个比较不错的中文大模型解决方案,代码完全-20230925210000

GitHubDaily • 1 年前 • 420 次点击  

2023-09-25 21:00

推荐 GitHub 上一个比较不错的中文大模型解决方案,代码完全开源,无商用限制。

近日,Colossal-AI 团队充分利用了 LLaMA-2 的基础能力,采用高效的训练方法,仅使用约 8.5B token 数据、15 小时、数千元的训练成本,成功构建了性能卓越的中文 LLaMA-2,在多个评测榜单性能优越。

相较于原始 LLaMA-2,在成功提升中文能力的基础上,进一步提升其英文能力,性能可与开源社区同规模预训练 SOTA 模型媲美。

开源代码与权重:github.com/hpcaitech/ColossalAI

该项目在 GitHub 完全开源了全套训练流程、代码及权重,无商用限制,并提供了一个完整的评估体系框架 ColossalEval,以实现低成本的可复现性。

不仅如此,相关方案还可迁移应用到任意垂类领域,以及从头预训练大模型的低成本构建。感兴趣的同学可以试下。
Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/162182
 
420 次点击