社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  Git

LLM从构建到应用工具全集:推理大模型Github索引梳理

老刘说NLP • 1 年前 • 297 次点击  

今天是2025年3月17日,星期一,北京,天气晴。

我们继续来看大模型的一些技术总结,从构建但落地,做个全局的索引。特意设定两个,一个是LLM相关汇总github,主打一个全局。一个是关于推理大模型相关汇总,包括语言模型以及多模态大模型。

是个很好的索引,大家可以收藏。

抓住根本问题,做根因,专题化,体系化,会有更多深度思考。大家一起加油。

一、LLM相关汇总github 

这类github是一个集大成,主打一个全局。

1、awesome-LLM-resourses

LLM资料总结(数据处理、模型训练、模型部署、o1 模型、小语言模型、视觉语言模型,依旧还在更新,内容涉及数据Data、微调Fine-Tuning、推理Inference、评估Evaluation、体验 Usage、知识库RAG、智能体Agents、搜索Search、书籍Book、课程Course、教程Tutorial、论文Paper、社区Community、Open o1、Small Language Model、Small Vision Language Model多个内容。

地址:https://github.com/WangRongsheng/awesome-LLM-resourses

2、llm-engineer-toolkit

llm-engineer-toolkit,汇集了120多个按类别分类的大语言模型(LLM)相关库和工具,涵盖了从LLM训练、应用开发、推理、服务到数据提取、生成、代理、评估、监控、提示设计、结构化输出、安全与嵌入模型等多个方面。但是并不全面。

地址:https://github.com/KalyanKS-NLP/llm-engineer-toolkit

二、推理大模型相关github总结 

1、Post-training总结

技术综述《A Survey on Post-training of Large Language Models》,对当前后训练的技术总结。

也可看看演变时间线:

地址:https://arxiv.org/pdf/2503.06072

2、推理模型长文本压缩技术总结

这类,主要专注于推理大模型。

Awesome-Long2short-on-LRMs,包括论文、带啊、数据集和评估,有多种策略。

地址:https://github.com/Hongcheng-Gao/Awesome-Long2short-on-LRMs

3、大模型推理技术总结

Awesome LLM Reasoning,总结了推理大模型相关技术。

地址:https://kkgithub.com/atfortes/Awesome-LLM-Reasoning

4、多模态推理大模型技术总结

Awesome-MLLM-Reasoning当前多模态推理大模型的几个技术总结工作,包括数据集以及技术方案。

地址:https://github.com/phellonchen/Awesome-MLLM-Reasoning/

同名的还有,纯强化学习路线的多模态推理大模型技术总结,Awesome RL-based Reasoning MLLMs

地址:https://github.com/Sun-Haoyuan23/Awesome-RL-based-Reasoning-MLLMs

关于我们 

老刘,NLP开源爱好者与践行者,主页:https://liuhuanyong.github.io。

对大模型&知识图谱&RAG&文档理解感兴趣,并对每日早报、老刘说NLP历史线上分享、心得交流等感兴趣的,欢迎加入社区,社区持续纳新。

加入会员方式:关注公众号,在后台菜单栏中点击会员社区->会员入群加入


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/180132