社区
教程
Wiki
注册
登录
创作新主题
社区所有版块导航
Python
python开源
Django
Python
DjangoApp
pycharm
DATA
docker
Elasticsearch
分享
问与答
闲聊
招聘
翻译
创业
分享发现
分享创造
求职
区块链
支付之战
aigc
aigc
chatgpt
WEB开发
linux
MongoDB
Redis
DATABASE
NGINX
其他Web框架
web工具
zookeeper
tornado
NoSql
Bootstrap
js
peewee
Git
bottle
IE
MQ
Jquery
机器学习
机器学习算法
Python88.com
反馈
公告
社区推广
产品
短视频
印度
印度
一周十大热门主题
GitHub 2.1k Star!AI 写 100 章不丢伏笔,这个开源桌面工具太懂作者!
第44周AIGC大事件汇总|即梦短剧工作室全流程上线,微信短剧单集时长提至45秒
ChatGPT要和Codex共用额度,免费重置时代结束了
OpenAI:12 月起 ChatGPT 与 Codex 共享额度【AI 早报 2026-11-01...
谨慎使用! ARTEX 二开投毒:流行 Fork 的 Docker 镜像植入未认证 WebShell
ChatGPT要和Codex抢额度了!奥特曼一声令下,12月Token全部合池
ChatGPT 正在偷偷给你画像,用这段提示词让它交出来
ChatGPT 正在偷偷给你画像,用这段提示词让它交出来
Muse飙升176%,ChatGPT狂涨6500万MAU,马斯克Grok Bot翻倍增长|AI产品榜...
GitHub 4万 Star,又一个编程 Agent 工作台,火了
关注
Py学习
»
chatgpt
物理AI每日一问:机器人的ChatGPT时刻何时来?
中环小作文
• 3 天前 • 31 次点击
加入【中环小作文】知识星球🌏,
聚焦市场核心信息,每日更新一手市场动态及点评、深度行业调研、重磅专家会议纪要;涵盖消费、科技、工业、医药、半导体等领域投研内容!
随心看!每年仅需 388元,即可解锁星球内全部付费内容,轻松获取您需要的实用信息。助力您的信息储备与决策参考!!!
(加入星球后可进群交流V:sjq2838)
全文摘要
1、数字AI ChatGPT发展路径复盘
·ChatGPT发展阶段与判断标准:大语言模型ChatGPT时刻的到来可按行业技术能见度划分为两个阶段:a. GP1到GP3阶段,核心聚焦语言任务,模型初步展现skating low特征,尚未出圈,行业技术能见度较低,投资者无足够证据预判ChatGPT类产品出现;该阶段模型最擅长文本续写而非回答问题,输入问题后会延续问题表述而非输出对应答案。b. 2022年初OpenAI发布InstructGPT产品,实现模型与人类需求对齐,正式确立大语言模型后训练范式,引入SFT、RLHF等基于人类反馈的强化训练工具,可引导模型响应用户问题作答而非续写文本,具备开启对话类大模型时代的前置条件。数字AI领域ChatGPT时刻的前置可观测核心标准为InstructGPT类产品的出现节点。
2、大模型scaling law内涵解读
·scaling law核心逻辑阐释:大模型领域的scaling law是对大语言模型训练过程规律的总结,其核心逻辑为算力、训练数据、算法(主要体现为模型参数量)三者为联动函数关系,需同步扩张。GPT1到GPT3阶段已启动数据扩张、模型参数扩张,是实现ChatGPT时刻的前提条件。
三者匹配要求为:算力对应训练所用的算力卡规模,数据对应输入模型的训练数据规模,算法核心对应模型参数量,三者必须同步提升才能获得较好的训练效果。若三者出现错配会导致训练效果不佳:a. 仅提升训练数据规模但不扩大模型,提升效果有限;b. 仅扩大模型参数量但不增加训练数据,模型会“喂不饱”,训练效果无法达到预期。scaling law明确要求算力投入、训练数据规模、模型参数量三者同步扩张,单方面提升某一要素无法有效优化模型训练效果。
3、机器人ChatGPT时刻观测指标
·三大核心观测指标梳理:机器人领域启动scaling law共有三类核心可观测指标。第一是数据采购量,大模型需足量数据才能学到可泛化的知识,数据相当于大模型的燃料,若数据采购量未上升,大模型不可能实现突破式发展。第二是算力投入,产业端已有验证依据,某头部具身智能企业预计明年下半年投入10万台算力设备,规模接近头部大语言模型厂商的算力投入水平,企业的资本开支决心可侧面印证其对行业发展节奏的判断。第三是模型参数量,是scaling law启动的金标准,即便数据和算力储备充足,也不代表能训练出成熟大模型,因此模型参数量是最终判断行业发展阶段的核心标准。
·云端端侧参数量观测逻辑:具身智能模型与大语言模型的部署需求存在明显差异:大语言模型无将大模型蒸馏到端侧的需求,而具身智能领域核心能力集合集中于云端大模型,端侧模型为云端大模型蒸馏后的小模型,用于满足上车、上机的低延迟和端侧部署要求,因此观测具身智能模型发展应优先关注云端大模型参数量。当前具身智能与大语言模型参数量的对应关系尚未明确,二者任务场景差异较大,暂无法直接类比。
·参数量增长阈值要求:参考GPT系列模型参数量的历史扩张幅度,GPT2到GPT3参数量从1B上涨到200B左右,参数量大幅扩张是大模型能力突破的核心前提。当前头部具身智能大模型参数量为100-200B,需增长至1T(较当前翻10倍)才会进入scaling发展周期,迎来突破式发展。此前具身智能领域发展速度偏慢,对比大语言模型的高速迭代,大众对其能力提升的直观感受较弱,待参数量达阈值后,行业将迎来首个明显的突破式发展阶段。
4、机器人发展阶段及落地预判
·当前发展阶段定位:对标数字AI的发展周期来看,当前机器人技术发展阶段对应大模型2019-2020年的发展水平,即处于GPT2到GPT3的过渡阶段。相较于市场偏谨慎的预期,对机器人产业的后续发展可持更乐观的态度。
·ChatGPT时刻核心定义:当前机器人落地存在场景适配痛点,需要针对客户的具体场景开展几小时到十几小时的专门特训才能投入使用。参照大语言模型的跨越式发展路径,机器人的ChatGPT时刻核心特征为泛化能力足够强,可覆盖80%-90%的应用场景,无需针对特定场景或任务进行微调即可直接开展工作,无需为每个对接客户单独开展定制化训练。
·落地时间预判与依据:可从四个维度判断机器人ChatGPT时刻的落地节奏,综合判断预计2-3年内机器人可达到ChatGPT时刻,整体判断逻辑与数字AI一致,核心判断标准为scaling law是否生效:
a. 技术路径收敛维度:目前VLA、JPA世界模型、世界动作模型等多条技术路径并存,类似GPT2时期大模型领域还存在Bert等不同路线,Decoder和Encoder架构尚未统一,未形成明确的技术共识,说明尚未出现具备明确增长预期的最优技术路径;
b. 预训练数据获取维度:此前机器人优质预训练数据主要为真机遥操数据、人工标注的第一视角异构或乌米数据,成本过高导致企业难以负担大规模数据采购的资本开支。随着异构技术及相关架构切换,目前已有企业实现100万小时预训练数据的规模,数据可扩展性已经显现;
c. scaling law显现维度:参照大模型的发展经验,GPT1到GPT3阶段的2020年左右第一代scaling law就已被提出,机器人领域此前一直在探索可落地的scaling law,今年下半年产业界的机器大脑公司已经观察到相关迹象,该方向进展值得乐观;
d. 模型规模增长维度:目前头部企业披露的模型参数尚未出现爆炸式增长,仅从100B提升到150B级别的小幅增长不符合发展要求,需要至少达到从100B提升到500B的几倍增长规模才符合产业爆发的前置特征。
整体来看,机器人产业可借鉴大语言模型已经验证的成熟技术,发展效率更高,建议对产业变化保持更乐观的态度。
Q&A
Q: 数字AI的ChatGPT时刻是如何发生的,是在什么情况下出现的?
A: 数字AI的ChatGPT时刻分为两个阶段。第一阶段GPT1到GPT3聚焦语言任务,展现初步scaling law但不出圈。明确的观察节点是2022年初OpenAI发布InstructGPT,实现与人类需求对齐,确立SFT和RLHF等基于人类反馈的强化训练后训练工具,使模型从文本续写转变为回答问题,具备对话时代模型开启的前置条件。因此前置观测标准是找到InstructGPT出现的时候。
Q: 机器人对比数字AI的GPT1到3现在处在什么节点,出现ChatGPT时刻需要什么条件和观测指标?
A: 出现ChatGPT时刻的前提是开始scaling law,即算力、数据、算法参数量同步扩张。具体观测指标包括数据采购量是否上升,大模型需要足够数据作为燃料;算力投入方面,如Figure说明明年下半年投入大概10万台very rubing算力,接近头部大语言模型厂规模,资本开支决心证明支撑scaling law的证据;唯一金标准是模型参数量上升,GPT1到GPT3参数量扩大100倍,必须观察到参数量上升才是最终判断标准。
Q: 根据公布的云端或端侧参数量指标,可以判断机器人ChatGPT时刻接下来什么时间点出现吗?
A: 能力观测应主要关注云端大模型参数规模,因为端侧逻辑是将云端大模型蒸馏成小模型以满足低延迟和部署需求。目前具身智能与大语言模型参数规模对应关系不明朗,最重要是关注趋势。如果行业领先的云端具身智能大脑模型参数量从100到200B上升到1T即翻10倍,就代表行业开始scaling law周期,迎来突破式发展。
Q: 现在机器人处于数字AI GPT的哪个阶段?
A: 可以乐观一点,大概在GPT2到GPT3,也就是大概2019年这个阶段。
Q: 若要观察到10倍参数量变化并等到GPT3和GPT4的时间点,机器人大概需要3年之内、3年之后还是5年之后?
A: 机器人ChatGPT时刻定义为泛化能力足够强,80%和90%场景不需要微调直接工作。对标大语言模型,判断路径包括架构收敛方面,目前VLA、JPA、世界模型等多路径存在,类似GPT2时期技术未完全统一;预训练数据方面,现在有小公司做到100万小时预训练数据规模,数据可扩展性更靠近GPT3阶段;对scaling law的理解方面,今年下半年产业界确实观察到了,大概在GPT3阶段;模型规模快速增长方面,目前头部参数未达爆炸式增长,至少需从100B提升到500B。综合评判大概在2019到2020年阶段,因可借鉴大语言模型技术,理想在2到3年内达到ChatGPT时刻。
Python社区是高质量的Python/Django开发社区
本文地址:
http://www.python88.com/topic/203018
登录后回复