社区
教程
Wiki
注册
登录
创作新主题
社区所有版块导航
Python
python开源
Django
Python
DjangoApp
pycharm
DATA
docker
Elasticsearch
分享
问与答
闲聊
招聘
翻译
创业
分享发现
分享创造
求职
区块链
支付之战
aigc
aigc
chatgpt
WEB开发
linux
MongoDB
Redis
DATABASE
NGINX
其他Web框架
web工具
zookeeper
tornado
NoSql
Bootstrap
js
peewee
Git
bottle
IE
MQ
Jquery
机器学习
机器学习算法
Python88.com
反馈
公告
社区推广
产品
短视频
印度
印度
一周十大热门主题
易点天下入选虎嗅智库大鲸榜AIGC数字营销技术商TOP15
用Python优雅地写LaTeX
从AIGC到AGI,为什么我们需要更多的“技术信仰派”?
Python 3.8 新运算符 := 让我们懒出新高度
建筑人坦白局 | AIGC如何引爆传统设计?
UTM坐标转WGS84坐标,以及怎么查看python源代码!
为什么Python是网络安全人最爱的编程语言?
危!比 Python 快 90,000 倍的 Mojo 官宣开源
为Python应用选择最好的Docker镜像
浙大 GIS 实验室融合机器学习及卫星测绘,发布全球海表溶解氧综合建模框架
关注
Py学习
»
chatgpt
ChatGPT 每天的运营成本或超过 480 万元
云头条
• 1 年前 • 70 次点击
半导体研究公司 SemiAnalysis 的首席分析师 Dylan Patel 在接受 IT 外媒 The Information 采访时表示,由于 AI 运行所依赖的技术基础设施成本高昂,使用 ChatGPT 撰写求职信、制定课程计划和重做约会资料使 OpenAI 每天可能要花费高达 70 万美元(482.5 万人民币)。
这是由于 ChatGPT 需要庞大的算力根据用户提示生成响应。
Patel 称:“其中大部分成本来自它们所需的昂贵服务器。”
Patel 在接受《商业内幕》杂志的电话采访时表示,目前运营成本可能更高,因为他的初步估计基于 OpenAI 的 GPT-3 模型。他告诉《商业内幕》杂志,该公司最新的模型 GPT-4 运行起来会更烧钱。
虽然训练 ChatGPT 的大型语言模型可能要花费数千万美元的运营费用或推理成本,但“在任何大规模环境上部署模型后,运营费用或推理成本都远远超过训练成本”,Patel 和 SemiAnalysis 的另一位分析师 Afzal Ahmad 告诉《福布斯》杂志。
他们说:
“事实上,推理 ChatGPT 的成本超过了每周的训练成本。
”
多年来,使用 OpenAI 语言模型的公司一直在付出高昂的代价。
Latitude 是一家开发AI 地牢游戏的初创公司,该游戏使用提示来生成故事情节。据 CNBC 报道,该公司首席执行官 Nick Walton 表示,由于运行该模型以及为 AWS 服务器支付的费用,这家公司在 2021 年每月为 AI 回复数百万用户查询花费 20 万美元。
高昂的成本是 Walton 决定改而选择 AI21 Labs 支持的一家语言软件提供商的原因,他表示,这使其公司的 AI 成本降低了一半,降至每月 10 万美元。
Walton 在接受 CNBC 采访时表示:“我们开玩笑说,我们有人类员工,也有 AI 员工,我们在两者身上所花的钱都差不多。我们每个月在 AI 上花费数十万美元,我们不是一家大型初创公司,所以这是一笔非常巨大的成本。”
Python社区是高质量的Python/Django开发社区
本文地址:
http://www.python88.com/topic/153923
70 次点击
登录后回复