Py学习  »  chatgpt

ChatGPT 每天的运营成本或超过 480 万元

云头条 • 1 年前 • 90 次点击  
半导体研究公司 SemiAnalysis 的首席分析师 Dylan Patel 在接受 IT 外媒 The Information 采访时表示,由于 AI 运行所依赖的技术基础设施成本高昂,使用 ChatGPT 撰写求职信、制定课程计划和重做约会资料使 OpenAI 每天可能要花费高达 70 万美元(482.5 万人民币)。
这是由于 ChatGPT 需要庞大的算力根据用户提示生成响应。
Patel 称:“其中大部分成本来自它们所需的昂贵服务器。”
Patel 在接受《商业内幕》杂志的电话采访时表示,目前运营成本可能更高,因为他的初步估计基于 OpenAI 的 GPT-3 模型。他告诉《商业内幕》杂志,该公司最新的模型 GPT-4 运行起来会更烧钱。
虽然训练 ChatGPT 的大型语言模型可能要花费数千万美元的运营费用或推理成本,但“在任何大规模环境上部署模型后,运营费用或推理成本都远远超过训练成本”,Patel 和 SemiAnalysis 的另一位分析师 Afzal Ahmad 告诉《福布斯》杂志。他们说:“事实上,推理 ChatGPT 的成本超过了每周的训练成本。
多年来,使用 OpenAI 语言模型的公司一直在付出高昂的代价。
Latitude 是一家开发AI 地牢游戏的初创公司,该游戏使用提示来生成故事情节。据 CNBC 报道,该公司首席执行官 Nick Walton 表示,由于运行该模型以及为 AWS 服务器支付的费用,这家公司在 2021 年每月为 AI 回复数百万用户查询花费 20 万美元。
高昂的成本是 Walton 决定改而选择 AI21 Labs 支持的一家语言软件提供商的原因,他表示,这使其公司的 AI 成本降低了一半,降至每月 10 万美元。
Walton 在接受 CNBC 采访时表示:“我们开玩笑说,我们有人类员工,也有 AI 员工,我们在两者身上所花的钱都差不多。我们每个月在 AI 上花费数十万美元,我们不是一家大型初创公司,所以这是一笔非常巨大的成本。”

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/153923
 
90 次点击