成本更低,回答更优:在 Foundry 测试中,最新 Astra 推理模型用更少的输出 token 取得了更高准确率,降低了单次任务成本。
OpenAI 的 GPT-6.2 Astra 和 GPT-6.2 Sol 现已在 Microsoft Foundry 正式发布(GA)。两款模型均在前代基础上升级:GPT-6.2 Astra 是 Astra 系列的新一代推理模型,专为高难度任务打造;GPT-6.2 Sol 则面向全天候运行的生产环境 Agent,在团队日常倚重的主力模型基础上进一步升级。两款模型都顺应了企业 AI 的演进方向:不止于回答问题,更能在企业现有工具中完成实际工作。
模型能力只是其中一环。身份认证、网络、数据处理、治理和合规问题往往会拖慢 AI 项目的推进节奏。Microsoft Foundry 在 Azure 上整合了这些基础能力,帮助企业快速、可靠地将最新 GPT 模型从原型推向生产。
GPT-6.2 Astra 与 GPT-6.2 Sol 的核心升级GPT-6.2 Astra 由 GPT-6 Astra 升级而来,重点提升了推理、写作、编程、计算机操作(computer use),以及文档、幻灯片和电子表格的生成能力。同时,它也能以更少消耗完成更多工作:在 Foundry 基准测试中,GPT-6.2 Astra 用明显更少的输出 token 取得了高于 GPT-6 Astra 的平均准确率。在 token 单价相同的情况下,能够以更低的单次任务成本交付更优结果。
综合这些升级,GPT-6.2 Astra 能够承担体量更大的复杂工作。给定一个开放式目标,模型即可制定计划、权衡取舍,并通过工具调用和计算机操作跨多个业务应用推进执行,最终交付符合企业模板与标准、可直接供审阅的文档、幻灯片、电子表格及分析结果。
GPT-6.2 Sol 基于 GPT-6.1 构建,致力于让技术写作更简练、编程与调试更聚焦,并更准确地判断工具调用的时机与方式;同时提升了网站开发中的前端设计能力,交互风格也更加自然。
两款模型均支持文本和图像输入、文本输出,并可配合现有的 Foundry API 和工具使用。
每项任务适合使用哪款模型,应通过评测来确定。面对复杂推理和高风险决策,可先从 GPT-6.2 Astra 入手;针对生产环境 Agent、编程工作流,以及兼顾质量与成本的高频任务,则可评测 GPT-6.2 Sol。选型时不能只看 token 单价,还应结合质量与可靠性综合衡量单次任务成本。Foundry 将评测、追踪与监控整合在一处,帮助团队基于实测依据做出选型决策,且无需迁移平台即可切换模型。
单次任务成本取决于请求输入与输出两端的 token 使用效率。GPT-6.2 Astra 已能减少输出 token 消耗,而提示缓存则将这种效率延伸到了输入端。两款模型在标准(Standard)部署中除默认的 30 分钟选项外,均支持 12 小时缓存写入。这样,即便 Agent 在夜间或会话间隔期间处于空闲状态,仍可按折扣缓存读取费率直接复用已缓存的指令、文档和工具定义,无需重复写入。
详细配置说明请参阅:12 小时缓存写入。
12 小时缓存选项需显式开启。首次将内容存入缓存时按写入费率计费,12 小时写入单价高于 30 分钟写入;后续命中复用则按更低的缓存读取费率计费。若使用默认选项会导致同一提示前缀在一天内多次过期并重复写入,可选用 12 小时选项;若稳定流量已能让缓存持续保持活跃,保留默认的 30 分钟选项即可。如需开启 12 小时选项,请在 Responses API 请求中将 prompt_cache_options.ttl 设为 "12h":
JSON
{
"model": "",
"prompt_cache_key": "support-assistant-v1",
"prompt_cache_options": { "mode": "explicit", "ttl": "12h" },
"input": [
{ "role": "system", "content": [{
"type": "input_text",
"text": "<1,024+ tokens of reusable instructions>",
"prompt_cache_breakpoint": { "mode": "explicit" } }] },
{ "role": "user", "content": "" }
]
}
提高 token 使用效率是降低单次任务成本的一个抓手;另一个抓手是合理选择 Agent 的运行位置,让每项工作负载匹配所需的容量、数据驻留和计费模式。
首发阶段,两款模型支持三种部署类型:
•Global Standard(全局标准):覆盖全部 28 个受支持的 Azure 区域,提供最充裕的容量与高效吞吐量,按用量计费。
•Data Zone Standard(数据区域标准):数据处理保留在所选数据区域(美国、欧盟或亚太)内,帮助组织在满足数据驻留与合规要求的同时,无需放弃使用最新的前沿模型。
•Global Provisioned Throughput(全局预配吞吐量):按预配吞吐量单位(PTU)预留专用容量,适用于需要可预测延迟与成本的大规模工作负载。
模型与代码均保持不变,仅需调整部署方式。当数据驻留、规模或性能需求发生变化时,直接切换部署类型即可,无需改动架构。
单位:美元/百万 token
Global Standard
短上下文:输入 $8.00;缓存输入 $0.40;30 分钟缓存写入 $10.00;12 小时缓存写入 $20.00;输出 $40.00。
长上下文:输入 $16.00;缓存输入 $0.80;30 分钟缓存写入 $20.00;12 小时缓存写入 $40.00;输出 $60.00。
Data Zone Standard(美国)
短上下文:输入 $8.80;缓存输入 $0.44;30 分钟缓存写入 $11.00;12 小时缓存写入 $22.00;输出 $44.00。
长上下文:输入 $17.60;缓存输入 $0.88;30 分钟缓存写入 $22.00;12 小时缓存写入 $44.00;输出 $66.00。
Data Zone Standard(欧盟)
短上下文:输入 $9.60;缓存输入 $0.48;30 分钟缓存写入 $12.00;12 小时缓存写入 $24.00;输出 $48.00。
长上下文:输入 $19.20;缓存输入 $0.96;30 分钟缓存写入 $24.00;12 小时缓存写入 $48.00;输出 $72.00。
Data Zone Standard(亚太)
短上下文:输入 $9.60;缓存输入 $0.48;30 分钟缓存写入 $12.00;12 小时缓存写入 $24.00;输出 $48.00。
长上下文:输入 $19.20;缓存输入 $0.96;30 分钟缓存写入 $24.00;12 小时缓存写入 $48.00;输出 $72.00。
单位:美元/百万 token
Global Standard
短上下文:输入 $2.00;缓存输入 $0.10;30 分钟缓存写入 $2.50;12 小时缓存写入 $5.00;输出 $10.00。
长上下文:输入 $4.00;缓存输入 $0.20;30 分钟缓存写入 $5.00;12 小时缓存写入 $10.00;输出 $15.00。
Data Zone Standard(美国)
短上下文:输入 $2.20;缓存输入 $0.11;30 分钟缓存写入 $2.75;12 小时缓存写入 $5.50;输出 $11.00。
长上下文:输入 $4.40;缓存输入 $0.22;30 分钟缓存写入 $5.50;12 小时缓存写入 $11.00;输出 $16.50。
Data Zone Standard(欧盟)
短上下文:输入 $2.40;缓存输入 $0.12;30 分钟缓存写入 $3.00;12 小时缓存写入 $6.00;输出 $12.00。
长上下文:输入 $4.80;缓存输入 $0.24;30 分钟缓存写入 $6.00;12 小时缓存写入 $12.00;输出 $18.00。
Data Zone Standard(亚太)
短上下文:输入 $2.40;缓存输入 $0.12;30 分钟缓存写入 $3.00;12 小时缓存写入 $6.00;输出 $12.00。
长上下文:输入 $4.80;缓存输入 $0.24;30 分钟缓存写入 $6.00;12 小时缓存写入 $12.00;输出 $18.00。
以上价格适用于 Standard 部署,单位为美元/百万 token。GPT-6.2 Astra 和 GPT-6.2 Sol 也可通过 Global Provisioned Throughput 使用,价格为每 PTU 每小时 1 美元。详情请参阅 Azure OpenAI 定价页面。
GPT-6.2 Astra 和 GPT-6.2 Sol 采用与 Foundry 中 GPT-6 系列其他模型一致的分层保护机制:
•提示与输出层:内容筛选器与安全护栏(guardrails)。
安全保障同样延伸至底层平台,确保企业始终掌控自身数据:
•身份与访问:Microsoft Entra 身份与访问控制。
•合规:工作负载继承 Azure 广泛的合规资质。
•治理:通过 Microsoft Purview 执行数据策略,并在工作流需要时设置人工审核节点。
这些控制措施有助于更便捷地落实安全防护并保持人工在环把关,但任何一组控制措施都无法完全消除风险。每个组织仍有责任根据自身业务场景和监管要求选择合适的控制措施。
团队构建下一个 Agent,需要的不只是强大的模型。Foundry 将 GPT-6.2 Astra 和 GPT-6.2 Sol 与灵活的部署方式、数据驻留选项及企业级控制措施相结合,支持将其从首个工作负载推向大规模生产。
*本文中介绍的 Microsoft Azure 服务,适用于国际版的企业级服务。
*本账号所发布的内容均为微软原创作品或经权利人授权发布。未经许可,任何单位或个人不得复制、发行、传播、改编、翻译或汇编。
参考链接
[1] Prompt caching
https://learn.microsoft.com/en-us/azure/foundry/openai/how-to/prompt-caching
[2] Azure OpenAI pricing page
https://azure.microsoft.com/en-us/pricing/details/azure-openai