OpenAI推出GPT-6 Astra Ultrafast,基于Blackwe…

模型AI 评分 95/100NVIDIA Blog(RSS)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

GPT-6 Astra Ultrafast现已面向API及符合条件的ChatGPT Work与Codex用户开放。该模式借助NVIDIA Blackwell架构能力及推理优化,token生成速度较Astra Standard模式最高提升8倍。加速主要惠及编码智能体的编辑测试调试循环、工具调用间的响应耗时及交互应用流畅度。OpenAI利用内部模型持续优化NVIDIA GPU上的推理软件,且NVIDIA平台的可编程性允许在训练、推理与强化学习间复用算力,随需求变化调整资源避免过度配置。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

Ultrafast 已上线可用

GPT-6 Astra Ultrafast 目前已经在 OpenAI 的 API 中提供,面向符合条件的 ChatGPT Work 与 Codex 用户开放。它运行在 NVIDIA Blackwell GPU 之上,并借助针对 OpenAI 模型所做的推理优化,调用 Blackwell 架构的能力。与 Astra Standard 模式相比,Ultrafast 的 token 生成速度最高可提升到 8 倍。这一倍数来自推理侧的优化,而不是模型本身规模的改变。对开发者而言,生成更快意味着编码智能体的编辑、测试、调试循环被压缩,工具调用之间等待回复的时间减少,交互式应用的响应感更强。当一次提速被放进反复执行的工作流里,效果会被放大:智能体写代码、调用工具、检查结果、再决定下一步,这些环节都处在对时间敏感的循环中。

提速落在哪些环节

Ultrafast 把 Astra 的能力带进这些对时间敏感的循环。NVIDIA 的 AI 基础设施帮助 OpenAI 在开发者需要的时候输出更多有用的模型结果。OpenAI 推理负责人 Philippe Tillet 表示,NVIDIA 在工具与文档上的投入,使 OpenAI 的模型在编写 Blackwell 与 Rubin GPU 程序方面表现突出;Astra 能把这类知识转化为高性能 kernel,让 NVIDIA 硬件在延迟、吞吐与成本这条完整前沿上都具备吸引力。落到 Astra Ultrafast 上,就是智能体写代码、使用工具、处理复杂任务时获得更快的模型响应。这段表述说明提速并非只体现在单次请求,而是覆盖智能体执行任务的多个环节。

部署后仍在持续优化

性能提升并不会在模型部署之后就停止。OpenAI 正在用自己的模型帮助改进运行在 NVIDIA GPU 上的推理软件,利用平台的可编程性来测试并落地改进。这类持续进行的工作可以让模型响应随时间变得更快,也让已部署的基础设施产出更高。OpenAI 计算首席技术官 Uday Ruddarraju 表示,与 NVIDIA 的合作让 AI 更快、更有用;OpenAI 用内部模型优化 NVIDIA GPU 上的推理,而 NVIDIA 的可编程性帮助交付了 Astra Ultrafast 背后的加速。可编程的 NVIDIA 平台让开发者与研究人员在模型演进过程中复用同一套基础设施,覆盖训练、推理与强化学习。这种灵活性有助于团队在需求变化时重新分配算力,提高利用率,避免为每种工作负载单独过度配置。

适用范围与获取方式

开发者现在就可以通过 API 使用 GPT-6 Astra Ultrafast。材料同时提到,该模式面向符合条件的 ChatGPT Work 与 Codex 用户开放,这意味着可用范围并非无差别覆盖,而是与账号或产品资格相关。8 倍这一数字的参照对象是 Astra Standard 模式,比较的是 token 生成速度,而不是其他维度的指标。对读者来说,如果工作流中包含大量重复的生成与工具调用,提速带来的收益会更明显;如果只是偶发的单次请求,感知到的差别相对有限。材料没有给出定价、配额或具体资格判定的细节。

为什么值得看

8倍推理提速大幅缩短智能体工作流耗时,Blackwell可编程性实现跨任务算力复用,直接影响开发效率与基础设施成本。

OpenAIGPT智能体强化学习算力

信源1 家

  1. [1]NVIDIA Blog(RSS)线索来自 AIHOTNVIDIA 介绍 Blackwell GPU 如何加速 OpenAI GPT-6 Astra Ultrafast

关键事实

  • GPT-6 Astra Ultrafast现已通过API开放,并向符合条件的ChatGPT Work和Codex用户提供[1]

  • 该模式token生成速度比Astra Standard模式最高快8倍[1]

  • OpenAI利用自身内部模型优化NVIDIA GPU上的推理软件以实现加速[1]

  • NVIDIA可编程平台支持在训练、推理和强化学习间复用基础设施[1]

相关 · 模型

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。