NVIDIA GPU 如何加速 OpenAI GPT-6 Astra Ultrafast
How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast
AI 导读
OpenAI 的 GPT-6 Astra Ultrafast 已在 NVIDIA Blackwell GPU 上运行，并通过 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户开放。借助针对 NVIDIA Blackwell 架构的推理优化，Ultrafast 的 token 生成速度最高可达 Astra Standard 模式的 8 倍，可缩短编程智能体的编辑-测试-调试周期，并减少工具调用之间的响应生成时间。OpenAI 还利用自身模型优化 NVIDIA GPU 上的推理软件，以持续提升响应速度和基础设施利用率。