金色财经 发布于 08/26 10:12

OpenAI掀桌 自研推理芯片"墨西哥辣椒"跑赢英伟达

查看原文

资讯摘要

OpenAI 公布了首款自研推理芯片 Jalapeño 的最新测试结果,在多个模型测试中超过 NVIDIA GB200、GB300 系统的效率表现。

AI 摘要

OpenAI公布首款自研推理芯片Jalapeño的测试结果,声称在多个大模型推理测试中每瓦性能超越英伟达GB200和GB300,可同时提升吞吐量并降低延迟,专为Agent工作负载优化。该芯片与Cerebras合作开发,计划2026年底部署,Gen 2和Gen 3已在研发中,OpenAI仍将继续采用英伟达加速器。

AI 问答

OpenAI首款自研推理芯片叫什么?

名为Jalapeño,专为大语言模型推理设计,旨在同时提升吞吐量并降低延迟。

Jalapeño相比英伟达GB200和GB300表现如何?

在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T等模型上,峰值每瓦吞吐量为对比系统的1.5至1.9倍,端到端延迟降至1/1.7至1/3.6。

OpenAI计划何时部署Jalapeño?

计划在2026年底前开始部署到自己的计算基础设施中,目前仍在进行生产验证和软件完善。

打开原文