Jalapeño 芯片在哪些模型上进行了跑分?
公开数据在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 上进行了测试。

作者丨 郑佳美 编辑丨岑 峰  
OpenAI 公布自研推理芯片 Jalapeño 首批跑分,在多个大模型上单位功耗 Token 吞吐提升约1.5-1.9倍、延迟降低。文章对比 OpenAI、NVIDIA 和 Google 的推理硬件路线:OpenAI 采用同构灵活调度,NVIDIA 引入 Groq LPU 拆分 Prefill/Decode,Google 将 TPU 8 分为训练和推理版本,指出 AI 芯片竞争焦点正从 FLOPS 转向 Token 成本。
公开数据在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 上进行了测试。
因为 Decode 阶段每次只生成一个 Token,并行度下降,但模型权重仍要读取,算术强度低,导致内存带宽成为瓶颈。
GPU 负责 Prefill,大部分 Decode 放到 LPU,Decode 中的 Attention 回到 GPU,通过 micro-batch 重叠计算和通信,用 FPGA 作为异步桥接。
Java新闻汇总:Simple JSON API、GlassFish、Jakarta EE、JNoSQL和Open Liberty、LangChain4j豆包手机明日开卖,AI能帮你操作App了吗?
月之暗面:网传创始人及员工信息系恶意造谣;OpenAI 放弃今年上市;iPhone Duo炒到9万,黄牛贷款欲囤货|AI周报
510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导
不止一颗CPU?智能体经济时代,Arm对算力平台有了新理解
CoinEx宣布体面关停:值得肯定但不该神化
个贷不良四年涨 23 倍:这门从“救大行”长出来的生意,底层逻辑是什么?
企业该买模型还是养上下文?
产品经理的体面,是一块不能失守的 “括约肌”
现在参与以太坊原生质押为什么要先排队一个月?从前沿技术到产业资本,2026产业未来大会看见「深水之上」
亚太唯一!腾讯云首次入选IDC MarketScape 全球托管边缘服务领导者类别
语义翻译的操作日常:把”我觉得不对”变成”机器能查”
Stella:“显化”想要的人生,60天35万美元月收入圆桌:中国之光成为新共识| 36氪 2026产业未来大会
OpenAI 总裁:AGI 已经发生
AMC 炮轰 Robinhood:股票归谁做主?
WorkBuddy + 美图设计室,在对话框里就能解决办公设计任务?
月下载暴增366%,上海真人社交公司切入东南亚AI陪伴,AI角色也能“奔现”
二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?
对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」
谁在给我们制造 AI 焦虑
当罗永浩站在群众的对立面
2nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」
黄仁勋正演讲遇特朗普突然来电:通话全程直播
香港第一、全球第八:OSL进化背后的数字资产新格局58秒出杯,能拉花的咖啡机器人,在全球70国卖出600万杯
场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构地平线第1500万颗征程芯片搭载大众 ID. AURA T6,HSD V2.1 即将推出前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了