NVIDIA Technical Blog 发布于 09/16 00:55

How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera Rubin

(翻译)NVIDIA Groq 3 LPX 确定性执行如何在 NVIDIA Vera Rubin 上实现高能效高交互性推理

查看原文

资讯摘要

Power is a defining constraint for AI factories. As AI workloads demand a full compute platform to serve them, each component of that platform must maximize…

AI 摘要

文章介绍 NVIDIA Vera Rubin 平台以每瓦性能为核心优化 AI 工厂功耗,其中 Groq 3 LPX 通过确定性执行模型,让编译器在运行前生成精确到时钟周期的执行与数据搬运计划,据此预测电流需求曲线,并结合 Preemptive Power 与 Clock Period Synthesis 缩小电压保护带,把更多电力用于实际 AI 计算。

AI 问答

Groq 3 LPX 的确定性执行模型是什么?

LPU 编译器在任务运行前就能安排每份数据移动到哪个计算单元、何时执行,精确到时钟周期,并覆盖机架内全部 256 颗 LPU 芯片。

PEP 和 CPS 两项技术分别起什么作用?

PEP 让芯片提前指令供电网络调整输出电压,使需求到来前电压已在变化;CPS 可缩短或拉长个别时钟周期,降低电流上升速率 di/dt。

为什么缩小电压保护带能提升能效?

保护带并不直接驱动 AI 负载,而功耗与电压平方成正比,多供 10% 电压会多耗约 21% 功耗,缩小保护带可让更多电力用于计算。

打开原文

更多资讯

清晰法案有概率通过?市场可能并未定价金色财经 · 09/15 13:50清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单雷峰网 · 09/16 16:05YC 最值钱的这 20家公司,没有一家来自最近5年人人都是产品经理 · 09/15 10:39AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?人人都是产品经理 · 09/15 11:3236氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块36氪 · 09/16 14:35芯片从业者拆解OpenAI造芯,还能再快3个月?雷峰网 · 09/16 18:38香港第一、全球第八:OSL进化背后的数字资产新格局金色财经 · 09/16 21:42前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了量子位 · 09/15 13:39缓存不该困在一台服务器里InfoQ 中文 · 09/16 07:00超越代币化:让RWA在链上发挥实用价值金色财经 · 09/15 12:11耐克和lululemon双双失速,运动品牌进入碎片化时代人人都是产品经理 · 09/15 11:40圆桌:探路·产业分工的新图谱,看到新未来——国家力量如何转化为产业价值 | 36氪 2026产业未来大会36氪 · 09/15 17:39上市前交易市场:永续合约化的Pre-IPO资产金色财经 · 09/16 09:21夜晚睡眠光照太亮可能会损伤心脏Solidot · 09/16 00:45金色Web3.0日报 | 黄仁勋批驳「AI末日论」金色财经 · 09/15 21:48Steam Frame 起售价 1059 美元Solidot · 09/15 14:59Anthropic CEO自爆行业黑幕金色财经 · 09/15 19:37Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18圆桌:中国之光成为新共识| 36氪 2026产业未来大会36氪 · 09/15 17:15当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:38当AI能解千禧难题,再次证明答案不再是门槛人人都是产品经理 · 09/15 09:44英国殖民之前的澳大利亚原居民人口约 222 万Solidot · 09/15 23:17清晰法案投票失败 后续还有机会吗?金色财经 · 09/16 14:34CoinShares Q2 挖矿季报:矿企倒贴钱退出金色财经 · 09/16 19:31“极端”空头压境 美联储周三不加息就是最大意外金色财经 · 09/16 08:22Grayscale:比特币能否优化私募市场投资组合?金色财经 · 09/15 09:10做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04Building AI to accelerate science and improve livesGoogle AI Blog · 09/16 00:00