为什么分布式训练出现吞吐量下降时,GPU利用率和队列等待时间仍然正常?
文章指出这可能是链路级重传导致单个rank停滞,在同步集合通信(如NCCL all-reduce)中其他rank阻塞,形成级联故障,需要全栈可观测性来发现灰故障。
(翻译)如何为NVIDIA AI工厂选择全栈可观测性

AI infrastructure spans multiple layers, from compute and networking to storage, orchestration, and applications. When performance degrades…
本文介绍NVIDIA AI工厂的全栈可观测性选型方法。作者提出先枚举平台、GPU、网络、集群等故障域,再将组件映射到DCGM、NVSM、UFM、NetQ等遥测工具,以最少工具覆盖关键告警。文章以InfiniBand集群为例,演示如何用IPMI、DCGM、NVSM、UFM和BCM构建面向SLO的告警集,并统一到Prometheus/Grafana排障看板,避免告警疲劳。
文章指出这可能是链路级重传导致单个rank停滞,在同步集合通信(如NCCL all-reduce)中其他rank阻塞,形成级联故障,需要全栈可观测性来发现灰故障。
先枚举故障域,再根据组件到遥测源的决策框架选择最小工具集,例如GPU用DCGM、InfiniBand用UFM、集群用BCM,并统一到Prometheus/Grafana。
OpenAI少赚200亿 倒霉却是英伟达
新款理想 i6 六项升级公布,旗舰配置下放,要做「全球爆款」!大厂夹缝中的ManusSpaceX:猎鹰9号火箭距执行Semp erCitiusSDA任务发射不到一小时特斯拉FSD,在欧洲被打回原形AI产品经理到底要学哪些技术?传统PM不要把时间浪费在这3件事上OPC企业容易陷入的三个增长误区教育部:教师发展中心全新上线,教师AI素养全覆盖培训启动Claude、GPT“跨界”做视频,Seedance们的护城河还牢吗?这届 IROS 2026 上,具身学术与产业边界正在消融乘联分会:9月1-30日全国乘用车新能源市场零售114.1万辆,同比去年9月同期下降12%节后机票价格“跳水”,多条航线低于高铁票价ModStartBlog v11.3.0 安全加固、体验优化,自动化测试更强大
停产一年,宝马带着 iX4 重回溜背市场,海外售价 53 万元起XXL-JOB v3.5.0 发布|OpenAPI 增强、动态 AccessToken、海量日志索引优化分发与连接:抖音向左,美团向右,两种模式到底有什么差别智能咖啡机 10 天内产生 1TB 数据流量
Tiger Research:2026年三季度加密资产行业投资报告
兰博基尼、保密协议 Ledger被盗事件疑点重重加强汽车产品创新设计等方面管理,四部门征求意见三晖电气:股东于文彪及其一致行动人拟减持不超3%公司股份一个没卖出去的 AI 产品,我决定把它开源上海国际能源交易中心调整原油、低硫燃料油期货相关合约交易限额国庆期间全国涉旅游特种设备安全形势总体平稳
谷歌Gemini 4新模型泄露 内测评价:这不Opus 5.5吗App+1|专注星空:让「少刷手机」这件事更愉悦一点App工厂,才是AI时代最被低估的生意
黄仁勋为微软站台:没有 Windows 就不会有英伟达,Satya 当场“讨市值”
全球最大独立 AI 原生影视公司,开始打破工具与制片厂的边界为什么 AI 产品需要体验评测