NVRx 在 Amazon EKS 上主要解决分布式训练中的哪些问题?
它通过异步检查点、进程内重启和 ft_launcher 作业内重启,分别减少检查点 I/O 阻塞、应对软故障与硬故障,从而降低 GPU 空转时间。
(翻译)使用 NVRx 在 Amazon EKS 上进行容错分布式训练
Integrate NVIDIA Resiliency Extension (NVRx) into PyTorch FSDP training on Amazon EKS to overlap checkpoint I/O with training and recover from GPU faults in seconds. This post covers async checkpointing, in-process restart, and ft_launcher in-job restart, with H100 benchmarks at 2 to 8 nodes showing
本文介绍如何在 Amazon EKS 上将 NVIDIA Resiliency Extension(NVRx)集成到 PyTorch FSDP 分布式训练中,通过异步检查点、进程内重启和 ft_launcher 作业内重启分层处理 GPU 故障,并在 H100 集群 2 至 8 节点规模下给出基准结果与复现代码。
它通过异步检查点、进程内重启和 ft_launcher 作业内重启,分别减少检查点 I/O 阻塞、应对软故障与硬故障,从而降低 GPU 空转时间。
用 TorchAsyncCheckpoint 的 async_save 将状态字典交给后台进程写入,主线程继续训练,并在下一次保存前或任务退出时用 finalize_async_save 提交上一次写入。
使用 p5.48xlarge 节点,每节点 8 张 NVIDIA H100 80GB GPU 和 32 个 EFA 网络接口,并搭配同一可用区的 Amazon FSx for Lustre SCRATCH_2 共享存储。
只会搜关键词还不够,Agent 需要一套更聪明的本地搜索
字节6年,如何一步步走上带20人团队的leader圆桌:跃迁·AI深流,价值跃升——AI深水时代,从模型竞逐到产业价值涌现 | 36氪 2026产业未来大会前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了
豆包 2.1 Pro模型更新,已接入豆包工作协同办公进入Agent时代,飞书+豆包工作跑在了最前面
Opus 5.2深夜上线 RSI真来了?Denuvo 起诉黑客违反 DMCA 反规避条款华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下
“极端”空头压境 美联储周三不加息就是最大意外
物理 AI 的大结果何时到来?
二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?
早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导美国军方首次证实在太空部署了武器
耐克和lululemon双双失速,运动品牌进入碎片化时代
社区速递 158 | 便宜耐造的副厂手柄与大学宿舍里那些相见恨晚的装备Windows 11 的 9 月例行安全更新再次引发了大量故障
2人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?PS2 Fat 使用的安全芯片在时隔 26 年被破解
AI没有泡沫 只有割裂时光机器遭遇大规模机器流量
Meta 打造“组织第二大脑”智能体的设计思路
AI 负责创造,人来干脏活,这事儿能否停一下?Meta新研究:字节模型蒸馏后,天花板破了
AI 产品经理怎么入行?岗位方向、核心能力与转型路径一次讲清量子位2026人工智能年度榜单,正式启动!
当我怀念旧版 Edge 浏览器时,我在怀念什么?
Arc主网上线 生态内有哪些项目?
OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成Rust
从入门到精通,一篇文章带你入门产品经理!(2026 年最新版)