AWS Machine Learning Blog 发布于 09/17 02:59

Fault tolerant distributed training on Amazon EKS using NVRx

(翻译)使用 NVRx 在 Amazon EKS 上进行容错分布式训练

查看原文

资讯摘要

Integrate NVIDIA Resiliency Extension (NVRx) into PyTorch FSDP training on Amazon EKS to overlap checkpoint I/O with training and recover from GPU faults in seconds. This post covers async checkpointing, in-process restart, and ft_launcher in-job restart, with H100 benchmarks at 2 to 8 nodes showing

AI 摘要

本文介绍如何在 Amazon EKS 上将 NVIDIA Resiliency Extension(NVRx)集成到 PyTorch FSDP 分布式训练中,通过异步检查点、进程内重启和 ft_launcher 作业内重启分层处理 GPU 故障,并在 H100 集群 2 至 8 节点规模下给出基准结果与复现代码。

AI 问答

NVRx 在 Amazon EKS 上主要解决分布式训练中的哪些问题?

它通过异步检查点、进程内重启和 ft_launcher 作业内重启,分别减少检查点 I/O 阻塞、应对软故障与硬故障,从而降低 GPU 空转时间。

异步检查点是如何工作的?

用 TorchAsyncCheckpoint 的 async_save 将状态字典交给后台进程写入,主线程继续训练,并在下一次保存前或任务退出时用 finalize_async_save 提交上一次写入。

文章使用了什么集群与存储配置进行测试?

使用 p5.48xlarge 节点,每节点 8 张 NVIDIA H100 80GB GPU 和 32 个 EFA 网络接口,并搭配同一可用区的 Amazon FSx for Lustre SCRATCH_2 共享存储。

打开原文

更多资讯

只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17字节6年,如何一步步走上带20人团队的leader人人都是产品经理 · 09/16 14:39圆桌:跃迁·AI深流,价值跃升——AI深水时代,从模型竞逐到产业价值涌现 | 36氪 2026产业未来大会36氪 · 09/15 17:23前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了量子位 · 09/15 13:39豆包 2.1 Pro模型更新,已接入豆包工作雷峰网 · 09/16 14:01协同办公进入Agent时代,飞书+豆包工作跑在了最前面量子位 · 09/16 15:46Opus 5.2深夜上线 RSI真来了?金色财经 · 09/15 11:43Denuvo 起诉黑客违反 DMCA 反规避条款Solidot · 09/16 23:27华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27“极端”空头压境 美联储周三不加息就是最大意外金色财经 · 09/16 08:22物理 AI 的大结果何时到来?人人都是产品经理 · 09/16 17:25二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?人人都是产品经理 · 09/15 08:53早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导爱范儿 / APPSO · 09/16 08:45美国军方首次证实在太空部署了武器Solidot · 09/15 16:07耐克和lululemon双双失速,运动品牌进入碎片化时代人人都是产品经理 · 09/15 11:40社区速递 158 | 便宜耐造的副厂手柄与大学宿舍里那些相见恨晚的装备少数派 · 09/15 17:00Windows 11 的 9 月例行安全更新再次引发了大量故障Solidot · 09/15 14:292人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?人人都是产品经理 · 09/16 10:20PS2 Fat 使用的安全芯片在时隔 26 年被破解Solidot · 09/16 23:54AI没有泡沫 只有割裂金色财经 · 09/15 21:38时光机器遭遇大规模机器流量Solidot · 09/16 16:32Meta 打造“组织第二大脑”智能体的设计思路InfoQ 中文 · 09/15 19:21AI 负责创造,人来干脏活,这事儿能否停一下?InfoQ 中文 · 09/15 08:08Meta新研究:字节模型蒸馏后,天花板破了量子位 · 09/15 14:37AI 产品经理怎么入行?岗位方向、核心能力与转型路径一次讲清人人都是产品经理 · 09/15 08:54量子位2026人工智能年度榜单,正式启动!量子位 · 09/16 12:16当我怀念旧版 Edge 浏览器时,我在怀念什么?少数派 · 09/16 10:38Arc主网上线 生态内有哪些项目?金色财经 · 09/16 17:39OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成RustInfoQ 中文 · 09/16 00:09从入门到精通,一篇文章带你入门产品经理!(2026 年最新版)人人都是产品经理 · 09/16 08:53