InfoQ 中文 发布于 09/05 17:56

Meta 拓展自研芯片战略:从计算领域延伸至网络领域

查看原文

资讯摘要

Meta 详细介绍了 MTIA 300,这是其首款专为训练排序和推荐模型而优化的自研加速器。

AI 摘要

Meta 发布首款面向推荐模型训练的自研加速器 MTIA 300,将 RDMA 网络与集合通信直接集成到芯片中,解决嵌入表带来的通信瓶颈。相较 GPU,通信耗时降至约四分之一,计划未来两年内推出四代后续产品,并继续扩大与博通的合作。

AI 问答

MTIA 300 如何解决推荐模型训练中的通信瓶颈?

MTIA 300 将网络芯粒和 RDMA NIC 直接集成到加速器封装内,提供总计 1.2 TB/s 的 I/O 带宽,并配备 16 个专用消息引擎独立处理集合通信,避免占用主计算资源。

MTIA 300 相比 GPU 在通信耗时上有多大改进?

针对部署在 40 个加速器上的 1500 亿参数推荐模型,MTIA 300 将总通信耗时降低至同等配置 GPU 集群的约 1/3.9,即通信时间减少 3.9 倍。

Meta 自研芯片的下一步计划是什么?

Meta 已部署数十万 MTIA 加速器用于推理,计划未来两年推出四代后续产品,覆盖排序、推荐及生成式 AI 负载,并扩大与博通合作开发下一代 MTIA 芯片,同时继续采购 AMD、英伟达的产品。

打开原文

更多资讯

Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入雷峰网 · 09/15 11:45实时互动、实时改视频、探索空间视频,Vidu S2一次放了三个大招量子位 · 09/16 10:58月下载暴增366%,上海真人社交公司切入东南亚AI陪伴,AI角色也能“奔现”人人都是产品经理 · 09/16 14:44耐克、妮维雅、谷歌的警示:品类,正在误导品牌战略!人人都是产品经理 · 09/15 09:42只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17Ctenophores Aren’t Just Beautiful. They’re Biological Wonders.Quanta Magazine · 09/16 23:56Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARENVIDIA Technical Blog · 09/15 23:00支付宝 xUI -- “阿宝”背后的 Agentic 终端交互引擎InfoQ 中文 · 09/16 02:27华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43这种国民鱼一直被低估、被当廉价鱼!现在才知道钙和 DHA 这么多!快试试果壳网 · 09/15 22:15旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!雷峰网 · 09/15 21:01“裁判”不想给阿莫迪吹暂停金色财经 · 09/15 13:07把记忆交给CPU,大模型会变快量子位 · 09/16 11:07Denuvo 起诉黑客违反 DMCA 反规避条款Solidot · 09/16 23:27OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成RustInfoQ 中文 · 09/16 00:09推特创始人谈“AI减速”论:前沿不属于任何一家公司金色财经 · 09/15 17:30做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera RubinNVIDIA Technical Blog · 09/16 00:55清晰法案投票失败 后续还有机会吗?金色财经 · 09/16 14:34英伟达开始限制Claude使用了金色财经 · 09/15 12:37牛市的钱:是熊市里守出来的金色财经 · 09/15 19:04差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20想把喜欢的故事做成动画?我用 AIXTV 把《聊斋》做出来了人人都是产品经理 · 09/16 17:22华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24Firefox 156 释出Solidot · 09/16 14:25iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20Anthropic CEO自爆行业黑幕金色财经 · 09/15 19:37