什么是AI推理中的“内存墙”?
随着AI计算能力和模型规模快速增长,内存容量、带宽和数据搬运效率没有同步提升,越来越多时间和能耗花在数据移动而非计算上,形成“内存墙”。

#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。
文章以米其林餐厅“潮1/2”作比喻,解释AI推理中的“内存墙”问题:数据搬运而非计算成为瓶颈。高通提出HBC近存计算,并在下一代骁龙平台强化Oryon CPU、FlexCache、Adreno Matrix Cores、18MB HPM及Hexagon NPU共享内存,目标是为AI智能体手机提供异构计算架构。
随着AI计算能力和模型规模快速增长,内存容量、带宽和数据搬运效率没有同步提升,越来越多时间和能耗花在数据移动而非计算上,形成“内存墙”。
HBC(高带宽计算)是一种近内存计算架构,把计算单元放到内存附近,减少数据与计算之间的搬运,从而加速AI并降低功耗,类似把餐桌搬到厨房旁边。
包括最高5GHz的Qualcomm Oryon CPU、FlexCache可扩展缓存、Adreno Matrix Cores与18MB HPM显存、Hexagon NPU的Element Accelerator和更大共享内存,并引入MoE端侧架构,实现CPU、GPU、NPU等异构分工。
差 11 票:币圈和华盛顿的蜜月期结束了
缓存不该困在一台服务器里
AI 产品经理怎么入行?岗位方向、核心能力与转型路径一次讲清
How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera Rubin
美团发布“手艺人Agent”,发型师可“吩咐”AI小帮手打理线上作品
Cloudflare将每天90亿次请求的JavaScript CDN迁移到其开发者平台
AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?科学家演示水下太阳能电池
Introducing Gemini 3.8 Live and 3.8 Live Extended Thinking
DeepSeek-V4.1-Flash 的最佳 Harness 搭档,我觉得可能是 Claude Code
微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降
字节将发布独立智能网盘“ADrive”,腾讯网盘先已布局,网盘AI大战打响地平线第1500万颗征程芯片搭载大众 ID. AURA T6,HSD V2.1 即将推出
电商对账的设计逻辑:四层核对,逐层下钻
贝森特回购落空与通胀重压 美联储加息或全面开启
OpenAI 总裁:AGI 已经发生量子位2026人工智能年度榜单,正式启动!
一年28倍妖王:谁在爆炒?
早报|iOS27正式推送/比亚迪高管:燃油车在中国没有未来/iPhone 18 Pro渠道降价900元,苹果称不干预
CLARITY折戟 多方博弈撕裂行业预期 市场怎么看?
黄仁勋再谈AI危险论:中国会成为全球开源重要力量
AI 减速还是不减速:一场周末点燃的行业与政府对垒无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA
我的“一人公司”,是怎么搞钱的?
OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成Rust圆桌:落地·量子计算的场景涌现——如果量子算力明天就可用,谁会第一个买单 | 36氪 2026产业未来大会
上市前交易市场:永续合约化的Pre-IPO资产
担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」