雷峰网 发布于 08/28 15:25

Sora 为什么输给 Codex?

查看原文

资讯摘要

    作者丨 郑佳美     编辑丨岑   峰                                                                       &nbsp

AI 摘要

文章从算力调度角度分析 OpenAI 为何将资源从 Sora 转向 Codex。Sora 视频生成是连续且独占 GPU 的负载,难以通过缓存和批处理摊薄成本;Codex 作为编程 Agent 将任务拆成可交错阶段,借助 KV cache、continuous batching 和工具等待提升 GPU 复用率,因此新增算力更能转化为并行工作量。

AI 问答

Sora 为什么比 Codex 更难通过调度优化来降低算力成本?

因为 Sora 的视频生成是连续且独占的算力密集任务,每一轮 diffusion 都要处理一整块新的时空 latent,难以通过缓存历史大幅摊薄;而 Codex 的任务被拆成可暂停、可交错的多个阶段,可通过缓存、batching 和工具等待让 GPU 服务于更多并发任务。

为什么 Codex 虽同样昂贵却更容易获得新增 GPU?

因为 Codex 的 Agent 任务在 GPU、CPU、工具环境之间移动,大量时间在等待工具或执行外部操作,scheduler 可以把这些碎片化阶段交错共享同一批 GPU,使一小时 GPU 支撑更长的 Agent 工作时间,新增算力能更快转化为并行工作量。

文章提到的 workload architecture 是什么意思?

指任务的计算负载形状和调度特性,决定了算力是否可被拆分、复用和交错,从而影响产品的扩张速度。

打开原文

更多资讯

潘功胜最新文章:深刻认识中国金融结构变迁(全文)金色财经 · 09/16 13:28奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉雷峰网 · 09/16 10:36华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27耐克和lululemon双双失速,运动品牌进入碎片化时代人人都是产品经理 · 09/15 11:40美联储今起议息 沃什或成关键一票金色财经 · 09/15 15:19Denuvo 起诉黑客违反 DMCA 反规避条款Solidot · 09/16 23:27Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人雷峰网 · 09/15 15:52基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用雷峰网 · 09/16 16:20被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」量子位 · 09/16 11:40首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编量子位 · 09/15 15:48一年28倍妖王:谁在爆炒?金色财经 · 09/15 21:03WorkBuddy + 美图设计室,在对话框里就能解决办公设计任务?人人都是产品经理 · 09/15 08:5736氪项目新势榜:不看包装,只看项目真实进展36氪 · 09/15 19:18个贷不良四年涨 23 倍:这门从“救大行”长出来的生意,底层逻辑是什么?人人都是产品经理 · 09/16 17:12AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:15横扫四榜,DM0.5 凭什么面面俱到?雷峰网 · 09/15 10:22CLARITY的失败 跟加密行业好坏没啥关系金色财经 · 09/16 14:11Python 拥抱 RISC-V:CPython 正式纳入 Tier 3 平台InfoQ 中文 · 09/15 22:34从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43芯片从业者拆解OpenAI造芯,还能再快3个月?雷峰网 · 09/16 18:38想把喜欢的故事做成动画?我用 AIXTV 把《聊斋》做出来了人人都是产品经理 · 09/16 17:22字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入雷峰网 · 09/15 11:45旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!雷峰网 · 09/15 21:01CLARITY闯关失败 加密市场闻声而动 政策空白谁填补金色财经 · 09/16 15:26Announcing instance preference lists for Amazon SageMaker AI training jobsAWS Machine Learning Blog · 09/16 00:01OpenAI万亿IPO推迟背后 四本账与三条投资路径金色财经 · 09/16 11:27CLARITY法案为何倒在参议院门口?这主流如你所愿金色财经 · 09/16 12:08Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28电商对账的设计逻辑:四层核对,逐层下钻人人都是产品经理 · 09/16 14:36场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构人人都是产品经理 · 09/15 11:58