Sora 为什么比 Codex 更难通过调度优化来降低算力成本?
因为 Sora 的视频生成是连续且独占的算力密集任务,每一轮 diffusion 都要处理一整块新的时空 latent,难以通过缓存历史大幅摊薄;而 Codex 的任务被拆成可暂停、可交错的多个阶段,可通过缓存、batching 和工具等待让 GPU 服务于更多并发任务。

作者丨 郑佳美 编辑丨岑 峰  
文章从算力调度角度分析 OpenAI 为何将资源从 Sora 转向 Codex。Sora 视频生成是连续且独占 GPU 的负载,难以通过缓存和批处理摊薄成本;Codex 作为编程 Agent 将任务拆成可交错阶段,借助 KV cache、continuous batching 和工具等待提升 GPU 复用率,因此新增算力更能转化为并行工作量。
因为 Sora 的视频生成是连续且独占的算力密集任务,每一轮 diffusion 都要处理一整块新的时空 latent,难以通过缓存历史大幅摊薄;而 Codex 的任务被拆成可暂停、可交错的多个阶段,可通过缓存、batching 和工具等待让 GPU 服务于更多并发任务。
因为 Codex 的 Agent 任务在 GPU、CPU、工具环境之间移动,大量时间在等待工具或执行外部操作,scheduler 可以把这些碎片化阶段交错共享同一批 GPU,使一小时 GPU 支撑更长的 Agent 工作时间,新增算力能更快转化为并行工作量。
指任务的计算负载形状和调度特性,决定了算力是否可被拆分、复用和交错,从而影响产品的扩张速度。
潘功胜最新文章:深刻认识中国金融结构变迁(全文)
奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下
耐克和lululemon双双失速,运动品牌进入碎片化时代
美联储今起议息 沃什或成关键一票Denuvo 起诉黑客违反 DMCA 反规避条款
Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人
基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编
一年28倍妖王:谁在爆炒?
WorkBuddy + 美图设计室,在对话框里就能解决办公设计任务?36氪项目新势榜:不看包装,只看项目真实进展
个贷不良四年涨 23 倍:这门从“救大行”长出来的生意,底层逻辑是什么?
AI风口之下,明星们又想“挤上”牌桌了
横扫四榜,DM0.5 凭什么面面俱到?
CLARITY的失败 跟加密行业好坏没啥关系
Python 拥抱 RISC-V:CPython 正式纳入 Tier 3 平台
从担心AI失控 到AI造福人类:比尔盖茨怎么想
芯片从业者拆解OpenAI造芯,还能再快3个月?
想把喜欢的故事做成动画?我用 AIXTV 把《聊斋》做出来了
字节跳动CEO梁汝波:豆包、飞书与火山引擎整合后 将加大企业市场投入
旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!
CLARITY闯关失败 加密市场闻声而动 政策空白谁填补Announcing instance preference lists for Amazon SageMaker AI training jobs
OpenAI万亿IPO推迟背后 四本账与三条投资路径
CLARITY法案为何倒在参议院门口?这主流如你所愿
Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与
电商对账的设计逻辑:四层核对,逐层下钻
场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构