InfoQ 中文 发布于 09/16 00:09

OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成Rust

查看原文

资讯摘要

未来几周完全淘汰Python版本

AI 摘要

OpenAI 团队明知 Python 难以支撑 Habitat 在线存储平台的未来规模,仍战略性引入技术债,先用 Python 快速迭代。一年后仅 2 名工程师借助 Codex 和 GPT-5.5,在一个季度内把服务重写为 Rust,目前 Rust 已承载 95% 生产请求,CPU 效率约 6 倍、内存效率约 15 倍,平均延迟与尾延迟显著下降。

AI 问答

OpenAI 为什么先用 Python 实现 Habitat?

当时更紧迫的问题是解除产品团队阻塞、让平台稳定下来并尽快确定核心 API 与基础设施形态;团队判断未来 Codex 和 GPT 能大幅降低重写成本,因此主动接受这笔技术债。

Habitat 是怎么撑到每秒 2000 万次请求的?

通过严格限制单进程并发并大量横向扩展 Python worker,引入 asyncio 事件循环延迟监控,把连接池从 LIFO 改为 FIFO 打断亚稳态故障,并用 Envoy 统一管理连接池、限流与熔断。

Rust 重写后的效果如何?

2026 年第二季度仅 2 名工程师用 Codex 和 GPT-5.5 在一个季度内完成重写,Rust 版本已承担 95% 生产请求,CPU 效率约为 Python 版的 6 倍、内存效率约 15 倍,平均延迟与尾延迟明显下降。

打开原文

更多资讯

高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发36氪 · 09/16 09:30AI 产品经理怎么入行?岗位方向、核心能力与转型路径一次讲清人人都是产品经理 · 09/15 08:54129亿美元卖身英伟达之后,是时候重新理解Hugging Face了InfoQ 中文 · 09/16 16:00F-Droid 上的应用有多少是在 AI 帮助下编写的?Solidot · 09/15 20:45旧消费品,正长出新生意人人都是产品经理 · 09/15 11:20一张GPU跑10万原子!分子之心用AI把化学反应“拍”成了电影量子位 · 09/15 17:58担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」雷峰网 · 09/15 08:23商用割草机器人完成数千万融资,用L4级无人驾驶重构高尔夫草坪运维|硬氪首发36氪 · 09/16 10:00科学家演示水下太阳能电池Solidot · 09/15 15:30差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20企业案例分享:伊辛智能|36氪2026产业未来大会36氪 · 09/15 16:38从担心AI失控 到AI造福人类:比尔盖茨怎么想金色财经 · 09/15 14:43圆桌:新能源:后时代的深水淘金 | 36氪 2026产业未来大会36氪 · 09/15 17:56CLARITY的失败 跟加密行业好坏没啥关系金色财经 · 09/16 14:11牛市的钱:是熊市里守出来的金色财经 · 09/15 19:04数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14物理 AI 的大结果何时到来?人人都是产品经理 · 09/16 17:25长期利率为何不愿下跌?金色财经 · 09/15 18:04Agent开始调用基础设施,Kubernetes准备好了吗?InfoQ 中文 · 09/16 04:38前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了量子位 · 09/15 13:39企业该买模型还是养上下文?人人都是产品经理 · 09/16 10:39Build an AI-powered product tagging system with Amazon SageMaker serverless model customizationAWS Machine Learning Blog · 09/16 00:11“裁判”不想给阿莫迪吹暂停金色财经 · 09/15 13:07GPT-6 Astra 之后,产品经理需要重新设计人在流程中的位置人人都是产品经理 · 09/16 09:10圆桌:跃迁·AI深流,价值跃升——AI深水时代,从模型竞逐到产业价值涌现 | 36氪 2026产业未来大会36氪 · 09/15 17:23实习生1天消耗1亿Token被约谈:如何衡量Token的ROI人人都是产品经理 · 09/16 14:19Steam Frame 起售价 1059 美元Solidot · 09/15 14:59AI for everyone in every languageGoogle AI Blog · 09/16 00:00渣打给ARB十美元目标价靠什么?金色财经 · 09/16 21:36个贷不良四年涨 23 倍:这门从“救大行”长出来的生意,底层逻辑是什么?人人都是产品经理 · 09/16 17:12