InfoQ 中文 发布于 09/08 21:32

OpenAI 详解 GPT-Live 架构如何实现了连续的有状态语音交互

查看原文

资讯摘要

最近,OpenAI 发布了一篇关于 GPT-Live 的工程报告。该报告详细描述了他们如何设计这个系统,将对延迟敏感的媒体处理与更广泛的应用工作分离,同时保持语音交互的连续性。

AI 摘要

OpenAI发布GPT-Live工程报告,详述其如何实现连续的有状态语音交互:将延迟敏感的媒体处理与推理放在实时路径上,而任务委派和应用逻辑通过异步RPC隔离;每个会话使用有状态专用推理实例,并支持上下文跨实例迁移。文章还介绍了基于WebRTC的WARP优化、静默测试方法及对OpenAI实时AI负责人Justin Uberti的采访。

AI 问答

GPT-Live架构如何保证语音交互的连续性?

它将实时路径限制为仅运行媒体处理管道和推理循环,而任务委派、工具使用等应用逻辑放在异步RPC边界之后;同时使用有状态专用推理实例,并在需要时把会话上下文迁移到新实例以维持服务。

OpenAI为什么在WebRTC基础上新增WARP而不是更换传输层?

因为WebRTC已提供具备错误恢复的低延迟完整媒体协议栈,而RIP over QUIC等新协议仅提供传输层且缺少GCC拥塞控制等功能。WARP可独立部署,现有WebRTC应用无需改代码即可受益,风险更低。

什么是静默测试?

静默测试是以只读模式运行应用服务处理真实入站语音流量,将语音输入模型但直接丢弃输出,不改变用户体验。它用于在正式上线前用真实流量测试媒体循环和推理服务,并能发现合成负载测试无法覆盖的性能问题。

打开原文

更多资讯

510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导雷峰网 · 09/16 08:31号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么爱范儿 / APPSO · 09/15 17:43CLARITY法案未通过程序性表决 OpenAI拟IPO前融资金色财经 · 09/16 07:53算力、机器人、仿真与资本,谁在定义物理AI下一个十年?|第十届全球ICT峰会回顾36氪 · 09/15 17:47旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!雷峰网 · 09/15 21:01字节将发布独立智能网盘“ADrive”,腾讯网盘先已布局,网盘AI大战打响人人都是产品经理 · 09/15 18:27美国军方首次证实在太空部署了武器Solidot · 09/15 16:07129亿美元卖身英伟达之后,是时候重新理解Hugging Face了InfoQ 中文 · 09/16 16:00豆包工作还想反超WorkBuddy?人人都是产品经理 · 09/16 17:51大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17地平线第1500万颗征程芯片搭载大众 ID. AURA T6,HSD V2.1 即将推出量子位 · 09/15 21:32上市前交易市场:永续合约化的Pre-IPO资产金色财经 · 09/16 09:21贝森特回购落空与通胀重压 美联储加息或全面开启金色财经 · 09/15 11:06英国殖民之前的澳大利亚原居民人口约 222 万Solidot · 09/15 23:17美联储今起议息 沃什或成关键一票金色财经 · 09/15 15:19就业率砍半,年轻人靠什么翻盘?AI时代,这三点越早做越好人人都是产品经理 · 09/15 16:12圆桌:新能源:后时代的深水淘金 | 36氪 2026产业未来大会36氪 · 09/15 17:56担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」雷峰网 · 09/15 08:23数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04谁在给我们制造 AI 焦虑金色财经 · 09/15 20:38产品经理的体面,是一块不能失守的 “括约肌”人人都是产品经理 · 09/15 16:09豆包 2.1 Pro模型更新,已接入豆包工作雷峰网 · 09/16 14:01项目汇报怎么讲,才能让领导看见你的价值?人人都是产品经理 · 09/16 11:32渣打给ARB十美元目标价靠什么?金色财经 · 09/16 21:36基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用量子位 · 09/16 16:09对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04GPT-6 Astra 之后,产品经理需要重新设计人在流程中的位置人人都是产品经理 · 09/16 09:10