arXiv cs.AI 发布于 09/28 12:00

Audio LLMs Know When They Can't Hear You

(翻译)音频大模型知道自身何时听不清

查看原文

资讯摘要

Abstract page for arXiv paper 2609.30625: Audio LLMs Know When They Can't Hear You

AI 摘要

该论文研究音频大模型能否判断自身转录是否可靠。实验发现模型对自身转录可靠性的判断较差,多数情况下会误判为可靠;语音质量预测器、生成不确定性、基于转录的WER估计等现有方法信号有限,而可靠性信息明显存在于音频编码器表示中。作者据此设计轻量预测器,在生成前判断可靠性并对不可靠语音触发澄清请求,域内与跨域宏F1分别为81.10%和78.09%,优于最强基线10.33和11.93个百分点,且可靠性标签可跨模型家族迁移。

AI 问答

音频大模型能判断自己的转录是否可靠吗?

论文发现模型的自我判断能力较差,多数情况下会预测自己的转录是可靠的,因此无法有效发现转录失败。

作者提出了什么解决办法?

利用冻结音频编码器的表示训练一个轻量可靠性预测器,在生成文本前预测可靠性等级;若判定不可靠就向用户发起澄清请求,可靠则正常处理,无需修改原音频大模型。

该预测器的效果如何?

域内宏F1为81.10%,跨域为78.09%,分别比最强基线高出10.33和11.93个百分点,且可靠性标签可在不同音频大模型家族之间迁移。

打开原文

更多资讯

谷歌正在内测新 AI 模型,员工称其编码能力和 Claude Opus 5.5 打平开源中国 · 10/10 17:08亚马逊云科技在 Aurora DSQL 中引入外键约束InfoQ 中文 · 10/11 03:00OpenAI dots全面登陆手机 开口指挥Codex干活了金色财经 · 10/10 10:59从 Demo 到生产:AI Agent 缺的到底是什么?InfoQ 中文 · 10/09 19:13阶跃 Step 5 Preview 登上 OpenRouter 全球第一,10月15日开源!雷峰网 · 10/10 11:37硬件钱包接连出事 审计得交给AI干了金色财经 · 10/10 10:13原 TRAE 负责人石扬离职创业,联手前字节数据安全负责人傅越做 AI 办公,首轮估值 2 亿美元人人都是产品经理 · 10/10 14:30一篇把锅从模型甩回公司手里的短文 —— 「计算机无法做出决定」开源中国 · 10/10 15:58未经批准含有“金融控股”等字样 三家企业被要求整改36氪 · 10/10 16:44同样是珍珠,为啥价格能差10倍?果壳网 · 10/10 22:15微信聊天记录终于能正经交给 AI 了,官方开的口子不怕封号人人都是产品经理 · 10/10 11:25金色Web3.0日报 | Starknet拟升级为L1 2027年抗量子金色财经 · 10/09 21:59客户说要一个功能,产品经理怎么找到真正的需求在那?人人都是产品经理 · 10/10 18:17英国拟未来四年投,10亿英镑扶持创新集群36氪 · 10/10 15:16App工厂,才是AI时代最被低估的生意人人都是产品经理 · 10/10 14:59中国人民银行行长潘功胜会见法国总统外事顾问博纳36氪 · 10/10 11:38纯炒作?那为什么只有 Muse 爆了人人都是产品经理 · 10/10 10:13商务部欧洲司负责人解读中欧贸易投资磋商机制第二次例会成果36氪 · 10/10 13:35梅赛德斯-奔驰美国公司召回30064辆汽车36氪 · 10/10 16:25受内存、存储芯片短缺推高价格,游戏硬件销量跌至13年新低36氪 · 10/10 10:20教育部:教师发展中心全新上线,教师AI素养全覆盖培训启动36氪 · 10/10 15:58泰国证交所修订卖空和高频交易规则36氪 · 10/10 11:57AI数据中心用电狂飙,美国密西西比州发出电力预警36氪 · 10/10 12:11北京市“十五五”时期深化国际消费中心城市建设规划发布36氪 · 10/10 14:0924 天估值暴涨 37 倍,这就是 AI 圈年度爽文爱范儿 / APPSO · 10/10 17:11中欧贸易投资磋商机制第二次例会联合声明36氪 · 10/09 19:13葛洲坝航运扩能工程进入主体施工阶段36氪 · 10/10 16:55智能咖啡机 10 天内产生 1TB 数据流量Solidot · 10/09 17:35苹果iPhone Duo加单30%,iPhone 18 Pro系列总订单量未变36氪 · 10/10 14:13ModStartCMS v10.3.0 安全加固、体验优化,自动化测试更强大。开源中国 · 10/10 18:23