Hugging Face Blog 发布于 08/21 08:00

Measuring benchmark optimization in speech recognition

(翻译)衡量语音识别中的基准优化

查看原文

资讯摘要

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

AI 摘要

本文研究了语音识别模型在公开基准测试中的“基准优化”现象。研究者发现,多个高分开源ASR模型会复现VoxPopuli和LibriSpeech等基准中的错误转录,甚至在音频与转录矛盾或数字被静音时仍输出基准参考答案,导致其分数高估了真实世界中的转写能力。文章通过三项测试量化了这一行为,并指出模型可能利用声学线索识别基准归属,建议使用保留测试集更接近实际场景的评估方法。

AI 问答

什么是基准优化?

基准优化指模型通过在公开基准测试上学习特定模式而非真正提升底层能力来提高分数。本文研究了语音识别模型中的这一现象。

研究发现了什么?

研究者测试了11个开源ASR模型,发现多个高分模型会复现VoxPopuli和LibriSpeech基准中的错误转录,甚至在音频与转录矛盾或相关数字被静音时仍输出基准答案。

如何应对基准优化问题?

本文建议使用保留测试集和更贴近真实场景的评估方式,如Real World VoiceEQ、Open-ASR Leaderboard和Far-field ASR Leaderboard,以衡量更多实际应用中的表现。

打开原文

更多资讯

特斯拉FSD,在欧洲被打回原形量子位 · 10/10 14:59OPC企业容易陷入的三个增长误区人人都是产品经理 · 10/10 15:27七部门:推动电商平台规则向优转型36氪 · 10/10 10:1710后中学生捧红统一“呆毛”发型,这回轮到老非主流们看不惯了果壳网 · 10/10 17:15国内航线燃油附加费今起上调36氪 · 10/10 09:26报道称OpenAI和Anthropic正在聘用前特朗普政府官员36氪 · 10/09 19:08近期海外进出口传闻的政策限制对公司是否有影响? 天孚通信回应36氪 · 10/09 20:45:fire::fire:开源接口平台v6.1发布,支持数据插件开源中国 · 10/10 09:51“太一量生”完成新一轮融资36氪 · 10/10 10:52森海 Momentum 5 真无线降噪耳机体验:升级无线传输与空间音频,它依然是那个正统 「森海味」爱范儿 / APPSO · 10/10 15:26DDR4 内存条再次回归Solidot · 10/10 17:05App+1|专注星空:让「少刷手机」这件事更愉悦一点少数派 · 10/10 10:19Starknet考虑从L2转向L1 量子计算与AI成关键推手金色财经 · 10/09 17:23被字节索赔 800 万的实习生“出道”:20 万符号造 AI 词典,打造世界模型创业公司估值 2 亿美元开源中国 · 10/10 19:0990 天证书开始倒计时:Let's Encrypt 官宣 2027 年 2 月全面转向 64 天开源中国 · 10/10 10:47全球扩散语言模型最大融资诞生:经纬、顺为、君联数亿元押注扩散智能DiffuSpaceInfoQ 中文 · 10/09 19:07Nano Banana 2.1 九种实战用法:从多图一致性到"养图",附完整提示词开源中国 · 10/10 14:20华为 Mate 90 Pro Max 深度体验:Mate 系列新高峰爱范儿 / APPSO · 10/10 18:30Galaxy:写在10/10崩盘一周年后 加密基本面持续向好金色财经 · 10/10 09:35Impactful scheduling for GPU clustersHugging Face Blog · 10/09 23:20中国人民银行行长潘功胜会见法国总统外事顾问博纳36氪 · 10/10 11:38日本美滨核电站3号机组反应堆重启36氪 · 10/10 09:28梅赛德斯-奔驰美国公司召回30064辆汽车36氪 · 10/10 16:25北京:加大新能源汽车推广力度 培育汽车消费新增长点36氪 · 10/10 14:14北京:打造开放多元的国际化餐饮消费生态,吸引全球优质品牌集聚36氪 · 10/10 14:11新思科技与亚马逊达成多年期定制芯片战略IP协议36氪 · 10/10 13:41特斯拉弃用“自动驾驶”命名,以争取欧洲监管批准36氪 · 10/09 20:35人社部:力争到2030年技能人才占就业人员比例升至35%36氪 · 10/10 12:21阿里开始给AI算账了:用AI的钱,以后各业务线自己出人人都是产品经理 · 10/10 11:09商务部:中欧双方以符合世贸组织规则的方式就混动汽车贸易达成谅解36氪 · 10/09 19:21