Hugging Face Blog 发布于 09/02 05:39

BenchMIRT: What are LLM benchmarks actually measuring?

(翻译)BenchMIRT:LLM 基准测试究竟在测量什么?

查看原文

资讯摘要

A Blog post by Ai2 on Hugging Face

AI 摘要

AI2 推出 BenchMIRT,一种基于多维项目反应理论的新方法,可在单个提示层面审计 LLM 基准测试。研究对 100 个开源模型、16 个基准和超过 3.4 万个问题进行分析,识别出安全与通用推理两个主导维度,并揭示 BBQ、WMDP 等基准实际测量的能力可能与预期不同。

AI 问答

BenchMIRT 是什么?

BenchMIRT 是 AI2 推出的一种新方法,用于在单个提示层面审计 LLM 基准测试,通过多维项目反应理论(MIRT)估计模型在安全、通用推理等不同能力上的表现,并分析每个问题主要测量的能力。

BenchMIRT 有哪些主要发现?

它从 16 个基准、100 个模型中独立恢复出安全和通用推理两个主导维度,并发现 BBQ、WMDP 等部分基准的得分更多关联通用推理而非安全,HarmBench 中的不同类型问题也可能测量不同能力。

BenchMIRT 可以如何应用?

它可以帮助识别基准中信息量最大的问题,仅用 10% 的问题即可近似保留完整基准对模型能力的评估,还能预测模型在未见过的题目上的表现,准确率达到 79%。

打开原文

更多资讯

当我怀念旧版 Edge 浏览器时,我在怀念什么?少数派 · 09/16 10:38Building AI to accelerate science and improve livesGoogle AI Blog · 09/16 00:00场景越多 ≠ 产品越好,:从抽象价值到真实生活的定义结构人人都是产品经理 · 09/15 11:58量子位2026人工智能年度榜单,正式启动!量子位 · 09/16 12:16只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17被用了几千年的铜,怎么突然成了AI时代的新宠?果壳网 · 09/16 16:15New insights from Google’s AI & Economy ATLASGoogle AI Blog · 09/15 21:00被英伟达点名的杭州团队,补上了AI for Science的「最后一公里」量子位 · 09/16 11:40分析师:四大关键因素驱动 Robinhood 链快速增长金色财经 · 09/15 17:27当年救了臭氧层的功臣,现在变成了永久性污染物果壳网 · 09/16 13:15企业案例分享:坤煜量子|36氪2026产业未来大会36氪 · 09/15 16:54Mistral 与 Mozilla 合作推出 Firefox Smart WindowSolidot · 09/16 18:53号称人类造的最后一个 AI 要来了,刷屏全网的 RSI 是什么爱范儿 / APPSO · 09/15 17:43清晰法案投票失败 后续还有机会吗?金色财经 · 09/16 14:34苹果Siri AI上线;豆包手机助手消费版正式发布;塔克拉玛干沙漠发现两处大型地下水水源果壳网 · 09/15 20:15圆桌:探路·产业分工的新图谱,看到新未来——国家力量如何转化为产业价值 | 36氪 2026产业未来大会36氪 · 09/15 17:39Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月Solidot · 09/16 18:30飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPTInfoQ 中文 · 09/16 02:37Anthropic CEO自爆行业黑幕金色财经 · 09/15 19:37缓存不该困在一台服务器里InfoQ 中文 · 09/16 07:00vivo Buds Clip 体验:42 小时续航的无感佩戴,音质好也舒服爱范儿 / APPSO · 09/16 13:55Introducing Gemini 3.8 Live and 3.8 Live Extended ThinkingGoogle DeepMind Blog · 09/16 01:05HTTP 新增 QUERY 方法:有人叫好,也有人质疑“这不就是 GET?”InfoQ 中文 · 09/15 21:00OpenAI 总裁最新采访:现在所有人对 AI 的预测,大概率都是错的人人都是产品经理 · 09/15 16:19现在参与以太坊原生质押为什么要先排队一个月?金色财经 · 09/16 21:24AMC 炮轰 Robinhood:股票归谁做主?金色财经 · 09/15 21:18129亿美元卖身英伟达之后,是时候重新理解Hugging Face了InfoQ 中文 · 09/16 16:007名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开量子位 · 09/15 10:17GPT Image 2.5 对比实测:变化与局限人人都是产品经理 · 09/15 09:46无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA量子位 · 09/15 18:43