什么是一致性差距?
一致性差距指 Mean@k 与 Pass^k 之间的差值,用于衡量 Agent 能否在多次重复运行中稳定成功,而不仅是平均成功率。
(翻译)你的 Agent 出色完成了任务。它还能再次做到吗?

A Blog post by IBM Research on Hugging Face
IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve 新增一致性指南与 Consistency Analyzer,用于衡量并改善 LLM Agent 在重复运行中的可靠性。GPT-4.1 ReAct Agent 在 AppWorld test_normal 上 Mean@5 为 77.4%,但 Pass^5 仅 53.0%,一致性差距达 24.4 个百分点;加入一致性指南后 Pass^5 升至 69.0%,差距降至 12.0 个百分点,平均准确率未下降。方法通过对已记录决策点重采样检测易翻转步骤,无需真实标签或端到端重放。
一致性差距指 Mean@k 与 Pass^k 之间的差值,用于衡量 Agent 能否在多次重复运行中稳定成功,而不仅是平均成功率。
它对一条已记录轨迹中的每个决策步骤进行受控重采样,默认一次请求 k=5 个补全,并在已记录上下文上重放,无需真实标签或重新执行任务。
在 AppWorld test_normal 上,GPT-4.1 ReAct Agent 的 Pass^5 从 53.0% 升至 69.0%,一致性差距从 24.4 个百分点降至 12.0 个百分点,同时 Mean@5 没有下降。
当罗永浩站在群众的对立面
贝森特回购落空与通胀重压 美联储加息或全面开启英国殖民之前的澳大利亚原居民人口约 222 万
项目汇报怎么讲,才能让领导看见你的价值?
企业该买模型还是养上下文?
超越代币化:让RWA在链上真正有用
Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人
CLARITY法案未通过程序性表决 OpenAI拟IPO前融资
清晰法案有概率通过?市场可能并未定价首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编
百度做了一堆AI产品,却没有一个能代表百度?
派早报:豆包发布手机助手消费者版,绿联发布首款雷电 5 显卡坞等
iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…时光机器遭遇大规模机器流量
早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导
豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群
基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用36氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块
510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导
展翼之后,三折叠再次进化:HUAWEI Mate XT 2 非凡大师深度体验评测
Claude在英伟达内部被限用,黄仁勋告诉特朗普:我们不会让AI发展放缓发生
YC 最值钱的这 20家公司,没有一家来自最近5年
Introducing Gemini 3.8 Live and 3.8 Live Extended ThinkingFirefox 156 释出
Java新闻汇总:Simple JSON API、GlassFish、Jakarta EE、JNoSQL和Open Liberty、LangChain4j圆桌:智能向实,产业向新——AI如何进入真实世界 | 36氪 2026产业未来大会NVIDIA中国开发者日定档10月苏州,现场设认证考试与黑客松决赛高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发
2人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?
王强宇履新百望:从发票SaaS工具,到财税垂直大模型,再到企业的Palantir