Hugging Face Blog 发布于 09/16 00:00

Your Agent Aced the Task. Will It Do It Again?

(翻译)你的 Agent 出色完成了任务。它还能再次做到吗?

查看原文

资讯摘要

A Blog post by IBM Research on Hugging Face

AI 摘要

IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve 新增一致性指南与 Consistency Analyzer,用于衡量并改善 LLM Agent 在重复运行中的可靠性。GPT-4.1 ReAct Agent 在 AppWorld test_normal 上 Mean@5 为 77.4%,但 Pass^5 仅 53.0%,一致性差距达 24.4 个百分点;加入一致性指南后 Pass^5 升至 69.0%,差距降至 12.0 个百分点,平均准确率未下降。方法通过对已记录决策点重采样检测易翻转步骤,无需真实标签或端到端重放。

AI 问答

什么是一致性差距?

一致性差距指 Mean@k 与 Pass^k 之间的差值,用于衡量 Agent 能否在多次重复运行中稳定成功,而不仅是平均成功率。

Consistency Analyzer 如何发现容易翻转的决策点?

它对一条已记录轨迹中的每个决策步骤进行受控重采样,默认一次请求 k=5 个补全,并在已记录上下文上重放,无需真实标签或重新执行任务。

一致性指南带来了什么效果?

在 AppWorld test_normal 上,GPT-4.1 ReAct Agent 的 Pass^5 从 53.0% 升至 69.0%,一致性差距从 24.4 个百分点降至 12.0 个百分点,同时 Mean@5 没有下降。

打开原文

更多资讯

当罗永浩站在群众的对立面人人都是产品经理 · 09/15 11:35贝森特回购落空与通胀重压 美联储加息或全面开启金色财经 · 09/15 11:06英国殖民之前的澳大利亚原居民人口约 222 万Solidot · 09/15 23:17项目汇报怎么讲,才能让领导看见你的价值?人人都是产品经理 · 09/16 11:32企业该买模型还是养上下文?人人都是产品经理 · 09/16 10:39超越代币化:让RWA在链上真正有用金色财经 · 09/16 16:39Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人雷峰网 · 09/15 15:52CLARITY法案未通过程序性表决 OpenAI拟IPO前融资金色财经 · 09/16 07:53清晰法案有概率通过?市场可能并未定价金色财经 · 09/15 13:50首个AIGC长片大赛!RunningHub单项大奖100万,科幻IP免费改编量子位 · 09/15 15:48百度做了一堆AI产品,却没有一个能代表百度?人人都是产品经理 · 09/15 18:31派早报:豆包发布手机助手消费者版,绿联发布首款雷电 5 显卡坞等少数派 · 09/15 08:06iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20时光机器遭遇大规模机器流量Solidot · 09/16 16:32早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导爱范儿 / APPSO · 09/16 08:45豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用雷峰网 · 09/16 16:2036氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块36氪 · 09/16 14:35510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导雷峰网 · 09/16 08:31展翼之后,三折叠再次进化:HUAWEI Mate XT 2 非凡大师深度体验评测果壳网 · 09/16 08:34Claude在英伟达内部被限用,黄仁勋告诉特朗普:我们不会让AI发展放缓发生InfoQ 中文 · 09/16 00:01YC 最值钱的这 20家公司,没有一家来自最近5年人人都是产品经理 · 09/15 10:39Introducing Gemini 3.8 Live and 3.8 Live Extended ThinkingGoogle DeepMind Blog · 09/16 01:05Firefox 156 释出Solidot · 09/16 14:25Java新闻汇总:Simple JSON API、GlassFish、Jakarta EE、JNoSQL和Open Liberty、LangChain4jInfoQ 中文 · 09/16 19:06圆桌:智能向实,产业向新——AI如何进入真实世界 | 36氪 2026产业未来大会36氪 · 09/15 18:00NVIDIA中国开发者日定档10月苏州,现场设认证考试与黑客松决赛Solidot · 09/15 14:44高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发36氪 · 09/16 09:302人团队0融资,用AI搓的复古相机APP霸榜韩国总榜第4,还做到了3个月10亿销售额?人人都是产品经理 · 09/16 10:20王强宇履新百望:从发票SaaS工具,到财税垂直大模型,再到企业的Palantir雷峰网 · 09/16 10:13