ContractEval 要解决什么问题?
它要显式识别一次查询中处于激活状态的程序性义务,并检查 LLM 智能体是否遗漏、错分支、乱序、执行多余动作或违反不变量等。
(翻译)ContractEval:面向程序性指令合规的查询条件化执行匹配
Abstract page for arXiv paper 2609.09458: ContractEval: Query-Conditioned Execution Matching for Procedural Instruction Conformance
arXiv 论文提出 ContractEval,一个诊断 LLM 智能体执行程序性指令合规性的框架。它将程序指令表示为查询激活的义务,并与响应或轨迹证据匹配,从而区分遗漏检查、错误分支、顺序错误、多余动作、不变量违反和输出契约违反等失败。实验显示仅看输出或轨迹的 LLM 评判常漏掉注入的结构性失败,而 ContractEval 在金标准图下能检测并定位;作者强调它并非合规保证,而是让程序合规可审计。
它要显式识别一次查询中处于激活状态的程序性义务,并检查 LLM 智能体是否遗漏、错分支、乱序、执行多余动作或违反不变量等。
因为它们只能看到最终答案或活动记录,无法判断哪些检查、分支、依赖或不变式本应被激活,因此会漏掉许多结构性失败。
不能。作者明确说它不是合规保证,而是让程序性合规变得可审计,而不是隐含在最终答案质量中。
510万一张!携程上架太空旅行船票:已有681人购买,还得自己买保险;娃哈哈因拖欠员工公积金被查封办公楼;华为放权!问界将由赛力斯主导
被AI放大的光学「戏份」,让「配角」舜宇的生意越做越大
贝森特回购落空与通胀重压 美联储加息或全面开启
英伟达开始限制Claude使用了产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人
AI 减速还是不减速:一场周末点燃的行业与政府对垒
早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导
DeepSeek-V4.1-Flash 的最佳 Harness 搭档,我觉得可能是 Claude Code
数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”
云连锁到轻连锁,品牌业务逻辑的改变
缓存不该困在一台服务器里企业案例分享:坤煜量子|36氪2026产业未来大会
2nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」
AI不断进步 不得不把才华埋葬在昨天
iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…
物理 AI 的大结果何时到来?
实测豆包新模型2.1-pro,这次审美和长时间Agent任务都追上第一档了廉价太阳能改变世界能源格局
AI 负责创造,人来干脏活,这事儿能否停一下?
不止一颗CPU?智能体经济时代,Arm对算力平台有了新理解
推特创始人谈“AI减速”论:前沿不属于任何一家公司9月21日,深圳前海!聊聊工业AI与生态共创的下一步
一年28倍妖王:谁在爆炒?
19.98 万元起,吉利银河战舰 700 开启预售,最高 1129 匹马力,还有三电机四驱
月下载暴增366%,上海真人社交公司切入东南亚AI陪伴,AI角色也能“奔现”
个贷不良四年涨 23 倍:这门从“救大行”长出来的生意,底层逻辑是什么?
分析师:四大关键因素驱动 Robinhood 链快速增长
Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人
AI 写了几十页 PPT,“经营分析”报告仍被批不够深入?
担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」