arXiv cs.AI 发布于 08/31 12:00

If Agents Were Angels, No Governance Would Be Necessary: Out-of-Band Policy Enforcement at a Trusted Tool Boundary

(翻译)如果智能体是天使,就无需治理:可信工具边界上的带外策略执行(OBPE)

查看原文

资讯摘要

arXiv:2608.27646v1 Announce Type: new Abstract: Give an agent a human's credential and it inherits the person's reach without the judgment that limits its use. It can sweep every reachable record into model context, where hidden instructions steer its next call, and every request stays credential-va

AI 摘要

该研究提出带外策略执行(OBPE),在智能体推理之外设立可信边界,对类型化操作与资源进行授权,在调用前收窄查询,并对响应中的记录和字段进行过滤或掩码,防止智能体越权或泄露敏感数据。在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%,同时安全且有用的完成率提升 21.8 个百分点,显示该机制能显著增强 AI Agent 的安全治理能力。

AI 问答

OBPE 如何防止 AI 智能体越权或泄露数据?

OBPE 在智能体推理之外建立可信边界,对类型化操作和资源进行授权,在后台调用前收窄查询,并在响应阶段对记录、字段进行过滤或掩码;语义门控还可以根据参数值或外部状态拒绝或暂缓调用。

OBPE 的实验效果如何?

在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%;任务完成率从 79.1% 降至 60.9%,但配对的安全且有用完成率提升了 21.8 个百分点。

打开原文

更多资讯

黄仁勋正演讲遇特朗普突然来电:通话全程直播金色财经 · 09/15 21:33物理 AI 的大结果何时到来?人人都是产品经理 · 09/16 17:25产品经理的体面,是一块不能失守的 “括约肌”人人都是产品经理 · 09/15 16:09Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月Solidot · 09/16 18:30基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用量子位 · 09/16 16:09大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57豆包工作还想反超WorkBuddy?人人都是产品经理 · 09/16 17:51就业率砍半,年轻人靠什么翻盘?AI时代,这三点越早做越好人人都是产品经理 · 09/15 16:12读完斯坦福116页AI实施手册,我最大的感受是:别再盯着模型了人人都是产品经理 · 09/15 12:14微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降人人都是产品经理 · 09/16 11:48黄仁勋再谈AI危险论:中国会成为全球开源重要力量金色财经 · 09/16 17:23How NVIDIA NVLink 6 Delivers Multi-Layer Resiliency for AI FactoriesNVIDIA Technical Blog · 09/16 00:55手机替我跑了一整套流程!我就说了一句话,AI执行了100步量子位 · 09/15 20:47云连锁到轻连锁,品牌业务逻辑的改变人人都是产品经理 · 09/16 11:47CLARITY法案为何倒在参议院门口?这主流如你所愿金色财经 · 09/16 12:08时光机器遭遇大规模机器流量Solidot · 09/16 16:32从”边卖边补”到”准备好再卖”:产品商品化的四步闭环人人都是产品经理 · 09/15 14:11一年28倍妖王:谁在爆炒?金色财经 · 09/15 21:03找不到小红书爆文选题?去淘宝差评区抄!人人都是产品经理 · 09/15 11:29飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPTInfoQ 中文 · 09/16 02:37比 MEGA Home 便宜 14 万!理想 i9 Home 上市定价 36.98 万元,六座旗舰变天了爱范儿 / APPSO · 09/16 23:21抖音上线 “免费短剧” App,短剧赛道再添一员猛将人人都是产品经理 · 09/16 10:20芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:152nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」雷峰网 · 09/16 18:02具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性少数派 · 09/15 15:00字节将发布独立智能网盘“ADrive”,腾讯网盘先已布局,网盘AI大战打响人人都是产品经理 · 09/15 18:27BTC电力消耗可能已经见顶 2025年12月或为历史峰值金色财经 · 09/15 18:56清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单量子位 · 09/16 14:32Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18开学季 | 学生理财的三条建议,学生党也可以一样理财少数派 · 09/15 11:10