OBPE 如何防止 AI 智能体越权或泄露数据?
OBPE 在智能体推理之外建立可信边界,对类型化操作和资源进行授权,在后台调用前收窄查询,并在响应阶段对记录、字段进行过滤或掩码;语义门控还可以根据参数值或外部状态拒绝或暂缓调用。
(翻译)如果智能体是天使,就无需治理:可信工具边界上的带外策略执行(OBPE)
arXiv:2608.27646v1 Announce Type: new Abstract: Give an agent a human's credential and it inherits the person's reach without the judgment that limits its use. It can sweep every reachable record into model context, where hidden instructions steer its next call, and every request stays credential-va
该研究提出带外策略执行(OBPE),在智能体推理之外设立可信边界,对类型化操作与资源进行授权,在调用前收窄查询,并对响应中的记录和字段进行过滤或掩码,防止智能体越权或泄露敏感数据。在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%,同时安全且有用的完成率提升 21.8 个百分点,显示该机制能显著增强 AI Agent 的安全治理能力。
OBPE 在智能体推理之外建立可信边界,对类型化操作和资源进行授权,在后台调用前收窄查询,并在响应阶段对记录、字段进行过滤或掩码;语义门控还可以根据参数值或外部状态拒绝或暂缓调用。
在 3,621 次测试中,追踪失败率从 57.6% 降至 0.2%;任务完成率从 79.1% 降至 60.9%,但配对的安全且有用完成率提升了 21.8 个百分点。
黄仁勋正演讲遇特朗普突然来电:通话全程直播
物理 AI 的大结果何时到来?
产品经理的体面,是一块不能失守的 “括约肌”Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用
大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚
豆包工作还想反超WorkBuddy?
就业率砍半,年轻人靠什么翻盘?AI时代,这三点越早做越好
读完斯坦福116页AI实施手册,我最大的感受是:别再盯着模型了
微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降
黄仁勋再谈AI危险论:中国会成为全球开源重要力量
How NVIDIA NVLink 6 Delivers Multi-Layer Resiliency for AI Factories手机替我跑了一整套流程!我就说了一句话,AI执行了100步
云连锁到轻连锁,品牌业务逻辑的改变
CLARITY法案为何倒在参议院门口?这主流如你所愿时光机器遭遇大规模机器流量
从”边卖边补”到”准备好再卖”:产品商品化的四步闭环
一年28倍妖王:谁在爆炒?
找不到小红书爆文选题?去淘宝差评区抄!
飞书与豆包工作合体后首亮相:Agent 能进群,还能帮你写周报、做PPT
比 MEGA Home 便宜 14 万!理想 i9 Home 上市定价 36.98 万元,六座旗舰变天了
抖音上线 “免费短剧” App,短剧赛道再添一员猛将芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会
2nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」
具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性
字节将发布独立智能网盘“ADrive”,腾讯网盘先已布局,网盘AI大战打响
BTC电力消耗可能已经见顶 2025年12月或为历史峰值清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单Optimizing cost and latency with Amazon Bedrock prompt caching
开学季 | 学生理财的三条建议,学生党也可以一样理财