arXiv cs.AI 发布于 09/03 12:00

The Memory Trust Gap: Capability-Dependent Failures in Persistent-Memory Agents

(翻译)记忆信任差距:持久记忆智能体中依赖能力的失败

查看原文

资讯摘要

Abstract page for arXiv paper 2609.01852: The Memory Trust Gap: Capability-Dependent Failures in Persistent-Memory Agents

AI 摘要

这项研究聚焦持久记忆智能体的“记忆信任差距”:当已存储的过时事实与实时权威工具冲突时,模型可能毫无预警地过度信任旧记忆。作者在Qwen3系列0.6B至8B模型上实验,发现能力越强的模型在特定情境下越容易被“看起来最新”的过时记忆误导;移除标签会放大过度信任。他们还发现缓解措施同样依赖模型能力,且在Llama-Instruct系列及外部数据集上表现一致。

AI 问答

什么是记忆信任差距?

记忆信任差距指持久记忆智能体在存储的过时事实与实时权威证据冲突时,会无预警地过度信任旧记忆,从而导致错误输出。

模型规模如何影响记忆信任失败?

在安全套件中,更大的模型在过时记忆被伪装成最新时更容易崩溃;小型模型则持续依赖陈旧信息。缓解手段也依赖能力:暴露元数据对大模型有效,但小型模型需先解决冲突。

打开原文

更多资讯

我和我的 AI 手机吃了 3 顿饭爱范儿 / APPSO · 09/16 12:04旧消费品,正长出新生意人人都是产品经理 · 09/15 11:20一张GPU跑10万原子!分子之心用AI把化学反应“拍”成了电影量子位 · 09/15 17:58豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39AI不会放缓金色财经 · 09/15 10:33华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27HTTP 新增 QUERY 方法:有人叫好,也有人质疑“这不就是 GET?”InfoQ 中文 · 09/15 21:00和Jeff Dean押注同一方向,27岁清华助理教授创业,两个月融资数亿36氪 · 09/16 15:58OpenAI 总裁:AGI 已经发生金色财经 · 09/15 22:25Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20金色Web3.0日报 | 黄仁勋批驳「AI末日论」金色财经 · 09/15 21:48牛市的钱:是熊市里守出来的金色财经 · 09/15 19:04高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发36氪 · 09/16 09:30Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20「沃什时代」首次加息要来了?华尔街算好了三种剧本金色财经 · 09/16 20:25圆桌:跃迁·AI深流,价值跃升——AI深水时代,从模型竞逐到产业价值涌现 | 36氪 2026产业未来大会36氪 · 09/15 17:23AI没有泡沫 只有割裂金色财经 · 09/15 21:38实测豆包新模型2.1-pro,这次审美和长时间Agent任务都追上第一档了人人都是产品经理 · 09/16 17:21企业案例分享:伊辛智能|36氪2026产业未来大会36氪 · 09/15 16:38AI for everyone in every languageGoogle AI Blog · 09/16 00:00开学季 | 学生理财的三条建议,学生党也可以一样理财少数派 · 09/15 11:10对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04当黄仁勋和Dario遇上休谟:火鸡、台球与AI末日论金色财经 · 09/15 22:18OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成RustInfoQ 中文 · 09/16 00:09QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14一边喊停一边敲钟:硅谷AI巨头到底在怕什么金色财经 · 09/16 10:53加密行业今年最重要的一天 可能就是明天金色财经 · 09/15 14:16