arXiv cs.AI 发布于 08/26 12:00

AI Agents Push Humans Out of the Loop

(翻译)AI智能体将人类挤出循环

查看原文

资讯摘要

Abstract page for arXiv paper 2608.23642: AI Agents Push Humans Out of the Loop

AI 摘要

该论文指出,AI智能体自主性增强带来显著风险,常被提出的“人在回路”监督方案并不可行:现有智能体设计阻碍人类有效监督,长期使用AI还会削弱所需的认知能力。作者主张将人类监督者的认知需求置于与AI能力同等重要的位置,并结合自动化和人机交互研究,提出支持批判性判断、缓解技能萎缩的设计与组织协议,呼吁开发者采纳。

AI 问答

论文的核心观点是什么?

当前AI智能体系统的开发与部署不支持有效的人类监督,甚至会加剧人类监督能力的退化。

论文提出了哪些应对建议?

将人类监督者的认知需求与AI能力同等重视,结合自动化和人机交互研究,设计支持批判性判断和防止技能萎缩的机制与组织协议。

打开原文

更多资讯

“鲲为科技”完成4亿元新一轮融资36氪 · 10/09 20:58How Postman runs Agent Mode for 40 million developers on Amazon BedrockAWS Machine Learning Blog · 10/09 23:35一次模型测评后,我开始重新理解WorkBuddy人人都是产品经理 · 10/10 11:14独家丨阿维塔酝酿高层调整:董事长王辉已开始负责长安海外业务雷峰网 · 10/10 15:47人人皆可为师:全球首个物理AI数据众包服务平台“觅蜂派”正式发布雷峰网 · 10/10 11:45OpenAI少赚200亿 倒霉却是英伟达金色财经 · 10/10 16:20闪电仓赛道,为什么惠宜选要做自有品牌?人人都是产品经理 · 10/10 11:118点1氪丨特朗普买入Meta股票;山姆宣布拟限制亲友卡绑定;豆包开通水、电、燃气等生活缴费功能36氪 · 10/10 08:04一篇把锅从模型甩回公司手里的短文 —— 「计算机无法做出决定」开源中国 · 10/10 15:58Cloudflare 让决策模型打起了价格战:Clef 降价、提速、上多模态开源中国 · 10/10 16:25国内航线燃油附加费今起上调36氪 · 10/10 09:26Nano Banana 2.1 深度实测:4K 直出、中文排版大进步,连续改图的坑也要看清开源中国 · 10/10 14:20近期海外进出口传闻的政策限制对公司是否有影响? 天孚通信回应36氪 · 10/09 20:45Deno 团队整体加入 Cloudflare:Deno runtime 一年后停止开发,Deno Deploy 六个月后关停开源中国 · 10/10 11:02早报|供应链回应iPhone 18 Pro砍单传闻/小米、华为手机同日调价/山姆拟限制亲友卡换绑爱范儿 / APPSO · 10/10 08:14上海国际航运研究中心:预计四季度航运市场发展趋势将保持稳定36氪 · 10/10 15:42OpenAI dots全面登陆手机 开口指挥Codex干活了金色财经 · 10/10 10:59企业AI 走向生产环境,如何避免新一轮技术锁定InfoQ 中文 · 10/10 21:08Sui 难民:华语开发者为什么选择离开?金色财经 · 10/09 21:292026中国国际社会公共安全产品博览会暨第三届智能与安全产业发展大会将于11月3日在北京开幕雷峰网 · 10/10 11:08七部门:构建电商出海良好生态36氪 · 10/10 10:18大厂卷 Jarvis,Samantha却在恋爱影游里冒了头?人人都是产品经理 · 10/10 12:42“物外智趣”完成数千万元人民币天使轮融资36氪 · 10/10 13:55让触觉像视觉一样可规模化,哥大李昀烛团队 FlexiTac 的开源实践 | IROS 2026雷峰网 · 10/10 11:25Starknet考虑从L2转向L1 量子计算与AI成关键推手金色财经 · 10/09 17:23GMIF 2026:日均140万亿Token调用,正在改变SSD的能力与分工雷峰网 · 10/10 09:38Tiger Research:2026年三季度加密资产行业投资报告金色财经 · 10/09 18:01贾健旭卸任上汽大通法定代表人36氪 · 10/10 14:50单次RL后训练烧掉260万美元、每步37亿Token,小米披露MiMo-V2.6“规模化强化学习”路线InfoQ 中文 · 10/11 01:24AI产品经理到底要学哪些技术?传统PM不要把时间浪费在这3件事上人人都是产品经理 · 10/10 09:13