arXiv cs.AI 发布于 08/26 12:00

AI Agents Push Humans Out of the Loop

(翻译)AI智能体将人类挤出循环

查看原文

资讯摘要

Abstract page for arXiv paper 2608.23642: AI Agents Push Humans Out of the Loop

AI 摘要

该论文指出,AI智能体自主性增强带来显著风险,常被提出的“人在回路”监督方案并不可行:现有智能体设计阻碍人类有效监督,长期使用AI还会削弱所需的认知能力。作者主张将人类监督者的认知需求置于与AI能力同等重要的位置,并结合自动化和人机交互研究,提出支持批判性判断、缓解技能萎缩的设计与组织协议,呼吁开发者采纳。

AI 问答

论文的核心观点是什么?

当前AI智能体系统的开发与部署不支持有效的人类监督,甚至会加剧人类监督能力的退化。

论文提出了哪些应对建议?

将人类监督者的认知需求与AI能力同等重视,结合自动化和人机交互研究,设计支持批判性判断和防止技能萎缩的机制与组织协议。

打开原文