论文的核心观点是什么?
当前AI智能体系统的开发与部署不支持有效的人类监督,甚至会加剧人类监督能力的退化。
(翻译)AI智能体将人类挤出循环
Abstract page for arXiv paper 2608.23642: AI Agents Push Humans Out of the Loop
该论文指出,AI智能体自主性增强带来显著风险,常被提出的“人在回路”监督方案并不可行:现有智能体设计阻碍人类有效监督,长期使用AI还会削弱所需的认知能力。作者主张将人类监督者的认知需求置于与AI能力同等重要的位置,并结合自动化和人机交互研究,提出支持批判性判断、缓解技能萎缩的设计与组织协议,呼吁开发者采纳。
当前AI智能体系统的开发与部署不支持有效的人类监督,甚至会加剧人类监督能力的退化。
将人类监督者的认知需求与AI能力同等重视,结合自动化和人机交互研究,设计支持批判性判断和防止技能萎缩的机制与组织协议。