arXiv cs.AI 发布于 08/31 12:00

Not All Explanations Are Sought: Information-Seeking Psychology for Human-Centered XAI

(翻译)并非所有解释都为人所求:以人为中心的可解释AI中的信息寻求心理学

查看原文

资讯摘要

Abstract page for arXiv paper 2608.27464: Not All Explanations Are Sought: Information-Seeking Psychology for Human-Centered XAI

AI 摘要

这篇立场论文主张,以人为中心的可解释AI(HCXAI)应融入信息寻求心理学。研究基于Sharot和Sunstein的框架,认为人们会依据工具性、享乐性和认知性三类预期效用来决定是否查看解释,这些判断受控制错觉、自动化偏差、不切实际乐观、影响偏差、过度自信和确认偏差等影响。过度或不足的信息寻求会导致注意力分散或风险被忽视,尤其是在智能体AI系统中。作者呼吁设计应使解释不仅可用,而且被用户主动寻求。

AI 问答

根据论文,人们决定是否查看解释时主要基于哪些效用?

工具性效用、享乐性效用和认知性效用。

论文指出哪些认知偏差会影响对解释效用的判断?

控制错觉、自动化偏差、不切实际的乐观、影响偏差、过度自信和确认偏差。

论文对智能体AI系统的可解释性设计有何建议?

应支持用户理解级联行动、评估风险并决定何时干预,设计目标是使解释被用户主动寻求而非仅可用。

打开原文

更多资讯

清晰法案有概率通过?市场可能并未定价金色财经 · 09/15 13:50微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降人人都是产品经理 · 09/16 11:48AI 减速还是不减速:一场周末点燃的行业与政府对垒金色财经 · 09/15 12:06B站AI无限竞技场今日上线!全球百大AI模型同场竞技,GPT-6高居榜首量子位 · 09/16 14:23前高通算法研发经理跨界AI算力板检测,获近亿元战略投资丨36氪首发36氪 · 09/15 09:30清晰法案投票失败 后续还有机会吗?金色财经 · 09/16 14:34从前沿技术到产业资本,2026产业未来大会看见「深水之上」36氪 · 09/15 15:04稳定币挤兑与套利集中化金色财经 · 09/16 18:54GPT-6 Sol 曝光:OpenAI 要把旗舰变成大白菜人人都是产品经理 · 09/16 19:58借助会话追踪与成本控制排查 AI 智能体故障InfoQ 中文 · 09/17 01:12豆包 2.1 Pro模型更新,已接入豆包工作雷峰网 · 09/16 14:01Announcing instance preference lists for Amazon SageMaker AI training jobsAWS Machine Learning Blog · 09/16 00:01担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」雷峰网 · 09/15 08:23做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04无效的管理者和疲惫的基层:浅论考核指标的漂移人人都是产品经理 · 09/16 15:0636氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块36氪 · 09/16 14:35廉价太阳能改变世界能源格局Solidot · 09/15 17:19上市前交易市场:永续合约化的Pre-IPO资产金色财经 · 09/16 09:21分析师:四大关键因素驱动 Robinhood 链快速增长金色财经 · 09/15 17:27HIP-3:昂贵的入场券 买不来的护城河金色财经 · 09/15 09:48Uniswap v4上的恶意Hooks金色财经 · 09/15 12:43华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27百度做了一堆AI产品,却没有一个能代表百度?人人都是产品经理 · 09/15 18:31Fault tolerant distributed training on Amazon EKS using NVRxAWS Machine Learning Blog · 09/17 02:59QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24无问芯穹联合清华、上交正式开源具身端侧推理引擎APXInf,Pi 0.5性能SOTA量子位 · 09/15 18:43TensorRT Edge-LLM Completes the MLPerf Edge Agentic Benchmark 6.4x Faster on Jetson AGX ThorNVIDIA Technical Blog · 09/17 04:37清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单量子位 · 09/16 14:32超越代币化:让RWA在链上真正有用金色财经 · 09/16 16:397名博士生仅用3个月从零训练7B大模型:代码+数据+训练日志全公开量子位 · 09/15 10:17