arXiv cs.AI 发布于 08/26 12:00

A Formal Methodological Framework for Auditing Robustness and Fidelity in Explainable AI: From Application to Trust Certification

（翻译）审计可解释人工智能鲁棒性与保真度的形式化方法论框架：从应用到信任认证

资讯摘要

Abstract page for arXiv paper 2608.23817: A Formal Methodological Framework for Auditing Robustness and Fidelity in Explainable AI: From Application to Trust Certification

AI 摘要

该论文提出一个形式化审计框架，用于衡量事后解释器（如SHAP和LIME）的鲁棒性与保真度，并将二者合成信任分数。在马达加斯加营养缺失数据集上的实验显示，AUC超过0.99的模型仍可能产生退化或无信息解释，过度拟合会削弱保真度指标的区分力。作者强调审计XAI输出是必要的。

AI 问答

什么是Trust Score?

Trust Score将解释器的鲁棒性（输入扰动下解释的稳定性）与保真度（被认定重要的特征是否真正驱动模型预测）两个指标合并为一个综合分数。

研究发现给出什么警示?

研究发现，即使AUC超过0.99的模型也可能产生数值退化或毫无信息的解释，且模型过拟合时保真度指标的区分力下降，因此对XAI输出进行审计十分必要。

打开原文

Citrini：区块链终于迎来它的时刻怎么选择投资组合金色财经 · 10/09 18:34 A股市场下探回升，机构称市场具备修复性反弹基础36氪 · 10/10 09:21 C盘爆红救星！开源神器 MuRig v1.2.0 发布，支持自定义环境安装路径！开源中国 · 10/10 18:19 商务部：中欧双方将继续探讨在世贸组织规则框架下，降低部分商品关税的可能性36氪 · 10/09 19:20 诺贝尔和平奖授予了南非女法官 Navi PillaySolidot · 10/09 18:58 前8个月我国软件业务收入超10万亿元36氪 · 10/10 11:20

以太坊主网和L2实现跨链原子交易金色财经 · 10/09 21:26

谷歌Gemini 4新模型泄露内测评价：这不Opus 5.5吗金色财经 · 10/10 13:18 母婴业这样用WorkBuddy就对了人人都是产品经理 · 10/10 14:40 国内金饰价格集体上涨36氪 · 10/10 10:49 商务部电子商务司负责人解读《关于实施品质电商“五优”行动的通知》36氪 · 10/10 10:25 热门中概股美股盘前普涨，理想汽车涨超4%36氪 · 10/09 20:52

Tiger Research：2026年三季度加密资产行业投资报告金色财经 · 10/09 18:01 设计系统负责人的语义生长之约束显化：把1条”绝对不能”翻译成机器规则人人都是产品经理 · 10/10 09:21 Cloudflare 公共 DNS 服务不需屏蔽盗版网站域名Solidot · 10/10 15:30 国铁广州局明起实施新列车运行图，多条列车首次开行36氪 · 10/10 17:59 从 Coding 到 Running：AI Native SRE Agent 的工程实践InfoQ 中文 · 10/10 22:13 Impactful scheduling for GPU clustersHugging Face Blog · 10/09 23:20 旅行成为个人 Agent 的高频场景，「豆包工作」把几十小时攻略浓缩成 PPT人人都是产品经理 · 10/10 17:29 机构：预估2031年VCSEL市场需求量将有望达到6.5亿颗36氪 · 10/10 12:52 东软集团等在珠海横琴成立科技公司36氪 · 10/10 17:43 客户说要一个功能，产品经理怎么找到真正的需求在那？人人都是产品经理 · 10/10 18:17

这三个摄影 App，配得上你全新的 iPhone 18 Pro爱范儿 / APPSO · 10/10 12:12 超110台中国AR眼镜为WTTC全球峰会提供实时翻译服务36氪 · 10/10 12:12

10后中学生捧红统一“呆毛”发型，这回轮到老非主流们看不惯了果壳网 · 10/10 17:15 芯片专家试图劝退马斯克：Terafab芯片项目可比发射星舰火箭更难36氪 · 10/10 17:49 独家丨蔚来李斌最新内部讲话：明年将有重量级新车，未来3年的核心是三个聚焦雷峰网 · 10/10 15:49 分享一个AI做视频提效10倍的方式人人都是产品经理 · 10/10 10:53

早报｜供应链回应iPhone 18 Pro砍单传闻/小米、华为手机同日调价/山姆拟限制亲友卡换绑爱范儿 / APPSO · 10/10 08:14