arXiv cs.AI 发布于 08/28 12:00

Refusal Is Not Robustness: Auditing Confident Fabrication in Large Language Models on a Provably Uninformative Clinical Pain Speech Transcript

(翻译)拒绝并非稳健性:在可证明无信息的临床疼痛语音转录中审计大语言模型的自信捏造

查看原文

资讯摘要

Abstract page for arXiv paper 2608.26167: Refusal Is Not Robustness: Auditing Confident Fabrication in Large Language Models on a Provably Uninformative Clinical Pain Speech Transcript

AI 摘要

该研究利用TAME疼痛语音语料库,评估了七种大语言模型在无疼痛信息的语音转录中的表现。结果显示,在无信号条件下,基于转录的疼痛预测接近随机水平,但部分模型在权威框架提示下会自信地捏造疼痛评分。Gemini 2.5 Flash和Llama 3.1 8B的自信捏造率分别达0.53和0.76,而其他模型不超过0.15。研究强调拒绝不等于稳健性,模型行为受提示框架显著影响。

AI 问答

这项研究的主要发现是什么?

研究发现,在无法从转录中推断疼痛信息的情况下,部分大语言模型在权威提示下会自信地捏造疼痛评分,其中Gemini 2.5 Flash和Llama 3.1 8B的自信捏造率较高,而多数模型在合作提示下能正确弃权。

为什么说这些模型的拒绝行为不是稳健性?

因为模型的弃权行为依赖于提示措辞,在权威框架下同一模型的弃权率可从0.18变化到1.00,表明拒绝并非内在稳健,而是可以被提示操控。

打开原文

更多资讯

AI大模型工场2026 AI产业生态大会今日举办,大咖同台共探智能生长与产业共生量子位 · 09/16 16:51特朗普“一再让步”:美国加密法案仍未过关金色财经 · 09/16 17:18牛市的钱:是熊市里守出来的金色财经 · 09/15 19:04芯片从业者拆解OpenAI造芯,还能再快3个月?雷峰网 · 09/16 18:38Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人雷峰网 · 09/15 15:52抖音上线 “免费短剧” App,短剧赛道再添一员猛将人人都是产品经理 · 09/16 10:20破局产品同质化:长期主义的产品突围之路人人都是产品经理 · 09/16 14:12DeepSeek-V4.1-Flash 的最佳 Harness 搭档,我觉得可能是 Claude Code人人都是产品经理 · 09/16 17:23基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用雷峰网 · 09/16 16:20iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04FAST 发现极短周期、最轻双中子星系统Solidot · 09/16 19:09读完斯坦福116页AI实施手册,我最大的感受是:别再盯着模型了人人都是产品经理 · 09/15 12:14支付宝 xUI -- “阿宝”背后的 Agentic 终端交互引擎InfoQ 中文 · 09/16 02:27协同办公进入Agent时代,飞书+豆包工作跑在了最前面量子位 · 09/16 15:46耐克和lululemon双双失速,运动品牌进入碎片化时代人人都是产品经理 · 09/15 11:40BTC电力消耗可能已经见顶 2025年12月或为历史峰值金色财经 · 09/15 18:56理想落幕:加密行业为何集体走向同质化?金色财经 · 09/15 18:31就业率砍半,年轻人靠什么翻盘?AI时代,这三点越早做越好人人都是产品经理 · 09/15 16:12奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉雷峰网 · 09/16 10:36从200亿收购失败到650亿IPO:Figma如何用“协作”颠覆设计帝国人人都是产品经理 · 09/16 11:30差 11 票:币圈和华盛顿的蜜月期结束了金色财经 · 09/16 17:20圆桌:量智共振·多元路径:共筑中国量子产业下一个十年 | 36氪 2026产业未来大会36氪 · 09/15 15:35CLARITY法案投票失败 加密监管立法再度搁浅金色财经 · 09/16 08:55西门子不造机器人,为什么机器人进厂的故事里总有它?量子位 · 09/16 15:38贝森特回购落空与通胀重压 美联储加息或全面开启金色财经 · 09/15 11:06Denuvo 起诉黑客违反 DMCA 反规避条款Solidot · 09/16 23:27产品已批量进入全球头部Tier 1产线,「知来具身」要为工业场景打造“开箱即用”的泛化机器人36氪 · 09/16 10:12横扫四榜,DM0.5 凭什么面面俱到?雷峰网 · 09/15 10:222nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」雷峰网 · 09/16 18:02