arXiv cs.AI 发布于 10/09 12:00

How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense

(翻译)叙事包装如何影响 LLM 拒绝:跨语言基准与防御

查看原文

资讯摘要

Abstract page for arXiv paper 2610.11005: How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense

AI 摘要

该 arXiv 论文摘要研究有害请求被角色扮演或叙事包装后绕过大模型拒绝机制的问题,提出 GUISE 跨语言基准,并给出 AXIS 防御方法,在 Qwen3 与 GLM-4 模型上提升安全性与可用性综合表现。

AI 问答

这篇论文主要研究什么问题?

论文研究安全对齐语言模型在面对直接有害请求时会拒绝,但当相同请求被放入角色扮演或叙事包装中时可能回答的问题。

GUISE 是什么?

GUISE 是作者构建的跨语言基准,包含英语、现代汉语和文言文的并行请求、匹配的有害与良性样本,以及用于评估的叙事包装类型。

AXIS 方法的目标是什么?

AXIS 结合偏好优化、表示旋转目标和承诺目标,使有害请求表征更接近拒绝方向,并训练模型完整拒绝而不是先警告再回答。

打开原文

更多资讯

GPT-6今起免费用!拒答变少,话变多了量子位 · 10/08 09:07App+1|所得即所见,更适合中文的字体预览工具:Anyway.Fonts少数派 · 10/09 10:08ARTEX 从 GitHub 下架Solidot · 10/09 16:23让AI走进真实产线,汇川技术2026工博会看点前瞻36氪 · 10/08 18:51从「小而专」切入,3C 卖家如何在东南亚做深配件生意雷峰网 · 10/08 14:07腾讯WorkBuddy悄悄上新功能,我再也不用把文件搬来搬去了人人都是产品经理 · 10/09 13:56金色Web3.0日报 | 美国政府转出6.7亿美元加密资产金色财经 · 10/08 22:01When Interfaces Speak: Data-Aware Generative UI Harness for Active InteractionarXiv cs.AI · 10/09 12:00Synthesis Through Simulation: Generating Coherent Enterprise Data via Scalable Agent-System InteractionarXiv cs.AI · 10/09 12:00黄仁勋为微软站台:没有 Windows 就不会有英伟达,Satya 当场“讨市值”InfoQ 中文 · 10/10 01:53L2关停潮来袭:Blast、Abstract等明星项目为何退场金色财经 · 10/08 16:45我在山姆“进厂式”工作:外企滤镜、流水线与人间剧场人人都是产品经理 · 10/08 15:24美股上涨的“好日子”还能撑多久?金色财经 · 10/08 10:41搭载NVIDIA RTX Spark™ N1X超级芯片:联想YOGA Pro 15开启盲约,重塑个人生产力边界量子位 · 10/08 18:23加密市场小幅回调 原因是美国政府卖币吗?金色财经 · 10/08 15:32Grayscale解读智能体趋势:更便宜的AI 更多算力需求金色财经 · 10/09 12:02为什么提高员工待遇,也学不成胖东来?人人都是产品经理 · 10/09 08:58Sigma-Hunter: A Domain-Specific Language Model for Threat Hunting and Detection EngineeringarXiv cs.AI · 10/08 12:00Distillation for Incrimination and Distillation for CapabilitiesarXiv cs.AI · 10/09 12:00TypeScript 终于能编译成原生程序了?启动快 12 倍,运行却慢 7.5 倍InfoQ 中文 · 10/08 21:22从火山灰到“火山之子”,喀拉喀托的诞生与重生果壳网 · 10/09 13:15比特币能抗住8万吗?不妨看看这些数据金色财经 · 10/09 16:28Accelerating Floating-Point Satisfiability Solving via Gradient NormalizationarXiv cs.AI · 10/08 12:00ChatGPT踢到铁板了!能破解千禧数学难题,但论文复现率低至13.98%?量子位 · 10/08 17:28关于Personal Agent 和muse领域我的实操经验分享人人都是产品经理 · 10/09 09:27跨平台执行交易:智能体要攻克的下一个关口金色财经 · 10/08 15:54Superfluid 创始人:我为何要离开加密领域金色财经 · 10/08 10:25An Explainable Header-Centric Framework for Large-Scale Semantic Table Interpretation and Data Quality AssessmentarXiv cs.AI · 10/09 12:00接上这个免费AI接待员,24小时帮你智能回复访客人人都是产品经理 · 10/09 09:34派早报:英伟达 RTX Spark 新品一览、Anthropic 发布 Claude Haiku 5.5 模型等少数派 · 10/09 08:51