这篇论文主要研究什么问题?
论文研究安全对齐语言模型在面对直接有害请求时会拒绝,但当相同请求被放入角色扮演或叙事包装中时可能回答的问题。
(翻译)叙事包装如何影响 LLM 拒绝:跨语言基准与防御
Abstract page for arXiv paper 2610.11005: How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense
该 arXiv 论文摘要研究有害请求被角色扮演或叙事包装后绕过大模型拒绝机制的问题,提出 GUISE 跨语言基准,并给出 AXIS 防御方法,在 Qwen3 与 GLM-4 模型上提升安全性与可用性综合表现。
论文研究安全对齐语言模型在面对直接有害请求时会拒绝,但当相同请求被放入角色扮演或叙事包装中时可能回答的问题。
GUISE 是作者构建的跨语言基准,包含英语、现代汉语和文言文的并行请求、匹配的有害与良性样本,以及用于评估的叙事包装类型。
AXIS 结合偏好优化、表示旋转目标和承诺目标,使有害请求表征更接近拒绝方向,并训练模型完整拒绝而不是先警告再回答。
App+1|所得即所见,更适合中文的字体预览工具:Anyway.FontsARTEX 从 GitHub 下架让AI走进真实产线,汇川技术2026工博会看点前瞻
从「小而专」切入,3C 卖家如何在东南亚做深配件生意
腾讯WorkBuddy悄悄上新功能,我再也不用把文件搬来搬去了
金色Web3.0日报 | 美国政府转出6.7亿美元加密资产When Interfaces Speak: Data-Aware Generative UI Harness for Active InteractionSynthesis Through Simulation: Generating Coherent Enterprise Data via Scalable Agent-System Interaction
黄仁勋为微软站台:没有 Windows 就不会有英伟达,Satya 当场“讨市值”
L2关停潮来袭:Blast、Abstract等明星项目为何退场
我在山姆“进厂式”工作:外企滤镜、流水线与人间剧场
美股上涨的“好日子”还能撑多久?搭载NVIDIA RTX Spark™ N1X超级芯片:联想YOGA Pro 15开启盲约,重塑个人生产力边界
加密市场小幅回调 原因是美国政府卖币吗?
Grayscale解读智能体趋势:更便宜的AI 更多算力需求
为什么提高员工待遇,也学不成胖东来?Sigma-Hunter: A Domain-Specific Language Model for Threat Hunting and Detection EngineeringDistillation for Incrimination and Distillation for Capabilities
TypeScript 终于能编译成原生程序了?启动快 12 倍,运行却慢 7.5 倍
从火山灰到“火山之子”,喀拉喀托的诞生与重生
比特币能抗住8万吗?不妨看看这些数据Accelerating Floating-Point Satisfiability Solving via Gradient NormalizationChatGPT踢到铁板了!能破解千禧数学难题,但论文复现率低至13.98%?
关于Personal Agent 和muse领域我的实操经验分享
跨平台执行交易:智能体要攻克的下一个关口
Superfluid 创始人:我为何要离开加密领域An Explainable Header-Centric Framework for Large-Scale Semantic Table Interpretation and Data Quality Assessment
接上这个免费AI接待员,24小时帮你智能回复访客
派早报:英伟达 RTX Spark 新品一览、Anthropic 发布 Claude Haiku 5.5 模型等