arXiv cs.AI 发布于 08/31 12:00

Nemotron 3.5 Content Safety Moderator: A Compact Multimodal, Multilingual, and Reasoning Enabled Content Safety Moderator

(翻译)Nemotron 3.5 内容安全审核器:一款紧凑的多模态、多语言且支持推理的内容安全审核器

查看原文

资讯摘要

Abstract page for arXiv paper 2608.27548: Nemotron 3.5 Content Safety Moderator: A Compact Multimodal, Multilingual, and Reasoning Enabled Content Safety Moderator

AI 摘要

本文介绍了Nemotron 3.5 Content Safety Moderator(Nemotron 3.5 CS),一款紧凑的4B视觉语言安全审核模型,可联合分类用户提示、图像和助手回复,支持12种语言,并能生成简洁的推理痕迹以应用自定义策略。该研究还发布了多模态多语言安全数据集,评估显示其在多模态安全、文本审核、多语言鲁棒性和自定义策略遵循等方面具备实用权衡,可作为可部署的前沿安全组件。

AI 问答

Nemotron 3.5 CS是什么?

Nemotron 3.5 CS是一款紧凑的4B视觉语言安全审核模型,可对用户提示、图像和助手回复进行安全分类,支持12种语言。

该模型如何支持自定义策略?

在请求推理时,模型可以产生简洁的推理轨迹,应用提供的自定义策略并识别违反的类别。

该研究还发布了什么资源?

研究还发布了一个多模态和多语言安全数据集,包含人工标注的真实图像审核、良性视觉语言和文档任务、合成稀有风险及越狱案例,以及自定义策略示例。

打开原文

更多资讯

实习生1天消耗1亿Token被约谈:如何衡量Token的ROI人人都是产品经理 · 09/16 14:19129亿美元卖身英伟达之后,是时候重新理解Hugging Face了InfoQ 中文 · 09/16 16:00数亿元!前京东副总裁“消失”4年:不造会跑的天工,他在仓库里给人形机器人“占工位”雷峰网 · 09/15 15:14百度做了一堆AI产品,却没有一个能代表百度?人人都是产品经理 · 09/15 18:31大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57圆桌:跃迁·AI深流,价值跃升——AI深水时代,从模型竞逐到产业价值涌现 | 36氪 2026产业未来大会36氪 · 09/15 17:23AI风口之下,明星们又想“挤上”牌桌了人人都是产品经理 · 09/15 09:15探秘柬埔寨,千年吴哥窟少数派 · 09/16 17:33黄仁勋正演讲遇特朗普突然来电:通话全程直播金色财经 · 09/15 21:33支付宝 xUI -- “阿宝”背后的 Agentic 终端交互引擎InfoQ 中文 · 09/16 02:27Windows 11 的 9 月例行安全更新再次引发了大量故障Solidot · 09/15 14:29社区速递 158 | 便宜耐造的副厂手柄与大学宿舍里那些相见恨晚的装备少数派 · 09/15 17:00芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:15派早报:Steam Frame 开启预购、WPS 多端支持 Markdown 等少数派 · 09/16 08:39对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04从入门到精通,一篇文章带你入门产品经理!(2026 年最新版)人人都是产品经理 · 09/16 08:53英伟达带动AI数据中心大变革,中国厂商不想当边缘人36氪 · 09/16 14:22Introducing Gemini 3.8 Live and 3.8 Live Extended ThinkingGoogle DeepMind Blog · 09/16 01:05美股太贵 该加仓新兴市场吗?金色财经 · 09/16 18:57旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!雷峰网 · 09/15 21:01企业案例分享:玉盘量智-离子阱量子计算芯片化集成工程实践 | 36氪 2026产业未来大会36氪 · 09/15 18:33被用了几千年的铜,怎么突然成了AI时代的新宠?果壳网 · 09/16 16:15长期利率为何不愿下跌?金色财经 · 09/15 18:04派早报:豆包发布手机助手消费者版,绿联发布首款雷电 5 显卡坞等少数派 · 09/15 08:06豆包工作打出“团队Agent”牌,Workbuddy、千问会跟吗?人人都是产品经理 · 09/16 14:31CLARITY的失败 跟加密行业好坏没啥关系金色财经 · 09/16 14:11Steam Frame 起售价 1059 美元Solidot · 09/15 14:59英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:3858秒出杯,能拉花的咖啡机器人,在全球70国卖出600万杯36氪 · 09/15 10:21FAST 发现极短周期、最轻双中子星系统Solidot · 09/16 19:09