arXiv cs.AI 发布于 08/28 12:00

A Safety-Gated Multimodal AI Backend for Mental-Health Support: Hierarchical State Representation, Conservative Risk Fusion, and Controlled Generation in Anian

(翻译)用于心理健康支持的安全门控多模态AI后端:Anian中的层级状态表示、保守风险融合与受控生成

查看原文

资讯摘要

Abstract page for arXiv paper 2608.26162: A Safety-Gated Multimodal AI Backend for Mental-Health Support: Hierarchical State Representation, Conservative Risk Fusion, and Controlled Generation in Anian

AI 摘要

该论文介绍了名为Anian的安全门控多模态AI后端系统,用于围产期心理健康支持和正念干预路由。系统将生成式AI置于结构化状态表示、保守风险融合和响应门控之后,将用户文本或语音转录映射为情绪状态、心理社会建构、安全风险和干预路线四个层级。在中高风险时,AI生成响应和语音合成被阻断,替换为固定安全内容并提示人工支持。内部评估使用约85.8万条记录,L1情绪分类、L2心理社会建构和L4路由微F1分别为0.9604、0.9144、0.9742,安全压力测试高风险管理召回率达1.0,但论文指出这些结果不代表临床有效验证。

AI 问答

Anian系统在高风险情况下如何工作?

当融合风险达到中等或高等时,系统会阻断常规AI生成响应和文本转语音输出,改用固定安全内容并提示寻求人工支持。

该系统的原型评估结果如何?

在内部评估中,L1情绪分类、L2心理社会建构和L4路由的微F1分数分别达到0.9604、0.9144和0.9742,安全压力测试高风险管理召回率为1.0,但论文强调这仅是内部可行性验证,不代表临床有效性。

打开原文

更多资讯

DeepSeek-V4.1-Flash 的最佳 Harness 搭档,我觉得可能是 Claude Code人人都是产品经理 · 09/16 17:23穿透查询怎样升级为穿透管控?人人都是产品经理 · 09/15 14:24FAST 发现极短周期、最轻双中子星系统Solidot · 09/16 19:09从 270 分钟到 18 分钟:B 端产品经理如何主导一个 AI 达人撮合系统人人都是产品经理 · 09/16 09:37圆桌:跃迁·AI深流,价值跃升——AI深水时代,从模型竞逐到产业价值涌现 | 36氪 2026产业未来大会36氪 · 09/15 17:23圆桌:智能向实,产业向新——AI如何进入真实世界 | 36氪 2026产业未来大会36氪 · 09/15 18:00How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera RubinNVIDIA Technical Blog · 09/16 00:55把记忆交给CPU,大模型会变快量子位 · 09/16 11:07高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发36氪 · 09/16 09:30清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单雷峰网 · 09/16 16:05当我怀念旧版 Edge 浏览器时,我在怀念什么?少数派 · 09/16 10:38Anthropic CEO自爆行业黑幕金色财经 · 09/15 19:37产品观察丨xTool做了一台3000元起步的激光雕刻机,难的不只是价格36氪 · 09/16 10:40一张GPU跑10万原子!分子之心用AI把化学反应“拍”成了电影量子位 · 09/15 17:58AI健康走进百姓餐桌,蚂蚁阿福推出AI饮食分功能雷峰网 · 09/16 15:20从前沿技术到产业资本,2026产业未来大会看见「深水之上」36氪 · 09/15 15:048点1氪丨8月一线城市房价上涨;携程上架510万一张的太空旅行船票;字节跳动上半年净利润出现下滑,但海外收入占比再创新高36氪 · 09/16 08:01YC 最值钱的这 20家公司,没有一家来自最近5年人人都是产品经理 · 09/15 10:39CLARITY折戟 多方博弈撕裂行业预期 市场怎么看?金色财经 · 09/16 10:33超越代币化:让RWA在链上发挥实用价值金色财经 · 09/15 12:11谁在给我们制造 AI 焦虑金色财经 · 09/15 20:38梁文锋CFO到位!投过智谱MiniMax量子位 · 09/15 21:53字节6年,如何一步步走上带20人团队的leader人人都是产品经理 · 09/16 14:39Mozilla 报告称中国开放权重模型与美国前沿模型仅相差 4.4 个月Solidot · 09/16 18:30微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降人人都是产品经理 · 09/16 11:48Introducing Gemini 3.8 Live and 3.8 Live Extended ThinkingGoogle DeepMind Blog · 09/16 01:05只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17Announcing instance preference lists for Amazon SageMaker AI training jobsAWS Machine Learning Blog · 09/16 00:01别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用雷峰网 · 09/16 16:20