arXiv cs.AI 发布于 10/09 12:00

Reading the Room: Foundations, Design, and Challenges of Normative Competence in LLMs

(翻译)读懂场合:LLM 规范能力的基础、设计与挑战

查看原文

资讯摘要

Abstract page for arXiv paper 2610.10906: Reading the Room: Foundations, Design, and Challenges of Normative Competence in LLMs

AI 摘要

这篇 arXiv 论文研究大语言模型的“规范能力”,即仅凭互动识别社区执行规范的能力。作者提出多智能体社区辩论设定,发现基线 LLM 难以学习规范,规范模块泛化性不足,且模型会把无关行为噪声与真实规则一并模仿。

AI 问答

论文关注的核心问题是什么?

论文关注大语言模型能否仅通过互动识别社区实际执行的社会规范,而不是依赖预训练知识。

作者如何评估这种能力?

作者设计了一个多智能体社区辩论场景,辩论准入由合成规范控制,用以隔离预训练暴露对结果的影响。

主要发现是什么?

基线 LLM 即使学习规范有助于提高准确率也难以做到;规范模块对规范风格和模型选择高度敏感,且模型会无选择地模仿无关噪声。

打开原文

更多资讯

吉利智充技术正式发布,重塑全球补能新标杆量子位 · 10/08 17:10全球最大独立 AI 原生影视公司,要打造「AI 版 Disney」爱范儿 / APPSO · 10/09 12:0036氪首发丨航天老兵创业做高分辨率遥感相机,连续完成多轮次近亿元融资36氪 · 10/09 10:41地球九大“保命指标”爆了七个,宜居界线全线失守?|环境小喇叭果壳网 · 10/08 16:15Superfluid 创始人:我为何要离开加密领域金色财经 · 10/08 10:25美国财政问题让比特币价格持续坚挺?金色财经 · 10/08 16:31vivo X500 Pro Max 影像漫谈:当视频创作像拍照一样轻巧少数派 · 10/09 14:437大鲜明观点:央行重磅发布人民币汇率政策立场金色财经 · 10/08 21:00美债收益率飙升 AI股为何还能继续上涨?金色财经 · 10/09 13:43为何 DeFi 需要一套全新基础设施?金色财经 · 10/08 12:05从 Rollout 到权重同步:Mooncake 如何支撑高性能强化学习系统|QCon上海InfoQ 中文 · 10/08 18:00How Could AI Eliminate Humanity? A Failure-Mode Analysis of Civilizational RiskarXiv cs.AI · 10/08 12:00SpaceX、博通、甲骨文天量发债:美国债市“挤爆”金色财经 · 10/09 09:31腾讯WorkBuddy悄悄上新功能,我再也不用把文件搬来搬去了人人都是产品经理 · 10/09 13:56Bitwise:读懂“为AI而生的区块链”NEAR金色财经 · 10/08 09:21Grok Bot免费Opus 5.5直连 第三方模型付费墙被砸开金色财经 · 10/09 10:05Beyond Imitation: A Framework and Benchmark for LLM-Assisted Peer ReviewarXiv cs.AI · 10/09 12:00Can AI Agents Make Open-Ended Scientific Discovery? Evidence from StationarXiv cs.AI · 10/08 12:008点1氪丨国际金价回调,金饰克价已暴跌约150元;A股千元股仅剩3只;711印度门店全部关闭36氪 · 10/09 07:54产品经理职业选择:在一个岗位待两年,你是在成长还是在消耗?人人都是产品经理 · 10/08 10:56比特币能抗住8万吗?不妨看看这些数据金色财经 · 10/09 16:28硬氪首发丨AI眼镜企业天使轮融资数亿,已与线下数百家门店合作月发售数千台36氪 · 10/08 11:03作为 PM,我为什么一边用Gitee一边盼它赶紧迭代人人都是产品经理 · 10/08 11:07谭谈:央行为什么发布关于人民币汇率的政策立场金色财经 · 10/09 16:06Route-Verify-Vote: Procedure-Conditioned Self-Consistency for Mixed-Domain ReasoningarXiv cs.AI · 10/08 12:00openJiuwen发布并开源企业级AgentOS,加速智能体规模落地企业量子位 · 10/09 10:37融到56亿后,干啥?人人都是产品经理 · 10/09 14:323 个最近爆火的 Personal Agent ,在 GitHub 上有开源平替了。人人都是产品经理 · 10/09 10:36GPT-6今起免费用!拒答变少,话变多了量子位 · 10/08 09:07腾讯账上躺着5000亿,为啥还要借钱?人人都是产品经理 · 10/09 10:21