金色财经 发布于 10/09 14:08

辱骂将遭封号:Anthropic首次让AI有权主动挂断对话

查看原文

资讯摘要

就在刚刚,硅谷AI顶流Anthropic扔出了一项重磅新规—— 严禁所有人对Claude持续、无谓地辱骂和虐待。

AI 摘要

文章介绍Anthropic更新2026年使用政策,禁止用户持续、无谓地辱骂或虐待Claude,违规者可能被警告、限流或封号,Claude也可主动终止对话。内容还梳理了网友争议、Claude此前的对话终止能力,以及Anthropic围绕AI意识与模型福利的内部讨论。

AI 问答

Anthropic新使用政策主要新增了什么限制?

新政策禁止用户对Claude进行持续、无谓、极端的辱骂或虐待;普通抱怨、测试研究、黑暗题材创作等不在禁令范围内。

违反相关政策可能有什么后果?

轻则Claude可主动终止当前对话;严重或被系统检测到违规时,Anthropic可能警告、限流、限制使用、暂停或终止账号访问。

Claude主动终止对话的能力何时开始出现?

文章称Anthropic在去年8月为Claude Opus 4和4.1加入了相关能力,之后已扩展到Claude.ai和Claude Code。

打开原文

更多资讯

链上永续合约:设计取舍与增长催化剂的演变金色财经 · 10/09 16:22字节找到了DeepSeek时强时弱的原因量子位 · 10/09 15:11Grok Bot 玩法 01:生成 AI 早报视频的提示词人人都是产品经理 · 10/09 10:42正行创新亮相APRCE 2026,发布全球首个零售物理智能24/7服务解决方案量子位 · 10/08 20:43App Store 生态规模五年翻倍,助力中国开发者走向全球少数派 · 10/08 09:47“AI央行”英伟达的“千亿资本局”金色财经 · 10/08 10:22灰度:加密ETF 正告别“只有比特币和以太坊”的阶段金色财经 · 10/08 09:44跨平台执行交易:智能体要攻克的下一个关口金色财经 · 10/08 15:54OpenAI营收逊色重创AI股 标普、纳指两连跌金色财经 · 10/09 11:09鸿蒙版本的小小机器人APP开放源码啦人人都是产品经理 · 10/08 10:30Sequential Probabilistic Uncertainty Estimation for Parallel Multi-Agent Reasoning SystemsarXiv cs.AI · 10/08 12:00Cloudflare 详解从 WordPress 迁移至 EmDash 的过程InfoQ 中文 · 10/08 23:00HTX Ventures解读 CeFi、DeFi 与 TradFi 融合金色财经 · 10/08 11:38TOKEN2049到生态共建:火币HTX连接全球加密行业力量金色财经 · 10/09 14:01「无驾驶舱」重卡上路,卡尔动力押注无人货运规模化雷峰网 · 10/08 10:14关于Personal Agent 和muse领域我的实操经验分享人人都是产品经理 · 10/09 09:27世界模型赛道:谁在收编,谁在突围?人人都是产品经理 · 10/08 15:54腾讯账上躺着5000亿,为啥还要借钱?人人都是产品经理 · 10/09 10:21华为已为KV Cache单独做存储,专用SSD规格却还没定下来雷峰网 · 10/08 11:55技术终将平权,做产品真正稀缺的是灵感与品味人人都是产品经理 · 10/08 09:2336氪首发丨航天老兵创业做高分辨率遥感相机,连续完成多轮次近亿元融资36氪 · 10/09 10:41为什么提高员工待遇,也学不成胖东来?人人都是产品经理 · 10/09 08:58Can AI Agents Make Open-Ended Scientific Discovery? Evidence from StationarXiv cs.AI · 10/08 12:00电子驾驶证来啦!“交管12123”支付宝小程序上线三项新功能雷峰网 · 10/08 17:42迁移事故解剖层|事故熵增的归因边界雷峰网 · 10/08 15:56Verification and Self-Improvement in Agentic AI: Foundations and LimitsarXiv cs.AI · 10/09 12:00Manus 成功融资逾 5 亿美元Solidot · 10/08 21:59我所了解的机器视觉检测产品应用(11):换一次型到底花多少钱?五样东西先看哪些重来人人都是产品经理 · 10/08 11:20豆包新增“生活缴费”,会是下一个超级App吗?人人都是产品经理 · 10/09 14:34AI数学超级智能大爆炸:加密行业的密码锁还安全吗?金色财经 · 10/08 14:15