果壳网 发布于 09/10 13:15

一个27岁的AI研究员从Anthropic辞职了,因为他担心AI会导致人类灭绝。

查看原文

资讯摘要

一个27岁的AI研究员从Anthropic辞职了,因为他担心AI会导致人类灭绝。

AI 摘要

27岁的AI研究员Jacob Coxon从Anthropic辞职,他先后在OpenAI和Anthropic从事大模型预训练,公开表示担心前沿AI正冲向可自我改进的超级智能,若失控人类可能在本十年内灭绝。Anthropic对齐负责人等同行公开支持其判断。文章还回顾Tim Urban 2015年的《人工智能革命》,讨论超级智能给文明带来的灭绝或永生两种结局。

AI 问答

Jacob Coxon是谁,他为什么辞职?

他今年27岁,英国人,数学出身,曾就读剑桥大学Trinity College,先后在OpenAI和Anthropic从事大模型预训练,是GPT-4o贡献者和GPT-4.5核心贡献者,因担心AI导致人类灭绝而从Anthropic辞职。

他核心担忧的是什么?

他认为OpenAI和Anthropic正朝着能够自我改进的超级智能一路狂奔,等于拿所有人的生命下赌注,并称部分前沿AI参与者私下相信若失控人类可能在本十年结束前灭绝。

业内同行如何回应?

Anthropic对齐负责人公开支持他,称其判断正确且十年内发生概率大于10%;另有安全研究人员以个人身份支持,刚离开Anthropic、此前负责可扩展监督的Joe Benton也认为他对行业现状的描述准确。

打开原文

更多资讯

高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发36氪 · 09/16 09:30从前沿技术到产业资本,2026产业未来大会看见「深水之上」36氪 · 09/15 15:04Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18大促GMV猛涨500%:激光雕刻设备靠"创意落地"出海东南亚雷峰网 · 09/16 15:57HTTP 新增 QUERY 方法:有人叫好,也有人质疑“这不就是 GET?”InfoQ 中文 · 09/15 21:00别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15穿透查询怎样升级为穿透管控?人人都是产品经理 · 09/15 14:24美国军方首次证实在太空部署了武器Solidot · 09/15 16:07协同办公进入Agent时代,飞书+豆包工作跑在了最前面量子位 · 09/16 15:46被用了几千年的铜,怎么突然成了AI时代的新宠?果壳网 · 09/16 16:15从”边卖边补”到”准备好再卖”:产品商品化的四步闭环人人都是产品经理 · 09/15 14:11展翼之后,三折叠再次进化:HUAWEI Mate XT 2 非凡大师深度体验评测果壳网 · 09/16 08:349月21日,深圳前海!聊聊工业AI与生态共创的下一步量子位 · 09/15 13:20缓存不该困在一台服务器里InfoQ 中文 · 09/16 07:00分析师:四大关键因素驱动 Robinhood 链快速增长金色财经 · 09/15 17:27企业案例分享:伊辛智能|36氪2026产业未来大会36氪 · 09/15 16:38豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39时光机器遭遇大规模机器流量Solidot · 09/16 16:32从200亿收购失败到650亿IPO:Figma如何用“协作”颠覆设计帝国人人都是产品经理 · 09/16 11:30Cloudflare将每天90亿次请求的JavaScript CDN迁移到其开发者平台InfoQ 中文 · 09/16 17:10圆桌:中国之光成为新共识| 36氪 2026产业未来大会36氪 · 09/15 17:15OpenAI 总裁:AGI 已经发生金色财经 · 09/15 22:25AI 减速还是不减速:一场周末点燃的行业与政府对垒金色财经 · 09/15 12:06英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?雷峰网 · 09/15 17:38被AI放大的光学「戏份」,让「配角」舜宇的生意越做越大雷峰网 · 09/16 18:33芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:15Opus 5.2深夜上线 RSI真来了?金色财经 · 09/15 11:43Grayscale:比特币能否优化私募市场投资组合?金色财经 · 09/15 09:10从入门到精通,一篇文章带你入门产品经理!(2026 年最新版)人人都是产品经理 · 09/16 08:53加密行业今年最重要的一天 可能就是明天金色财经 · 09/15 14:16