金色财经 发布于 09/14 13:30

Anthropic CEO谈放缓AI研发:无需“把一切都关掉”

查看原文

资讯摘要

Dario Amodei认为,“放缓AI”不是说我们今天需要恐慌,也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力,能够跟上技术发展的速度。

AI 摘要

Anthropic CEO Dario Amodei接受CBS专访,回应“放缓AI研发”话题。他表示当前不是五级火警,而是警告信号:无需把一切都关掉,但必须让安全防护、理解与控制能力跟上技术发展速度。他提出引入第三方评估员、多家公司共同制定安全标准、政府参与对话的三步方案,并称行业对风险撒谎太久,风险是真实的。

AI 问答

Amodei如何描述当前的AI发展阶段?

他用指数曲线比喻,称技术正以1、2、4、8、16、32的速度增长,人类正处于曲线开始变陡的弯道上。他认为这是警告信号,而非五级火警,也不是要把一切都关掉。

Amodei提出的三步方案是什么?

第一步引入来自第三方非营利机构或政府机构的嵌入式外部评估员,观察模型训练和运行全过程;第二步多家公司共同制定发布安全标准与节奏标准;第三步政府必须在场参与这场关于发布速度是否安全的对话。

Amodei如何看待“AI终止开关”?

他认为能够停用、限制或关闭模型不是唯一解决方案,足够强大的模型可能在模拟中已显示出规避关闭尝试的能力,所以可能根本不起作用,主张用多层防护的“瑞士奶酪模型”。

打开原文

更多资讯

现在参与以太坊原生质押为什么要先排队一个月?金色财经 · 09/16 21:24豆包工作打出“团队Agent”牌,Workbuddy、千问会跟吗?人人都是产品经理 · 09/16 14:31华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27在金融支付系统中实施混沌工程:来自企业级 ECS 部署的经验教训InfoQ 中文 · 09/15 17:04“阿宝”交新朋友:携手比亚迪“迪迪虾”,实现车机端一句话办事雷峰网 · 09/15 16:45华为GTS让Agent学会「看着网络排障」,双防火墙难题几乎全拿下量子位 · 09/16 10:27日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35Announcing instance preference lists for Amazon SageMaker AI training jobsAWS Machine Learning Blog · 09/16 00:01牛市的钱:是熊市里守出来的金色财经 · 09/15 19:04潘功胜最新文章:深刻认识中国金融结构变迁(全文)金色财经 · 09/16 13:28Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARENVIDIA Technical Blog · 09/15 23:00HIP-3:昂贵的入场券 买不来的护城河金色财经 · 09/15 09:48微软 CEO 纳德拉:AI 应用的机会正在变大,模型成本将继续下降人人都是产品经理 · 09/16 11:48BTC电力消耗可能已经见顶 2025年12月或为历史峰值金色财经 · 09/15 18:56清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单量子位 · 09/16 14:32清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单雷峰网 · 09/16 16:05圆桌:智能向实,产业向新——AI如何进入真实世界 | 36氪 2026产业未来大会36氪 · 09/15 18:00别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15和Jeff Dean押注同一方向,27岁清华助理教授创业,两个月融资数亿36氪 · 09/16 15:58耐克和lululemon双双失速,运动品牌进入碎片化时代人人都是产品经理 · 09/15 11:40XCancel 服务再次下线Solidot · 09/15 14:20芯视界创始人、董事长兼首席科学家鲍捷:十年产业实践,量子感知芯片为物理AI打开物质世界 "感知入口" | 2026年36氪产业未来大会36氪 · 09/15 18:15商用割草机器人完成数千万融资,用L4级无人驾驶重构高尔夫草坪运维|硬氪首发36氪 · 09/16 10:00加密行业今年最重要的一天 可能就是明天金色财经 · 09/15 14:16奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉雷峰网 · 09/16 10:36CLARITY的失败 跟加密行业好坏没啥关系金色财经 · 09/16 14:11量子位2026人工智能年度榜单,正式启动!量子位 · 09/16 12:16豆包 2.1 Pro模型更新,已接入豆包工作雷峰网 · 09/16 14:01Java新闻汇总:Simple JSON API、GlassFish、Jakarta EE、JNoSQL和Open Liberty、LangChain4jInfoQ 中文 · 09/16 19:06GPT-6 Sol要来了?OpenAI本周或迎“发布狂潮”金色财经 · 09/16 13:17