金色财经 发布于 09/15 19:37

Anthropic CEO自爆行业黑幕

查看原文

资讯摘要

Dario Amodei 首认行业长期隐瞒 AI 风险,提出三步走限速框架,遭开源阵营激烈反弹。

AI 摘要

Anthropic CEO Dario Amodei 发布政策长文并接受 CBS 专访,首次承认 AI 行业长期淡化风险,提出限速三步走框架:派驻嵌入式评估员、在民主国家内部建立前沿协调与安全检查点、寻求全球多边规则。马斯克、Altman、Nadella 等表态支持,Yann LeCun 与开源阵营则批评其以安全之名构筑合规壁垒、推高监管俘获与反垄断豁免。

AI 问答

Dario Amodei 提出的限速方案包含哪些层级?

分为三层:一是设立常驻的“嵌入式评估员”,让外部第三方团队获得类似内部员工的系统权限;二是在民主国家内部建立前沿协调与“安全检查点”机制;三是寻求全球范围的多边规则,包括生物安全、发布前测试、对递归自我改进设限等设想。

业内对这份提案的主要质疑是什么?

质疑集中在其推荐 METR 存在监管俘获风险、借安全之名抬高合规门槛并寻求反垄断豁免、以外部竞争为由继续迭代,同时回避产品过失追责与强制召回等真正有约束力的法律工具。

开源阵营为何强烈反对?

图灵奖得主 Yann LeCun 等认为这是以“安全”为名集中行业解释权的权力游戏,并翻出 2019 年 GPT-2 分阶段发布的旧账,指其可能重演一次风险公关营销。

打开原文

更多资讯

SDL3 移植到 HarmonyOS / OpenHarmonySolidot · 09/16 16:57OpenAI 总裁最新采访:现在所有人对 AI 的预测,大概率都是错的人人都是产品经理 · 09/15 16:19Meta 打造“组织第二大脑”智能体的设计思路InfoQ 中文 · 09/15 19:21BTC电力消耗可能已经见顶 2025年12月或为历史峰值金色财经 · 09/15 18:56一款在浏览器里运行、部署在自己服务器上的 SQL 客户端Solidot · 09/15 16:43别闹,几粒盐就能立起高脚杯?你是不是用胶水了?果壳网 · 09/15 14:15前高通算法研发经理跨界AI算力板检测,获近亿元战略投资丨36氪首发36氪 · 09/15 09:30iPhone 18 Pro & Duo 首发评测,提升最大的是「充电」和这个…爱范儿 / APPSO · 09/16 20:20金色Web3.0日报 | 黄仁勋批驳「AI末日论」金色财经 · 09/15 21:48二次元“赛博分身”撬动日本市场:玩家“沉默”的AI陪伴产品,凭什么次留60%?人人都是产品经理 · 09/15 08:5336氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块36氪 · 09/16 14:35稳定币挤兑与套利集中化金色财经 · 09/16 18:54语义翻译的操作日常:把”我觉得不对”变成”机器能查”人人都是产品经理 · 09/16 09:52Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARENVIDIA Technical Blog · 09/15 23:00Anew Labs已完成 2.9 亿美元融资,红杉中国、高瓴、IDG、五源、高榕等参与雷峰网 · 09/16 14:28Xspark AI 丁文伯:触觉替代不了视觉,但机器人需要一套自己的“脊髓” |物理AI 50人雷峰网 · 09/15 15:52地平线第1500万颗征程芯片搭载大众 ID. AURA T6,HSD V2.1 即将推出量子位 · 09/15 21:32华为坤灵升级“4+10+N”场景化方案,发布“经纬计划”和50个样板点雷峰网 · 09/16 17:27早报|iOS27正式推送/比亚迪高管:燃油车在中国没有未来/iPhone 18 Pro渠道降价900元,苹果称不干预爱范儿 / APPSO · 09/15 08:08QQ 飞车 Agentic 研发转型过程中的Loop EngineeringInfoQ 中文 · 09/16 01:24前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了量子位 · 09/15 13:39西门子不造机器人,为什么机器人进厂的故事里总有它?量子位 · 09/16 15:38豆包工作还想反超WorkBuddy?人人都是产品经理 · 09/16 17:51商用割草机器人完成数千万融资,用L4级无人驾驶重构高尔夫草坪运维|硬氪首发36氪 · 09/16 10:00YC 最值钱的这 20家公司,没有一家来自最近5年人人都是产品经理 · 09/15 10:39Python 拥抱 RISC-V:CPython 正式纳入 Tier 3 平台InfoQ 中文 · 09/15 22:34豆包手机明日开卖,AI能帮你操作App了吗?36氪 · 09/15 22:32从200亿收购失败到650亿IPO:Figma如何用“协作”颠覆设计帝国人人都是产品经理 · 09/16 11:30早报|雷军同日到访宇树与B站/罗永浩差评带来流量,野人先生单日涨粉近3万/鸿蒙智行确认问界合作调整,赛力斯主导爱范儿 / APPSO · 09/16 08:45旧消费品,正长出新生意人人都是产品经理 · 09/15 11:20