Solidot 发布于 09/21 21:39

AI 聊天机器人经常给出错误的财务问题答案

查看原文

资讯摘要

Solidot是至顶网的科技资讯网站,主要面对开源自由软件和关心科技资讯读者群,包括众多中国开源软件的开发者,爱好者和布道者。口号是“奇客的知识,重要的东西”。

AI 摘要

Saturn 的研究测试了 ChatGPT、Claude、Copilot、Grok 和 Gemini 等 18 种 AI 模型,使用逾百个财务问题,提问超过 10,000 次。结果显示主流 AI 模型回答财务问题时平均 57% 出错,包括计算错误、遗漏税收政策变更或凭空捏造规则,可能导致经济损失。付费模型和较新模型表现更好,最佳推理模式 Claude Opus 5 仍有 39% 错误。

AI 问答

主流 AI 聊天机器人在财务问题上的平均错误率是多少?

研究显示平均有 57% 的答案错误。

研究中表现最好的模型是什么?错误率如何?

表现最好的是推理模式的 Claude Opus 5,但仍有 39% 的答案存在错误。

研究测试了哪些模型?测试规模多大?

测试了 ChatGPT、Claude、Copilot、Grok 和 Gemini 等 18 种模型,使用逾百个财务问题,共提出超过 10,000 个问题。

打开原文

更多资讯

商务部:中方愿通过“绿色通道”机制,为稀土及永磁体对欧出口许可审批继续提供便利36氪 · 10/09 19:20.NET地理空间数据格式解析库升级V26.8.15.2开源中国 · 10/10 10:10闪电仓赛道,为什么惠宜选要做自有品牌?人人都是产品经理 · 10/10 11:11Let's Encrypt 从 2027 年起切换到有效期为 64 天的证书Solidot · 10/09 23:12字节凶猛:从招聘看字节AI战略战术背后的逻辑与细节人人都是产品经理 · 10/10 14:41东软集团等在珠海横琴成立科技公司36氪 · 10/10 17:43Impactful scheduling for GPU clustersHugging Face Blog · 10/09 23:20Sui 难民:华语开发者为什么选择离开?金色财经 · 10/09 21:29多部门:汽车生产企业不得作虚假、夸大或引人误解的宣传36氪 · 10/10 17:25什么样的代币化美股才是你需要的?金色财经 · 10/10 22:27我国成功发射卫星互联网低轨27组卫星36氪 · 10/10 09:14天康生物:9月销售生猪收入4.07亿元36氪 · 10/09 20:59巧合?Ledger 用户被盗9000万 经销商两个月前刚易主金色财经 · 10/10 11:27成年人要的「安心」,有时是一支笔给的36氪 · 10/10 15:30App工厂,才是AI时代最被低估的生意人人都是产品经理 · 10/10 14:59Agent 落地核心:真正决定上限的是 Harness 闭环,不是模型人人都是产品经理 · 10/10 10:34美图披露AI创新产品进展:Picchi ARR达111万美元36氪 · 10/10 12:34人社部:截至9月底三项社会保险基金累计结余11.2万亿元36氪 · 10/10 10:21七部门:推动电商平台规则向优转型36氪 · 10/10 10:17OpenAI dots全面登陆手机 开口指挥Codex干活了金色财经 · 10/10 10:59日本美滨核电站3号机组反应堆重启36氪 · 10/10 09:28不要看衰以太坊:ETH依然重要的10个理由金色财经 · 10/10 15:41诺贝尔和平奖授予了南非女法官 Navi PillaySolidot · 10/09 18:58私钥没泄露 近3.9亿美元怎么被转走的?金色财经 · 10/10 19:4510后中学生捧红统一“呆毛”发型,这回轮到老非主流们看不惯了果壳网 · 10/10 17:15独家丨舒酉星创立新公司「星能远行」,此前是比亚迪欧洲总裁雷峰网 · 10/10 15:45人社部:将研究出台服务业发展促就业文件,扩大服务业就业总量36氪 · 10/10 10:22前8个月我国软件业务收入超10万亿元36氪 · 10/10 11:20同样是珍珠,为啥价格能差10倍?果壳网 · 10/10 22:158点1氪丨特朗普买入Meta股票;山姆宣布拟限制亲友卡绑定;豆包开通水、电、燃气等生活缴费功能36氪 · 10/10 08:04