arXiv cs.AI 发布于 09/28 12:00

Benchy: towards a universal language for task-oriented AI benchmarks

(翻译)Benchy:迈向面向任务型 AI 基准测试的通用语言

查看原文

资讯摘要

Abstract page for arXiv paper 2609.30550: Benchy: towards a universal language for task-oriented AI benchmarks

AI 摘要

arXiv 论文 Benchy 提出面向任务型 AI 基准测试的语义语言与执行引擎。基准由程序、评分函数和数据集定义 B=(P,S,D),与被测 AI 系统分离;运行绑定二者为 R=(B,AI)。基准以规范 YAML 撰写,经任务/领域/语言本体分类并确定性编译为 JSON 中间表示,编译不改语义。引擎提供统一具名输入输出契约,外部系统在边界适配,避免集成细节进入基准语义。论文还给出语义对象模型、校验规则、评分与失败语义、编译执行架构,并附首个引擎实现的工程契约。

AI 问答

Benchy 是什么?

Benchy 是一种用于基准测试 AI 程序的语义语言和执行引擎,它将基准测试定义为程序、评分函数和数据集的组合 B=(P,S,D)。

基准测试如何编写和执行?

基准测试以规范 YAML 撰写,经共享的任务/领域/语言本体分类后,确定性编译为规范 JSON 中间表示,再由引擎执行;运行 R=(B,AI) 将被测 AI 系统与基准绑定。

引擎如何与外部 AI 系统集成?

引擎公开统一的运行时契约,即具名输入对象进、具名输出对象出,外部 AI 系统在边界处适配,从而使集成机制不影响基准语义。

打开原文

更多资讯

当所有人都用AI写内容,你的个人IP靠什么胜出?人人都是产品经理 · 10/10 11:06阿斯麦将对韩国零部件涨价10%36氪 · 10/10 12:23App工厂,才是AI时代最被低估的生意人人都是产品经理 · 10/10 14:59商务部:中欧双方以符合世贸组织规则的方式就混动汽车贸易达成谅解36氪 · 10/09 19:21广合科技:前三季度净利润同比预增100.33%至107.23%36氪 · 10/09 19:27独家丨舒酉星创立新公司「星能远行」,此前是比亚迪欧洲总裁雷峰网 · 10/10 15:45央行:10月10日7天期逆回购操作量为零36氪 · 10/10 09:29兰博基尼、保密协议 Ledger被盗事件疑点重重金色财经 · 10/10 15:34我国成功发射卫星互联网低轨27组卫星36氪 · 10/10 09:14今年白云机场口岸出入境客货航班超10万架次,创历史同期新高36氪 · 10/10 13:46一次模型测评后,我开始重新理解WorkBuddy人人都是产品经理 · 10/10 11:14以太坊主网和L2实现跨链原子交易金色财经 · 10/09 21:26森海 Momentum 5 真无线降噪耳机体验:升级无线传输与空间音频,它依然是那个正统 「森海味」爱范儿 / APPSO · 10/10 15:26芯片专家试图劝退马斯克:Terafab芯片项目可比发射星舰火箭更难36氪 · 10/10 17:49特斯拉弃用“自动驾驶”命名,以争取欧洲监管批准36氪 · 10/09 20:35Bitget要求封禁黑客地址:THORChain有义务配合吗?金色财经 · 10/09 18:26月之暗面增资至约1437万36氪 · 10/10 11:49大厂卷 Jarvis,Samantha却在恋爱影游里冒了头?人人都是产品经理 · 10/10 12:42全球扩散语言模型最大融资诞生:经纬、顺为、君联数亿元押注扩散智能DiffuSpaceInfoQ 中文 · 10/09 19:07DeepSeek Harness 桌面端来了!带你拆解核心机制人人都是产品经理 · 10/10 14:49澳门大学预计未来5年学生规模逾2.2万人36氪 · 10/10 15:52客户说要一个功能,产品经理怎么找到真正的需求在那?人人都是产品经理 · 10/10 18:17App+1|专注星空:让「少刷手机」这件事更愉悦一点少数派 · 10/10 10:19前8个月我国软件业务收入超10万亿元36氪 · 10/10 11:20WorkBuddy国际版实测,双持打开新世界人人都是产品经理 · 10/10 15:27腾讯入股墨奇智能36氪 · 10/10 17:05深交所:9月28日至10月9日,共对141起证券异常交易行为采取了自律监管措施36氪 · 10/09 19:57Cloudflare 让决策模型打起了价格战:Clef 降价、提速、上多模态开源中国 · 10/10 16:25纯炒作?那为什么只有 Muse 爆了人人都是产品经理 · 10/10 10:13“太一量生”完成新一轮融资36氪 · 10/10 10:52