Hugging Face Blog 发布于 09/01 08:00

Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI

(翻译)发布 @huggingface/kernels:面向本地 AI 的 200 多个 WebGPU 内核

查看原文

资讯摘要

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

AI 摘要

Hugging Face 发布 @huggingface/kernels 及 207 个 WebGPU 内核,涵盖多种机器学习算子,每个内核以独立版本化仓库发布,包含接口契约、WGSL 模板、正确性与基准测试。同时推出浏览器端基准工具 Fleet,众包收集真实 GPU 性能数据。与 ORT WebGPU 相比,内核在 809 个对比用例中几何平均提速 2.57 倍。

AI 问答

如何安装并使用 @huggingface/kernels?

可通过 npm 安装 @huggingface/kernels@preview,使用 getKernel 传入 Hugging Face 仓库 ID 和版本号加载内核,然后调用返回函数传入输入数据和张量形状即可执行。需要支持 WebGPU 的浏览器。

Fleet 工具的作用是什么?

Fleet 是浏览器端的 GPU 基准测试与验证工具,可在用户自己的硬件上运行并打分,众包收集真实设备的正确性和性能证据,帮助开发者发现失败案例并优化内核。

与 ONNX Runtime Web 相比性能如何?

在 Apple M4 GPU 上的 809 个有效对比用例中,Hugging Face 内核几何平均快 2.57 倍,中位数快 1.90 倍,其中个别算子如 bilinear Einsum 快超过 10000 倍。

打开原文

更多资讯

廉价太阳能改变世界能源格局Solidot · 09/15 17:19关于项目交付的思考:部署是最后两公里,验收才是最后一公里人人都是产品经理 · 09/16 09:54Your Agent Aced the Task. Will It Do It Again?Hugging Face Blog · 09/16 00:00CLARITY法案投票失败 加密监管立法再度搁浅金色财经 · 09/16 08:55高性能电动船艇动力系统公司获近亿A轮融资,海外收入增长450%丨36氪首发36氪 · 09/16 09:30圆桌:CVC的全面崛起 | 36氪 2026产业未来大会36氪 · 09/15 16:59被用了几千年的铜,怎么突然成了AI时代的新宠?果壳网 · 09/16 16:15具透 | 精心优化, 体验感愉悦升华:iOS 27 中值得关注的新特性少数派 · 09/15 15:00圆桌:新能源:后时代的深水淘金 | 36氪 2026产业未来大会36氪 · 09/15 17:56日本百岁老人人数首次超过 10 万人Solidot · 09/16 13:35Claude在英伟达内部被限用,黄仁勋告诉特朗普:我们不会让AI发展放缓发生InfoQ 中文 · 09/16 00:01早报|iOS27正式推送/比亚迪高管:燃油车在中国没有未来/iPhone 18 Pro渠道降价900元,苹果称不干预爱范儿 / APPSO · 09/15 08:08Agent开始调用基础设施,Kubernetes准备好了吗?InfoQ 中文 · 09/16 04:38支付宝 xUI -- “阿宝”背后的 Agentic 终端交互引擎InfoQ 中文 · 09/16 02:27和Jeff Dean押注同一方向,27岁清华助理教授创业,两个月融资数亿36氪 · 09/16 15:58Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose EachNVIDIA Technical Blog · 09/16 01:00王强宇履新百望:从发票SaaS工具,到财税垂直大模型,再到企业的Palantir雷峰网 · 09/16 10:13OpenAI故意欠技术债,等Codex来还:仅2名工程师,把核心存储从Python重写成RustInfoQ 中文 · 09/16 00:09商用割草机器人完成数千万融资,用L4级无人驾驶重构高尔夫草坪运维|硬氪首发36氪 · 09/16 10:00一款在浏览器里运行、部署在自己服务器上的 SQL 客户端Solidot · 09/15 16:43Anthropic CEO自爆行业黑幕金色财经 · 09/15 19:37基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用量子位 · 09/16 16:09iOS 27 正式版体验:Siri AI 终于开窍了,老 iPhone 升级也有新东西爱范儿 / APPSO · 09/15 13:00我和我的 AI 手机吃了 3 顿饭爱范儿 / APPSO · 09/16 12:04Opus 5.2深夜上线 RSI真来了?金色财经 · 09/15 11:43Uniswap v4上的恶意Hooks金色财经 · 09/15 12:43产品定义意义上的一级场景:四维模型人人都是产品经理 · 09/16 14:07担心代码被拿去训练!英伟达:限制员工使用 Claude;一汽将成广汽第二大股东!南北丰田拟合并;苹果回应「iPhone 18 Pro破发」雷峰网 · 09/15 08:23不止一颗CPU?智能体经济时代,Arm对算力平台有了新理解雷峰网 · 09/15 09:58在金融支付系统中实施混沌工程:来自企业级 ECS 部署的经验教训InfoQ 中文 · 09/15 17:04