NVIDIA Technical Blog 发布于 08/21 00:00

How Generative Recommenders Are Redefining RecSys at Scale

(翻译)生成式推荐器如何重新定义大规模推荐系统

查看原文

资讯摘要

Recommender systems (RecSys) are one of the most ubiquitous machine learning problems in the consumer internet industry yet notoriously difficult to train and…

AI 摘要

NVIDIA 技术博客介绍了生成式推荐系统(GR)的兴起,将其从传统嵌入相似度建模转向类似 LLM 的序列预测。文章分析了传统 RecSys 在大规模数据、稀疏性、冷启动和延迟方面的挑战,并介绍了 HSTU 与 Semantic IDs 两种主流架构,以及 NVIDIA 开源的 recsys-examples 仓库,如何在 GPU 上实现高效训练和推理,其中 HSTU 训练 MFU 从 7.65% 提升至 31.40%,推理结合 KV 缓存最高可获 2.38 倍加速。

AI 问答

什么是生成式推荐器?

生成式推荐器将推荐任务重新定义为基于用户历史序列预测下一项或下一动作的序列建模问题,与 LLM 的下一词预测类似。

HSTU 和 Semantic IDs 分别是什么?

HSTU 是 Meta 提出的生成式推荐模型架构,使用类似 Transformer 的序列建模,替代了传统人工特征工程;Semantic IDs 是 Google 提出的方法,通过对物品嵌入进行层次聚类生成少量语义 token,使推荐器能够进行自回归解码。

NVIDIA recsys-examples 仓库解决了哪些生产问题?

该仓库提供 HSTU 和 Semantic ID 模型的优化训练与推理实现,包括动态嵌入表 DynamicEmb、针对推荐系统的 KV 缓存以及高效 CUDA 算子,并支持 Megatron-Core 并行训练和 Triton 推理加速。

打开原文

更多资讯

XXL-JOB v3.5.0 发布|OpenAPI 增强、动态 AccessToken、海量日志索引优化开源中国 · 10/09 23:11冷钱包遭经销商投毒 超8600万美元被盗 请立刻排查金色财经 · 10/10 14:56被字节索赔 800 万的实习生“出道”:20 万符号造 AI 词典,打造世界模型创业公司估值 2 亿美元开源中国 · 10/10 19:09Nano Banana 2.1 深度实测:4K 直出、中文排版大进步,连续改图的坑也要看清开源中国 · 10/10 14:20TRAE负责人石扬离职创业,联手前字节数据安全负责人傅越做 AI 办公,首轮估值 2 亿美元人人都是产品经理 · 10/09 21:52小鹏集团当选联合国欧洲经济委员会自动驾驶新设工作组秘书长36氪 · 10/10 15:47我国牵头制定的船舶压载水管理系统调试测试国际标准发布36氪 · 10/09 20:21三星钱包默认用 USDC:能留住多少美元?金色财经 · 10/09 20:22DjangoAdmin 敏捷开发框架 Flask+NaiveVue 版本 v2.8.2 发布开源中国 · 10/10 10:38「10.11大暴跌」一周年:加密市场发生了哪些变化?金色财经 · 10/10 21:05尊界踏板断裂背后:百万豪车,每一个零件都得较真36氪 · 10/10 08:00美“天鹅座”货运飞船结束任务 离开国际空间站36氪 · 10/10 09:243.76亿人集体抛弃,保健品跌出银发消费前三,精准营养成“香饽饽”果壳网 · 10/10 16:15OPC企业容易陷入的三个增长误区人人都是产品经理 · 10/10 15:27对话赵长江:智界RX要成为华为的「Pura X」雷峰网 · 10/10 15:52@ 一下就能派活?谷歌推出办公 Agent,拥有独立账号、能够创建子 Agent,还能调用 ClaudeInfoQ 中文 · 10/10 01:1510后中学生捧红统一“呆毛”发型,这回轮到老非主流们看不惯了果壳网 · 10/10 17:15新模型密集发布,该怎么选?分享我的实测感受人人都是产品经理 · 10/10 14:16代币化革命背后金色财经 · 10/09 18:01人人皆可为师:全球首个物理AI数据众包服务平台“觅蜂派”正式发布雷峰网 · 10/10 11:45AI产品经理到底要学哪些技术?传统PM不要把时间浪费在这3件事上人人都是产品经理 · 10/10 09:13多部门:拟规范汽车采用虚拟操纵件替代传统物理按键的产品36氪 · 10/10 17:25乘联分会:9月1-30日全国乘用车新能源市场零售114.1万辆,同比去年9月同期下降12%36氪 · 10/10 17:22隐私赛道最新进展:从隐私货币到私人金融账户金色财经 · 10/10 12:29人社部:截至9月底三项社会保险基金累计结余11.2万亿元36氪 · 10/10 10:21:fire::fire:开源接口平台v6.1发布,支持数据插件开源中国 · 10/10 09:51中金黄金等在河南成立黄金投资公司,注册资本2000万元36氪 · 10/10 13:15前8个月我国软件业务收入超10万亿元36氪 · 10/10 11:20企业AI 走向生产环境,如何避免新一轮技术锁定InfoQ 中文 · 10/10 21:08万亿计的AI投资错配金色财经 · 10/10 09:14