什么是生成式推荐器?
生成式推荐器将推荐任务重新定义为基于用户历史序列预测下一项或下一动作的序列建模问题,与 LLM 的下一词预测类似。
(翻译)生成式推荐器如何重新定义大规模推荐系统

Recommender systems (RecSys) are one of the most ubiquitous machine learning problems in the consumer internet industry yet notoriously difficult to train and…
NVIDIA 技术博客介绍了生成式推荐系统(GR)的兴起,将其从传统嵌入相似度建模转向类似 LLM 的序列预测。文章分析了传统 RecSys 在大规模数据、稀疏性、冷启动和延迟方面的挑战,并介绍了 HSTU 与 Semantic IDs 两种主流架构,以及 NVIDIA 开源的 recsys-examples 仓库,如何在 GPU 上实现高效训练和推理,其中 HSTU 训练 MFU 从 7.65% 提升至 31.40%,推理结合 KV 缓存最高可获 2.38 倍加速。
生成式推荐器将推荐任务重新定义为基于用户历史序列预测下一项或下一动作的序列建模问题,与 LLM 的下一词预测类似。
HSTU 是 Meta 提出的生成式推荐模型架构,使用类似 Transformer 的序列建模,替代了传统人工特征工程;Semantic IDs 是 Google 提出的方法,通过对物品嵌入进行层次聚类生成少量语义 token,使推荐器能够进行自回归解码。
该仓库提供 HSTU 和 Semantic ID 模型的优化训练与推理实现,包括动态嵌入表 DynamicEmb、针对推荐系统的 KV 缓存以及高效 CUDA 算子,并支持 Megatron-Core 并行训练和 Triton 推理加速。