Hugging Face Blog 发布于 08/25 23:14

Granite 4.2 LLMs: How They're Built

(翻译)Granite 4.2 大语言模型:它们是如何构建的

查看原文

资讯摘要

A Blog post by IBM Granite on Hugging Face

AI 摘要

IBM 发布 Granite 4.2 系列稠密解码器专用推理大模型,提供 3B、8B、30B 三种规模,基于约 15T token 从头预训练,支持 512K 上下文。模型支持思考/非思考切换、低功耗模式和原生工具调用,8B/30B 进一步通过多阶段强化学习训练智能体能力,并以 Apache 2.0 开源。

AI 问答

Granite 4.2 有哪些模型尺寸?

Granite 4.2 提供 3B、8B 和 30B 三种稠密模型尺寸。

Granite 4.2 支持多长的上下文窗口?

通过五阶段预训练策略,上下文窗口扩展至 512K tokens。

Granite 4.2 的强化学习训练使用了什么算法?

采用异步 GRPO(组相对策略优化),并包含多阶段多环境训练流水线。

打开原文

更多资讯

QuotaPanel v0.2.0 点开菜单栏就看到额度,MiMo 额度来源上线开源中国 · 10/10 18:34闲鱼,中国最大的“AI服务商”?人人都是产品经理 · 10/10 07:46隐私赛道最新进展:从隐私货币到私人金融账户金色财经 · 10/10 12:29全国性涉外法律服务平台“法通”网正式上线36氪 · 10/10 12:47当所有人都用AI写内容,你的个人IP靠什么胜出?人人都是产品经理 · 10/10 11:06葛洲坝航运扩能工程进入主体施工阶段36氪 · 10/10 16:55多部门:拟规范汽车采用虚拟操纵件替代传统物理按键的产品36氪 · 10/10 17:25未经批准含有“金融控股”等字样 三家企业被要求整改36氪 · 10/10 16:44Codex 和 Claude Code 都跑偏了,前 OpenAI 研究员称 Jev 出现前 AI 世界是个悲剧InfoQ 中文 · 10/10 01:39巴西起诉壳牌子公司,索赔上亿美元洪灾损失36氪 · 10/10 16:49北京市“十五五”时期深化国际消费中心城市建设规划发布36氪 · 10/10 14:09商务部电子商务司负责人解读《关于实施品质电商“五优”行动的通知》36氪 · 10/10 10:25ToolForge v0.1.8 正式发布:一口气新增 11 款实用工具,开源桌面工具箱持续进化!开源中国 · 10/10 11:47谷歌Gemini 4新模型泄露 内测评价:这不Opus 5.5吗金色财经 · 10/10 13:18乘联分会:9月1-30日全国乘用车新能源市场零售114.1万辆,同比去年9月同期下降12%36氪 · 10/10 17:22私钥没泄露 近3.9亿美元怎么被转走的?金色财经 · 10/10 19:45特斯拉FSD,在欧洲被打回原形量子位 · 10/10 14:59江淮汽车增资至约22.54亿36氪 · 10/10 11:03跨境电商数据驾驶舱怎么搭?从0到1落地全指南人人都是产品经理 · 10/10 10:47全球扩散语言模型最大融资诞生:经纬、顺为、君联数亿元押注扩散智能DiffuSpaceInfoQ 中文 · 10/09 19:07DjangoAdmin 敏捷开发框架 Flask+NaiveVue 版本 v2.8.2 发布开源中国 · 10/10 10:38@ 一下就能派活?谷歌推出办公 Agent,拥有独立账号、能够创建子 Agent,还能调用 ClaudeInfoQ 中文 · 10/10 01:15里程碑时刻!比亚迪第15万台新能源商用车下线雷峰网 · 10/10 12:08Impactful scheduling for GPU clustersHugging Face Blog · 10/09 23:20人社部:截至9月底三项社会保险基金累计结余11.2万亿元36氪 · 10/10 10:21澳门大学预计未来5年学生规模逾2.2万人36氪 · 10/10 15:52欧盟轮值主席国提议将2028-2034年欧盟预算削减8%至1.6万亿欧元36氪 · 10/10 16:57公司是否有提价计划?五粮液:不存在固定的价格比值关系36氪 · 10/10 11:318600万美元被盗 官方授权也不能保证硬件钱包安全?金色财经 · 10/10 19:44Let's Encrypt 从 2027 年起切换到有效期为 64 天的证书Solidot · 10/09 23:12