招商银行是如何将AI加速卡利用率从35%提升至60%以上的？
通过Kubernetes构建统一控制平面，使用Kueue管理训练任务队列与配额，KEDA根据业务负载动态伸缩推理实例，HAMi实现异构加速卡细粒度切分，Fluid加速数据访问，减少加速卡因等待任务、数据或资源碎片产生的空闲时间。
招商银行统一近万张AI加速卡：利用率从35%提至60%+、每百万Token推理成本降低60%
资讯摘要
招商银行荣获 CNCF 最终用户案例研究大赛冠军，以 Kubernetes 统一 AI 训练与推理基础设施
AI 摘要
招商银行在KubeCon上海大会上介绍了其AI算力基础设施实践，通过Kubernetes及Kueue、KEDA、HAMi、Fluid等组件，实现对近万张异构加速卡训练与推理的统一调度，将加速卡利用率从35%提升至60%以上，每百万Token推理成本降低60%；并自研Twinkle框架实现5个LoRA租户共享基础模型，资源消耗降低80%。
AI 问答
招商银行如何降低多租户LoRA微调的资源开销？
自研Twinkle训练框架，默认允许5个LoRA租户共享同一个基础模型实例，将基础模型副本从5份降到1份，对应场景下加速器资源消耗降低80%，训练密度提高5倍。
更多资讯
读完斯坦福116页AI实施手册，我最大的感受是：别再盯着模型了
个贷不良四年涨 23 倍：这门从“救大行”长出来的生意，底层逻辑是什么？
视频号评论区小蓝词使用指南前OpenAI后训练VP回应陶哲轩：说AI毁了数学，可能还是太小瞧AI了B站AI无限竞技场今日上线！全球百大AI模型同场竞技，GPT-6高居榜首
vivo Buds Clip 体验：42 小时续航的无感佩戴，音质好也舒服
开学季 | 学生理财的三条建议，学生党也可以一样理财
CLARITY法案未通过程序性表决 OpenAI拟IPO前融资量子位2026人工智能年度榜单，正式启动！日本百岁老人人数首次超过 10 万人
YC 最值钱的这 20家公司，没有一家来自最近5年从前沿技术到产业资本，2026产业未来大会看见「深水之上」
GPT-6 Sol 曝光：OpenAI 要把旗舰变成大白菜算力、机器人、仿真与资本，谁在定义物理AI下一个十年？｜第十届全球ICT峰会回顾
加密行业今年最重要的一天 可能就是明天
Anew Labs已完成 2.9 亿美元融资，红杉中国、高瓴、IDG、五源、高榕等参与
Arc主网上线 生态内有哪些项目？
GPT-6 Astra实现具身智能突破 中国如何打具身防卫战
“极端”空头压境 美联储周三不加息就是最大意外工作流可以自我进化了，英伟达开源 SoL-Pi，每小时省13.5刀！
自主团队被捧过头了？Simon Rohrer 直言：你们交付的根本不是产品
豆包工作还想反超WorkBuddy？
How NVIDIA Groq 3 LPX Deterministic Execution Drives Power-Efficient High-Interactivity Inference on NVIDIA Vera Rubin美国军方首次证实在太空部署了武器
Your Agent Aced the Task. Will It Do It Again?时光机器遭遇大规模机器流量
当年救了臭氧层的功臣，现在变成了永久性污染物
「沃什时代」首次加息要来了？华尔街算好了三种剧本
就业率砍半，年轻人靠什么翻盘？AI时代，这三点越早做越好36氪项目新势榜：不看包装，只看项目真实进展