Gisting是什么？
Gisting是Shopify工程团队提出的提示词压缩方法，将冗长的系统提示词压缩为精简的Gist词元集合，以提升推理吞吐量、降低延迟和成本。
Shopify 推出 Gisting 新技术：将大模型系统提示词压缩为主旨词元
资讯摘要
Shopify 工程团队提出 Gisting：将大模型长提示压缩为学习型主旨词元，提升吞吐量、降低推理开销。
AI 摘要
Shopify工程团队推出Gisting技术，将冗长LLM系统提示词压缩为学习型Gist词元集合。在约6000词元的Sidekick GraphQL智能体系统提示词上实现4:1压缩比，首词元时间从438毫秒降至354毫秒，端到端延迟从6.8秒降至4.2秒，吞吐量从20.2 QPS提升至23.4 QPS，且无需修改模型核心权重，能与前缀缓存等优化手段互补。
AI 问答
Gisting如何实现压缩？
通过教师-学生两步蒸馏训练：教师模型基于原始提示词产生对数概率，学生模型基于Gist词元产生对数概率，最小化两者KL散度，训练后将Gist嵌入写入模型嵌入矩阵并注册为特殊词元，推理时无需额外处理。
Gisting的实际效果如何？
在Shopify的Sidekick场景中，系统提示词从约6000词元压缩至1500词元；首词元时间从438毫秒降至354毫秒，端到端延迟从6.8秒降至4.2秒，QPS从20.2提升至23.4，且与前缀缓存等优化互补。
更多资讯
Build a serverless PII redaction pipeline with Amazon Bedrock Data Automation
豆包工作打出“团队Agent”牌，Workbuddy、千问会跟吗？
抖音上线 “免费短剧” App，短剧赛道再添一员猛将36氪首发 | 国内头部硅电容IDM企业融资亿元，切入AI芯片与高端光模块
清华稳准智能联合发布LimiX-2，结构化数据基础模型登顶国际评测榜单
牛市的钱：是熊市里守出来的
具透 | 精心优化， 体验感愉悦升华：iOS 27 中值得关注的新特性
Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARE
高瓴系 CFO 往事：一代顶级机构年轻人的迁徙与突围
耐克、妮维雅、谷歌的警示：品类，正在误导品牌战略！
电商对账的设计逻辑：四层核对，逐层下钻
GPT-6 Astra 之后，产品经理需要重新设计人在流程中的位置一款在浏览器里运行、部署在自己服务器上的 SQL 客户端
OpenAI 发布适用于编程和计算机应用的 GPT-6 Astra
我的“一人公司”，是怎么搞钱的？Xspark AI 丁文伯：触觉替代不了视觉，但机器人需要一套自己的“脊髓” ｜物理AI 50人
微软 CEO 纳德拉：AI 应用的机会正在变大，模型成本将继续下降高通技术公司携手中兴努比亚和豆包手机助手，共同推动智能手机迈入个人AI新时代
CLARITY闯关失败 加密市场闻声而动 政策空白谁填补
月之暗面：网传创始人及员工信息系恶意造谣；OpenAI 放弃今年上市；iPhone Duo炒到9万，黄牛贷款欲囤货｜AI周报
苹果Siri AI上线；豆包手机助手消费版正式发布；塔克拉玛干沙漠发现两处大型地下水水源云岫资本合伙人宋旭文：量子计算：工程化与产业化并进，拐点将至 | 36氪 2026产业未来大会高性能电动船艇动力系统公司获近亿A轮融资，海外收入增长450%丨36氪首发
19.98 万元起，吉利银河战舰 700 开启预售，最高 1129 匹马力，还有三电机四驱
CoinShares Q2 挖矿季报：矿企倒贴钱退出
GPT Image 2.5 对比实测：变化与局限圆桌：CVC的全面崛起 | 36氪 2026产业未来大会
清晰法案投票失败 后续还有机会吗？
Arc主网上线 生态内有哪些项目？清华稳准智能联合发布LimiX-2，结构化数据基础模型登顶国际评测榜单
豆包工作打出“团队Agent”牌，Workbuddy、千问会跟吗？抖音上线 “免费短剧” App，短剧赛道再添一员猛将36氪首发 | 国内头部硅电容IDM企业融资亿元，切入AI芯片与高端光模块清华稳准智能联合发布LimiX-2，结构化数据基础模型登顶国际评测榜单牛市的钱：是熊市里守出来的具透 | 精心优化， 体验感愉悦升华：iOS 27 中值得关注的新特性Scaling Federated Learning Across Docker, Kubernetes, and Slurm with NVIDIA FLARE高瓴系 CFO 往事：一代顶级机构年轻人的迁徙与突围耐克、妮维雅、谷歌的警示：品类，正在误导品牌战略！电商对账的设计逻辑：四层核对，逐层下钻GPT-6 Astra 之后，产品经理需要重新设计人在流程中的位置一款在浏览器里运行、部署在自己服务器上的 SQL 客户端OpenAI 发布适用于编程和计算机应用的 GPT-6 Astra我的“一人公司”，是怎么搞钱的？Xspark AI 丁文伯：触觉替代不了视觉，但机器人需要一套自己的“脊髓” ｜物理AI 50人微软 CEO 纳德拉：AI 应用的机会正在变大，模型成本将继续下降高通技术公司携手中兴努比亚和豆包手机助手，共同推动智能手机迈入个人AI新时代CLARITY闯关失败 加密市场闻声而动 政策空白谁填补月之暗面：网传创始人及员工信息系恶意造谣；OpenAI 放弃今年上市；iPhone Duo炒到9万，黄牛贷款欲囤货｜AI周报苹果Siri AI上线；豆包手机助手消费版正式发布；塔克拉玛干沙漠发现两处大型地下水水源云岫资本合伙人宋旭文：量子计算：工程化与产业化并进，拐点将至 | 36氪 2026产业未来大会高性能电动船艇动力系统公司获近亿A轮融资，海外收入增长450%丨36氪首发19.98 万元起，吉利银河战舰 700 开启预售，最高 1129 匹马力，还有三电机四驱CoinShares Q2 挖矿季报：矿企倒贴钱退出GPT Image 2.5 对比实测：变化与局限圆桌：CVC的全面崛起 | 36氪 2026产业未来大会清晰法案投票失败 后续还有机会吗？Arc主网上线 生态内有哪些项目？清华稳准智能联合发布LimiX-2，结构化数据基础模型登顶国际评测榜单