人人都是产品经理 发布于 09/04 14:07

连飞猪都来学的AI系统:30天从外部AI到私有化+RAG

查看原文

资讯摘要

这篇写给同行产品经理:不堆技术名词,只讲一个 AI 功能从"能用"到"可控、可验证、可规模化"过程中,我作为 PM 做了哪些判断、踩了哪些坑、沉淀了哪些可复用的方法论。

AI 摘要

一位产品经理复盘30天把文旅OTA的“AI运营助手”从外部公有云AI升级为私有化部署RAG系统的过程。通过知识库按域分层、Dify编排、双部署高可用、压测与Rerank取舍,将知识库召回命中率从2.7%提升至100%,业务问题准确率≥80%,并沉淀变量拆分、手段-目标分离、可审计可控等7条方法论。飞猪团队曾登门学习该系统。

AI 问答

文中提到的“召回域”问题具体指什么?为何先解决它比换模型更重要?

指知识库检索时把营销软文等无关资料当作回答来源,模型再强也会被错误上下文带偏。文章通过10道错题归因发现多数不是模型能力问题,而是“找错资料”,因此按内容类型将3218条知识拆成L1渠道规则、L2经营定价、L3营销内容、L4客服FAQ四个分区,命中率从2.7%升到100%。

文章如何证明私有化后数据不出网?

不是只靠口头承诺,而是做进程级网络审计:抓取rag_entry进程的全部对外连接,结果只连127.0.0.1和备机172.21.13.19,0个公网连接,并以此作为可控性的审计证据。

并发压测中如何识别系统瓶颈?

看“吞吐平+延迟涨”这一拐点:并发从4加到8时,吞吐从0.672降到0.649,延迟从5.5秒升到8.5秒,说明系统已饱和,根因是本地模型顺序生成、无批处理,下一步应换vLLM等并行推理框架或多开实例,而非继续增加并发。

打开原文

更多资讯

2nm天玑9600 Pro,把旗舰SoC竞争推向「融合计算」雷峰网 · 09/16 18:02比 MEGA Home 便宜 14 万!理想 i9 Home 上市定价 36.98 万元,六座旗舰变天了爱范儿 / APPSO · 09/16 23:21Cloudflare将每天90亿次请求的JavaScript CDN迁移到其开发者平台InfoQ 中文 · 09/16 17:10被用了几千年的铜,怎么突然成了AI时代的新宠?果壳网 · 09/16 16:15横扫四榜,DM0.5 凭什么面面俱到?雷峰网 · 09/15 10:22New insights from Google’s AI & Economy ATLASGoogle AI Blog · 09/15 21:00Fedora 45 Beta 释出Solidot · 09/16 15:26Steam Frame 起售价 1059 美元Solidot · 09/15 14:59长期利率为何不愿下跌?金色财经 · 09/15 18:04超级智能体“迪迪虾”上车,比亚迪携手阿里云推进智能座舱升级雷峰网 · 09/15 11:58读完斯坦福116页AI实施手册,我最大的感受是:别再盯着模型了人人都是产品经理 · 09/15 12:14只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17CLARITY法案未通过程序性表决 OpenAI拟IPO前融资金色财经 · 09/16 07:53圆桌:新能源:后时代的深水淘金 | 36氪 2026产业未来大会36氪 · 09/15 17:56豆包工作打出“团队Agent”牌,Workbuddy、千问会跟吗?人人都是产品经理 · 09/16 14:31分析师:四大关键因素驱动 Robinhood 链快速增长金色财经 · 09/15 17:27圆桌:量智共振·多元路径:共筑中国量子产业下一个十年 | 36氪 2026产业未来大会36氪 · 09/15 15:35芯片从业者拆解OpenAI造芯,还能再快3个月?雷峰网 · 09/16 18:38让 AI 补货,但不让它算库存——LangGraph 在生鲜补货的落地实践人人都是产品经理 · 09/15 10:55对话蚂蚁灵波 CEO 朱兴:机器人还吃不了「粗粮」爱范儿 / APPSO · 09/16 12:04Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose EachNVIDIA Technical Blog · 09/16 01:00AI攻克世纪数学难题,顶尖数学家抱团抵制,而他们担心的并不是丢了工作果壳网 · 09/15 19:15不止一颗CPU?智能体经济时代,Arm对算力平台有了新理解雷峰网 · 09/15 09:58旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!雷峰网 · 09/15 21:01做了两年AI落地,我总结了这7点思考人人都是产品经理 · 09/16 11:04SDL3 移植到 HarmonyOS / OpenHarmonySolidot · 09/16 16:57王强宇履新百望:从发票SaaS工具,到财税垂直大模型,再到企业的Palantir雷峰网 · 09/16 10:13廉价太阳能改变世界能源格局Solidot · 09/15 17:1958秒出杯,能拉花的咖啡机器人,在全球70国卖出600万杯36氪 · 09/15 10:21AI健康走进百姓餐桌,蚂蚁阿福推出AI饮食分功能雷峰网 · 09/16 15:20