5年写前端3年开淘宝店现在学AI大模型。学到RAG的时候突然拍大腿这不就是我当年开店最需要的东西吗先聊聊当年怎么被折磨的。开淘宝店那3年被折磨的事客服每天回答一模一样的问题快递发啥、几天到、能退吗说到怀疑人生。商品详情页一个品磨半天卖点规格使用场景全靠自己一个字一个字敲。几百条差评翻来翻去看不出问题出在哪。退换货政策隔三差五变新客服来了又要从头教。能怎么办招人呗。人多了成本上去了效率没见涨。后来接触到RAG越学越觉得这东西早五年出来我至少能少操一半的心。RAG到底干了啥全称Retrieval-Augmented Generation检索增强生成。听着挺唬人思路说白了就一句话你把知识喂进去模型先检索再回答。开卷考试不是裸考。你直接问ChatGPT你家退货政策是什么它瞎编。为啥上周刚改的政策它不知道你店铺的沟通风格它没有今天什么价什么库存它更查不到。RAG就不一样了知识是你自己喂的。模型只负责理解问题和组织语言答案必须基于你给它的资料。电商客服这块我打算怎么搞脑子里大概分了几块也是准备动手的顺序。知识库把老客服脑子里的东西掏出来电商客服的知识散落在好几个地方商品资料、售后政策、常见问题FAQ、历史好评差评。这些资料格式五花八门PDF政策文档、Excel商品表、Word话术模板、TXT聊天记录什么都有。要做的就是把它们全部解析成统一格式按语义切分成chunk文本块。切分这事有讲究块太大检索精度低容易混进不相关内容。块太小上下文丢了回答断章取义。看了一些资料电商场景大概500到800字的chunk效果比较好。一段退货政策刚好一块一个商品的完整介绍也差不多这个量。具体还得跑了才知道。检索两条路一起跑用户来问问题怎么找到对应的知识靠一种检索方式搞不定。表格检索方式擅长不擅长向量检索语义这个东西跟图片颜色不一样 → 匹配到色差退换政策精确型号、SKU编号BM25关键词SKU20240315有货吗 → 精确命中你们家那个XXX能不能便宜点一个懂意思一个懂字面。所以两条路并行跑结果合在一起再做重排序Reranking。召回求全重排求准。准备用qwen-turbo做LLM重排让模型判断哪些chunk跟用户问题真正相关排出优先级。这块还没跑但感觉这个思路应该没错。Prompt让模型说人话检索到了知识怎么生成回复这块估计会踩坑。直接把检索内容丢给模型大概率会照搬原文。用户问几天能到模型回一大段物流政策原文体验肯定很差。想了想Prompt得这么设计角色设定要有你是XX店铺的客服小助手语气亲切专业约束要写死基于参考资料回答不要编造不知道的要说帮您确认一下回答格式定好先给结论再补充细节。风格跟店铺调性走我店里走的是闺蜜聊天风格不是机器人腔。大概长这样prompt f你是{shop_name}的客服助手风格亲切专业。 基于以下参考资料回答用户问题。 如果资料中没有相关信息回复这个问题我帮您确认一下稍后回复您哦~。 回答要简短先说结论再补充细节。 参考资料 {retrieved_context} 用户问题{user_question} Streamlit搭界面光跑通Pipeline不够得有个能交互的界面。打算用Streamlit来搭几十行代码应该能搞定。左边是知识库管理上传商品资料、政策文档。右边是模拟客服对话窗口。中间展示检索过程命中的chunk、相似度分数、重排结果。中间那栏我觉得挺重要的让人看到模型不是瞎编的每一句回答都能追溯到原始资料。这也是RAG对比纯LLM很大的一个优势答案可溯源。跟以前的关键词机器人完全不是一个东西可能有人会觉得这不就是智能客服吗以前的关键词客服用户说退货就弹退货政策模板。就是关键词匹配加固定回复没什么好说的。RAG客服呢用户说收到的东西颜色跟图片差太多了穿了一次才发现问题。它能理解这是在问色差退换检索到色差相关退换政策、7天无理由条款、运费说明组织一个完整回复亲色差问题支持7天无理由退换哦运费这边承担您把订单号发我帮您登记~一个是查字典一个是真的听懂了。差评分析顺便把运营也做了同一个知识库换个Prompt就能干别的。比如把几百条差评丢给LLM让它分析高频负面关键词、正负面情感比例、最需要改进的3个问题、具体改进建议。理论上跑出来的结果应该比人工翻评论靠谱不少。以前运营花半天整理的差评报告用这个几十秒可能就出结果了。详情页文案也一样挑几个爆款的好评文案当few-shot示例让模型学那个调性批量生成。不一定完美但改一改就能用少说省5倍功夫。为什么我觉得这事能成以前觉得AI挺虚的什么大模型什么Transformer离实际经验太远。学完RAG之后发现它就是把你的经验变成一套随时能用的系统。你当客服积累的应对话术、运营积累的商品理解、售后积累的政策规则全部灌进去变成一个不会累、不会忘、不会情绪化的超级客服。当年开店要有这东西客服那边至少能省不少事。下一步准备开始动手搭这个电商客服Demo用Streamlit做界面跑通整个Pipeline。后面还要完善电商场景的知识库模板商品和SKU结构化模板加上多轮对话记忆用户追问那运费呢能接上上下文把差评分析模块做成独立功能最后开源到GitHub配完整教程。做完发出来代码加教程一起。