RAG-检索增强生成

一、为什么需要 RAG目前大语言模型本身存在一些局限性 :1. 时效性大模型无法询问最新的时事,比如问LLM:“抗战胜利80周年阅兵展示了哪些武器”不开启联网搜索 :开启联网搜索 :2. 知识覆盖度虽然大模型的训练数据集非常庞大但仍可能无法涵盖所有领域的知识或特定领域的深度信息。3. 幻觉问题大模型LLM在某些情况提问方式不对、模型知识欠缺下给出的回答很可能错误的或者是涉及虚构甚至是故意欺骗的信息这种回答被称之为AI幻觉亦即大模型一本正经的胡说八道。4. AI 幻觉 的解决方案解决知识更新缓慢和幻觉问题方案RAG 和 微调* 大模型微调Fine-Tuning大模型微调Fine-Tuning是在通用大模型的基础上针对超出其范围或不擅长的特定领域或任务使用专门的数据集或方法对模型进行相应的调整和优化以提升其在该特定领域或任务中的适用性和性能表现。* RAGRAG外挂知识库的方式实现成本和复杂度都比微调更低且RAG在知识库更新方面表现最佳。二、什么是 RAGRAG (Retrieval Augmented Generation/检索增强生成) 是一种结合了检索和生成两种方法的技术。它通过先检索相关的文档用检索出来的信息对提示词增强再使用大模型生成答案RAG 的本质是 RAG 大模型LLM 外部数据可以把这个过程想象成开卷考试。让 LLM 先翻书再回答问题。翻书 :暴力检索 (一条条查文章)计算相关性Prompt 模板包括 :大模型数据问题拼成完整的提示词 给大模型。三、RAG系统工作流程索引 : 将文档存到数据库, 这一步骤叫做 索引化。问题 : 用户提出问题检索 : 得到知识库里和问题最相关的三个片段结合问题与提示器 : 将问题和三个片段组合为增强版的提示词, 给到大模型回答 : 大模型生成答案四、Naive RAG 和 Advanced RAGNaive RAG 主要有三个步骤 :索引化 (将文档存到数据库): 文档 - 分块 - 向量化 - 存储检索: 用户提问 - 向量化 - 检索数据库 - 得到 top-K 个相关文档块增强生成: 增强提示词(原始问题相关文档块) - LLM - 生成答案Advanced RAG 比 Native RAG 多了如下步骤 :Pre-Retrleval 步骤即检索之前的预检索步骤。Post-Retrieval 步骤即检索之后的后检索步骤。文档分块要向量化, 用户的问题也要向量化, 两者都变为数字, 才能计算相关性。并且两者要使用相同的 向量模型/嵌入模型。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】