尧图网站建设 
前言嘿小伙伴们今天给大家带来一个超实用的开源工具组合能帮企业快速搭建本地知识库提升内部信息管理效率。这个组合就是 Ollama DeepSeek Dify接下来我详细说说怎么操作保证小白也能轻松上手为啥要搭建本地知识库现在企业内部信息管理太难了数据到处都是检索效率低得可怜还缺乏智能化支持。尤其是面对海量非结构化数据企业很难快速提取有价值的信息决策效率低得不行。要是能有个工具解决这些问题那可太棒了一、工具介绍1. DifyAI 应用开发平台Dify 是一个开源的 LLM大语言模型应用开发平台功能超强大。它支持自定义 AI 工作流能实现复杂任务自动化还有 RAG 管道通过检索增强生成技术让文档检索和问答超准多种主流 LLM 模型都能集成管理还提供丰富的日志和监控功能。Dify 的架构也很清晰分为模型层、数据处理层、应用层和管理层能满足各种需求。2. DeepSeek国产大模型的骄傲DeepSeek 的 AI 大模型是国产之光千亿参数规模下API 调用成本低至 0.5 元/百万 tokens中文基准测试得分高达 91.5%推理效率还比传统架构提升了 5 倍。有了它企业能轻松搭建本地知识库提升信息管理效率。3. Ollama简化 LLM 本地部署Ollama 是一个开源的本地化工具专门用来简化大型语言模型的本地运行和部署。它能让用户在个人计算机或服务器上轻松运行多种开源语言大模型比如 DeepSeek、qwen、Llama 等完全不依赖云端服务也不用复杂配置。二、Dify 部署1. 安装 DockerDocker 是容器化部署工具用于简化 Dify 的安装和运行环境配置。在 Windows 上安装 Docker Desktop 并启动服务即可完成准备工作。访问官网https://www.docker.com/一路点击下一步安装即可因为docker会用到hyper-v如果电脑没开启hyper-v可能会需要重启一次。安装完成后的界面如下图2. 安装 Dify 环境Github地址https://github.com/langgenius/dify在浏览器中访问Github地址后下载Dify项目压缩包如下图下载到本地后放入相应的磁盘目录解压进入项目根目录找到docker文件夹如下图然后将“.env.example”重命名为“.env”在该目录下单击鼠标右键选择【在终端中打开】输入下面的命令运行docker环境docker compose up-d耐心等待成功后的界面如下在此阶段可能会遇到下列失败的情况可以尝试修改docker的镜像地址若遇到类似这种错误进入docker主界面点击右上角的设置按钮修改镜像地址如下图“registry-mirrors”为新增加的节点{builder:{gc:{defaultKeepStorage:20GB,enabled:true}},experimental:false,registry-mirrors:[https://docker.hpcloud.cloud,https://docker.m.daocloud.io,https://docker.unsee.tech,https://docker.1panel.live,http://mirrors.ustc.edu.cn,https://docker.chenby.cn,http://mirror.azure.cn,https://dockerpull.org,https://dockerhub.icu,https://hub.rat.dev]}启动成功后回到docker桌面客户端可看到所有dify所需要的环境都已经运行起来了如下图3. 安装 Dify在浏览器地址栏中输入“http://localhost/install”即可开始安装如下图设置完账户后进行登录登录成功后进入Dify主页如下图三、将本地大模型与 Dify 进行关联因为Dify是通过Docker部署的而Ollama是运行在本地电脑的得让Dify能访问Ollama的服务。1. 配置Dify在Dify项目的docker文件夹里找到.env文件在末尾填上配置# 启用自定义模型CUSTOM_MODEL_ENABLEDtrue# 指定 Olama 的 API地址根据部署环境调整IPOLLAMA_API_BASE_URLhost.docker.internal:114342. 配置大模型返回到Dify主界面点击右上角用户名下的【设置】选择【模型供应商】找到对应的 Ollama点击【添加模型】填写 DeepSeek 模型信息后点击【保存】添加好模型后接下来是设置系统模型刷新网页。点击右上角用户名下的【设置】选择【模型供应商】点击右侧的【系统模型设置】到此Dify就与前面部署的本地大模型关联起来了。四、创建应用1. 创建空白应用进入 Dify 主界面点击【创建空白应用】如下图2. 应用配置选择【聊天助手】输入自定义应用名称和描述点击【创建】3. 配置大模型右上角选择合适的模型如 DeepSeek 或 Ollama并配置相关参数4. 测试在下方对话框中输入“你是谁”将会显示相应的输出内容如下图以上表明Dify与本地部署的 DeepSeek 大模型已经连通了。这时你可能会问“虽然它能回答问题但能不能根据我自己的资料来回答呢”别担心这时候就需要用到本地知识库啦通过将你的私有资料比如文档、笔记等上传到知识库让 Dify 在回答问题时结合这些资料作为上下文这样它就能给出更贴合你需求的答案了就像一个真正了解你背景的智能助手一样。五、创建本地知识库1. 添加 Embedding 模型Embedding模型可以把复杂的、高维的数据比如文本、图像等转换成低维的向量。这些向量虽然看起来只是数字但它们能够很好地捕捉到数据的语义信息。比如通过Embedding模型我们可以把“猫”和“狗”这两个词转换成向量后发现它们在向量空间中的距离比较近因为它们在语义上是相似的都是动物。这种转换的作用可大了首先它可以用于文本分类比如判断一篇文章是正面评价还是负面评价还可以用于相似性搜索比如在海量的文本中快速找到和用户问题最相关的答案甚至在推荐系统中通过Embedding模型把用户和商品的特征转换成向量就能更精准地给用户推荐他们可能喜欢的东西。在搭建知识库的时候我们上传的资料比如文档、文章等需要先通过Embedding模型转换成向量然后存入向量数据库。这样当有人提问的时候系统就能通过自然语言理解问题然后在向量数据库中快速、准确地找到相关的资料从而给出准确的回答。所以提前把私有数据向量化入库是为了让知识库在回答问题时更高效、更准确。点击右上角用户名下的【设置】选择【模型供应商】点击右侧的【添加模型】如下图2. 创建知识库返回 Dify 主界面点击上方的【知识库】点击【创建知识库】选择【导入已有文本】上传资料支持 TXT、PDF、Word、Excel 等格式比如可以上传一份企业内部的项目文档或者个人的学习笔记。选择合适的模型并配置相关参数后点击【保存并处理】耐心等待系统会自动对上传的文档进行解析和向量化处理。这个过程可能需要几分钟具体时间取决于文档的大小和复杂程度。创建成功后我们可以点击【前往文档】按钮查看分段信息如下图六、添加知识库为对话上下文1. 应用内添加知识库返回 Dify 主界面回到刚才的应用聊天页面添加知识库如下图选择刚才创建的知识库作为对话上下文。保存当前应用设置后就可以测试了。2. 测试比如你可以问“开发工具有哪些”系统会结合知识库的内容给出详细的回答如下图如果感觉回答的效果还不满意可以对召回参数进行调整。下面以不使用知识库作为上下文为例对比其回答如下图以上得出DeepSeek的思考过程非常有特点感觉就像有一个认真负责的人在仔细翻阅文档。它会把自己查找和分析的过程展示得很清楚最后给出一个严谨的结论。如果你有一个专门的学术知识库它不仅能帮你查找信息还能进行推理、思考和总结使用起来非常方便。七、实际应用场景1. 企业内部文档管理企业可以把内部文档、项目资料等上传到知识库员工在工作中遇到问题时直接通过 Dify 提问系统会基于知识库返回准确答案大大提升工作效率。比如一个员工想了解某个项目的进度直接问“这个项目目前的进度如何”系统会从知识库中提取相关信息给出详细的回答。2. 智能客服企业可以将常见问题和解决方案整理成文档上传到知识库。当客户咨询时智能客服系统通过 Dify 调用知识库快速给出答案提升客户满意度。比如客户问“这个产品的保修期是多久”智能客服系统会从知识库中提取相关信息给出准确的回答。3. 个人知识管理你也可以把自己的个人资料、过往文章、日记等上传到本地知识库打造自己的私人助理。比如你想回顾一下过去写的文章直接问“我之前写过哪些关于人工智能的文章”系统会从知识库中提取相关信息列出文章标题和主要内容。八、结语通过 Ollama DeepSeek Dify 这个组合企业可以轻松搭建本地知识库提升内部信息管理效率。无论是文档检索、问答系统还是自动化工作流都能轻松搞定。而且Dify 是完全开源的遵循 Apache License 2.0 协议大家可以放心使用。如果你也想提升企业信息管理效率或者打造自己的私人助理不妨试试这个组合绝对能给你带来惊喜最后的最后感谢你们的阅读和喜欢作为一位在一线互联网行业奋斗多年的老兵我深知在这个瞬息万变的技术领域中持续学习和进步的重要性。为了帮助更多热爱技术、渴望成长的朋友我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶也是我在行业一线实战经验的总结。这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习相信它们一定能为你提供实质性的帮助。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】大模型知识脑图为了成为更好的 AI大模型 开发者这里为大家提供了总的路线图。它的用处就在于你可以按照上面的知识点去找对应的学习资源保证自己学得较为全面。经典书籍阅读阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。实战案例光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
前言嘿小伙伴们今天给大家带来一个超实用的开源工具组合能帮企业快速搭建本地知识库提升内部信息管理效率。这个组合就是 Ollama DeepSeek Dify接下来我详细说说怎么操作保证小白也能轻松上手为啥要搭建本地知识库现在企业内部信息管理太难了数据到处都是检索效率低得可怜还缺乏智能化支持。尤其是面对海量非结构化数据企业很难快速提取有价值的信息决策效率低得不行。要是能有个工具解决这些问题那可太棒了一、工具介绍1. DifyAI 应用开发平台Dify 是一个开源的 LLM大语言模型应用开发平台功能超强大。它支持自定义 AI 工作流能实现复杂任务自动化还有 RAG 管道通过检索增强生成技术让文档检索和问答超准多种主流 LLM 模型都能集成管理还提供丰富的日志和监控功能。Dify 的架构也很清晰分为模型层、数据处理层、应用层和管理层能满足各种需求。2. DeepSeek国产大模型的骄傲DeepSeek 的 AI 大模型是国产之光千亿参数规模下API 调用成本低至 0.5 元/百万 tokens中文基准测试得分高达 91.5%推理效率还比传统架构提升了 5 倍。有了它企业能轻松搭建本地知识库提升信息管理效率。3. Ollama简化 LLM 本地部署Ollama 是一个开源的本地化工具专门用来简化大型语言模型的本地运行和部署。它能让用户在个人计算机或服务器上轻松运行多种开源语言大模型比如 DeepSeek、qwen、Llama 等完全不依赖云端服务也不用复杂配置。二、Dify 部署1. 安装 DockerDocker 是容器化部署工具用于简化 Dify 的安装和运行环境配置。在 Windows 上安装 Docker Desktop 并启动服务即可完成准备工作。访问官网https://www.docker.com/一路点击下一步安装即可因为docker会用到hyper-v如果电脑没开启hyper-v可能会需要重启一次。安装完成后的界面如下图2. 安装 Dify 环境Github地址https://github.com/langgenius/dify在浏览器中访问Github地址后下载Dify项目压缩包如下图下载到本地后放入相应的磁盘目录解压进入项目根目录找到docker文件夹如下图然后将“.env.example”重命名为“.env”在该目录下单击鼠标右键选择【在终端中打开】输入下面的命令运行docker环境docker compose up-d耐心等待成功后的界面如下在此阶段可能会遇到下列失败的情况可以尝试修改docker的镜像地址若遇到类似这种错误进入docker主界面点击右上角的设置按钮修改镜像地址如下图“registry-mirrors”为新增加的节点{builder:{gc:{defaultKeepStorage:20GB,enabled:true}},experimental:false,registry-mirrors:[https://docker.hpcloud.cloud,https://docker.m.daocloud.io,https://docker.unsee.tech,https://docker.1panel.live,http://mirrors.ustc.edu.cn,https://docker.chenby.cn,http://mirror.azure.cn,https://dockerpull.org,https://dockerhub.icu,https://hub.rat.dev]}启动成功后回到docker桌面客户端可看到所有dify所需要的环境都已经运行起来了如下图3. 安装 Dify在浏览器地址栏中输入“http://localhost/install”即可开始安装如下图设置完账户后进行登录登录成功后进入Dify主页如下图三、将本地大模型与 Dify 进行关联因为Dify是通过Docker部署的而Ollama是运行在本地电脑的得让Dify能访问Ollama的服务。1. 配置Dify在Dify项目的docker文件夹里找到.env文件在末尾填上配置# 启用自定义模型CUSTOM_MODEL_ENABLEDtrue# 指定 Olama 的 API地址根据部署环境调整IPOLLAMA_API_BASE_URLhost.docker.internal:114342. 配置大模型返回到Dify主界面点击右上角用户名下的【设置】选择【模型供应商】找到对应的 Ollama点击【添加模型】填写 DeepSeek 模型信息后点击【保存】添加好模型后接下来是设置系统模型刷新网页。点击右上角用户名下的【设置】选择【模型供应商】点击右侧的【系统模型设置】到此Dify就与前面部署的本地大模型关联起来了。四、创建应用1. 创建空白应用进入 Dify 主界面点击【创建空白应用】如下图2. 应用配置选择【聊天助手】输入自定义应用名称和描述点击【创建】3. 配置大模型右上角选择合适的模型如 DeepSeek 或 Ollama并配置相关参数4. 测试在下方对话框中输入“你是谁”将会显示相应的输出内容如下图以上表明Dify与本地部署的 DeepSeek 大模型已经连通了。这时你可能会问“虽然它能回答问题但能不能根据我自己的资料来回答呢”别担心这时候就需要用到本地知识库啦通过将你的私有资料比如文档、笔记等上传到知识库让 Dify 在回答问题时结合这些资料作为上下文这样它就能给出更贴合你需求的答案了就像一个真正了解你背景的智能助手一样。五、创建本地知识库1. 添加 Embedding 模型Embedding模型可以把复杂的、高维的数据比如文本、图像等转换成低维的向量。这些向量虽然看起来只是数字但它们能够很好地捕捉到数据的语义信息。比如通过Embedding模型我们可以把“猫”和“狗”这两个词转换成向量后发现它们在向量空间中的距离比较近因为它们在语义上是相似的都是动物。这种转换的作用可大了首先它可以用于文本分类比如判断一篇文章是正面评价还是负面评价还可以用于相似性搜索比如在海量的文本中快速找到和用户问题最相关的答案甚至在推荐系统中通过Embedding模型把用户和商品的特征转换成向量就能更精准地给用户推荐他们可能喜欢的东西。在搭建知识库的时候我们上传的资料比如文档、文章等需要先通过Embedding模型转换成向量然后存入向量数据库。这样当有人提问的时候系统就能通过自然语言理解问题然后在向量数据库中快速、准确地找到相关的资料从而给出准确的回答。所以提前把私有数据向量化入库是为了让知识库在回答问题时更高效、更准确。点击右上角用户名下的【设置】选择【模型供应商】点击右侧的【添加模型】如下图2. 创建知识库返回 Dify 主界面点击上方的【知识库】点击【创建知识库】选择【导入已有文本】上传资料支持 TXT、PDF、Word、Excel 等格式比如可以上传一份企业内部的项目文档或者个人的学习笔记。选择合适的模型并配置相关参数后点击【保存并处理】耐心等待系统会自动对上传的文档进行解析和向量化处理。这个过程可能需要几分钟具体时间取决于文档的大小和复杂程度。创建成功后我们可以点击【前往文档】按钮查看分段信息如下图六、添加知识库为对话上下文1. 应用内添加知识库返回 Dify 主界面回到刚才的应用聊天页面添加知识库如下图选择刚才创建的知识库作为对话上下文。保存当前应用设置后就可以测试了。2. 测试比如你可以问“开发工具有哪些”系统会结合知识库的内容给出详细的回答如下图如果感觉回答的效果还不满意可以对召回参数进行调整。下面以不使用知识库作为上下文为例对比其回答如下图以上得出DeepSeek的思考过程非常有特点感觉就像有一个认真负责的人在仔细翻阅文档。它会把自己查找和分析的过程展示得很清楚最后给出一个严谨的结论。如果你有一个专门的学术知识库它不仅能帮你查找信息还能进行推理、思考和总结使用起来非常方便。七、实际应用场景1. 企业内部文档管理企业可以把内部文档、项目资料等上传到知识库员工在工作中遇到问题时直接通过 Dify 提问系统会基于知识库返回准确答案大大提升工作效率。比如一个员工想了解某个项目的进度直接问“这个项目目前的进度如何”系统会从知识库中提取相关信息给出详细的回答。2. 智能客服企业可以将常见问题和解决方案整理成文档上传到知识库。当客户咨询时智能客服系统通过 Dify 调用知识库快速给出答案提升客户满意度。比如客户问“这个产品的保修期是多久”智能客服系统会从知识库中提取相关信息给出准确的回答。3. 个人知识管理你也可以把自己的个人资料、过往文章、日记等上传到本地知识库打造自己的私人助理。比如你想回顾一下过去写的文章直接问“我之前写过哪些关于人工智能的文章”系统会从知识库中提取相关信息列出文章标题和主要内容。八、结语通过 Ollama DeepSeek Dify 这个组合企业可以轻松搭建本地知识库提升内部信息管理效率。无论是文档检索、问答系统还是自动化工作流都能轻松搞定。而且Dify 是完全开源的遵循 Apache License 2.0 协议大家可以放心使用。如果你也想提升企业信息管理效率或者打造自己的私人助理不妨试试这个组合绝对能给你带来惊喜最后的最后感谢你们的阅读和喜欢作为一位在一线互联网行业奋斗多年的老兵我深知在这个瞬息万变的技术领域中持续学习和进步的重要性。为了帮助更多热爱技术、渴望成长的朋友我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶也是我在行业一线实战经验的总结。这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习相信它们一定能为你提供实质性的帮助。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】大模型知识脑图为了成为更好的 AI大模型 开发者这里为大家提供了总的路线图。它的用处就在于你可以按照上面的知识点去找对应的学习资源保证自己学得较为全面。经典书籍阅读阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。实战案例光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】