ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

AnythingLLM:十分钟部署私有知识库的实操记录

AnythingLLM:十分钟部署私有知识库的实操记录 AnythingLLM十分钟部署私有知识库的实操记录【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llmAnythingLLM 私有知识库是一款本地优先的一体化工具把 PDF、网页和笔记变成能直接追问的上下文。文档留在你自己机器上问答完全私有不用再给云端喂材料。用 Docker 拉起 AnythingLLM这节只干一件事两条命令把服务跑起来浏览器能打开就算成。执行下面两条命令拉取官方镜像然后启动容器并映射 3001 端口docker pull mintplexlabs/anythingllm docker run -d -p 3001:3001 --cap-add SYS_ADMIN -e STORAGE_DIR/app/server/storage mintplexlabs/anythingllm打开 http://localhost:3001能注册账号、进入引导流程部署就算成功 ✅演示够用想让数据在重建容器后保留再按仓库 README 挂一个存储卷即可。想用源码构建或仓库里的云上模板先 clone https://gitcode.com/GitHub_Trending/an/anything-llm 照 docker 目录下 HOW_TO_USE_DOCKER.md 的步骤走就行本文不再展开。跑起来之后它能替你干这些服务在跑不代表会用。先看你拿它能完成哪些事心里有数再喂数据拖一份 PDF、Word 或 TXT 进工作区马上就能就内容提问贴一个网页或 YouTube 链接自动抓取正文并入库让 Agent 上网查资料、调用工具完成多步任务给同事开账号按工作区划定各自可见的范围把问答窗口嵌进自己的网站把第一批数据喂进知识库知识库空着时回答就是普通聊天喂了数据才有灵魂。按「选来源 → 操作 → 验证」走一遍选来源新手首选本地文件最稳常读网页长文就用链接课程和教程类内容直接丢 YouTube 地址。三种就够起步仓库支持更多来源不必一次玩全。操作首页点「New Workspace」建一个工作区并命名进去后点 Add Documents把文件拖进上传区或把链接贴进输入框确认等解析进度条走完。验证在聊天框问一个只有你文档能答上的问题比如某个章节里的人名、参数回答末尾带出来源文件引用说明检索链路是通的。给私有知识库挑大脑和记忆大脑是 LLM记忆是向量库选型直接决定成本和隐私。先对比三档方案适用场景是否需要 API KeyOllama 内置 LanceDB个人使用、数据完全不出本地本地机器性能尚可否LocalAI想换各种开源模型、统一 OpenAI 接口否OpenAI / Gemini生产或团队使用、本地没有算力是一句话建议本地玩选 Ollama零 Key 零外发接云端选 OpenAI 最省心。配置路径左下角 General Settings 进 LLM Preferences选提供商、填地址和模型名本地模型在宿主机上时地址要写http://host.docker.internal:11434因为容器里的 localhost 指向容器自己。Embedding 和向量库先用默认值内置嵌入模型 LanceDB不用额外起服务。进阶定制开多用户、改提示词跑顺之后最值得动的就两处多用户与权限Docker 版默认支持多账号。General Settings 里打开 Users建账号时把某个工作区指派给它各人的文档互不可见。工作区级自定义提示词进工作区设置给模型写角色定位、回答语气、允许引用的范围保存即生效不需要重启容器。部署卡壳时按这三条排查⚠️ 九成问题落在这三条里对号入座打开 3001 一直转圈→ 端口被占或容器没活着。跑docker ps -a看状态端口冲突就改-p前面映射的号。连 Ollama / LocalAI 报 ECONNREFUSED→ 容器内 localhost 指向容器自身。把地址换成http://host.docker.internal:11434Linux 上可改用172.17.0.1。存储目录写不进去、权限报错→ 宿主机用户 UID 和容器内不一致。在 docker/.env 里把 UID、GID 改成和宿主机一致后重建容器。一个容器、两条命令你的私有知识库就上线了。支持的全部模型和部署模板清单见仓库根目录 README。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表