ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

如何用 Ollama 本地模型接入 PandasAI 运行自然语言查询

如何用 Ollama 本地模型接入 PandasAI 运行自然语言查询 如何用 Ollama 本地模型接入 PandasAI 运行自然语言查询【免费下载链接】pandas-aiChat with your database or your datalake (SQL, CSV, parquet). PandasAI makes data analysis conversational using LLMs and RAG.项目地址: https://gitcode.com/GitHub_Trending/pa/pandas-ai当你希望在本机环境不依赖云端 LLM API key对数据文件做自然语言问答时可以把 PandasAI 接入本地运行的 Ollama 推理服务。PandasAI 官方文档说明它支持本地模型前提是先在一个遵循 OpenAI API 的本地推理服务器上托管模型文档明确该方式已验证可与 Ollama 和 LM Studio 配合使用。本文以当前 v3 版本的 PandasAI 为主给出「安装扩展 → 配置 Ollama 为 LLM → 执行自然语言查询 → 验证结果」的完整路径并在最后附上 v2 版本的接入写法。适用前提来自文档Python 版本需满足3.8 3.11本地已运行 Ollama 服务文档两处示例均指向http://localhost:11434模型名称以你 Ollama 服务上实际可用的为准v2 文档示例使用codellamav3 文档示例使用llama3。安装 PandasAI 与 LiteLLM 扩展v3 版本要求先安装对应的 LLM 扩展Ollama 通过pandasai-litellm扩展接入。安装命令文档同时提供 pip 与 Poetry 两种方式# 使用 Poetry文档推荐 poetry add pandasai poetry add pandasai-litellm # 或使用 pip pip install pandasai pip install pandasai-litellm配置 Ollama 作为 PandasAI 的 LLM安装扩展后通过pai.config.set()将 LiteLLM 实例配置进去。v3 文档Set up LLM说明配置完成后之后每次调用.chat()都会使用这个已配置的 LLM。import pandasai as pai from pandasai_litellm.litellm import LiteLLM # 模型使用 ollama/ 前缀 Ollama 服务上的模型名文档示例为 llama3 llm LiteLLM(modelollama/llama3, api_basehttp://localhost:11434/api/generate) pai.config.set({ llm: llm })说明model采用ollama/模型名的形式示例值ollama/llama3来自 skills 文档中的 Ollama 配置如果你的服务上加载的是别的模型把模型名替换掉即可。api_base使用文档给出的http://localhost:11434/api/generate地址。运行自然语言查询配置完成后加载数据并调用chat()即可。下面的代码取自 v3 安装与快速上手文档其中的数据文件路径data/companies.csv和查询语句是文档示例实际使用时替换成自己的文件路径和问题import pandasai as pai from pandasai_litellm.litellm import LiteLLM llm LiteLLM(modelollama/llama3, api_basehttp://localhost:11434/api/generate) pai.config.set({ llm: llm }) # 加载数据示例路径替换为你自己的文件 df pai.read_csv(data/companies.csv) response df.chat(What is the average revenue by region?) print(response)如何判断接入成功快速上手文档给出的判断依据提问后 PandasAI 会用 LLM 生成答案并返回一个 response根据问题不同返回类型可能是 string、dataframe、chart 或 number。因此验证方式是看print(response)是否输出了与数据内容相符的上述某种类型结果输出格式的详细说明见 chat-and-output 文档。替代路径v2 版本用 LocalLLM 接入如果你使用的是 v2 版本的 APISmartDataframe入口v2 的 Large Language Models 文档 在 “Local models / Ollama” 一节给出了不同的接入写法from pandasai import SmartDataframe from pandasai.llm.local_llm import LocalLLM ollama_llm LocalLLM(api_basehttp://localhost:11434/v1, modelcodellama) df SmartDataframe(data.csv, config{llm: ollama_llm})两条路径的区别在于v2 的LocalLLM直接指向 OpenAI 兼容路由http://localhost:11434/v1并以参数传入模型名v3 的 LiteLLM 示例则使用http://localhost:11434/api/generate并通过pai.config.set()全局配置。两者分别来自不同版本的文档按你所使用的 PandasAI 版本选择对应写法不要混用。已知限制v2 文档明确标注Ollama 的兼容性是实验性的experimental。v2 文档同时提醒本地模型、尤其是较小的模型效果通常不如大模型好smaller models typically dont perform as well。Python 版本被限制在3.8 3.11超出范围需先调整环境。如果你的查询已经能稳定返回 string / dataframe / chart / number 形式的结果说明 Ollama 接入路径已打通后续关于输出格式、语义层等能力的说明可继续参考 chat-and-output 与 large-language-models 文档。【免费下载链接】pandas-aiChat with your database or your datalake (SQL, CSV, parquet). PandasAI makes data analysis conversational using LLMs and RAG.项目地址: https://gitcode.com/GitHub_Trending/pa/pandas-ai创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表