尧图网站建设 
5 分钟在本地跑起一台 AI 服务器LocalAI 免费安装与首次对话完整指南【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI你会得到一个跑在自己电脑上的 AI 服务文本对话、图片生成、语音合成免费且兼容 OpenAI 接口。这个项目叫 LocalAI核心能力是把任意模型LLM、视觉、语音、图像跑在任意硬件上不需要 GPU。先看看你手里有什么项目最低要求操作系统Linux / macOS / WindowsDocker 内硬件普通 CPU 即可无需 GPU内存8 GB 起步跑 1B~4B 小模型磁盘预留约 10 GB 模型下载空间软件Docker一句话判断满足普通 CPU 8GB 内存这一条你就适合本地跑。有 NVIDIA、AMD 或 Apple Silicon GPU 只是更快不是门槛。 用一条 Docker 命令把 LocalAI 跑起来下面这条命令会拉取 CPU 版镜像并启动服务把容器 8080 端口映射到你的本机docker run -ti --name local-ai -p 8080:8080 localai/localai:latest服务起来后用这条命令确认它是否就绪curl http://localhost:8080/readyz返回ok就说明装好了。浏览器打开http://localhost:8080你会看到欢迎页和模型列表其他安装方式这里不展开安装脚本与源码构建见 安装文档macOS 桌面版见 macOS 指南。 发出第一个请求先装一个小模型在 Web 界面进Models → Explore搜索qwen3-4b点 Install等下载完成。然后在终端向它发一条对话请求curl http://localhost:8080/v1/chat/completions \ -H Content-Type: application/json \ -d {model: qwen3-4b, messages: [{role: user, content: 你好}]}返回什么算成功响应 JSON 里choices[0].message.content有模型回复的文本就说明你的本地 AI 已经能对话了。之后每次打开 Web 界面的 Chat 页选模型、发消息即可效果见下图 换另一个模型试试Web 界面在 Models 页直接 Install 别的模型比如llama-3.2-1b-instruct:q4_k_mChat 页下拉框切过去就行。命令行local-ai run llama-3.2-1b-instruct:q4_k_m一条命令装完即加载。想用自己的模型把 HuggingFace 文件地址传给local-ai run huggingface://用户名/仓库/文件.gguf。每个模型的预置配置都放在 gallery/ 目录一个模型一个 YAML。 卡住了看这里8080 端口被占用把启动命令里的-p 8080:8080改成-p 9090:8080之后访问http://localhost:9090。内存不够或模型加载失败换更小或量化版本带q4_k_m标识的CPU 场景选 1B~4B 规格最稳。浏览器打不开页面先docker ps确认容器在运行再docker logs local-ai看启动日志定位报错。API 返回 model not found模型还没装。在 Web 界面 Models 页或local-ai run 模型名装好再试。 跑通之后试试图片生成和语音合成Web 界面顶部导航有Generate images / TTS入口对应后端实现在 backend/go/。搭一个会调用工具的 AI Agent官方教程见 构建第一个 Agent。想横向扩展或玩函数调用分布式推理在 core/p2p/函数调用解析在 pkg/functions/。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 5 分钟在本地跑起一台 AI 服务器：LocalAI 免费安装与首次对话完整指南
5 分钟在本地跑起一台 AI 服务器LocalAI 免费安装与首次对话完整指南【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI你会得到一个跑在自己电脑上的 AI 服务文本对话、图片生成、语音合成免费且兼容 OpenAI 接口。这个项目叫 LocalAI核心能力是把任意模型LLM、视觉、语音、图像跑在任意硬件上不需要 GPU。先看看你手里有什么项目最低要求操作系统Linux / macOS / WindowsDocker 内硬件普通 CPU 即可无需 GPU内存8 GB 起步跑 1B~4B 小模型磁盘预留约 10 GB 模型下载空间软件Docker一句话判断满足普通 CPU 8GB 内存这一条你就适合本地跑。有 NVIDIA、AMD 或 Apple Silicon GPU 只是更快不是门槛。 用一条 Docker 命令把 LocalAI 跑起来下面这条命令会拉取 CPU 版镜像并启动服务把容器 8080 端口映射到你的本机docker run -ti --name local-ai -p 8080:8080 localai/localai:latest服务起来后用这条命令确认它是否就绪curl http://localhost:8080/readyz返回ok就说明装好了。浏览器打开http://localhost:8080你会看到欢迎页和模型列表其他安装方式这里不展开安装脚本与源码构建见 安装文档macOS 桌面版见 macOS 指南。 发出第一个请求先装一个小模型在 Web 界面进Models → Explore搜索qwen3-4b点 Install等下载完成。然后在终端向它发一条对话请求curl http://localhost:8080/v1/chat/completions \ -H Content-Type: application/json \ -d {model: qwen3-4b, messages: [{role: user, content: 你好}]}返回什么算成功响应 JSON 里choices[0].message.content有模型回复的文本就说明你的本地 AI 已经能对话了。之后每次打开 Web 界面的 Chat 页选模型、发消息即可效果见下图 换另一个模型试试Web 界面在 Models 页直接 Install 别的模型比如llama-3.2-1b-instruct:q4_k_mChat 页下拉框切过去就行。命令行local-ai run llama-3.2-1b-instruct:q4_k_m一条命令装完即加载。想用自己的模型把 HuggingFace 文件地址传给local-ai run huggingface://用户名/仓库/文件.gguf。每个模型的预置配置都放在 gallery/ 目录一个模型一个 YAML。 卡住了看这里8080 端口被占用把启动命令里的-p 8080:8080改成-p 9090:8080之后访问http://localhost:9090。内存不够或模型加载失败换更小或量化版本带q4_k_m标识的CPU 场景选 1B~4B 规格最稳。浏览器打不开页面先docker ps确认容器在运行再docker logs local-ai看启动日志定位报错。API 返回 model not found模型还没装。在 Web 界面 Models 页或local-ai run 模型名装好再试。 跑通之后试试图片生成和语音合成Web 界面顶部导航有Generate images / TTS入口对应后端实现在 backend/go/。搭一个会调用工具的 AI Agent官方教程见 构建第一个 Agent。想横向扩展或玩函数调用分布式推理在 core/p2p/函数调用解析在 pkg/functions/。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考