1. 为什么把 AI 助理搬回家而不是继续租云算力1.1 从每月续费到一次投入的账本变化我最早用 AI 助理是在云服务器上跑的每个月固定支出不算高但用着用着就发现两个问题一是数据要经过第三方二是网络抖动的时候响应慢得让人抓狂。后来我把整套东西迁到家里的一台 Mac Mini 上用 OpenClaw 做调度层才算真正体会到本地 AI 助理的爽点。先说清楚 OpenClaw 是什么。它是一个开源的 AI Agent 运行框架核心思路是把模型推理和任务执行拆开模型可以接本地跑的也可以接远程 API而 Agent 的编排、工具调用、记忆管理、定时任务这些逻辑全部跑在你自己的机器上。你可以把它理解成一个AI 助理的操作系统——它本身不产生智能但它负责把智能组织起来干活。Mac Mini 在这里扮演的角色很关键。它是一台功耗低、噪音小、常年开机的机器M 系列芯片统一内存架构对本地大模型推理相当友好。我实测下来一台 16GB 内存的 Mac Mini 跑 7B 到 8B 级别的量化模型日常问答、文档总结、简单工具调用完全够用如果上到 24GB 或 32GB可以尝试 14B 级别的模型效果会明显好一截。这套组合解决的核心问题是让 AI 助理 7×24 小时待命数据不出家门且长期成本可控。适合谁适合有一定动手能力、希望把 AI 助理真正用进日常工作流的人——比如自动整理笔记、定时抓取信息、帮你处理重复性的文本工作。如果你只是想尝个鲜云端方案更省事但如果你想长期用、深度用本地部署是绕不开的一步。1.2 本地部署不等于什么都自己扛很多人一听本地部署就头大以为要自己训练模型、自己写推理引擎。其实完全不是。现在的生态已经分得很清楚推理层用 Ollama 这类工具拉取现成模型一条命令就能跑起来编排层OpenClaw 负责 Agent 逻辑、工具注册、会话管理执行层你的 Mac Mini 提供算力和常驻环境接入层通过本地网络或内网穿透让手机、电脑都能访问。你要做的主要是把这几层接起来而不是从零造轮子。这也是我写这篇东西的原因——网上关于 OpenClaw 的资料不少但把Mac Mini 本地模型 Agent 编排这条链路讲透的不多很多教程默认你已经懂了中间那一大段。提示本地部署最大的坑不在安装而在模型选型和内存预算。装之前先想清楚你要跑多大的模型再决定买多大内存的机器顺序反了会很痛苦。2. Mac Mini 的选型与系统准备别在第一步就埋雷2.1 内存和存储怎么配才不后悔Mac Mini 的内存是焊死的买定离手所以这一步必须想清楚。我整理了一张对照表是我自己踩过坑之后总结的内存可流畅运行的模型规模适合场景我的建议16GB7B-8B 量化模型日常问答、文本总结、轻量 Agent入门够用但多任务会紧张24GB14B 量化模型复杂推理、多工具调用性价比甜点推荐32GB14B-32B 量化模型重度使用、多模型并行一步到位长期省心64GB32B 以上专业推理、批量任务预算充足再考虑存储方面我强烈建议至少 512GB。原因很简单模型文件本身就很大一个 14B 的量化模型动辄 8-10GB你不可能只装一个。再加上 Docker 镜像、日志、缓存256GB 很快就会告急。如果预算有限可以买小容量版本然后外接固态硬盘但要注意外接盘的读写速度会影响模型加载时间。2.2 系统层面的三个必做设置Mac Mini 到手之后别急着装软件先把系统调好。这三件事我每次都做第一关闭自动休眠。系统设置里把显示器关闭后进入睡眠改成永不否则你半夜想让助理跑个定时任务它睡过去了。命令行也可以用caffeinate命令临时阻止休眠但长期方案还是改系统设置。第二开启远程登录。系统设置 → 通用 → 共享 → 远程登录打开。这样你可以在主力电脑上通过 SSH 连过去操作不用一直插着显示器和键盘。Mac Mini 作为家庭服务器的典型用法就是无头运行。第三固定内网 IP。在路由器里给 Mac Mini 绑定一个固定的内网地址比如 192.168.1.100。否则每次重启 IP 变了你所有配置里的地址都得改非常烦。# 查看当前内网 IP ipconfig getifaddr en0 # 测试 SSH 连通性在主力电脑上执行 ssh 你的用户名192.168.1.1002.3 包管理器和基础工具链Mac 上装开发工具Homebrew 是标配。装好之后我建议一次性把后面会用到的工具都装上省得来回折腾# 安装 Homebrew如果还没装 /bin/bash -c $(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh) # 基础工具链 brew install git curl wget jq # 容器运行时后面跑一些服务会用到 brew install --cask docker这里有个经验Docker Desktop 在 Mac 上对内存占用不小如果你机器内存本来就紧张可以考虑用 Colima 这类轻量替代方案。我自己在 16GB 的机器上就用 Colima省下来的内存留给模型推理。注意安装任何东西之前先确认你的 macOS 版本。OpenClaw 和 Ollama 对系统版本有一定要求太老的系统会在依赖编译阶段报一堆错排查起来很浪费时间。3. 推理层落地用 Ollama 把模型跑起来3.1 为什么选 Ollama 而不是自己编译推理引擎本地跑大模型底层其实是 llama.cpp 这类推理引擎在工作。但直接用它你得自己处理模型格式转换、量化、参数调优门槛不低。Ollama 的价值在于把这些都封装好了一条ollama run命令它自动下载模型、加载、启动服务还暴露了一个兼容 OpenAI 格式的 API 接口。这个 API 兼容性非常关键。因为 OpenClaw 这类 Agent 框架通常默认就是按 OpenAI 的接口规范去调模型的。Ollama 提供了/v1/chat/completions这样的端点意味着你几乎不用改配置就能把远程 API换成本地模型。安装很简单brew install ollama # 启动服务后台常驻 brew services start ollama # 验证服务是否在跑 curl http://localhost:11434/api/tags3.2 模型选择不是越大越好新手最容易犯的错是上来就拉一个 70B 的模型结果机器卡死。模型规模和硬件是强绑定的我一般按这个逻辑选16GB 内存选 7B-8B 的量化版本比如 Qwen 系列、Llama 系列的 4-bit 量化24GB 内存可以上 14B 量化推理质量明显提升32GB 以上考虑 14B 全精度或 32B 量化。拉取和运行# 拉取一个 7B 级别的模型 ollama pull qwen2.5:7b # 直接对话测试 ollama run qwen2.5:7b # 查看已下载的模型 ollama list跑起来之后用 API 测一下确认接口正常curl http://localhost:11434/v1/chat/completions \ -H Content-Type: application/json \ -d { model: qwen2.5:7b, messages: [{role: user, content: 你好做个自我介绍}] }3.3 让模型常驻内存避免每次冷启动默认情况下Ollama 加载的模型在一段时间不用之后会被卸载下次调用又要重新加载第一次响应会慢好几秒。如果你希望助理随时秒回可以设置模型常驻# 设置模型在内存中保留的时间-1 表示永不卸载 export OLLAMA_KEEP_ALIVE-1 # 如果是用 brew services 启动的需要写进 plist 或环境变量配置这个设置对内存是有点压力的16GB 机器上如果同时常驻多个模型很容易触发内存交换反而更慢。我的做法是只常驻一个主力模型其他模型按需加载。提示判断模型是否常驻可以看ollama ps的输出。如果显示的是 Until... 而不是具体时间说明它被设成了常驻。4. OpenClaw 的安装与核心配置拆解4.1 安装路径选择源码还是包管理OpenClaw 的安装方式主要有两种一种是通过包管理器直接装另一种是从源码构建。我的建议是想快速跑通优先用官方推荐的安装方式省去依赖问题想深度定制、改源码从 Git 仓库克隆下来自己构建。从源码构建的话大致流程是这样# 克隆仓库 git clone https://github.com/你的仓库地址/openclaw.git cd openclaw # 安装依赖具体命令以项目文档为准 # 如果是 Node 项目 npm install # 如果是 Python 项目 pip install -r requirements.txt # 构建 npm run build这里要提醒一句不同版本的 OpenClaw 依赖和构建方式可能差别很大一定要以你下载的那个版本的 README 为准。我见过有人拿着旧教程去装新版本卡在依赖报错上半天出不来。4.2 配置文件是整个系统的神经中枢OpenClaw 的核心配置通常集中在一个配置文件里可能是 YAML、JSON 或 TOML 格式。这个文件决定了用哪个模型、模型接口地址在哪、注册了哪些工具、记忆存在哪、日志级别是什么。一个典型的配置结构大概长这样以 YAML 为例具体字段以实际版本为准model: provider: openai-compatible base_url: http://localhost:11434/v1 api_key: ollama model_name: qwen2.5:7b agent: name: home-assistant max_iterations: 10 memory: type: local path: ./data/memory tools: - name: web_search enabled: true - name: file_ops enabled: true logging: level: info path: ./logs几个关键点解释一下base_url 指向本地 Ollama这就是把云 API换成本地模型的关键一步api_key 随便填Ollama 不校验但很多框架要求这个字段非空填个占位符就行max_iterations控制 Agent 一次任务最多循环多少轮设太大容易陷入死循环烧算力设太小复杂任务做不完我一般设 8-12memory.path记忆存储位置一定要放在有足够空间且会备份的目录。4.3 工具注册Agent 的手和脚Agent 和普通聊天机器人最大的区别就是它能调用工具。OpenClaw 里工具是模块化注册的你可以按需开启。常见的工具有文件操作读写本地文件适合做笔记整理、日志分析网络请求抓取网页、调用外部 API命令执行在受控环境下跑 shell 命令定时任务让助理按计划自动干活。这里有个安全经验必须说命令执行类工具一定要限制白名单。我见过有人图省事把 shell 执行权限完全放开结果 Agent 在调试时误删了文件。正确做法是只允许特定命令或者在一个隔离的目录里执行。tools: - name: shell enabled: true allowed_commands: - ls - cat - grep working_dir: /Users/你的用户名/agent-workspace4.4 启动与首次验证配置好之后启动 OpenClaw# 前台启动方便看日志 npm start # 或者 python main.py首次启动重点看三件事模型连接是否成功、工具是否加载、有没有报错。如果模型连不上八成是 base_url 写错了或者 Ollama 没启动。验证方法很简单先单独 curl 一下 Ollama 的接口通了再排查 OpenClaw 的配置。5. 把助理接入日常几个真正好用的场景5.1 定时任务让助理自己找活干本地部署最大的价值之一就是可以跑定时任务。比如我设置了一个每天早上 8 点自动执行的流程抓取几个固定信息源 → 总结成简报 → 存到指定文件。等我起床打开电脑简报已经在那了。在 OpenClaw 里定时任务通常通过 cron 表达式配置schedules: - name: morning_briefing cron: 0 8 * * * task: 抓取今日信息并生成简报 tools: - web_search - file_opscron 表达式0 8 * * *表示每天 8 点整执行。这个格式是分 时 日 月 周新手容易记混建议用在线工具生成好再贴进来。5.2 多端访问手机也能用上家里的助理Mac Mini 放在家里但你不一定总在它旁边。让手机也能访问体验会好很多。方案有两种同一局域网直接通过内网 IP 访问最简单但出门就用不了内网穿透通过合规的内网穿透服务让外网也能访问但要注意安全配置。我自己的做法是家里用内网直连出门就用手机热点 内网穿透。这里必须强调安全任何暴露到公网的服务都要加认证。OpenClaw 如果支持 API Key 或登录验证一定要开。5.3 记忆管理让助理记住你说过的话Agent 的记忆分短期和长期。短期记忆是当前会话的上下文长期记忆是跨会话的知识。OpenClaw 一般会把长期记忆存成本地文件或向量数据库。我的经验是记忆不是越多越好。如果什么都往里塞检索的时候噪音很大反而影响效果。我一般只让助理记住三类东西明确的偏好设置、重要的项目背景、反复用到的信息。其他的一次性对话聊完就让它过去。memory: type: vector path: ./data/memory max_entries: 1000 retention_days: 90设置保留天数定期清理过期记忆能有效控制存储膨胀。6. 踩坑实录那些教程不会告诉你的问题6.1 模型响应慢先别怪机器刚开始用的时候我觉得本地模型慢得没法忍。后来排查发现问题不在算力而在几个细节模型没常驻每次调用都重新加载白白浪费几秒上下文太长把整篇长文档塞进去推理时间线性增长量化等级太低为了省内存用了 2-bit 量化质量差还慢。解决办法是常驻主力模型、控制上下文长度、用 4-bit 或 8-bit 量化。调整之后7B 模型在我的 Mac Mini 上首字响应能压到 1 秒以内。6.2 端口冲突和权限问题本地部署经常遇到端口被占用。Ollama 默认用 11434OpenClaw 可能用 3000 或 8000。如果启动报 address already in use先查是谁占了# 查看端口占用 lsof -i :11434 lsof -i :3000 # 找到进程后要么杀掉要么改配置换端口 kill -9 进程号权限问题也很常见尤其是文件操作工具。macOS 对某些目录有保护Agent 想读写会被拒绝。解决办法是把工作目录设在用户目录下别去碰系统目录。6.3 内存不足导致的连锁反应16GB 机器上如果同时跑模型、Docker、浏览器内存很快见底。macOS 会开始用交换空间机器变得很卡。我的应对策略用htop或活动监视器盯着内存关掉不必要的后台程序模型只常驻一个实在不够就升级机器别硬扛。提示判断是否在交换可以看活动监视器里的内存压力图表。如果长期是黄色或红色说明内存不够了。6.4 升级之后配置失效OpenClaw 或 Ollama 升级后配置文件格式可能变化导致启动失败。我的习惯是升级前先备份配置和数据目录。出问题能快速回滚不至于从头再来。# 备份配置和数据 tar -czvf openclaw-backup-$(date %Y%m%d).tar.gz ./config ./data7. 长期维护让这套系统稳定跑下去7.1 日志和监控不能省系统跑起来之后最怕的是悄悄挂了你还不知道。我建议至少做两件事一是把日志集中到一个目录定期看有没有异常二是加一个简单的健康检查比如每隔几分钟 curl 一下服务接口不通就发通知。# 简单的健康检查脚本 #!/bin/bash if curl -s http://localhost:11434/api/tags /dev/null; then echo OK else echo 服务异常尝试重启 brew services restart ollama fi把这个脚本挂到 cron 里每 5 分钟跑一次能解决大部分服务莫名挂掉的问题。7.2 数据备份策略本地部署的好处是数据在自己手里但前提是你得备份。我的策略是配置文件和记忆数据每天增量备份模型文件不用备份可以重新下载。备份目标可以是外接硬盘也可以是另一台机器。7.3 什么时候该考虑升级硬件如果你发现模型响应越来越慢、内存压力长期红色、想跑的模型跑不动那就是该升级了。Mac Mini 的升级路径比较直接——换更大内存的机器。我的建议是如果你已经确定要长期用直接上 32GB省得以后折腾。这套系统我用了大半年最大的体会是本地 AI 助理的价值不在炫技而在融入日常。它不需要多聪明但需要稳定、随时可用、数据可控。OpenClaw 加 Mac Mini 这个组合恰好在这几点上做到了平衡。如果你也在考虑把 AI 助理搬回家希望这些经验能帮你少走点弯路。