ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

exo 如何在 macOS 26.2 上启用 RDMA?Recovery 模式步骤、TB5 全互联要求与 macOS 版本一致检查

exo 如何在 macOS 26.2 上启用 RDMA?Recovery 模式步骤、TB5 全互联要求与 macOS 版本一致检查 exo 如何在 macOS 26.2 上启用 RDMARecovery 模式步骤、TB5 全互联要求与 macOS 版本一致检查【免费下载链接】exoRun frontier AI locally.项目地址: https://gitcode.com/GitHub_Trending/exo8/exo如果你用多台带 Thunderbolt 5 的 Mac 组 exo 集群想让节点间走 RDMAREADME 中称为 RDMA over Thunderbolt可把设备间延迟降低 99%需要先在每台 Mac 上启用系统的 RDMA 能力并按 exo 的布线要求把节点全互联。RDMA 是 macOS 26.2 新增的能力适用的硬件为M4 Pro Mac Mini、M4 Max Mac Studio、M4 Max MacBook Pro、M3 Ultra Mac Studio。本文只覆盖“启用 RDMA 满足布线/版本前提”这一步不涉及模型下载与实例创建。前提条件硬件、系统版本与线缆系统版本所有加入 RDMA 集群的 Mac 都必须运行 macOS 26.2 或更高版本并且版本必须完全一致连 beta 版本号都要相同。文档明确说明不同 macOS 版本下RDMA 端口可能无法互相发现。所以启用前先在每台机器上核对系统设置 → 关于本机中的版本号不一致的先统一升级。硬件机器必须带 Thunderbolt 5 端口见上文机型列表。线缆连接节点间的线缆必须支持 TB5普通 USB-C/TB4 线缆不满足要求。Mac Studio 特别注意Mac Studio 上紧挨以太网口的那个 TB5 端口不支持 RDMA线缆要移到其余三个 TB5 端口上。进入 Recovery 模式启用 RDMA每台 Mac 都要单独执行一遍下面的流程来源README 的 “Enabling RDMA on macOS” 一节关闭 Mac关机不是睡眠。长按电源键 10 秒直到出现启动菜单boot menu。选择 “Options” 进入 Recovery 模式。在 Recovery 界面出现后从 Utilities实用工具菜单打开 Terminal终端。在终端中输入并回车rdma_ctl enable重启 Mac。完成后该机的 RDMA 即在系统层面启用剩下交给 exo。多台机器要逐台重复不要跳过任何一台exo 的放置逻辑要求参与 RDMA 实例的每个节点都被观测到rdma_ctl处于 enabled 状态任何一个节点未启用整条 RDMA 环路上的张量并行放置就会被拒绝见 placement 逻辑 中对node_rdma_ctl状态的检查。全互联布线每台设备都要直连其他所有设备RDMA 集群的布线不是链式或星型而是全互联希望加入 RDMA 集群的每台设备都必须与其他所有设备直连。例如 4 台 Mac 组集群时每台都要有 3 条 TB5 线缆分别连到其余 3 台。下图是文档中展示的 4 × Mac Studio 全互联拓扑含每台节点的内存与链路示例数据布线时的核对清单均来自 README 的 Important Caveats检查项要求连接方式集群内每台设备与其他所有设备直连线缆必须支持 TB5Mac Studio 端口不能使用紧挨以太网口的那个 TB5 端口系统版本所有设备 macOS 版本完全一致含 beta 版本号从源码运行时执行 RDMA 网络配置脚本如果你是通过uv run exo从源码运行而不是 macOS 应用README 要求使用仓库中的 tmp/set_rdma_network_config.sh 脚本它会禁用 Thunderbolt Bridge 并为每个 RDMA 端口设置 DHCP。该脚本会修改系统网络配置运行前需要明确以下副作用且需要管理员权限脚本会写系统级网络偏好并创建/切换网络位置销毁bridge0接口并从/Library/Preferences/SystemConfiguration/preferences.plist中删除 Thunderbolt Bridge 的虚拟接口条目创建名为exo的网络位置并切换过去已存在则不重复创建为每个 Thunderbolt 口创建EXO 端口名网络服务并设为 DHCP关闭 “Thunderbolt Bridge” 网络服务。脚本没有需要替换的用户变量按原文档路径在仓库内执行即可sudo ./tmp/set_rdma_network_config.sh注意这一步只在“从源码运行 exo”时是必要步骤macOS 应用路径下应用会在启动时自行申请修改系统设置并安装新的 Network profileREADME 在 “macOS App” 一节说明。验证 RDMA 是否生效文档给出的验证依据有三处建议按顺序看rdma_ctl statusexo 自己收集节点状态时执行的就是rdma_ctl status见 info_gatherer仅当rdma_ctl可执行文件存在时轮询。你也可以在正常系统里直接运行它确认本机 RDMA 状态不再是 disabled。exo dashboard 的提示横幅启动uv run exo后打开http://localhost:52415/。当检测到多台节点有 TB5 硬件但 RDMA 未启用时dashboard 会显示黄色警告 “Thunderbolt 5 hardware detected on multiple nodes. Enable RDMA...”提示内容包含 TB5 线缆连接、Recovery 进入方式、rdma_ctl enable和 “Requires macOS 26.2, TB5 cables, and matching OS versions”。看到这条警告说明 RDMA 还没在全部节点上就位。Mac Studio en2 端口警告如果线缆误插在 Mac Studio 网口旁的 TB5 端口接口en2dashboard 会显示红色 “RDMA INCOMPATIBLE PORT” 警告并列出受影响的节点对提示把线缆移到其余三个 TB5 端口之一。常见卡点端口互发现失败先核对所有设备的 macOS 版本号是否完全一致含 beta 号这是 README 点名的首要原因。某条链路不上 RDMA检查线缆是否 TB5 规格以及是否插在了 Mac Studio 的禁用端口en2上。集群规模扩大每新增一台机器都要重新满足全互联新节点直连所有旧节点并对新节点执行一遍 Recovery 启用流程。以上前提都满足后exo 的拓扑感知放置会自行利用 RDMA 链路rdma_ctl状态由 exo 周期性采集并进入集群状态state.node_rdma_ctl张量并行等 RDMA 放置方案在所有相关节点启用时才会生效。接下来就可以在 dashboard 或 API 里选择模型创建实例了具体流程见 README 的 “Using the API” 一节与 docs/api.md。【免费下载链接】exoRun frontier AI locally.项目地址: https://gitcode.com/GitHub_Trending/exo8/exo创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表