
Needle 2 跨平台引擎拉取指南6个平台tag与--platform-tag完全解析【免费下载链接】needle14MB foundation model for tiny devices; phones, wearables, smart home, and robots.项目地址: https://gitcode.com/GitHub_Trending/needle20/needleNeedle 2 是一个面向手机、可穿戴设备、智能家居与机器人的 45M 参数端侧工具调用模型整个推理引擎被压进单个 14MB 二进制文件一次会话仅需约 28MB 内存。安装cactus-needle后引擎会按当前平台自动下载并缓存你也可以用needle fetch命令配合--platform-tag参数提前为其他设备拉取对应构建。本文将完整解析 6 个平台 tag 的来龙去脉帮你把引擎快速部署到任意目标机器。为什么需要拉取引擎这一步pip install cactus-needle装上的只是 Python 胶水层——import needle轻量且不依赖 JAX。真正的推理引擎libneedle.so/.dylib/.dll存放在 Hugging Face 仓库中首次创建Needle(...)实例时才触发自动下载并缓存在~/.cache/cactus-needle/2.0.2/此后推理全程不触网。对于离线/气隙设备嵌入式盒子、智能音箱、机器人本体提前拉好这一个文件是部署的关键这也是needle fetch命令存在的原因。6个平台tag速查表tag 的生成逻辑在 needle/agent/fetch.py根据sys.platform与 CPU 架构拼装Linux 上还会检测 C 库是 glibc 还是 musl。最终下载的文件名为cactus_needle-2.0.2-py3-none-tag.whl从中解压出对应平台的动态库。平台 tag操作系统CPU 架构库文件macosx_11_0_arm64macOSApple SiliconARM64libneedle.dylibmacosx_11_0_x86_64macOSIntelx86_64libneedle.dylibwin_amd64Windowsx86_64libneedle.dllwin_arm64WindowsARM64libneedle.dllmanylinux2014_x86_64Linuxglibcx86_64libneedle.somanylinux2014_aarch64LinuxglibcARM64libneedle.so 附加 2 个 musl 变体Alpine 等 musl 系统使用musllinux_1_2_x86_64/musllinux_1_2_aarch64代码通过/proc/self/maps自动识别见 needle/agent/fetch.py。needle fetch 一键拉取当前平台引擎needle fetch不带参数时自动识别本机平台、下载并缓存到~/.cache/cactus-needle/2.0.2/同时打印文件路径。用--out可指定落地目录方便拷贝到其他机器needle fetch --out /tmp/needle-engine命令参数定义见 needle/cli.py。--platform-tag为别的设备拉引擎这是跨平台部署的核心用法——在联网机器上拉取目标设备的构建再离线部署# 为 ARM64 的 Linux 设备如树莓派、开发板拉取 needle fetch --platform-tag manylinux2014_aarch64 --out /tmp/rpi # 为 Apple Silicon Mac 拉取 needle fetch --platform-tag macosx_11_0_arm64 --out /tmp/mactag 取值即上表 6 个加 2 个 musl 变体与 doc/apis.md 的 Offline devices 章节一致。--platform-tag会同时决定下载哪个 wheel 以及解压出哪种库文件.dylib/.dll/.so映射逻辑可参考 tests/test_fetch.py 中的用例。气隙设备部署3种放置方式拉到文件后离线设备有三种方式让引擎被找到优先级从高到低NEEDLE_LIB_PATH环境变量NEEDLE_LIB_PATH/path/to/libneedle.so直接指定文件跳过所有查找逻辑最可靠拷入包目录放进已安装的needle/包内优先于缓存标准缓存路径拷贝到设备上的~/.cache/cactus-needle/2.0.2/。Python 包本身的离线安装走标准流程联网机pip download cactus-needle设备端pip install --no-index --find-links dir cactus-needle。若设备绝不允许联网尝试再设置HF_HUB_OFFLINE1缺引擎时会快速报错而不是挂起等待下载。完整细节见 doc/apis.md 与 README.md。常见问题速答怎么确认自己该用哪个 tag直接跑needle fetch它会按本机环境自动选对为别机拉取时按上表查系统架构即可。引擎版本会变吗会当前为2.0.2needle/agent/fetch.py缓存目录按版本隔离升级不影响旧文件。拉错的 tag 能跑吗不能。库文件名与平台强绑定win_*对应.dllmacosx_*对应.dylib其余为.so跨平台无法互相加载。掌握 6 个平台 tag 与--platform-tag参数你就能在任何联网跳板机上为手机、开发板、Mac 或 Windows 盒子预置 Needle 2 推理引擎实现一次拉取、离线即用。【免费下载链接】needle14MB foundation model for tiny devices; phones, wearables, smart home, and robots.项目地址: https://gitcode.com/GitHub_Trending/needle20/needle创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考