1. 为什么我最终把 AI 开发环境切到了 WSL2先说明一下背景。我主力机器是 Windows 11 RTX 4090平时既要写论文跑 PyTorch又要用 Office、微信、剪映之类的日常软件。过去几年我在双系统和虚拟机之间反复横跳直到 WSL2 的 GPU 直通方案成熟之后我才算真正稳定下来。先说结论WSL2 不是又一个Windows 下的 Linux 模拟器它是微软用 Hyper-V 虚拟化技术跑起来的一个真实 Linux 内核。这就意味着你在 WSL2 里跑的 Ubuntu 不是仿真的而是货真价实的 Linux。内核级这个词说的就是这件事。加上微软和英伟达合作推的 GPU 直通方案WSL2 里的 Linux 可以直接调用宿主机显卡做 CUDA 计算性能损耗非常低。对搞 AI 的人来说这基本就是既要 Windows 的生态又要 Linux 的开发环境的最优解。这篇文章我打算把自己从零搭建的完整过程、每一步的取舍原因、踩过的坑全部写出来。不管是刚接触 AI 开发的新手还是准备把环境迁移到 WSL2 的熟手按着下面的内容走一遍基本都能落地。我不写官方文档翻译我只写实际怎么操作最稳。1.1 内核级 Linux到底意味着什么很多人第一次接触 WSL2 会有一个困惑WSL1 不是也能跑 Linux 命令吗为什么非要用 WSL2区别其实非常本质。WSL1 的架构是系统调用翻译层——Windows 内核把 Linux 程序的系统调用一个个接住再翻译成 Windows 的系统调用。这种方案启动快、文件 IO 快但兼容性有天花板很多 Linux 内核特性没法支持比如 Docker、FUSE、iptables、eBPF 这种依赖内核能力的东西在 WSL1 里基本是残废状态。WSL2 则是直接在上面跑一个真正的 Linux 内核通过轻量级虚拟机承载。你用uname -a看到的输出是一个真实的、由微软维护的 Linux 内核版本。Docker 可以直接跑内核模块可以加载系统调用完整兼容。这就是内核级 Linux的含义——它不是翻译它是原生的。代价是什么代价是 WSL2 的 VM 本质上是运行在 Hyper-V 虚拟化层上的所以文件 IO 跨系统访问会变慢后面我会讲怎么规避。另外WSL2 默认会吃一部分宿主机内存需要合理配置。1.2 GPU 直通的本质和显卡直通不是一回事这里必须先澄清一个高频误区。网上搜WSL2 GPU 直通会搜到很多混淆信息。大家熟悉的显卡直通指的是把物理显卡直接分配给虚拟机宿主机不再使用这块显卡——典型场景是 PVE/Unraid 里给 Windows 虚拟机直通显卡打游戏直通之后宿主机就看不见显卡了。WSL2 的 GPU 方案不是这种独占式直通。WSL2 使用的是微软的 GPU-PVGPU 半虚拟化架构宿主机保留完整的显卡驱动栈Linux 侧通过/usr/lib/wsl/lib里的libcuda.so库把 CUDA 调用转发到 Windows 的 GPU 驱动上。也就是说Windows 和 WSL2 Linux 是共享同一块 GPU 的。你可以同时在 Windows 上开着剪映在 WSL2 里跑 PyTorch 训练两者互不干扰。这种方案对 AI 开发反而是好事你不用为了跑训练就放弃 Windows 的全部图形能力。从性能来说NVIDIA 官方给出的数据是 WSL2 里 CUDA 性能接近原生 Linux 的 97%-100%计算密集型任务。这个数字我实测下来不是吹的跑 ResNet 训练差距基本在误差范围内。所以性能损耗这项完全不用担心。1.3 WSL2、VM、双系统、Docker Desktop 四选一该怎么选既然要部署 AI 开发环境我先把我对四种主流方案的理解摆出来这样后面你再遇到为什么不用 XXX的疑问心里就有底了。方案CPU/内存性能GPU 支持开发体验适用场景WSL2损耗低5%极好共享模式CUDA 直用与 Windows 无缝切换AI 开发、Docker、日常办公兼顾传统 VMVirtualBox/VMware损耗较低一般VGA 模拟为主CUDA 难交互割裂测试、兼容性验证双系统100%100%切换要重启长时间训练、追求极致环境Docker Desktop WSL2 后端同 WSL2同 WSL2容器化环境隔离好项目分发、复现实验我的建议很明确如果你的机器是 NVIDIA 显卡且你需要在 Windows 上处理日常事务WSL2 就是目前综合成本最低的选择。双系统的优势在于纯 Linux 环境的绝对兼容性但重启切换的痛感太强了我现在只有在 WSL2 里搞不定的场景比如某些 Nsight 工具链的问题才会重启进 Linux 单系统。2. 部署前的环境准备版本、驱动、镜像三件事开始装之前先把基础条件过一遍。WSL2 对 Windows 版本有硬性要求显卡驱动更是整个 GPU 直通能否成功的关键环节。2.1 确认 Windows 版本与 WSL2 启用WSL2 需要 64 位 Windows 10 版本 2004 及以上Build 19041或者 Windows 11强烈推荐WSL 的新特性基本都在 Win11 上优先更新。我已经是 Win11 最新版所以直接走下面的流程。用管理员身份打开 PowerShell# 启用 WSL 功能会自动启用 VirtualMachinePlatform 和 Hyper-V 相关组件 wsl --install # 查看当前 WSL 版本 wsl --statuswsl --install这个命令在较新的 Windows 版本里是一条龙服务安装 WSL2 内核、启用虚拟化平台、默认安装 Ubuntu。装完重启一次系统就具备 WSL2 环境了。如果执行wsl --status提示的是 WSL1不要慌显式指定一下wsl --set-default-version 2提示如果是 Windows 10 且wsl --install不可用就手动开启适用于 Linux 的 Windows 子系统和虚拟机平台两个可选功能重启后再安装 WSL2 内核更新包微软官网搜索wsl_update_x64.msi。2.2 显卡驱动真相是只需装 Windows 驱动这是 WSL2 GPU 方案最容易踩坑的地方。很多人习惯性地跑到 Linux 里执行apt install nvidia-driver-xxx结果要么装不上要么装完重启之后nvidia-smi反而挂了。核心原则在 WSL2 里不需要、也不应该单独安装 NVIDIA 驱动。WSL2 的 GPU 半虚拟化架构决定了Linux 用户态通过/usr/lib/wsl/lib/libcuda.so调用 CUDA而真正的驱动由 Windows 侧接管。所以你只需要在 Windows 宿主机上安装一个支持 WSL2 的 NVIDIA 驱动——从 470.76 版本开始NVIDIA 已经把所有新驱动默认加上 WSL 支持了下载驱动时只要认准官网的 Game Ready 或 Studio Driver2021 年之后的版本都行装好即可。装完驱动的判断标准很直接在 Windows PowerShell 里跑nvidia-smi能显示显卡信息。如果 Windows 侧没问题WSL2 侧基本就成功了一半。那 Linux 侧需要装什么只需要装 CUDA Toolkit不需要装驱动。CUDA Toolkit 里包含nvcc编译器和运行时库这才是真正干活的东西。2.3 镜像选择为什么不推荐默认 Ubuntu 之外的折腾WSL2 官方支持的发行版很多Ubuntu、Debian、Kali、openSUSE、Alpine 都有。但我的建议是第一台机器老老实实装 Ubuntu 22.04 LTS。原因不复杂。AI 开发的大多数第三方库PyTorch、TensorRT、DeepStream都会优先适配 Ubuntu LTS 版本。你在 Ubuntu 上踩到坑网上十条搜索结果九条能救你你要是选了 arch 或者 Fedora出了问题搜到的解决方案可能还要先折腾一轮依赖。安装发行版的命令PowerShellwsl --install -d Ubuntu-22.04装完第一次启动会让你设置 Linux 用户名和密码。这一步设置的密码就是 sudo 密码别用太随便的忘了很麻烦。注意WSL 登录用户名可以和 Windows 用户名不同。我自己习惯用同一个名字跨系统传文件时的权限心智负担小一些。2.4 解决下载慢的硬核操作换源换镜像WSL2 的 Ubuntu 从微软服务器拉取国内网络环境下经常出现龟速。新装的系统第一步永远是替换 apt 源。在 WSL2 Ubuntu 里执行# 备份原始源 sudo cp /etc/apt/sources.list /etc/apt/sources.list.bak # 用清华源替换先确认 Ubuntu 版本是 22.04jammy sudo sed -i s/archive.ubuntu.com/mirrors.tuna.tsinghua.edu.cn/g /etc/apt/sources.list sudo sed -i s/security.ubuntu.com/mirrors.tuna.tsinghua.edu.cn/g /etc/apt/sources.list sudo sed -i s|//.*ubuntu.com|//mirrors.tuna.tsinghua.edu.cn|g /etc/apt/sources.list sudo apt update顺便一提如果你不想用清华源中科大源mirrors.ustc.edu.cn和阿里源mirrors.aliyun.com也都稳。挑一个顺手的就是。3. 把 WSL2 装到 D 盘摆脱 C 盘爆满焦虑这一步是我个人极其推荐的。WSL2 的虚拟磁盘.vhdx文件默认放在 C 盘用户目录下AI 开发装个 PyTorch、CUDA、Docker 镜像随便就是几十个 GB。C 盘是系统盘一旦满了哭都来不及。WSL2 实际上是可以用导出-导入的方式迁移到任意分区的操作非常简单3.1 导出当前发行版先关闭 WSLwsl --shutdown然后把 Ubuntu 导出为 tar 文件放到 D 盘wsl --export Ubuntu-22.04 D:\wsl\ubuntu.tar第一次导出可能要等几分钟因为整个虚拟磁盘都被打包了。3.2 注销原始发行版并导入新位置# 注销默认位置的发行版 wsl --unregister Ubuntu-22.04 # 导入到 D 盘指定目录 wsl --import Ubuntu-22.04 D:\wsl\ubuntu D:\wsl\ubuntu.tar --version 2导入之后默认会以 root 用户进入。先设置默认用户为之前创建的用户名避免一直在 root 下干活# 进入 WSL wsl -d Ubuntu-22.04 # 在 WSL 里修改默认用户 echo -e [user]\ndefault你的用户名 | sudo tee /etc/wsl.conf exit # 重启 WSL 生效 wsl --shutdown wsl -d Ubuntu-22.04之后wsl进入的就是你的普通用户了。D:\wsl\ubuntu.tar这个中间包可以删掉D:\wsl\ubuntu目录下会有ext4.vhdx那才是真正的虚拟磁盘。我的实操心得在C:\Users下也可以配置.wslconfig把虚拟磁盘位置固定到 D 盘但那是老黄历了。现在用导出-导入是最干净的方案不受用户目录结构影响。3.3 用 .wslconfig 限制内存和 CPUWSL2 默认会分配最多 50% 宿主机内存给虚拟机。32GB 内存的机器WSL2 可能吃 16GBWindows 这边就容易卡。需要在用户目录下创建.wslconfig文件来约束资源在C:\Users\你的用户名目录下新建.wslconfig写入[wsl2] memory16GB processors8 swap2GB localhostForwardingtrue关键参数解释memory限制 WSL2 最多使用 16GB 内存避免挤爆 Windows。processors限制逻辑处理器数量防止 WSL2 全核抢占。swap虚拟内存上限跑大模型时如果内存不够会使用 swap盘够就多给点。改完.wslconfig需要wsl --shutdown再重启 WSL2 才能生效。查看生效情况在 WSL 里执行free -h能看到分配的内存。我自己训练 7B 参数量级的模型时把memory调到 24GBWindows 这边还有 8GB 富余整体体验很稳。4. GPU 直通与 CUDA 环境实操从零到能跑 PyTorch现在进入正题。前面都是基础设施这一章是真正让 GPU 转起来的关键。4.1 在 WSL2 里验证 GPU 可见性打开 WSL2 Ubuntu 终端先检查最关键的路径ls /usr/lib/wsl/lib/正常输出里必须能看到libcuda.so、libcuda.so.1这一系列库文件。这是 WSL2 与 Windows 图形驱动通信的桥接库。然后直接跑nvidia-sminvidia-smi如果输出和 Windows 侧一样显示出显卡型号、驱动版本、显存容量恭喜你GPU 直通这一关已经过了。我第一次在 WSL2 里看到nvidia-smi输出 RTX 4090 的时候确实有点激动。这意味着 CUDA 运行时可以直接操作这块物理显卡。如果这步报错绝大多数原因就是 Windows 侧驱动没装新版本先回去看看第 2.2 节。4.2 安装 CUDA Toolkit为什么我推荐容器方案替代原生安装到了这一步你面前有两条路路径 A原生安装 CUDA Toolkit传统方案去 NVIDIA 官网下载 WSL2-Ubuntu 版的 runfile 或者通过 apt 安装。命令不复杂wget https://developer.download.nvidia.com/compute/cuda/12.4.1/local_installers/cuda_12.4.1_550.54.14_linux.run sudo sh cuda_12.4.1_550.54.14_linux.run --toolkit --silent --override但这套方案有个老大难问题CUDA 版本和 PyTorch 编译版本的匹配。你装 CUDA 12.4但 PyTorch 官方编译的 wheel 只对应 CUDA 12.1就得额外装cudatoolkit兼容层。翻车率不低。路径 B用 Conda/PyTorch 官方轮子推荐方案现代 AI 开发其实不需要单独装完整 CUDA Toolkit。PyTorch 官方 wheel 自带了 CUDA 运行时版式如cu121、cu124只要你装上对应版本的 PyTorchCUDA 运行时库就随之而来。我现在的实践是只在 WSL2 里装一个 Miniconda然后用 conda 管理 PyTorch 环境不单独装 CUDA Toolkit除非用到 nvcc 编译自定义算子。对于 90% 的 AI 开发场景训练、推理、跑实验这个方案最省心。4.3 Miniconda PyTorch GPU 版安装实录在 WSL2 Ubuntu 里执行# 下载 Miniconda国内用清华镜像加速 wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh # 安装 bash Miniconda3-latest-Linux-x86_64.sh -b -p $HOME/miniconda3 # 初始化 shell eval $($HOME/miniconda3/bin/conda shell.bash hook) conda init # 创建 AI 环境 conda create -n ai python3.10 -y conda activate ai # 安装 PyTorchCUDA 12.1 版本对应 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121装完验证 GPU 是否可用python -c import torch; print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))输出True NVIDIA GeForce RTX 4090看到True的时候整个 WSL2 的 GPU 开发环境就算彻底通了。提示如果网速慢PyTorch wheel 可以从清华 PyPI 镜像下载但那上面默认的是 CPU 版需要先从 PyTorch 官方 index 下。我的经验是直接用官方 index-url配好代理或错峰下载比找第三方镜像稳定。4.4 容器方案Docker Desktop WSL2 后端如果你需要跑别人给的 Docker 镜像比如 NVIDIA 官方 NGC 的 PyTorch 容器WSL2 后端是标配。安装配置流程Windows 侧装 Docker DesktopSettings 里确保使用 WSL2 后端然后勾选支持你已安装的发行版。之后在 WSL2 里可以直接执行docker命令本质上是复用同一个 Docker 引擎。跑一个 GPU 容器docker run --gpus all -it --rm nvcr.io/nvidia/pytorch:24.02-py3 nvidia-smi--gpus all这个参数在 Windows Docker Desktop WSL2 下是直接可用的因为 Docker 会自动感知 WSL2 的 GPU 转发能力。我日常的工作流是原型代码在 conda 环境里跑跑通了就打镜像进 Docker 固定环境。这样实验复现性可控换机器也方便。5. 性能调优与缓存让 GPU 跑得更稳更快环境通了之后想榨干性能还有几个关键点值得调。5.1 Linux 侧 CUDA 缓存的正确配置AI 训练和推理会有大量 CUDA kernel 缓存类似 GPU 端的预编译缓存。默认情况下缓存写在~/.nv/ComputeCache这个目录在虚拟磁盘里IO 慢。我建议把缓存挪到共享内存tmpfs# 创建缓存目录 mkdir -p /tmp/nv-compute-cache # 设置环境变量 echo export CUDA_CACHE_PATH/tmp/nv-compute-cache ~/.bashrc source ~/.bashrc这样做的好处是 kernel 缓存读写走内存速度提升感知明显尤其是反复切换模型时。缺点是重启后缓存清空第一次加载模型会重新编译。对训练流程来说这个牺牲完全值得。5.2 跨系统文件 IO不要把数据放在 /mnt/c这是 WSL2 老用户最深刻的痛。/mnt/c、/mnt/d这种路径本质上是 Windows 文件系统挂载WSL2 里访问它们的速度比访问原生 Linux 文件系统慢 5-10 倍。训练脚本读写数据集时如果把数据放在D:\datasets然后从/mnt/d/datasets读取数据 IO 会成为瓶颈。我的方案数据文件放在 WSL2 原生文件系统~目录或/dataWindows 侧需要访问训练结果时通过资源管理器输入\\wsl$\Ubuntu-22.04\home\用户名查看小文件频繁读写绝不走/mnt/c实测显存带宽不变的情况下数据读取从/mnt/d迁移到~之后小 batch 的训练速度能提升一截。5.3 Windows 侧 GPU 优先级调整有一个从 Windows 注册表调整 GPU 调度优先级的技巧适合在 WSL2 训练时避免 Windows 图形界面抢占 GPU 资源reg add HKLM\SYSTEM\CurrentControlSet\Control\GraphicsDrivers\Scheduler /v LatencyToleranceEnabled /t REG_DWORD /d 1 /f这个命令启用 GPU 调度器的延迟容忍模式。效果是让 WSL2 里长时间的计算任务不容易被桌面应用的突发 GPU 请求打断。副作用不明显但如果 Windows 侧也在用 GPU比如直播推流反而可能让桌面应用变卡。用不用看个人取舍。6. 常见问题与排查WSL2 GPU 的坑我都替你踩过最后一部分我把实际工作中碰到的高频问题整理成速查表。这里的每个问题都是我或同事真实遇到过、排查过的。6.1 WSL2 尚未准备就绪 / 服务无法启动现象执行wsl报错说系统尚未启用虚拟化或 WSL2 尚未准备就绪。排查顺序BIOS 里确认 CPU 虚拟化Intel VT-x / AMD-V已开启Windows 功能里确认虚拟机平台已启用确认 Hyper-V 没有被杀毒软件或内核隔离策略干扰执行bcdedit /set hypervisorlaunchtype auto管理员权限重启。注意如果开了第三方沙箱软件或旧版 VMware可能和 Hyper-V 冲突。Win11 下一般不会Win10 上遇到过。6.2nvidia-smi报错找不到 libcuda现象在 WSL2 里执行nvidia-smi提示无法加载libcuda.so.1。原因 90% 是 Windows 驱动版本过老。WSL2 需要 470.76 以上的驱动从 2021 年年中之后的驱动都没问题。升级 Windows 侧驱动即可解决。如果驱动已经新但仍然报错检查/usr/lib/wsl/lib是否存在。如果目录不存在多半是wsl --update更新内核版本。执行wsl --update wsl --shutdown6.3 PyTorch 显示 CUDA 可用但运算极慢现象torch.cuda.is_available()是 True但跑训练速度只有预期的三分之一。原因排查确认环境变量有没有把 CUDA 设备限制到某个低端设备echo $CUDA_VISIBLE_DEVICES确认数据读取没走/mnt/c见 5.2确认 PyTorch 版本和 CUDA 版本匹配。用torch.version.cuda查看 PyTorch 内置的 CUDA 版本和nvidia-smi显示的驱动版本不一定一致但 PyTorch 内置 CUDA 运行时要求驱动的兼容性只要驱动别太老就行。如果都排除了尝试增加 batch size 观察吞吐量是否线性增长排除小 batch 导致的调度开销。6.4 WSL2 下载慢apt 和 pip 都慢处理方法前面已经写过。apt 换清华/中科大源pip 用清华 PyPI 镜像conda 用清华 anaconda 镜像。如果镜像源速度仍不理想检查 DNS 配置或给 WSL2 配置 Windows 侧代理。对于代理WSL2 访问 Windows 主机地址可以用特殊 IP# 查看 Windows 主机的 IP从 WSL2 内 cat /etc/resolv.conf | grep nameserver拿到 Windows 主机 IP 之后在 WSL2 里配置http_proxy环境变量指向那个 IP 加端口。但这一步我就点到为止——因为绝大多数场景下换国内镜像就够了Windows 内网代理转发的问题是另一个话题。6.5 Docker 里无法使用 GPU现象在 WSL2 里跑docker run --gpus all报错说找不到 GPU。排查思路先在 WSL2 里跑nvidia-smi如果报错说明 GPU 通路没建立先解决主机侧问题Docker Desktop 的 WSL2 后端设置里确认Enable GPU相关选项较新版本默认开启检查 Docker 版本老版本可能不支持--gpus参数。升级 Docker Desktop 通用如果使用容器内自定义镜像确认镜像里带nvidia-smi工具或 NVML 库部分镜像为了体积精简没有装这些工具报错可能来自容器内部而不是 Docker 引擎。6.6 虚拟磁盘越来越大如何瘦身WSL2 的.vhdx文件只增不减。删了 Linux 里的文件虚拟磁盘空间不会自动释放。定期需要手动压缩wsl --shutdown diskpart在 diskpart 里执行select vdisk fileD:\wsl\ubuntu\ext4.vhdx attach vdisk readonly compact vdisk detach vdisk exit操作后虚拟磁盘会物理缩小。我一般每跑完一个大型实验就压缩一次能回收好几个 GB。7. 最后这个环境我现在怎么用写到这里基本配置和排坑都说完了。说说我现在的日常状态Windows 11 开机即用WSL2 里跑着 Ubuntu 22.04conda 环境里常驻 PyTorch。写代码用 VS Code Remote-WSL 插件直接连进 WSL2 里的文件系统不用切窗口。训练脚本跑在~/projects里结果是原生 Linux 文件系统速度随时切回 Windows 剪视频、写文档。Docker 容器里跑别人给的模型推理--gpus all一把梭。要说这一个方案让我最满意的地方其实是“不用选”。不需要在工作系统和日常系统之间做任何妥协。如果你也受够了双系统重启和虚拟机 GPU 无能的折磨照着这篇文章跑一遍大概率直接入坑。现在唯一后悔的就是没早点从纯双系统迁过来。