尧图网站建设 
使用 Unsloth 高效微调 Qwen3从 SFT、QLoRA 到 MoE 与 GRPO 强化学习完整实战指南【免费下载链接】Qwen1.5Qwen3 is the large language model series developed by Qwen team, Alibaba Cloud.项目地址: https://gitcode.com/GitHub_Trending/qw/Qwen1.5本指南基于 Qwen3 官方仓库文档 docs/source/training/unsloth.md 编写系统讲解如何使用开源训练框架 Unsloth 对 Qwen3 系列模型进行微调SFT、QLoRA 低资源训练、MoE 模型微调以及 GRPO 强化学习RLHF。读完本文你将掌握从环境安装、参数配置、数据集比例设计到模型训练与推理部署的完整链路能够在 16 GB 显存的消费级 GPU 上完成 14B 级模型的微调也可以仅用 17.5 GB 显存微调 30B-A3B MoE 模型。为什么选择 Unsloth 训练 Qwen3Unsloth 是一个专注本地模型训练的加速框架其核心卖点在于简化训练全流程从模型的加载、量化4-bit/8-bit到训练、评估、运行再到通过 Ollama、llama.cpp、vLLM 等推理引擎进行部署全部可以在一套 API 内完成。根据 Qwen 官方文档的说明使用 Unsloth 训练 Qwen 模型可达到2 倍训练速度同时显存占用减少 70%并可支持8 倍更长的上下文长度。在 README.md 中Qwen 官方也将 Unsloth 与 Axolotl、Swift、LLaMA-Factory 并列作为官方推荐的 Qwen3 微调框架之一用于 SFT、DPO、GRPO 等训练方式。核心特性一览原文档列出的关键特性如下训练方式全面支持全量微调full fine-tuning、预训练pretraining、LoRA、QLoRA、8-bit 训练等多种方式硬件与平台覆盖广支持单卡与多卡训练兼容 Linux、Windows、Colab、Kaggle 等环境支持 NVIDIA GPU原文档注明 AMD 与 Intel 支持即将到来模型类型兼容性强兼容各类 Transformer 模型包括 TTS、多模态、STT、BERT以及 RL强化学习模型RLHF 支持完善支持 GRPO、DPO、DAPO、RMReward Model、PPO、KTO 等对齐算法精度无损加速通过手写 Triton 内核与手动反向传播引擎实现加速0% 近似、无精度损失。这些特性意味着 Unsloth 不只是另一个微调库而是一条覆盖数据准备、量化加载、训练加速与推理部署的完整流水线。环境安装与快速入门本地安装Unsloth 官方推荐在 Linux 环境下安装Windows 用户可通过 WSL 获得类似体验。最简单的安装方式是通过 PyPIpip install unsloth提示生产环境建议在独立的虚拟环境conda / venv中安装并保证 PyTorch 与 CUDA 版本匹配这一点与仓库中其他训练框架文档如 docs/source/training/axolotl.md对环境要求的口径一致——先装好匹配的 PyTorch再安装训练框架本身。更新 UnslothUnsloth 迭代较快官方文档推荐使用强制重装的方式更新到最新版本同时更新其配套的模型仓库unsloth_zoopip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo其中--no-cache-dir可避免使用本地缓存的旧版本构建产物导致更新不彻底。使用 Unsloth 微调 Qwen3训练收益与显存要求根据 Qwen 官方文档Unsloth 微调 Qwen3 的核心收益可总结为三点训练速度提升 2 倍显存VRAM占用减少 70%上下文长度支持提升 8 倍。一个极具代表性的实战场景是Qwen314B可以放进免费 16 GB 显存的 Colab Tesla T4 GPU中进行微调。这意味着没有高端 A100/H100 的用户也能在免费/入门级硬件上完成 14B 模型的微调实验。保留推理能力的数据集配比关键经验Qwen3 是具备思考模式thinking的模型——根据 README.md 的说明Qwen3 支持在思考模式用于复杂逻辑推理、数学、编程与非思考模式用于高效通用对话之间无缝切换。因此微调数据集的构成会直接影响模型推理能力是否保留。Qwen 官方文档给出的实践经验是使用 75% 推理类数据 25% 非推理类数据的比例进行混合。典型组合包括推理类数据NVIDIA 的数学推理数据集math-reasoning dataset非推理类数据Maxime 的 FineTome 数据集多轮对话 / 指令类数据。这种推理为主、对话为辅的配比可以在注入新知识与对话能力的同时最大限度地保留 Qwen3 原有的链式推理能力。与之呼应的是仓库中另一份训练文档 docs/source/training/ms_swift.md 同样关注训练非思考数据但保留推理能力的问题并给出了两种数据集层面的处理手法在回答中以空的think\n\n/think标签占位、或通过在查询末尾追加/no_think指令。你可以将这两种思路与 75/25 配比结合使用进一步细化思考模式的保留策略。核心训练参数解析在 Unsloth 的 Notebook 或脚本中需要关注以下关键参数参数语义依据原文档并结合 Qwen3 模型特性展开参数推荐值/说明备注max_seq_length推荐 2048Qwen3 原生支持最高40960的上下文长度见 README.md 中 llama.cpp 配置-c 40960的用法训练时建议从 2048 起步避免显存溢出load_in_4bitTrue显存占用降至 1/4使用 4-bit 量化加载是 QLoRA 训练的基础显著降低显存门槛full_finetuningTrue全量微调需要更多显存适合对效果要求更高的场景默认关闭即 LoRA 方式load_in_8bitTrue8-bit 训练介于 4-bit QLoRA 与全量训练之间的折中方案Notebook 内的使用流程很简单打开 Notebook → 点击 Runtime ▸ Run all即可按默认参数跑通全流程随后直接在 Notebook 中修改上述参数如模型名称、上下文长度即可开展自己的实验。微调 Qwen3 MoE 模型FastModel 实战Qwen3 系列除了 Dense 模型外还包含MoEMixture-of-Experts架构的模型。根据 README.md 的说明Qwen3 提供 30B-A3B 与 235B-A22B 两款 MoE 模型总参数量 30B/235B激活参数仅 3B/22B。Unsloth 官方文档确认支持的 MoE 微调模型包括30B-A3B与235B-A22B两款并给出了一个非常亮眼的资源数据仅需 17.5 GB 显存即可微调 30B-A3B 模型。此外路由层router layer的微调在默认情况下被禁用——这是 MoE 微调的推荐实践因为路由层的梯度更新通常收益有限、却会显著增加训练开销。对 MoE 模型进行微调时需要改用FastModel接口from unsloth import FastModel model, tokenizer FastModel.from_pretrained( model_nameunsloth/Qwen3-30B-A3B, max_seq_length2048, load_in_4bitTrue, load_in_8bitFalse, full_finetuningFalse, )上述代码中的关键点model_name指向 Unsloth 在 Hugging Face 上发布的 Qwen3 MoE 权重unsloth/Qwen3-30B-A3Bmax_seq_length2048训练序列长度Qwen3 原生支持到 40960可根据显存上调load_in_4bitTrue与load_in_8bitFalse采用 4-bit 量化加载QLoRA 模式这是 17.5 GB 显存跑 30B 级 MoE 的关键full_finetuningFalse关闭全量微调以 LoRA 方式训练配合默认禁用的路由层微调进一步降低显存与计算开销。从 ModelScope 加载模型国内用户推荐对于网络环境受限的用户Unsloth 支持直接从ModelScope魔搭社区加载模型。ModelScope 也是 Qwen 官方模型的重要分发渠道之一README.md 中明确建议中国内地用户优先使用 ModelScope并提供了modelscope download等下载工具。首先安装 ModelScope 客户端静默安装模式pip install modelscope -qqq然后在代码中设置环境变量启用 ModelScope 作为模型源import os os.environ[UNSLOTH_USE_MODELSCOPE] 1 from unsloth import FastLanguageModel model, tokenizer FastLanguageModel.from_pretrained( model_nameunsloth/Qwen3-4B-Base, max_seq_length2048, )注意此处的两个 API 差异MoE 微调使用FastModel上文所示Dense 模型如 Qwen3-4B-Base微调使用FastLanguageModel用法类似均支持max_seq_length、load_in_4bit、load_in_8bit、full_finetuning等参数。设置UNSLOTH_USE_MODELSCOPE1后Unsloth 会自动从 ModelScope 的unsloth组织下拉取对应模型权重省去访问国外 Hub 的麻烦。强化学习用 GRPO 训练 Qwen3 推理能力Unsloth 不只支持监督微调SFT也支持使用强化学习RL对 Qwen 模型进行训练。官方文档重点推荐了Qwen34B进阶 GRPO LoRA 笔记本Qwen3 (4B) Advanced GRPO LoRA该方案基于 Hugging Face 的 Open-R1 数学数据集展开包含以下三个亮点基于接近度proximity的奖励评分对更接近正确答案的回答给予更高奖励相比简单二值对/错奖励能提供更细粒度的梯度信号自定义 GRPO 格式与模板可针对 Qwen3 的思考模式输出think块定制 GRPO 的提示词格式与响应模板确保模型在强化学习阶段仍保持正确的推理输出格式正则表达式regex匹配增强评估精度在奖励计算与评估环节用正则精确匹配答案减少格式噪声对奖励信号的干扰。GRPOGroup Relative Policy Optimization是当前开源社区主流的 LLM 强化学习算法本仓库的 docs/source/training/verl.md 也演示了使用 verl 以algorithm.adv_estimatorgrpo在 Qwen3-1.7B 上做 GRPO 训练的完整命令可以作为 GRPO 训练流程的横向参考——两者目标一致Unsloth 的优势在于更低的显存门槛与 Notebook 化的开箱即用体验。进阶从训练到部署的一站式流程原文档强调 Unsloth 覆盖加载 → 量化 → 训练 → 评估 → 运行 → 部署的全链路其中部署环节可直接对接Ollama、llama.cpp、vLLM三大推理引擎。本仓库也提供了这三者的详细部署指南可作为训练完成后的衔接参考docs/source/deployment/vllm.md以vllm serve启动 OpenAI 兼容 APIdocs/source/run_locally/llama.cpp.md使用 GGUF 格式在 CPU/GPU 上本地运行docs/source/run_locally/ollama.md使用 Ollama 一键拉取并运行模型。典型的端到端工作流是用 Unsloth 微调出 LoRA/QLoRA 权重 → 合并/导出为完整权重或 GGUF → 交给 vLLM/Ollama/llama.cpp 部署服务整个过程都在 Unsloth 及本仓库文档的覆盖范围内。横向对比本仓库中的其他训练方案Qwen3 官方文档在 Training 章节中提供了多种训练框架指南与 Unsloth 形成互补建议按场景选择框架文档特点适合场景Unslothdocs/source/training/unsloth.md2× 加速、70% 显存节省、16 GB T4 跑 14B、17.5 GB 跑 30B-A3B MoE、支持 GRPO低显存硬件、快速原型验证、Notebook 实验Axolotldocs/source/training/axolotl.md支持 SFT/RLHF/RM/PRM面向 Qwen3 与 Qwen3_MOE 有专属优化Cut Cross Entropy、Liger Kernels需要精细 YAML 配置与多卡/多机训练LLaMA-Factorydocs/source/training/llama_factory.md支持单卡/多卡、全参/LoRA/QLoRA/DoRA注原文档标注 Qwen3 支持待更新基于 Qwen2.5 的中文微调生态ms-swiftdocs/source/training/ms_swift.md覆盖 SFT/GRPO提供保留推理能力的think标签处理方案支持 Megatron 专家并行ModelScope 生态、大规模 MoE 训练verldocs/source/training/verl.md生产级 RL 训练库GRPO/PPO/DAPOFSDPMegatronvLLMSGLang 自由组合大规模强化学习训练如果你同时关注思考模式数据的构造docs/source/training/ms_swift.md 中关于空think占位与/no_think指令的数据集设计可以直接迁移到 Unsloth 的数据集准备环节两者都服务于微调不伤推理这一目标。常见问题与注意事项显存不足OOM优先降低max_seq_length从 2048 起步或开启load_in_4bitTrue使用 QLoRA这与仓库其他训练文档如 docs/source/training/axolotl.md 的 Troubleshooting 建议一致。推理能力下降微调数据集请遵循 75% 推理类 25% 非推理类的配比或参考 ms-swift 的空think占位方案见 docs/source/training/ms_swift.md。MoE 模型训练请使用FastModel接口而非FastLanguageModel并保持路由层微调默认关闭以 4-bit 量化 LoRA 模式控制显存。国内网络环境安装modelscope并设置UNSLOTH_USE_MODELSCOPE1后Unsloth 会自动从 ModelScope 拉取unsloth组织下的 Qwen3 权重。更新版本使用pip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo强制更新到最新版本避免因旧版与新版unsloth_zoo权重仓库不匹配导致的加载异常。总结本文以 Qwen3 官方文档 docs/source/training/unsloth.md 为骨架完整覆盖了 Unsloth 的核心特性、安装与更新、Qwen3 微调参数配置、75/25 推理数据配比、MoE 模型FastModel微调17.5 GB 显存跑 30B-A3B、ModelScope 模型加载以及基于 GRPO 的强化学习训练并结合 README.md 与仓库内 docs/source/training/ 目录下的多份训练文档进行了交叉印证。无论你是在 16 GB 的消费级 GPU 上尝试 14B 模型微调还是在有限资源下挑战 30B-A3B 甚至 235B-A22B 的 MoE 微调本文给出的参数组合与数据集策略都可以直接落地复用帮助你以更低的成本、更快的速度完成 Qwen3 的定制训练。【免费下载链接】Qwen1.5Qwen3 is the large language model series developed by Qwen team, Alibaba Cloud.项目地址: https://gitcode.com/GitHub_Trending/qw/Qwen1.5创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 使用 Unsloth 高效微调 Qwen3：从 SFT、QLoRA 到 MoE 与 GRPO 强化学习完整实战指南
使用 Unsloth 高效微调 Qwen3从 SFT、QLoRA 到 MoE 与 GRPO 强化学习完整实战指南【免费下载链接】Qwen1.5Qwen3 is the large language model series developed by Qwen team, Alibaba Cloud.项目地址: https://gitcode.com/GitHub_Trending/qw/Qwen1.5本指南基于 Qwen3 官方仓库文档 docs/source/training/unsloth.md 编写系统讲解如何使用开源训练框架 Unsloth 对 Qwen3 系列模型进行微调SFT、QLoRA 低资源训练、MoE 模型微调以及 GRPO 强化学习RLHF。读完本文你将掌握从环境安装、参数配置、数据集比例设计到模型训练与推理部署的完整链路能够在 16 GB 显存的消费级 GPU 上完成 14B 级模型的微调也可以仅用 17.5 GB 显存微调 30B-A3B MoE 模型。为什么选择 Unsloth 训练 Qwen3Unsloth 是一个专注本地模型训练的加速框架其核心卖点在于简化训练全流程从模型的加载、量化4-bit/8-bit到训练、评估、运行再到通过 Ollama、llama.cpp、vLLM 等推理引擎进行部署全部可以在一套 API 内完成。根据 Qwen 官方文档的说明使用 Unsloth 训练 Qwen 模型可达到2 倍训练速度同时显存占用减少 70%并可支持8 倍更长的上下文长度。在 README.md 中Qwen 官方也将 Unsloth 与 Axolotl、Swift、LLaMA-Factory 并列作为官方推荐的 Qwen3 微调框架之一用于 SFT、DPO、GRPO 等训练方式。核心特性一览原文档列出的关键特性如下训练方式全面支持全量微调full fine-tuning、预训练pretraining、LoRA、QLoRA、8-bit 训练等多种方式硬件与平台覆盖广支持单卡与多卡训练兼容 Linux、Windows、Colab、Kaggle 等环境支持 NVIDIA GPU原文档注明 AMD 与 Intel 支持即将到来模型类型兼容性强兼容各类 Transformer 模型包括 TTS、多模态、STT、BERT以及 RL强化学习模型RLHF 支持完善支持 GRPO、DPO、DAPO、RMReward Model、PPO、KTO 等对齐算法精度无损加速通过手写 Triton 内核与手动反向传播引擎实现加速0% 近似、无精度损失。这些特性意味着 Unsloth 不只是另一个微调库而是一条覆盖数据准备、量化加载、训练加速与推理部署的完整流水线。环境安装与快速入门本地安装Unsloth 官方推荐在 Linux 环境下安装Windows 用户可通过 WSL 获得类似体验。最简单的安装方式是通过 PyPIpip install unsloth提示生产环境建议在独立的虚拟环境conda / venv中安装并保证 PyTorch 与 CUDA 版本匹配这一点与仓库中其他训练框架文档如 docs/source/training/axolotl.md对环境要求的口径一致——先装好匹配的 PyTorch再安装训练框架本身。更新 UnslothUnsloth 迭代较快官方文档推荐使用强制重装的方式更新到最新版本同时更新其配套的模型仓库unsloth_zoopip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo其中--no-cache-dir可避免使用本地缓存的旧版本构建产物导致更新不彻底。使用 Unsloth 微调 Qwen3训练收益与显存要求根据 Qwen 官方文档Unsloth 微调 Qwen3 的核心收益可总结为三点训练速度提升 2 倍显存VRAM占用减少 70%上下文长度支持提升 8 倍。一个极具代表性的实战场景是Qwen314B可以放进免费 16 GB 显存的 Colab Tesla T4 GPU中进行微调。这意味着没有高端 A100/H100 的用户也能在免费/入门级硬件上完成 14B 模型的微调实验。保留推理能力的数据集配比关键经验Qwen3 是具备思考模式thinking的模型——根据 README.md 的说明Qwen3 支持在思考模式用于复杂逻辑推理、数学、编程与非思考模式用于高效通用对话之间无缝切换。因此微调数据集的构成会直接影响模型推理能力是否保留。Qwen 官方文档给出的实践经验是使用 75% 推理类数据 25% 非推理类数据的比例进行混合。典型组合包括推理类数据NVIDIA 的数学推理数据集math-reasoning dataset非推理类数据Maxime 的 FineTome 数据集多轮对话 / 指令类数据。这种推理为主、对话为辅的配比可以在注入新知识与对话能力的同时最大限度地保留 Qwen3 原有的链式推理能力。与之呼应的是仓库中另一份训练文档 docs/source/training/ms_swift.md 同样关注训练非思考数据但保留推理能力的问题并给出了两种数据集层面的处理手法在回答中以空的think\n\n/think标签占位、或通过在查询末尾追加/no_think指令。你可以将这两种思路与 75/25 配比结合使用进一步细化思考模式的保留策略。核心训练参数解析在 Unsloth 的 Notebook 或脚本中需要关注以下关键参数参数语义依据原文档并结合 Qwen3 模型特性展开参数推荐值/说明备注max_seq_length推荐 2048Qwen3 原生支持最高40960的上下文长度见 README.md 中 llama.cpp 配置-c 40960的用法训练时建议从 2048 起步避免显存溢出load_in_4bitTrue显存占用降至 1/4使用 4-bit 量化加载是 QLoRA 训练的基础显著降低显存门槛full_finetuningTrue全量微调需要更多显存适合对效果要求更高的场景默认关闭即 LoRA 方式load_in_8bitTrue8-bit 训练介于 4-bit QLoRA 与全量训练之间的折中方案Notebook 内的使用流程很简单打开 Notebook → 点击 Runtime ▸ Run all即可按默认参数跑通全流程随后直接在 Notebook 中修改上述参数如模型名称、上下文长度即可开展自己的实验。微调 Qwen3 MoE 模型FastModel 实战Qwen3 系列除了 Dense 模型外还包含MoEMixture-of-Experts架构的模型。根据 README.md 的说明Qwen3 提供 30B-A3B 与 235B-A22B 两款 MoE 模型总参数量 30B/235B激活参数仅 3B/22B。Unsloth 官方文档确认支持的 MoE 微调模型包括30B-A3B与235B-A22B两款并给出了一个非常亮眼的资源数据仅需 17.5 GB 显存即可微调 30B-A3B 模型。此外路由层router layer的微调在默认情况下被禁用——这是 MoE 微调的推荐实践因为路由层的梯度更新通常收益有限、却会显著增加训练开销。对 MoE 模型进行微调时需要改用FastModel接口from unsloth import FastModel model, tokenizer FastModel.from_pretrained( model_nameunsloth/Qwen3-30B-A3B, max_seq_length2048, load_in_4bitTrue, load_in_8bitFalse, full_finetuningFalse, )上述代码中的关键点model_name指向 Unsloth 在 Hugging Face 上发布的 Qwen3 MoE 权重unsloth/Qwen3-30B-A3Bmax_seq_length2048训练序列长度Qwen3 原生支持到 40960可根据显存上调load_in_4bitTrue与load_in_8bitFalse采用 4-bit 量化加载QLoRA 模式这是 17.5 GB 显存跑 30B 级 MoE 的关键full_finetuningFalse关闭全量微调以 LoRA 方式训练配合默认禁用的路由层微调进一步降低显存与计算开销。从 ModelScope 加载模型国内用户推荐对于网络环境受限的用户Unsloth 支持直接从ModelScope魔搭社区加载模型。ModelScope 也是 Qwen 官方模型的重要分发渠道之一README.md 中明确建议中国内地用户优先使用 ModelScope并提供了modelscope download等下载工具。首先安装 ModelScope 客户端静默安装模式pip install modelscope -qqq然后在代码中设置环境变量启用 ModelScope 作为模型源import os os.environ[UNSLOTH_USE_MODELSCOPE] 1 from unsloth import FastLanguageModel model, tokenizer FastLanguageModel.from_pretrained( model_nameunsloth/Qwen3-4B-Base, max_seq_length2048, )注意此处的两个 API 差异MoE 微调使用FastModel上文所示Dense 模型如 Qwen3-4B-Base微调使用FastLanguageModel用法类似均支持max_seq_length、load_in_4bit、load_in_8bit、full_finetuning等参数。设置UNSLOTH_USE_MODELSCOPE1后Unsloth 会自动从 ModelScope 的unsloth组织下拉取对应模型权重省去访问国外 Hub 的麻烦。强化学习用 GRPO 训练 Qwen3 推理能力Unsloth 不只支持监督微调SFT也支持使用强化学习RL对 Qwen 模型进行训练。官方文档重点推荐了Qwen34B进阶 GRPO LoRA 笔记本Qwen3 (4B) Advanced GRPO LoRA该方案基于 Hugging Face 的 Open-R1 数学数据集展开包含以下三个亮点基于接近度proximity的奖励评分对更接近正确答案的回答给予更高奖励相比简单二值对/错奖励能提供更细粒度的梯度信号自定义 GRPO 格式与模板可针对 Qwen3 的思考模式输出think块定制 GRPO 的提示词格式与响应模板确保模型在强化学习阶段仍保持正确的推理输出格式正则表达式regex匹配增强评估精度在奖励计算与评估环节用正则精确匹配答案减少格式噪声对奖励信号的干扰。GRPOGroup Relative Policy Optimization是当前开源社区主流的 LLM 强化学习算法本仓库的 docs/source/training/verl.md 也演示了使用 verl 以algorithm.adv_estimatorgrpo在 Qwen3-1.7B 上做 GRPO 训练的完整命令可以作为 GRPO 训练流程的横向参考——两者目标一致Unsloth 的优势在于更低的显存门槛与 Notebook 化的开箱即用体验。进阶从训练到部署的一站式流程原文档强调 Unsloth 覆盖加载 → 量化 → 训练 → 评估 → 运行 → 部署的全链路其中部署环节可直接对接Ollama、llama.cpp、vLLM三大推理引擎。本仓库也提供了这三者的详细部署指南可作为训练完成后的衔接参考docs/source/deployment/vllm.md以vllm serve启动 OpenAI 兼容 APIdocs/source/run_locally/llama.cpp.md使用 GGUF 格式在 CPU/GPU 上本地运行docs/source/run_locally/ollama.md使用 Ollama 一键拉取并运行模型。典型的端到端工作流是用 Unsloth 微调出 LoRA/QLoRA 权重 → 合并/导出为完整权重或 GGUF → 交给 vLLM/Ollama/llama.cpp 部署服务整个过程都在 Unsloth 及本仓库文档的覆盖范围内。横向对比本仓库中的其他训练方案Qwen3 官方文档在 Training 章节中提供了多种训练框架指南与 Unsloth 形成互补建议按场景选择框架文档特点适合场景Unslothdocs/source/training/unsloth.md2× 加速、70% 显存节省、16 GB T4 跑 14B、17.5 GB 跑 30B-A3B MoE、支持 GRPO低显存硬件、快速原型验证、Notebook 实验Axolotldocs/source/training/axolotl.md支持 SFT/RLHF/RM/PRM面向 Qwen3 与 Qwen3_MOE 有专属优化Cut Cross Entropy、Liger Kernels需要精细 YAML 配置与多卡/多机训练LLaMA-Factorydocs/source/training/llama_factory.md支持单卡/多卡、全参/LoRA/QLoRA/DoRA注原文档标注 Qwen3 支持待更新基于 Qwen2.5 的中文微调生态ms-swiftdocs/source/training/ms_swift.md覆盖 SFT/GRPO提供保留推理能力的think标签处理方案支持 Megatron 专家并行ModelScope 生态、大规模 MoE 训练verldocs/source/training/verl.md生产级 RL 训练库GRPO/PPO/DAPOFSDPMegatronvLLMSGLang 自由组合大规模强化学习训练如果你同时关注思考模式数据的构造docs/source/training/ms_swift.md 中关于空think占位与/no_think指令的数据集设计可以直接迁移到 Unsloth 的数据集准备环节两者都服务于微调不伤推理这一目标。常见问题与注意事项显存不足OOM优先降低max_seq_length从 2048 起步或开启load_in_4bitTrue使用 QLoRA这与仓库其他训练文档如 docs/source/training/axolotl.md 的 Troubleshooting 建议一致。推理能力下降微调数据集请遵循 75% 推理类 25% 非推理类的配比或参考 ms-swift 的空think占位方案见 docs/source/training/ms_swift.md。MoE 模型训练请使用FastModel接口而非FastLanguageModel并保持路由层微调默认关闭以 4-bit 量化 LoRA 模式控制显存。国内网络环境安装modelscope并设置UNSLOTH_USE_MODELSCOPE1后Unsloth 会自动从 ModelScope 拉取unsloth组织下的 Qwen3 权重。更新版本使用pip install --upgrade --force-reinstall --no-cache-dir unsloth unsloth_zoo强制更新到最新版本避免因旧版与新版unsloth_zoo权重仓库不匹配导致的加载异常。总结本文以 Qwen3 官方文档 docs/source/training/unsloth.md 为骨架完整覆盖了 Unsloth 的核心特性、安装与更新、Qwen3 微调参数配置、75/25 推理数据配比、MoE 模型FastModel微调17.5 GB 显存跑 30B-A3B、ModelScope 模型加载以及基于 GRPO 的强化学习训练并结合 README.md 与仓库内 docs/source/training/ 目录下的多份训练文档进行了交叉印证。无论你是在 16 GB 的消费级 GPU 上尝试 14B 模型微调还是在有限资源下挑战 30B-A3B 甚至 235B-A22B 的 MoE 微调本文给出的参数组合与数据集策略都可以直接落地复用帮助你以更低的成本、更快的速度完成 Qwen3 的定制训练。【免费下载链接】Qwen1.5Qwen3 is the large language model series developed by Qwen team, Alibaba Cloud.项目地址: https://gitcode.com/GitHub_Trending/qw/Qwen1.5创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考