尧图网站建设 
Soup autopilot零配置训练一行命令从数据到产出模型的全自动决策【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/SoupSoup 是一个一个 YAML 文件微调大模型的开源工具层流式训练甚至能在 4 GB 显存的笔记本上微调 8B 模型。而它的Soup autopilot 零配置训练能力则更进一步你只需要提供基础模型、数据集、训练目标三样东西autopilot 就会自动分析你的数据、模型和硬件替你选好任务类型、量化方案、LoRA 秩、学习率、批次大小、训练轮数等全部超参数并生成一份可直接运行的soup.yaml训练配置。对新手来说这是目前最省心的 LLM 微调入口之一。 一行命令启动 autopilot 微调传统 LLM 微调SFT/DPO 等需要你先手写配置文件逐项斟酌学习率、量化、LoRA 秩……而 autopilot 把这些全部自动化了。安装好 Soup 后只需一条命令soup autopilot --model meta-llama/Llama-3.1-8B-Instruct \ --data ./data/train.jsonl \ --goal chat仓库自带了可直接上手的小样例数据 alpaca_tiny.jsonl格式为instruction / input / output三字段拿来就能跑。--goal支持 7 种训练目标覆盖常见场景目标--goal自动选择的训练任务适用场景chat/code/classification/tool-callingSFT 监督微调对话助手、代码、分类、工具调用reasoningGRPO 强化学习数学推理、逻辑能力alignmentDPO 直接偏好优化价值观对齐domain-adaptPretrain 继续预训练领域语料适配任务映射逻辑见 decisions.py 中的GOAL_TO_TASK完整命令文档在 backends-and-ops.md。 autopilot 如何决策先做三步体检执行时autopilot 会先对三个维度做自动画像再据此决策源码analyzer.py数据集分析analyze_dataset样本数、数据格式alpaca/chatml 等自动识别、平均与 P95 长度、质量评分空字段、重复项会被扣分模型分析analyze_model参数量、上下文长度、架构dense/MoE、模态文本/视觉/音频并自动识别 GPTQ/AWQ/HQQ 等预量化基座避免在已量化模型上再叠一层量化硬件分析analyze_hardwareGPU 型号、显存大小、计算能力、系统内存无 GPU 时自动回退 CPU。⚙️ 7 个关键超参数全部自动配好分析完成后决策引擎decisions.py会依次给出量化方案按模型参数量 vs 显存自动选none/8bit/4bit显存足够就全精度不够就自动降级到 4-bitLoRA 配置按数据集规模选秩——少于 1000 条用 r81 万条以下 r161 万条以上 r32alpha 自动设为 2 倍秩学习率按 LoRA 秩分档4-bit 量化时自动打 8 折训练轮数数据越少轮数越多500 条跑 5 轮≥5 万条只跑 1 轮防止过拟合最大序列长度取数据集 P95 长度 × 1.1并限制在模型上下文之内批次大小与梯度累积按显存实时估算自动凑到有效 batch ≈ 32性能开关Ampere 及以上显卡自动开启 FlashAttention 和 Liger Kernel长序列或显存紧张时自动开启梯度检查点防 OOM。所有决策都会以面板形式清晰打印出来数据集画像、模型画像、硬件画像 每项超参数取值你可以完全透明地看到它为什么这么选。 新手实用技巧先预览再落盘加--dry-run只展示决策结果、不写配置文件适合第一次尝鲜soup autopilot --model Qwen/Qwen2.5-7B --data ./data/math.jsonl --goal reasoning --dry-run锁定显存预算--gpu-budget 24GB可以显式指定显存上限1GB 到 1TB让配置精确匹配目标机器而不是当前机器跳过确认提示脚本化使用时加--yes即可换输出路径--output my-config.yaml自定义生成的配置文件名。 从配置到产出模型还剩一步autopilot 生成的soup.yaml可以直接手改微调也可以直接开跑soup train --config soup.yaml训练结束后还能顺手验证与部署soup chat --model ./output交互式对话、soup serve起 OpenAI 兼容 API。Soup 主打的**层流式训练Layer Streaming**技术可以把模型逐层在磁盘与显存间流动让低显存设备微调大模型成为现实——这也是硬件画像里显存预算决策特别重要的原因 相关源码与文档autopilot 命令入口autopilot.py决策引擎decisions.py分析器analyzer.py配置生成器generate_config.py官方文档backends-and-ops.md总结Soup autopilot 把数据 → 体检 → 决策 → 配置文件整条链路压缩成一行命令让新手也能安全地跑完一次完整的 LLM 微调。配合--dry-run预览和--gpu-budget显存约束它既适合快速验证想法也适合在低配机器上稳妥地微调大模型。【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/Soup创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Soup autopilot零配置训练：一行命令从数据到产出模型的全自动决策
Soup autopilot零配置训练一行命令从数据到产出模型的全自动决策【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/SoupSoup 是一个一个 YAML 文件微调大模型的开源工具层流式训练甚至能在 4 GB 显存的笔记本上微调 8B 模型。而它的Soup autopilot 零配置训练能力则更进一步你只需要提供基础模型、数据集、训练目标三样东西autopilot 就会自动分析你的数据、模型和硬件替你选好任务类型、量化方案、LoRA 秩、学习率、批次大小、训练轮数等全部超参数并生成一份可直接运行的soup.yaml训练配置。对新手来说这是目前最省心的 LLM 微调入口之一。 一行命令启动 autopilot 微调传统 LLM 微调SFT/DPO 等需要你先手写配置文件逐项斟酌学习率、量化、LoRA 秩……而 autopilot 把这些全部自动化了。安装好 Soup 后只需一条命令soup autopilot --model meta-llama/Llama-3.1-8B-Instruct \ --data ./data/train.jsonl \ --goal chat仓库自带了可直接上手的小样例数据 alpaca_tiny.jsonl格式为instruction / input / output三字段拿来就能跑。--goal支持 7 种训练目标覆盖常见场景目标--goal自动选择的训练任务适用场景chat/code/classification/tool-callingSFT 监督微调对话助手、代码、分类、工具调用reasoningGRPO 强化学习数学推理、逻辑能力alignmentDPO 直接偏好优化价值观对齐domain-adaptPretrain 继续预训练领域语料适配任务映射逻辑见 decisions.py 中的GOAL_TO_TASK完整命令文档在 backends-and-ops.md。 autopilot 如何决策先做三步体检执行时autopilot 会先对三个维度做自动画像再据此决策源码analyzer.py数据集分析analyze_dataset样本数、数据格式alpaca/chatml 等自动识别、平均与 P95 长度、质量评分空字段、重复项会被扣分模型分析analyze_model参数量、上下文长度、架构dense/MoE、模态文本/视觉/音频并自动识别 GPTQ/AWQ/HQQ 等预量化基座避免在已量化模型上再叠一层量化硬件分析analyze_hardwareGPU 型号、显存大小、计算能力、系统内存无 GPU 时自动回退 CPU。⚙️ 7 个关键超参数全部自动配好分析完成后决策引擎decisions.py会依次给出量化方案按模型参数量 vs 显存自动选none/8bit/4bit显存足够就全精度不够就自动降级到 4-bitLoRA 配置按数据集规模选秩——少于 1000 条用 r81 万条以下 r161 万条以上 r32alpha 自动设为 2 倍秩学习率按 LoRA 秩分档4-bit 量化时自动打 8 折训练轮数数据越少轮数越多500 条跑 5 轮≥5 万条只跑 1 轮防止过拟合最大序列长度取数据集 P95 长度 × 1.1并限制在模型上下文之内批次大小与梯度累积按显存实时估算自动凑到有效 batch ≈ 32性能开关Ampere 及以上显卡自动开启 FlashAttention 和 Liger Kernel长序列或显存紧张时自动开启梯度检查点防 OOM。所有决策都会以面板形式清晰打印出来数据集画像、模型画像、硬件画像 每项超参数取值你可以完全透明地看到它为什么这么选。 新手实用技巧先预览再落盘加--dry-run只展示决策结果、不写配置文件适合第一次尝鲜soup autopilot --model Qwen/Qwen2.5-7B --data ./data/math.jsonl --goal reasoning --dry-run锁定显存预算--gpu-budget 24GB可以显式指定显存上限1GB 到 1TB让配置精确匹配目标机器而不是当前机器跳过确认提示脚本化使用时加--yes即可换输出路径--output my-config.yaml自定义生成的配置文件名。 从配置到产出模型还剩一步autopilot 生成的soup.yaml可以直接手改微调也可以直接开跑soup train --config soup.yaml训练结束后还能顺手验证与部署soup chat --model ./output交互式对话、soup serve起 OpenAI 兼容 API。Soup 主打的**层流式训练Layer Streaming**技术可以把模型逐层在磁盘与显存间流动让低显存设备微调大模型成为现实——这也是硬件画像里显存预算决策特别重要的原因 相关源码与文档autopilot 命令入口autopilot.py决策引擎decisions.py分析器analyzer.py配置生成器generate_config.py官方文档backends-and-ops.md总结Soup autopilot 把数据 → 体检 → 决策 → 配置文件整条链路压缩成一行命令让新手也能安全地跑完一次完整的 LLM 微调。配合--dry-run预览和--gpu-budget显存约束它既适合快速验证想法也适合在低配机器上稳妥地微调大模型。【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/Soup创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考