ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

Agent Platform 开放模型微调完全指南:支持模型目录、资源命名规范与基线超参数推荐

Agent Platform 开放模型微调完全指南:支持模型目录、资源命名规范与基线超参数推荐 Agent Platform 开放模型微调完全指南支持模型目录、资源命名规范与基线超参数推荐【免费下载链接】skillsAgent Skills for Google products and technologies项目地址: https://gitcode.com/GitHub_Trending/skills29/skillsAgent Platform 的模型调优服务Model Tuning允许用户在 Google Cloud 基础设施上对开放模型Open Model进行监督微调。本文以仓库中的模型目录为核心完整讲解受支持模型的选型标准、--base_model资源名称的精确写法、每个模型的基线超参数并结合同目录下的 tuning_guide.md 与scripts/源码说明这些参数在真实提交脚本中如何被解析与校验。读完本文你将能依据任务类型与数据集规模从受支持模型中选出合适家族与规模正确构造资源名称并据此配置--base_model、tuning_mode、epochs、learning_rate与adapter_size提交调优任务。一、目录定位与使用边界为什么只认目录内的模型models.md 是 Agent Platform 调优技能的权威模型参照目录。它的核心职责是给出受支持开放模型的技术规格、调优建议与部署硬件需求。在 SKILL.md 的工作流决策树中当用户提出调优目的但尚未明确模型类别时Agent 必须阅读该目录且只能推荐目录中明确列出的模型例如 Mistral 这类未收录模型不得推荐。该目录包含一条针对 Agent 的硬性约束在用户明确确认其模型类别为开放模型Open Model之前不得据此推荐具体模型同时任何不在目录中的模型都会被调优服务拒绝。当用户点名一个未收录模型时正确的做法不是简单拒绝而是说明该模型暂不支持调优并优先推荐同一家族中规模最接近的已收录模型。目录中缺失某个模型通常是该版本比调优服务当前支持的更新因此同家族的上一代版本通常是合适的替代建议。这意味着模型资源名称resource name是提交调优任务的唯一合法入口而显示名如Qwen 3 8B只是给人看的标签API 并不接受。可用开放模型的完整清单以 Google Cloud 官方文档为准本目录是与之对齐的精简索引。二、模型资源名称格式--base_model的正确打开方式调优 API 不接受表格中的显示名。--base_model需要的是发布者模型资源名称publisher model resource name格式如下{publisher}/{model_id}{version_id}长格式publishers/{publisher}/models/{model_id}{version_id}同样被接受。此格式同时适用于监督调优的--base_model参数具体到仓库脚本中就是 tune_open_model.py 的--base_model参数它会被直接传给client.tunings.tune(base_model...)。最常见的错误自己拼资源名目录对此给出了明确警告必须从表格中原样复制资源名称禁止自行构造。关键规则有三条{version_id}后缀是强制的{model_id}指的是家族名如gemma3、qwen3而不是具体变体名publisher 一律小写。违反这些规则会直接触发调优服务的校验错误最常见的报错是INVALID_ARGUMENT: Invalid open source publisher model resource name目录明确举了两个被拒绝的例子google/gemma-3-4b-it缺少后缀与Qwen/Qwen3-8Bpublisher 大小写错误、缺少版本后缀。家族段无法从显示名推导资源名称中的家族段family segment并不能从显示名机械转换目录给出了三组高价值示例meta/llama3_1家族用下划线而meta/llama3-2、meta/llama3-3用连字符Qwen 3.5 9B 对应qwen/qwen3-5qwen3.5-9b——家族段含连字符版本段含小数点Medgemma 1.5 4B IT 对应google/medgemmamedgemma-1.5-4b-it——1.5这个版本号在版本段而非家族段中。这些示例的共同教训是凡是不能确定的确切名称一律从目录表格复制。蒸馏教师模型的特殊形式监督调优之外蒸馏distillation任务使用的教师模型采用不带版本号的另一种格式例如qwen/qwen3-next-80b-a3b-thinking-maas即蒸馏教师模型不接受{version_id}后缀这一点与--base_model的格式要求完全不同使用前需注意区分。三、模型选型指南按任务与复杂度决策目录给出的选型逻辑分为两步先识别任务再按复杂度定规模。3.1 按任务类型选择模型家族提交任务前应从数据集中抽样检查几条样本确认任务形态再按下表选择家族家族适用场景Qwen代码生成、复杂数学类任务Gemma对话式交互、创意写作、多语言任务Llama (Instruct)通用的聊天/指令遵循模型Llama (Base/Scout)续写continuation任务或构建自定义指令微调模型3.2 按复杂度选择模型规模目录给出了三类复杂度启发式heuristics用于快速收敛规模区间简单任务QA、信息抽取1B – 3B 模型中等任务摘要、推理8B – 17B 模型复杂任务多轮对话、工具调用、深度推理27B – 70B 模型。这一区间与目录表格中的模型规模一一对应简单任务落在 Llama 3.2 1B/3B 区间中等任务对应 Qwen 3 8B/14B、Llama 3.1 8B复杂任务则指向 Gemma 3 27B、Qwen 3 32B、Llama 3.3 70B 等。四、基线超参数推荐完整模型目录表下表是--base_model的权威取值来源Resource name 列必须原样复制同时给出每个模型的调优模式Tuning Mode、学习率Learning Rate、训练轮数Epochs与 PEFT 适配器尺寸Adapter Size。这些值是起点值应根据实际数据集规模再行调整调整方法见第五节。ModelResource name for--base_modelTuning ModeLearning RateEpochsAdapter Size (PEFT)Gemma 4 E2B ITgoogle/gemma4gemma-4-e2b-itPEFT2.0E-4316Gemma 4 E4B ITgoogle/gemma4gemma-4-e4b-itPEFT2.0E-4316Gemma 4 26B A4B ITgoogle/gemma4gemma-4-26b-a4b-itPEFT2.0E-4316Gemma 4 31B ITgoogle/gemma4gemma-4-31b-itPEFT2.0E-4316Gemma 3 1B ITgoogle/gemma3gemma-3-1b-itFull2.0E-53N/AGemma 3 4B ITgoogle/gemma3gemma-3-4b-itFull1.0E-53N/AGemma 3 12B ITgoogle/gemma3gemma-3-12b-itFull1.0E-53N/AGemma 3 27B ITgoogle/gemma3gemma-3-27b-itPEFT2.0E-4332Gemma 3 27B ITgoogle/gemma3gemma-3-27b-itFull2.0E-43N/AMedgemma 1.5 4B ITgoogle/medgemmamedgemma-1.5-4b-itFull1.0E-53N/ALlama 3.1 8Bmeta/llama3_1llama-3.1-8bPEFT2.0E-4316Llama 3.1 8Bmeta/llama3_1llama-3.1-8bFull2.0E-43N/ALlama 3.1 8B Instructmeta/llama3_1llama-3.1-8b-instructPEFT2.0E-4316Llama 3.1 8B Instructmeta/llama3_1llama-3.1-8b-instructFull2.0E-43N/ALlama 3.2 1B Instructmeta/llama3-2llama-3.2-1b-instructFull1.5E-63N/ALlama 3.2 3B Instructmeta/llama3-2llama-3.2-3b-instructFull1.0E-73N/ALlama 3.3 70B Instructmeta/llama3-3llama-3.3-70b-instructPEFT5.0E-5316Llama 3.3 70B Instructmeta/llama3-3llama-3.3-70b-instructFull5.0E-53N/ALlama 4 Scout 17B 16E Instructmeta/llama4llama-4-scout-17b-16e-instructPEFT2.0E-5316Qwen 3.5 9Bqwen/qwen3-5qwen3.5-9bFull2e-53N/AQwen 3 4Bqwen/qwen3qwen3-4bFull7.5e-53N/AQwen 3 8Bqwen/qwen3qwen3-8bFull5e-53N/AQwen 3 14Bqwen/qwen3qwen3-14bFull4e-53N/AQwen 3 32Bqwen/qwen3qwen3-32bPEFT2.0E-4316Qwen 3 32Bqwen/qwen3qwen3-32bFull2.5e-53N/A4.1 读懂表格FULL 与 PEFT 两种调优模式上表反复出现的两种调优模式定义于 tuning_guide.mdFULL全量微调更新模型全部参数需要更多 GPU 显存与更大的数据集否则容易产生灾难性遗忘catastrophic forgettingPEFT_ADAPTER参数高效微调只训练一小部分适配器adapter权重速度更快、显存占用更低在小数据集上更不容易过拟合。观察上表可以发现一个规律小模型1B–14B 区间普遍采用 Full 模式27B 及以上的大模型才配 PEFT而 Gemma 3 27B、Llama 3.1 8B、Llama 3.3 70B、Qwen 3 32B 则同时提供了 PEFT 与 Full 两套基线供按资源与数据规模权衡。4.2 源码视角tuning_mode与adapter_size的真实取值基线表中的 PEFT/Full 与 Adapter Size 并不是自由文本提交脚本 tune_open_model.py 中做了严格映射与校验tuning_mode只接受两个值FULL映射为TUNING_MODE_FULLPEFT_ADAPTER映射为TUNING_MODE_PEFT_ADAPTER传入其他值会直接抛出ValueErroradapter_size的可选值为1, 4, 8, 16, 32脚本内部再映射为ADAPTER_SIZE_ONE到ADAPTER_SIZE_THIRTY_TWO的枚举每个提交的调优任务还会被打上labels{mg-source: agent-platform-tuning-skill}标签便于在控制台统一识别来源。因此基线表中的 Adapter Size16/32与 Tuning Mode 必须从这两组枚举中选择无法随意填写。五、从基线出发按数据集规模调整超参数目录明确说明表格值是起点应基于数据集规模调整。tuning_guide.md 给出了对应的调整启发式数据集规模调优模式建议学习率调整轮数建议 100 条样本PEFT_ADAPTERRank 8低于基线1–2100 – 1000 条样本PEFT_ADAPTERRank 16/32使用基线3 1000 条样本FULL 或 PEFT_ADAPTERRank 32高于基线3–5同时应遵循以下最佳实践过拟合验证集损失上升而训练损失下降时降低轮数或学习率欠拟合训练与验证损失同时居高不下时提高学习率或增加轮数验证集务必使用验证集监控表现若未提供强烈建议按 10% 划分不要超过该比例原因详见 data_prep.md 的字节比例上限说明检查点最终模型始终保存在output_uri/postprocess/node-0/checkpoints/final。此外各模型具体的硬件推荐与序列长度上限同样以模型目录为准。六、目录的工程落地验证、提交与成本估算6.1 提交前用list_models.py验证实时模型 IDSKILL.md 的 Phase 2 要求提交任务前运行 list_models.py 获取实时可用模型只从它的models输出中挑选--base_model不得臆造 ID 或版本号python3 scripts/list_models.py --project YOUR_PROJECT --filter gemini脚本基于vertexai.model_garden.list_models实现返回结构为{models: [...], total_count: N, truncated: bool}。使用规则包括Gemini 模型需去掉google/前缀与default后缀如google/gemini-2.5-flashdefault→gemini-2.5-flash开放模型则原样传递publisher/familyversion跳过以-embedding、-tts、-image、-computer-use、-native-audio结尾的 Gemini 变体它们不可调优若truncated为true需收紧--filter后重跑。6.2 提交命令--base_model的完整用法结合目录中的资源名称开放模型调优任务的提交命令如下完整参数定义见 tune_open_model.pypython3 scripts/tune_open_model.py \ --project YOUR_PROJECT \ --location global \ --base_model qwen/qwen3qwen3-8b \ --train_dataset gs://YOUR_BUCKET/tuning_agent_job_datetime/dataset.jsonl \ --output_uri gs://YOUR_BUCKET/tuning_agent_job_datetime/output \ --epochs 3 \ --learning_rate 5e-5 \ --tuning_mode FULL几个要点直接来自源码与 SKILL.md--location默认global脚本注释明确说明这是让服务挑选有 GPU 容量的区域但 SKILL.md 要求显式传入用户确认过的位置--output_uri在 SDK 签名中被声明为可选但调优后端对开放模型强制要求缺省会报INVALID_ARGUMENT: The output_uri field is required for this model.因此必须显式传入 GCS 目标路径提交前必须先以gcloud storage ls $DATASET_URI验证训练数据 GCS URI 真实可访问且提交与部署属于变更操作Tier M须先向用户展示完整命令串并取得明确确认。6.3 成本估算calculate_cost.py与目录的对应关系SKILL.md 的 Phase 2.2 提供开放模型调优成本的粗略估算命令为python3 scripts/calculate_cost.py \ --input my_data.jsonl \ --model qwen/qwen3qwen3-8b \ --tuning_mode FULL \ --epochs 3该脚本与目录存在直接的数据契约其内部 MODEL_DATA 以目录中的资源名称为键维护每个模型的调优价格resolve_model()同时接受目录中的显示名Qwen 3 8B与资源名qwen/qwen3qwen3-8b两种写法大小写与首尾空白会被归一化。成本估算公式为cost (字符数 × tokens_per_character × epochs / 1000000) × cost_per_1m_tokens其中tokens_per_character是按调优模式实测的计费 token / 数据集字符数经验比例——同一个模型在 PEFT 与 Full 两种模式下训练容器不同比例值可能不同不能互相套用。例如从源码可以看到Llama 3.1 8B 在 PEFT 下为0.317、Full 下为0.247。值得注意的是某些模型如 Qwen 3.5 9B已在目录中收录、但尚无公开定价 SKU此时脚本会明确报错没有已发布的调优价格而不是瞎估这也与目录可调优 ≠ 已定价的边界一致。七、部署阶段的硬件依据调优任务SUCCEEDED后进入部署阶段时SKILL.md 指向模型目录获取特定开放模型的硬件推荐machine type、accelerator type/count 等。部署命令同样要求显式确认且--region必须是真实区域而非global若任务在global上运行需从调优产物的资源名称projects/.../locations/REGION/models/...中读取真实落地区域再部署。八、小结使用目录的四个铁律类别先行未确认模型类别为开放模型前不使用目录推荐具体模型只推目录内模型不在目录中的模型不支持调优推荐同家族上一代最近规模版本复制而非构造--base_model必须原样复制 Resource name 列{publisher}/{model_id}{version_id}version_id后缀强制、publisher 小写、model_id用家族名基线是起点超参数基线应结合 tuning_guide.md 的数据集规模启发式与 calculate_cost.py 的成本估算再行调整并经用户确认后提交。上述内容全部围绕模型目录展开配套的主技能文档、调优概念指南、数据准备指南以及scripts/目录下的五个脚本tune_open_model.py、list_models.py、calculate_cost.py、prepare_dataset.py、monitor_tuning_job.py共同构成了从选型、配置、提交到监控的完整闭环读者可按需深入阅读源码验证本文所述行为。【免费下载链接】skillsAgent Skills for Google products and technologies项目地址: https://gitcode.com/GitHub_Trending/skills29/skills创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表