046、YOLOv11训练调度——Warmup+余弦退火学习率调度对收敛加速的实战调参与涨点验证上个月调一个工业缺陷检测项目，模型在300轮训练后loss死活下不去，mAP卡在78.3%晃悠。换了骨干、调了数据增强，效果都有限。后来翻训练日志，发现学习率曲线像心电图一样乱跳——前50轮震荡剧烈，后面又衰减得太快。这才意识到，训练调度这个“软参数”才是瓶颈。YOLOv11默认的调度策略其实挺糙的，固定步长衰减加上一个简单的线性warmup。对于小数据集或者特定任务，这种一刀切的方式往往不是最优解。今天聊聊Warmup+余弦退火这套组合拳，怎么调参才能让模型收敛更快、涨点更稳。为什么YOLOv11默认调度不够用YOLOv11的默认配置里，学习率调度用的是ReduceLROnPlateau的变体，配合一个前3轮的线性warmup。这个设计的出发点是好的——前期用小学习率稳定梯度，后期根据loss下降情况动态调整。但实际跑起来问题很明显。第一，线性warmup太短，对于大batch size训练（比如64以上），前3轮模型权重还在剧烈变化，突然跳到初始学习率0.01，loss直接起飞。第二，ReduceLROnPlateau的衰减时机取决于loss plateau的检测，这个阈值很难调——设小了频繁衰减，设大了等于没衰减。我踩过的坑：有一次训练到150轮，学习率已经衰减到初始值的1/10，但loss还在缓慢下降，这时候模型其实还能继续学，但调度器已经“躺平”了。换余弦退火后，同样的epoch数，mAP涨了1
046、YOLOv11训练调度——Warmup+余弦退火学习率调度对收敛加速的实战调参与涨点验证上个月调一个工业缺陷检测项目，模型在300轮训练后loss死活下不去，mAP卡在78.3%晃悠。换了骨干、调了数据增强，效果都有限。后来翻训练日志，发现学习率曲线像心电图一样乱跳——前50轮震荡剧烈，后面又衰减得太快。这才意识到，训练调度这个“软参数”才是瓶颈。YOLOv11默认的调度策略其实挺糙的，固定步长衰减加上一个简单的线性warmup。对于小数据集或者特定任务，这种一刀切的方式往往不是最优解。今天聊聊Warmup+余弦退火这套组合拳，怎么调参才能让模型收敛更快、涨点更稳。为什么YOLOv11默认调度不够用YOLOv11的默认配置里，学习率调度用的是ReduceLROnPlateau的变体，配合一个前3轮的线性warmup。这个设计的出发点是好的——前期用小学习率稳定梯度，后期根据loss下降情况动态调整。但实际跑起来问题很明显。第一，线性warmup太短，对于大batch size训练（比如64以上），前3轮模型权重还在剧烈变化，突然跳到初始学习率0.01，loss直接起飞。第二，ReduceLROnPlateau的衰减时机取决于loss plateau的检测，这个阈值很难调——设小了频繁衰减，设大了等于没衰减。我踩过的坑：有一次训练到150轮，学习率已经衰减到初始值的1/10，但loss还在缓慢下降，这时候模型其实还能继续学，但调度器已经“躺平”了。换余弦退火后，同样的epoch数，mAP涨了1
)
