简介本资源是一项基于Transformer架构的雷达回波外推模型实现聚焦于0–2小时临近降水预测任务面向计算机、人工智能、气象信息处理及相关专业的本科生与研究生适用于毕业设计、课程大作业及科研入门实践。项目完整复现了雷达序列建模与时空外推的核心流程包含可直接运行的训练/推理脚本、模块化模型定义含GSTA等改进结构、数据预处理工具及配套文档教程代码经答辩前充分调试评审得分98分。压缩包共31个文件以26个Python源码涵盖models、datasets、core、utils等目录、2个Shell启动脚本train/infer、1个README说明和1个requirements依赖清单为主整体仅26KB轻量易部署。已有261人学习下载提供从数据加载、模型训练、结果可视化到气象评估指标计算的全流程支撑结构清晰、注释完备特别适合初学者理解雷达时序建模逻辑也便于进阶者替换模块或接入新数据源进行二次开发。 先说明一下我为什么想写这个项目。最近不少人问我“Transformer到底能不能用在气象预报上”尤其是雷达回波外推这种强时空依赖的任务。我正好把一个完整的毕设项目做完了——基于Transformer的雷达回波外推用于近期降水预测包含Python源码、项目文档和数据集整理。这篇内容就当作项目复盘把整个从数据到模型、从训练到评估的链路讲一遍顺便把那些文档里不会写、只有实操才能踩出来的坑也一并列出来。不管你是正在做AI气象方向毕设还是打算入门短临降水预测这个方向这版详单应该都能帮你少走不少弯路。先说结论雷达回波外推这个任务用Transformer是可行的而且效果能明显超过传统光流法和基础的ConvLSTM但前提是数据处理和损失函数设计要到位不然模型很容易“偷懒”——比如只输出模糊的平均回波指标看着还行实际预报价值很低。这个方向真正难的不是网络结构本身而是怎么把雨图的时空特性建模出来。接下来我从头拆解。1. 这个项目到底在做什么把“降水预测”翻译成机器学习问题1.1 雷达回波和降水预测的基本逻辑要理解这个项目得先知道雷达回波是什么。天气雷达会向空中发射电磁波遇到云层中的降水粒子雨滴、冰雹、雪花后产生散射雷达接收到这部分后向散射信号换算成一个叫“反射率因子”的物理量单位是dBZ。这个值越高说明粒子越大、数量越多对应的降水强度越强。实际业务里1km分辨率、256x256或者512x512网格的雷达拼图数据比如每6分钟出一张全国或区域拼图就构成了连续帧序列。而这些连续帧里包含了雨带的移动、旋转、增强、减弱、消亡的信息。所谓“雷达回波外推”最简单直接的表述就是给过去1小时12帧雷达回波图预测未来1小时12帧回波图进而换算成降水量。它本质上是视频预测任务只是一般视频预测关心的是人的动作或物体运动这里关心的是雨团的生消演变。有一个经验关系叫Z-R关系Z aR^ba和b是随雨型变化的经验常数常见取值a300、b1.4可以把反射率因子Z换算成降水强度Rmm/h。所以只要能准确外推出回波图就等于得到了降水预报。项目里最终评估用的是回波数据但原理上这套结果可以直接对接定量降水估测产品。1.2 为什么不用传统光流法而要上Transformer在深度学习大规模普及之前业务上最主流的临近预报方法是光流法比如TRECTracking Radar Echo by Correlation这类算法。它的思路是从相邻几帧回波中估计出一个运动矢量场假设这个运动矢量在未来一段时间内保持不变然后沿着矢量方向把回波“平移”到未来时刻。听起来很合理问题在于这个假设在实际天气过程中经常不成立。强对流单体会在十几分钟到几十分钟内生成、分裂、合并这属于“生消过程”光流法根本没法预测新生回波。而且外推时间越长误差累积越明显回波强度会被严重平滑掉。这个方法做0到30分钟的预报还算勉强能用再往后基本不可靠。后来深度学习进场第一波是用ConvLSTM这类循环卷积网络把雷达回波序列当作时空序列来建模。ConvLSTM确实比光流法强不少但递归结构有一个天然的毛病每一步都要依赖上一步的输出误差会随着时间步累积而且循环网络对长期空间依赖的建模能力也有限。在很多情况下远处的强回波对未来中心区域的降水有显著影响卷积的感受野又受限要捕获这种长距离空间依赖得叠加很多层。Transformer的注意力机制恰好能解决这类问题。自注意力里每个位置都可以直接与所有其他位置交互不受感受野限制理论上能同时捕捉局地强回波和远距离输送带。再加上位置编码模型有能力同时感知“在哪”空间位置和“什么时候”时间顺序。这也是我选择Transformer做这个毕设项目的核心理由。2. 整体方案设计与数据集处理2.1 任务定义和模型整体设计先明确一下项目的任务边界。输入是过去60分钟内的12帧雷达回波图每帧间隔5分钟输出是未来60分钟内的12帧回波图同样是5分钟间隔。输入和输出序列长度一样这算是一个典型的时空序列到序列的预测任务。整体流程分为五块数据层读取原始雷达回波数据做质量控制过滤掉无效帧和无效像素。预处理截断异常值归一化切分序列样本。模型层把每帧回波图切成patch序列加上时空位置编码送入Transformer编码器再由解码器逐帧生成未来回波图。训练层设计加权损失函数让模型更关注强回波和边界结构。评估层除了MSE还要计算CSI、POD、FAR、HSS等降水预报领域专用指标。模型架构具体来说编码器部分参考了Vision Transformer的处理方式。每帧128x128的图被切成16x16的patch一帧就变成64个token。12帧输入全部做同样处理总计768个token送入一个6层的Transformer Encoder。输出侧采用自回归方式每一轮根据历史信息和已经生成的帧预测下一帧回波图。自回归方式比一次性全部生成所有帧更稳因为每步都有上一帧的真实结构作为约束避免一次性生成崩溃。代价是推理速度慢一点但对这个任务来说完全可以接受。2.2 数据集怎么选、怎么处理才能训练出有效模型这个项目用的是公开的雷达回波数据集常见的候选包括SEVIR和HKO-7。训练前建议统一重采样到128x128或256x256。分辨率太低小尺度对流单体丢失严重分辨率太高显存和训练时间会翻倍而且对结果提升有限。实测下来128x128在精度和资源消耗上最平衡。数据预处理的几个关键点dBZ截断雷达回波的数据范围通常是0到70dBZ但偶尔会有异常值比如干扰造成的超大值。处理方式是直接把小于0的置为0大于70的截断在70。不截断的话个别异常值会主导损失函数模型注意力会被带偏。归一化把截断后的dBZ值除以70得到0到1之间的值。这是一种最简单的线性归一化好处是复现方便。空帧过滤训练集里不能有太多完全没有回波的样本。如果一半是空图模型最优策略就是全预测成空图因为这样的MSE最低。我做的方案是统计每帧回波面积占比把回波面积低于0.5%的帧直接从序列里剔除。滑动窗口建样本用步长为3帧的滑动窗口在时间轴上切样本这样既能扩充数据量又能保证样本间有足够的多样性不会让训练集过小。数据增强随机裁剪、水平翻转、垂直翻转、小角度旋转。时间维上也可以做一点文章随机跳帧可以模拟数据缺失场景提高模型鲁棒性但跳帧比例不能太高建议控制在10%以内。数据划分这一块特别重要。一定要确保训练集、验证集、测试集在时间上是严格分开的。比如前80%时间切片为训练集中间10%为验证集最后10%为测试集。我见过太多同学在时间序列任务上随机划分数据结果验证集指标虚高答辩时一追问就露馅。雷达回波外推本质上是个时间序列预测问题时间泄漏问题必须绝对避免。3. 核心模型实现从Patch到Transformer的完整搭建3.1 先把回波图变成TokenPatch Embedding与位置编码Transformer天生处理的是序列数据不能直接吃二维图像。最常用的做法是把图像切成小块每个小块展平后做线性映射得到token。这里选择patch size为16x16。为什么是16而不是更小因为patch越小token数量越多注意力矩阵按平方增长。128x128的图像如果按像素级token来算一次就有16384个token注意力矩阵是16384x16384大约2.68亿个元素绝大多数显卡都撑不住。切成16x16后只有64个token注意力矩阵只有4096个元素完全在可控范围。patch embedding的代码可以这样写import torch import torch.nn as nn class PatchEmbed(nn.Module): def __init__(self, in_channels1, embed_dim128, patch_size16): super().__init__() self.patch_size patch_size self.proj nn.Conv2d(in_channels, embed_dim, kernel_sizepatch_size, stridepatch_size) def forward(self, x): # x: [B, T, C, H, W] B, T, C, H, W x.shape x x.reshape(B * T, C, H, W) x self.proj(x) # [B*T, embed_dim, H/p, W/p] _, D, h, w x.shape x x.reshape(B, T, D, h * w) x x.transpose(1, 2) # [B, h*w, T, D] x x.reshape(B, h * w * T, D) return x # [B, num_tokens, embed_dim]注意token顺序。这里先保持帧内空间token的顺序再叠加帧维度方便后续加时间位置编码时对齐。位置编码是容易被忽视但实际上非常重要的模块。雷达回波图中空间位置决定了雨团的经纬度时间位置决定了回波演变的先后顺序。我用的方案是可学习的空间位置编码patch级别加上可学习的时间位置编码帧级别。两套编码各自初始化训练时更新最后直接相加。class PositionalEncoding(nn.Module): def __init__(self, num_patches, num_frames, embed_dim): super().__init__() self.spatial_pos nn.Parameter(torch.randn(1, num_patches, embed_dim) * 0.02) self.temporal_pos nn.Parameter(torch.randn(1, num_frames, embed_dim) * 0.02) def forward(self, x, T): # x: [B, num_patches*T, embed_dim] B, N, D x.shape P N // T x x.reshape(B, P, T, D) x x self.spatial_pos x x self.temporal_pos[:, :T, :].unsqueeze(1) return x.reshape(B, N, D)为什么不用正弦位置编码因为可学习位置编码参数量不大而且在这个数据量级下可学习编码能够更好地适应雷达回波数据的统计特性。实测中去掉位置编码或者只用空间位置编码而忽略时间维模型预测的回波会出现明显的时间错乱比如本该移动的雨带静止不动或者运动方向随机跳跃。3.2 编码器和解码器时空注意力怎么搭编码器直接使用PyTorch内置的TransformerEncoderLayer堆叠6层。每层内部是标准的自注意力加前馈网络接LayerNorm和残差。这里有一个细节要注意前馈网络的隐藏维度一般是embed_dim的4倍也就是512这样模型容量比较充足。encoder_layer nn.TransformerEncoderLayer( d_model128, nhead8, dim_feedforward512, dropout0.1, activationgelu, batch_firstTrue ) self.encoder nn.TransformerEncoder(encoder_layer, num_layers6)需要解释一下这里的多头注意力在干什么。每个回波patch会先被线性映射成Query、Key、Value三组向量。Query相当于“我在关注什么”Key相当于“其他patch能提供什么”两者点乘得到注意力权重然后用这个权重加权所有Value。8个头可以理解为8种不同的“关注偏好”有的头倾向于关注同一帧内邻近的回波结构有的头则可能关注较早时刻的回波位置。这种多样性正是Transformer能同时建模局地强对流和远距离水汽输送的原因。解码器是自回归式的。输入的历史12帧编码成768个token后解码端在每一轮生成当前帧的64个token然后把这64个token重新拼接到历史token中作为下一轮的条件。注意这里没有用masked self-attention因为生成第t帧时未来帧的信息是不存在的但在建模第t帧内部时该帧所有patch之间应该是相互可见的。所以我的做法是每生成一帧就把它加入历史序列模型继续编码新序列来预测下一帧。生成出来的每个token是一条128维向量要还原成图像需要过一个解码头。我的做法是LayerNorm Linear把128维映射到patch_size * patch_size 256个像素再reshape成16x16的patch拼回128x128图像。class PatchRecovery(nn.Module): def __init__(self, embed_dim, patch_size): super().__init__() self.norm nn.LayerNorm(embed_dim) self.fc nn.Linear(embed_dim, patch_size * patch_size) def forward(self, x, T, H, W, P): # x: [B, N, D] B, N, D x.shape x self.norm(x) x self.fc(x) # [B, N, patch*patch] x x.reshape(B, T, H // P, W // P, P, P) x x.permute(0, 1, 2, 4, 3, 5) x x.reshape(B, T, H, W) return x训练时我用teacher forcing策略预测第t1帧时把对应的真实第t帧而不是模型自己生成的第t帧作为输入的一部分。这样可以加快收敛避免早期误差累积导致训练崩溃。推理时全部使用模型自己的输出来迭代生成。这是标准的序列生成训练方式在机器翻译和视频预测里都很常见。3.3 损失函数和优化器MSE不是唯一答案甚至不是好答案如果只用MSE训练你会得到一个非常“模糊”的模型。原因在于最小化MSE等价于学习所有可能结果的均值而雷达回波的分布往往有多峰性——同一时刻回波可能在大范围弱降水也可能在局部爆发强对流。模型学到的均值会变成一团模糊的、中等强度的回波看起来“大概差不多”但完全失去了极端降水信号。我采用的损失函数是加权MSE加SSIM的组合。加权MSE的做法是根据真实回波强度给每个像素乘一个权重回波越强权重越高。这样模型为了降低损失必须把强回波中心拟合得更准而不是简单地求和取平均。def weighted_mse_loss(pred, target): # target: [B, T, H, W], 范围0~1 weight 1.0 5.0 * (target 0.4).float() 10.0 * (target 0.6).float() loss (weight * (pred - target) ** 2).mean() return loss这里的阈值0.4和0.6对应归一化后的dBZ值也就是28dBZ和42dBZ左右分别对应中等降水和强对流降水。权重倍数可以根据数据集中强回波占比调整核心原则是让强回波在整个损失中占据足够的比例。SSIM损失用于保持回波的结构信息它衡量的是两幅图像在亮度、对比度和结构上的相似度。PyTorch里有现成的库可以直接调用我这里示范一下简单用法import torchmetrics ssim torchmetrics.StructuralSimilarityIndexMeasure(data_range1.0) def total_loss(pred, target): mse weighted_mse_loss(pred, target) s ssim(pred.reshape(-1, 1, 128, 128), target.reshape(-1, 1, 128, 128)) return mse 0.1 * (1 - s)优化器用的是AdamW初始学习率1e-4带10步warmup然后按余弦退火衰减到1e-5。warmup的作用是让模型在训练初期不要被过大的梯度带偏因为Transformer层数较深直接大学习率可能导致训练发散。余弦退火则是在后期让loss更平稳地收敛。4. 训练配置、调参与评估指标4.1 训练配置和训练过程实录核心训练配置如下参数取值说明输入帧数12帧过去1小时每帧间隔5分钟输出帧数12帧未来1小时分辨率128x128重采样后统一尺寸Patch size16x16每帧64个tokenEmbed dim128token向量维度Encoder层数6层标准TransformerEncoder注意力头数8头关注不同空间尺度Batch size16按12GB显存设计的取值初始学习率1e-4AdamW warmup 余弦衰减训练轮数120轮早停阈值设为验证HSS不再提升后10轮显存方面我在一张12GB显存的GPU上可以跑起来。如果显存不够推荐先减小batch size再考虑减少层数用梯度累积模拟大batch也是一个很实用的做法。训练过程的观察点在于loss曲线和验证指标是否能同步提升。前5个epoch loss下降特别快从0.08左右掉到0.02以下这个阶段模型学到的大多是回波的整体移动规律比如南方的雨带整体向北推进。之后loss下降放缓真正的差距体现在验证集HSS指标上。大约在第15到20个epoch时HSS开始明显上升从0.35跳到0.45左右这说明模型开始学到回波内部的细节演变而不只是宏观平流。训练过程中我每5个epoch跑一次验证集记录HSS、CSI、MSE三个指标并保存验证集HSS最高的模型权重。这个“最优模型”的保存逻辑很重要因为训练后期loss可能还会继续下降但验证集指标可能已经在下降了这属于典型的过拟合信号。如果只看训练loss选模型测试集效果大概率不理想。4.2 评估指标怎么选从MSE到CSI/POD/FAR/HSSMSE适合衡量整体像素误差但不适合衡量降水预报质量。想象一个场景模型预测的回波和真实回波位置恰好差了2个网格MSE会很大但从业务角度看这个预报方向是对的只是有一点位移偏差。所以做雷达回波外推必须用降水预报领域的标准指标。这里涉及几个概念CSICritical Success Index命中数 / (命中数 漏报数 空报数)。范围0到1越接近1越好。它同时惩罚漏报和空报比较均衡。PODProbability of Detection命中数 / (命中数 漏报数)。衡量“该报出来的雨有没有报出来”。FARFalse Alarm Ratio空报数 / (命中数 空报数)。衡量“报出来的雨是不是报多了”。HSSHeidke Skill Score综合衡量预报相对随机预报的改进程度。这是论文和业务里最常用的综合指标。计算时需要先设置阈值把连续的回波值转成0/1分类。通常选取三个阈值来对应不同强度的降水dBZ阈值降水类型参考CSI参考POD参考FAR20 dBZ弱降水0.55-0.650.60-0.700.25-0.3535 dBZ中等降水0.40-0.500.45-0.550.35-0.4545 dBZ强对流降水0.20-0.300.25-0.350.50-0.60以上数值范围是我在公开数据集上测试时观察到的参考水平并且随数据集、区域和季节变化很大。如果某个阈值下的CSI明显低于这个范围优先检查训练数据里该强度回波的样本占比是否太低。需要强调的是强回波阈值下的CSI普遍偏低因为强对流回波本身在时空上都很稀疏样本不均衡问题很突出。这也是我在损失函数里加重强回波权重的根本原因。做这个项目的时候MSE看起来始终在下降但如果只看MSE你会觉得模型进步很快。真正让模型质量拉开差距的是CSI和HSS这两个指标。5. 实操中的坑与排查技巧实录5.1 我踩过的几个坑按严重程度排序踩坑一数据泄漏。我一开始图省事把全部数据切片后随机划分成训练集、验证集和测试集。结果测试集HSS高得离谱一度以为自己做出了远超论文的效果。后来画了一组预测图和真实图对比发现测试集里的“预测结果”跟真实回波高度相似连雨带边界都几乎一模一样。原因显而易见同一时间段的数据被分到了训练集和测试集模型相当于“见过答案”。后面改成时间切片划分后所有指标都掉了一截但这才真实。踩坑二异常值没截断loss被个别大值控制。原始数据里偶尔会出现超过70dBZ的异常值归一化之后变成1.0以上参与MSE计算时会产生非常大的梯度扰乱整个batch的训练。截断到0到70dBZ再归一化训练过程平稳了很多。踩坑三强回波被模糊化。第一次跑通模型后生成的画面“看着还行”但强回波中心总是被弱化40dBZ以上的回波几乎消失。检查发现是纯MSE导致模型倾向于输出均值。后来把阈值加权的思路加进损失函数并引入SSIM回波结构保留程度明显提升。踩坑四自回归推理误差累积。推理时首帧预测误差会通过自回归方式传染到后续帧导致第10到12帧的回波越来越弱。我试过用训练时的teacher forcing策略但这样做推理速度更慢而且在长时间外推时指标提升有限。最终采用了一个折中方案推理前2帧时用真实历史帧做条件第3帧之后再用模型自己的输出。这样既保持了推理速度也减缓了误差累积。踩坑五训练集里空回波帧太多。刚开始没有做空帧过滤模型很快就学会了“摆烂”——遇到不确定的情况就预测成非常弱的回波甚至全黑。因为从数量上看空回波样本占比很高模型把所有像素预测为0也能得到一个相对较低的loss。还是那句话数据分布决定模型行为必须先做过滤。5.2 常见问题速查表问题现象可能原因解决方案预测结果全是模糊团CSI很低但MSE不高纯MSE损失样本不均衡用加权MSESSIM组合损失雨带移动方向异常回波突然跳变或静止位置编码缺失或时间维编码错误检查时空位置编码是否都加入训练loss发散loss跳出NaN或越训越大学习率过大/异常值未处理降低学习率加warmup截断异常值验证集远超正常水平指标高得不真实训练集和验证集时间重叠按时间顺序切分数据集显存不足训练到一半OOMBatch过大或token数过多减小batch减小patch尺寸用梯度累积强回波预测很弱大于40dBZ区域几乎为空损失函数权重不足增大强回波区域权重阈值5.3 如果还想继续提升效果可以往这几个方向扩展这个项目做完之后如果想继续深化我个人认为这几个方向性价比最高。第一个是引入雷达回波的光流速度场作为额外输入。虽然光流法做最终预测不准但它提供的运动矢量场包含了雨带移动的强先验信息拿它做辅助输入可以帮Transformer更快学到运动规律。在训练前期速度场还能起到类似“课程学习”的作用降低建模难度。第二个是换用更高质量的生成模型来做解码端。比如用GAN的判别器来约束输出分布或者引入扩散模型逐步去噪生成回波都能有效解决模糊问题。代价是训练复杂度和推理耗时都会显著增加做毕设时要考虑时间预算。第三个是升级成多尺度Transformer。我的方案里只用了一套patch size16x16这对大范围雨带足够但小尺度对流单体的空间细节丢失比较严重。可以设计双分支结构一侧用8x8 patch另一侧用16x16 patch最后特征融合。这样模型既能看整体又能抠细节强回波中心的预测会准一些。Earthformer里的相关思路可以借鉴但毕设阶段不必做得太复杂能跑通一个多尺度版本就够了。第四个方向是在更长时间尺度上做外推比如从1小时扩展到3小时甚至6小时。超过1小时的外推回波生消过程占主导纯数据驱动模型会面临更大的不确定性。这个阶段可以考虑把数值模式预报产品作为额外输入加入模型形成一个“数据驱动物理约束”的混合架构。当然这是更进阶的玩法了普通毕设不建议冒险选择。最后再说一点个人体会。做这个项目之前我一直觉得Transformer在图像领域的成功主要靠数据量和算力气象这么小众的领域可能占不到便宜。但这个项目做完之后我的感受是有一定修正的Transformer真正厉害的地方在于它把“远程依赖”这个问题的建模成本降低了很多。雷达回波图里远处一个正在生成的对流单体很可能在两个小时后影响本地这种关系用CNN需要很深的层数才能捕获Transformer通过一次注意力就可以直接关联。就算数据量不大只要任务本身存在长距离依赖Transformer就值得一试。但前提是你得把数据清洗、损失函数和评估指标这些基础工作做扎实不然再强的结构也救不回来。做这块的同行如果你也在跑类似实验欢迎对照我列出的坑自查一遍别让指标骗了你。本文还有配套的精品资源点击获取