我不止一次被人问都2025年了怎么还在聊U-Net我通常反问一句你最近用的扩散模型骨干网络是什么对方沉默两秒然后说还是U-Net。这就很有意思了一个2015年提出的分割结构到如今依然是医学影像诊断里最常用的骨架之一甚至在diffusion爆火之后U-Net又以“噪声预测主干”的身份重新翻红。既然U-Net这么能打为什么还要“轻量化演进”答案很现实如果只在A100上做离线的离线分割原始U-Net完全够用但一旦想把模型塞进床旁设备、车载便携超声、低配科室工作站甚至跑在嵌入式盒子上U-Net那套“每逢下采样通道翻倍”的设计就成了实打实的资源黑洞。这已经不只是部署团队抱怨的痛点也是很多诊断类论文在高水平期刊反复讨论的方向。这篇是这个系列的第三篇我会把“轻量化演进”这条线从整体思路、核心方法、评价指标一直讲到怎么亲手搭一个可复现的轻量U-Net并完成压缩落地全程只讲能落地的干货。1. 从U-Net到轻量化为什么一定要“瘦身”1.1 先看一下U-Net到底胖在哪里原始U-Net的核心设计并不复杂左侧编码器反复“卷积下采样”每下采样一次通道数变两倍右侧解码器“上采样卷积”恢复分辨率再用跳跃连接把同尺度的编码器特征传给解码器。这个结构放在GPU集群上没什么压力但它天然对资源不友好。我用三十二通道起始宽度的经典配置做过估算输入256x256的单通道图像第一个卷积层就是3x3x1x64的权重约三万七千个参数到第三、第四个下采样层通道数变成512单层卷积参数直接到百万级别。整体模型参数量通常在三十兆到四十兆之间输入尺寸再大一点中间特征图的内存开销也跟着水涨船高。更隐蔽的问题在于跳跃连接每一层skip都会把编码器特征完整保留下来给解码器用这些中间张量在推理时是不能立刻释放的显存占用会因此额外上涨一大截。有人可能会说三十兆参数也不大啊手机端一个模型动不动上百兆。但对医院场景来说麻烦的不是“装得下”而是“跑得动”。很多科室的电脑根本没有独立显卡CPU推理一个三十兆参数的U-Net单张图像可能要一两秒甚至更久病房床旁设备通常又是低功耗嵌入式平台跑全尺寸模型发热量高、帧率低影像科医生点一下鼠标等上好几秒才出结果这种体验很难真正投入日常诊断流程。1.2 诊断场景里的三类资源瓶颈轻量化不是跟风炫技而是被实际部署环境逼出来的。我把医学影像诊断场景的瓶颈总结成三类你对照自己的项目就能很快判断到底该往哪个方向瘦身。第一类是算力瓶颈。很多二线城市的基层医院、体检中心、车载移动影像设备用的还是老旧CPU或者入门级显卡。这类设备跑浮点运算的速度有限尤其是那些没有TensorRT等优化框架加持的纯CPU环境模型算力再高到了设备上就是跑不动。你调参调得再好设备跑不起来一切等于零。第二类是内存与带宽瓶颈。医学影像往往是大尺寸输入CT切片常见是512x512甚至更大MRI和病理全切片更是夸张。模型参数量可以压得很小但如果中间特征图保留得太多内存照样会被撑爆。很多轻量化方案只盯着参数量却忽略了激活值activation和内存带宽结果模型是瘦了推理延迟依然难看。这种情况在批量推理、多序列同时处理时尤其明显。第三类是功耗与散热瓶颈。便携式超声、手持式眼底相机、手术机器人辅助系统这类设备对功耗和温度的要求非常苛刻。全尺寸U-Net如果长时间满负荷运转可能直接把设备温度顶上去触发降频保护推理速度反而更慢。轻量化在这个场景里不只是“更快更小”而是关系到设备能否在一个稳定区间内持续工作。搞清楚这三个瓶颈再反过来看轻量化演进思路就清晰了它不是简单地把模型“换小”而是针对目标硬件、目标任务、目标时间约束把结构、通道、精度、推理路径一起做减法。2. 轻量化演进的五条主线2.1 轻量卷积单元把“重卷积”换成“拆分卷积”最直接的瘦身方向是把U-Net里的大量标准卷积替换成轻量卷积单元。这里面最有代表性的就是深度可分离卷积MobileNet系列就是靠它把网络做到极小的。我先给一个简单的计算对比。假设输入特征图尺寸为H×W输入通道为C1输出通道为C2卷积核大小为3×3。标准卷积的计算量是9 × C1 × C2 × H × W如果用深度可分离卷积替代拆成两步先做3×3的深度卷积负责逐通道的空间特征提取计算量是9 × C1 × H × W再做1×1的逐点卷积负责跨通道信息融合计算量是C1 × C2 × H × W。两个加起来(9 C2) × C1 × H × W当C2比较大时比如256标准卷积是9 × C1 × 256 × H × W深度可分离卷积是(9256) × C1 × H × W差不多省了接近9倍。参数量的节省幅度也类似。这就是为什么现在很多轻量化医学分割模型第一刀都是从卷积单元下手。还有一类值得注意的单元叫Ghost Module。思路更取巧既然输出特征图里不少通道是“长得差不多”的冗余特征那就不必完整计算所有输出通道先用一个普通卷积生成少量固有特征图再用线性变换通常是深度卷积把剩下的“ghost特征图”变化出来。原论文里的计算量可以压缩到常规卷积的1/s左右。对U-Net来说如果把编码器里的普通卷积替换成Ghost Module整体FLOPs能降不少而且精度损失通常很小因为冗余特征本身携带的信息并不算多。我一直提醒想动手改结构的朋友不要盲目把所有卷积都换成深度可分离卷积。在浅层输入通道很少的时候比如第一层只有1个或3个通道深度卷积的空间特征提取能力会显得不足精度掉得很快。比较稳妥的做法是保留stem层的标准卷积从网络中部开始换轻量卷积单元。2.2 注意力模块的轻量设计别拿“重注意力”去配轻骨架早期的Attention U-Net、CBAM这类方案确实能提升分割精度但代价也不小。CBAM在通道注意力和空间注意力上各做一次完整的卷积与激活加进轻量网络之后算力开销占比会变得非常扎眼。我的实测经验是一个几十兆的原始U-Net加CBAM推理时间可能只增加10%左右但一个已经压到两兆以内的轻量U-Net再加完整CBAM推理时间可能直接翻倍。轻量结构最怕“配件过重”。更合适的做法是使用ECA或者SE-Net的简化版本。ECA的处理非常轻巧对特征图做全局平均池化之后用一个一维卷积在相邻通道之间捕捉依赖关系不需要像SE那样做“降维-激活-升维”的全连接结构参数和计算量都极小。我习惯把它加在每个编码器块的最后替代完整的通道注意力模块。对于解码器部分我个人的经验是“在跳跃连接上加一个小门控”比“在解码器大特征图上加注意力”更值。原因很直白U-Net的效果主要依赖跳跃连接把高频细节传给解码器但这也意味着解码器会同时收到大量冗余、甚至互相冲突的特征。如果能在每条skip path上放一个通道级权重让解码器学会“本条路径哪些通道更该被信任”只需要极少量参数就能显著改善最终分割边界。2.3 编码器替换与特征复用直接“换血”比“节食”更快卷积单元替换是一点一点做文章如果追求更大幅度的瘦身更高效的办法是直接用现成的轻量分类骨干网替掉U-Net左侧的编码器。MobileNetV2、MobileNetV3、EfficientNet-Lite这些网络在分类任务上已经被验证过效率极高又带了预训练权重迁移到医学影像场景以后训练速度和收敛稳定性通常都更好。替换编码器时有几个坑我逐个说。第一是通道对齐问题。U-Net解码器设计时每一层的输入通道数依赖编码器输出通道数当你换掉编码器必须重新计算每一级特征图的通道数并相应调整解码器第一层卷积的输入通道。很多复现代码直接报错都是这个问题。第二是下采样比例。医学影像分割的分辨率很关键原版U-Net通常是四次下采样到16倍或32倍下采样轻量骨干网络通常按224×224分类输入设计可能只下采样到32倍你要按任务需求决定到底保留几层feature map给解码器。第三是预训练权重的领域差异。用ImageNet预训练权重起步在自然图像上很稳但医学影像对比度低、纹理单调有时“从头训练”反而更容易拟合。我的建议是先试预训练如果前二十个epoch验证集不升或者过拟和明显升高再切回从零训练。除了换编码器轻量化演进还有一个容易忽略的思路编码器与解码器之间的特征复用。原始U-Net的解码器每一层都会独立处理大量特征图计算开销不低。有些轻量设计会把解码器的部分卷积层合并或者在不同尺度上共享权重目的就是让解码器“反复使用”已经计算过的特征避免重复劳动。2.4 结构化剪枝与知识蒸馏训练完再做“二次瘦身”改结构是在训练前决定模型上限而剪枝和蒸馏是在训练后继续压榨模型两条路其实不冲突可以叠加使用。剪枝里最成熟的是通道剪枝。思路是给网络中每个通道绑一个重要性分数把不重要的通道删掉再微调恢复精度。实际工程里常用的做法是在BatchNorm的γ参数上施加稀疏约束训练之后γ值较小的通道就被认定不重要可以直接剪掉。用PyTorch实现这步操作并不难难的是选对剪枝比例和微调策略。我见过不少人一次性把通道数砍掉一半结果Dice直接掉到不能用。更稳健的做法是“渐进式剪枝”先剪掉10%微调再剪掉10%微调分段进行。每段微调用较低学习率大概训一二十个epoch就够了不需要从头训练。知识蒸馏则是“师生学习”的思路用参数较大的教师模型比如原始U-Net指导轻量学生模型比如改造后的轻量U-Net训练。具体做法是在原有分割损失Dice Loss、交叉熵等之外加上一项蒸馏损失让学生模型去拟合教师模型的软标签输出。软标签比硬标签携带更多信息比如“这个像素更接近谁”这对小模型是极有价值的监督信号。蒸馏损失通常用KL散度温度参数T一般取3~6蒸馏损失权重alpha取0.3~0.7需要在小数据集上快速验证调整。2.5 量化与神经架构搜索把最后几口“冗余”榨干模型结构已经轻量化之后还能做的一道减法叫量化。简单理解就是把网络里的浮点32位FP32权重和激活值转成8位整数INT8来算。推理时的内存占用直接缩减到原来的四分之一很多边缘设备对INT8有专门加速单元推理延迟也能明显下降。代价是精度可能有轻微损失尤其是在边界分割和细小目标上。对诊断场景来说这个精度损失必须在可控范围内可以考虑“部分量化”只量化编码器和解码器的大卷积层保留第一层和最后一层为浮点这样能平衡精度和加速。神经架构搜索NAS在轻量化医学分割里也是个热门方向但工程门槛偏高。它的核心是让算法自动搜索编码器的通道数、下采样次数、卷积类型等配置而不是靠工程师拍脑袋定。现在的NAS方案大多基于可微搜索训练成本也不算低。如果你不是有专门算力平台我不太建议从零跑NAS完全可以参考已发表论文里搜索出来的结构配置拿来适配自己的数据集。轻量化演进的最高效路径往往是“参考别人搜好的结构 自己做微调”。3. 评价一个轻量U-Net该看这些数字3.1 计算侧指标别只盯着参数量很多论文喜欢把“参数量下降百分之多少”当卖点但参数量只是故事的一半。对实际部署来说更重要的往往是下面几项模型参数量Params单位M、计算量FLOPs或者MACs、推理延迟Latency/FPS、峰值内存占用Peak Memory。FLOPs和MACs有区别MACs里一次乘加算一次而FLOPs通常把乘和加分开算所以FLOPs数值约等于MACs的两倍。论文里如果不标注清楚对比时很容易掉坑。另外要特别提醒FLOPs低不代表延迟低。模型推理延迟不只受计算量影响还受内存带宽、算子启动开销、框架并行效率影响。最典型的就是深度可分离卷积理论FLOPs比标准卷积低很多但在某些优化不充分的框架或CPU上逐通道卷积实现得很差实际延迟反而更高。所以评估轻量U-Net时不能只看理论的FLOPs表必须在目标设备上实测延迟。3.2 诊断侧指标Dice不是万能的医学影像诊断最关心的是分割结果在临床意义上的准确性。常用指标包括Dice系数、IoU、Hausdorff距离HD95、平均表面距离ASD。Dice对体积重叠比较敏感但对边界小偏移不敏感可能Dice很高但边界偏离医生期望好几个像素。对于器官分割、病灶分割这类任务HD95和ASD往往更能反映边界的可用性。轻量化之后Dice掉零点几个点是能接受的但如果HD95明显变大说明轻量模型在边界细节上退化明显这在诊断场景里可能很危险。我建议在轻量化进程的每个阶段同时记录Dice和HD95不能只看一个指标。3.3 一张可参考的对比表假设用同一个数据集输入256×256以下是一组数量级示意数据具体数值要根据硬件和数据集实测模型参数量(M)计算量(GFLOPs)Dice(%)HD95(pixel)说明原始U-Net31.155.293.23.8基线深度可分离U-Net6.811.492.84.1卷积单元替换MobileNetV2-Encoder U-Net4.27.692.54.4编码器替换轻量结构通道剪枝1.62.392.04.7剪枝后微调轻量结构蒸馏量化1.62.392.34.2INT8推理从表里能直观看到一个规律从原始U-Net到深度可分离结构计算量下降最猛从深度可分离到编码器替换参数量下降更多剪枝和量化则是在保证结构不变的前提下进一步压榨。Dice的回落通常在0.5到1.5个点之间如果超过这个幅度说明某个环节压缩过度了。这个阈值是我从多个实际项目里总结出的经验不敢说普适但足够作为自查线。4. 实操从0搭一个可复现的轻量U-Net4.1 轻量卷积块怎么定我不会直接贴一个巨型模型而是先给你一个“轻量卷积块”的代码后面所有结构都复用它。我用PyTorch写一个基于深度可分离卷积和SE注意力的小块这是很多轻量U-Net变体里常见的组合。核心点有三处深度卷积不跨通道所以它的计算量天然低SE注意力用来校准通道重要性残差连接保证信息流通。关键是这里的“高效”不是靠阉割功能换来的而是把功能拆得更细、更合理。import torch import torch.nn as nn class DepthwiseSeparableConv(nn.Module): def __init__(self, in_ch, out_ch, kernel_size3, stride1, padding1): super().__init__() self.depthwise nn.Conv2d(in_ch, in_ch, kernel_size, stridestride, paddingpadding, groupsin_ch) self.pointwise nn.Conv2d(in_ch, out_ch, kernel_size1) self.bn nn.BatchNorm2d(out_ch) self.act nn.ReLU(inplaceTrue) def forward(self, x): x self.depthwise(x) x self.pointwise(x) x self.bn(x) x self.act(x) return x class SELayer(nn.Module): def __init__(self, in_ch, reduction8): super().__init__() self.gap nn.AdaptiveAvgPool2d(1) self.fc nn.Sequential( nn.Conv2d(in_ch, in_ch // reduction, kernel_size1), nn.ReLU(inplaceTrue), nn.Conv2d(in_ch // reduction, in_ch, kernel_size1), nn.Sigmoid() ) def forward(self, x): w self.gap(x) w self.fc(w) return x * w class LiteBlock(nn.Module): def __init__(self, in_ch, out_ch, stride1): super().__init__() self.conv1 DepthwiseSeparableConv(in_ch, out_ch, stridestride) self.se SELayer(out_ch) self.shortcut None if stride ! 1 or in_ch ! out_ch: self.shortcut nn.Sequential( nn.Conv2d(in_ch, out_ch, kernel_size1, stridestride), nn.BatchNorm2d(out_ch) ) def forward(self, x): identity x out self.conv1(x) out self.se(out) if self.shortcut is not None: identity self.shortcut(identity) return nn.functional.relu(out identity, inplaceTrue)这个LiteBlock保持了一个小倒残差形状外面是1×1逐点卷积做通道变换中间是3×3深度卷积做空间提取最后再接SE。你在实际使用时可调整reduction数值SE里的reduction可以取4到16取8是个平衡值。4.2 轻量U-Net主体结构有了LiteBlock搭一个轻量U-Net就很快了。下面这个结构用四层下采样通道按32、64、128、256递增相比原版U-Net的64到512已经瘦了一圈但因为用的是深度可分离卷积实际参数量还会更低。import torch.nn.functional as F class LiteUNet(nn.Module): def __init__(self, in_ch1, num_classes1, width32): super().__init__() # encoder self.enc1 nn.Sequential(LiteBlock(in_ch, width), LiteBlock(width, width)) self.enc2 nn.Sequential(LiteBlock(width, width * 2, stride2), LiteBlock(width * 2, width * 2)) self.enc3 nn.Sequential(LiteBlock(width * 2, width * 4, stride2), LiteBlock(width * 4, width * 4)) self.enc4 nn.Sequential(LiteBlock(width * 4, width * 8, stride2), LiteBlock(width * 8, width * 8)) # bottleneck self.bottleneck nn.Sequential(LiteBlock(width * 8, width * 16, stride2), LiteBlock(width * 16, width * 16)) # decoder self.up4 nn.ConvTranspose2d(width * 16, width * 8, kernel_size2, stride2) self.dec4 nn.Sequential(LiteBlock(width * 16, width * 8), LiteBlock(width * 8, width * 8)) self.up3 nn.ConvTranspose2d(width * 8, width * 4, kernel_size2, stride2) self.dec3 nn.Sequential(LiteBlock(width * 8, width * 4), LiteBlock(width * 4, width * 4)) self.up2 nn.ConvTranspose2d(width * 4, width * 2, kernel_size2, stride2) self.dec2 nn.Sequential(LiteBlock(width * 4, width * 2), LiteBlock(width * 2, width * 2)) self.up1 nn.ConvTranspose2d(width * 2, width, kernel_size2, stride2) self.dec1 nn.Sequential(LiteBlock(width * 2, width), LiteBlock(width, width)) self.out nn.Conv2d(width, num_classes, kernel_size1) def forward(self, x): e1 self.enc1(x) e2 self.enc2(e1) e3 self.enc3(e2) e4 self.enc4(e3) bn self.bottleneck(e4) d4 torch.cat([self.up4(bn), e4], dim1) d4 self.dec4(d4) d3 torch.cat([self.up3(d4), e3], dim1) d3 self.dec3(d3) d2 torch.cat([self.up2(d3), e2], dim1) d2 self.dec2(d2) d1 torch.cat([self.up1(d2), e1], dim1) d1 self.dec1(d1) return self.out(d1)这个代码可以直接跑通。如果你想更进一步轻量化可以做两件事一是把width从32降到16但要注意宽度低于16之后特征表达能力会明显下降二是把跨层连接从concat改成element-wise add省去cat带来的通道数翻倍内存占用会小很多但效果通常略差一点需要你自己权衡测试。4.3 蒸馏训练的基本配置结构搭好之后训练阶段最值得加的额外操作就是知识蒸馏。下面给一个非常简化的蒸馏训练伪代码关键是两部分loss主损失用Dice Loss和BCE的组合蒸馏损失用KL散度让轻量模型输出向教师模型的输出回归。import torch.nn.functional as F def dice_loss(pred, target, smooth1.0): pred torch.sigmoid(pred) intersection (pred * target).sum() return 1 - (2.0 * intersection smooth) / (pred.sum() target.sum() smooth) def train_step(teacher, student, batch, optimizer, alpha0.5, T4.0): img, mask batch teacher.eval() with torch.no_grad(): tea_logit teacher(img) stu_logit student(img) # 主分割损失 loss_seg F.binary_cross_entropy_with_logits(stu_logit, mask) dice_loss(stu_logit, mask) # 蒸馏损失 tea_prob F.softmax(tea_logit / T, dim1) stu_prob F.log_softmax(stu_logit / T, dim1) loss_kd F.kl_div(stu_prob, tea_prob, reductionbatchmean) * (T * T) loss (1 - alpha) * loss_seg alpha * loss_kd optimizer.zero_grad() loss.backward() optimizer.step() return loss.item()使用到softmax的地方需要确保类别维度是存在的。如果你做单类别分割建议把输出通道改成2用softmax区分前景/背景比单纯用sigmoid做蒸馏更稳定。蒸馏训练我用下来的经验是alpha不要一上来就设太高否则学生模型会过于依赖教师的软标签反而学不到数据里的真实特征。我习惯先设0.3训练几个epoch让模型对分割任务本身有个基本收敛再提高到0.5到0.7进行精细调整。4.4 剪枝和量化的最小操作流程结构训练完之后如果要压得更狠按下面这套流程做就行。剪枝部分给BatchNorm的γ参数加L1正则训练若干轮后把γ值特别小的通道剪掉再在验证集上评估掉点情况最后用低学习率微调恢复精度。具体到代码可以用torch.nn.utils.prune里的全局非结构化剪枝做原型验证但真正部署前最好还是转成结构化通道剪枝非结构化剪枝在现有框架上很难拿到实际加速。量化部分先导入一个小的校准数据集一般几十到一百张典型图像就够了。用torch.ao.quantization做静态量化PTQ跑校准、转换、验证三步。如果掉点超过阈值再考虑对敏感层使用保留浮点FP16的混合精度量化或者改用量化感知训练QAT让模型在量化模拟过程中自动调整权重。5. 轻量化落地中的常见问题与排坑技巧5.1 参数少了Dice也掉了好几个点这是最常见的挫败场景。大多数情况下不是轻量化思路有问题而是压缩得太激进或者关键路径上信息流失严重。第一检查编码器stem层也就是模型最开始那一两个卷积层。这个位置负责提取低层纹理和边缘一旦通道大幅削减后续所有层拿到的特征质量都下降。第二检查跳跃连接把skip从concat改成add会显著省内存但如果模型本身就窄建议保留concat否则解码器可用的空间信息太少。第三尝试多级监督在解码器的不同尺度都加上输出监督损失函数里给浅层输出分配一定权重可以明显缓解轻量模型训练不充分的问题。5.2 加了注意力模块模型反而更慢这个坑我在多个设备上遇到过。原因是很多轻量骨架的内存带宽已经很紧张注意力模块虽然FLOPs不高但会引入额外的中间张量和算子launch开销在CPU或低算力NPU上这些开销常常比计算本身更影响延迟。我的排查办法是逐模块计时先测骨干部分再逐个加入注意力模块看哪个模块对延迟影响最大。实际经验是ECA通常最稳SE次之完整的CBAM在带宽受限设备上最不可控。如果SE也嫌慢可以把SE里的两个1×1卷积换成通道分组的分组卷积参数和计算量会进一步下降。5.3 蒸馏怎么训都不涨点蒸馏不是简单地“把两个loss加起来”就能生效。第一个常见问题是温度T没调好T太低教师模型的软标签接近于硬标签蒸馏失去意义T太高软标签过于平滑学生模型很难学到细致的边界信息。建议在3到6之间网格搜索一下。第二个问题是教师模型本身不够强如果教师模型只是在验证集上比学生好一点点它的软标签提供的信息增量非常有限。第三个问题是只蒸馏了输出层如果希望效果更稳可以尝试hint-based蒸馏在中间层的特征上蒸馏让学生模型的中间特征图向教师模型对齐。这个技巧对边界细节尤其友好。5.4 量化后小目标分割出现抖动量化后小目标丢失或者边界位置抖动核心原因是INT8表示精度不足导致模型对细粒度特征的响应被“磨平”。这个时候优先尝试感知量化训练QAT它会模拟量化的数值误差让模型适应低精度表达。其次给校准集增加指向性不要只用整体分割精度最好的样本要专门挑包含小目标的样例确保量化校准更关注这些困难样本。如果抖动依旧存在就把第一层和最后一层保留为FP16或FP32这两层对输入分布和最终输出的敏感性最高保留浮点往往能救回大部分精度。6. 一点个人经验与后续可扩展的方向做轻量化U-Net这件事我最大的感受是轻量化不是一项独立的魔法而是一连串权衡的累计结果。你从结构上省一点从蒸馏上补一点再从量化上挤一点每一步看起来都只是几个百分点的变化叠在一起就能把模型从“只能在GPU卡上玩”变成“能在床旁设备实时跑”的程度。我自己常用的节奏是先用目标设备的算力反推出模型计算量预算再根据预算选网络结构和宽度训练阶段加蒸馏最后压量化。这个顺序能少走很多弯路。这个轻量化的小结构也不只用在分割上。最近扩散模型大火哪怕在纯医学影像领域也越来越多工作把U-Net当成噪声预测主干如果你想让一个U-Net做真实生成甚至做图像重建、合成医学数据轻量化之后同样能在不牺牲生成质量的前提下大幅提升采样效率。我在实际使用中也发现把LiteUNet的主干稍作修改接入一个简单的时间步编码层就能跑通一个最小可用的扩散训练流程。后续如果你想往生成方向扩展这个轻量骨架比全尺寸模型更适合拿来快速试错。最后再分享一个小技巧无论做蒸馏还是剪枝都建立一个“轻量化日志”把每一步的参数量、计算量、Dice、HD95、推理延迟全部记录下来。很多结论并不会出现在论文里而是要靠你自己在不同设备、不同数据上反复测试。把这些日志整理清楚你要继续做“Diagnostics”系列里的第四篇、第五篇随时都有第一手素材可用。