简介一套基于AlexNet卷积神经网络的手写数字识别完整项目面向深度学习初学者、毕业设计及期末大作业学生。项目提供可直接运行的Python源码与配套实验报告代码注释详细即便是新手也能快速理解网络结构与训练流程。压缩包共含18个文件大小约11.07MB除10个Python脚本外还包含数据压缩包、依赖配置文件、实验报告文档等涵盖数据加载、模型定义、训练测试和可视化模块。目前已有390人学习下载资源是个人精心编写的98分高分项目导师认可度高适合作为课程设计或毕业设计参考。目录组织清晰覆盖数据预处理、AlexNet/ResNet模型构建、训练与评估等环节可直接复现手写数字识别任务并有助于掌握经典卷积神经网络的实现细节与实验报告撰写方法。1. 为什么拿 AlexNet 做手写数字识别一个被低估的入门路径MNIST 手写数字识别几乎是每个接触卷积神经网络的人都会跑一遍的“Hello World”但大多数教程用的是轻量级 LeNet几个卷积层堆完就开始训练。换个思路用 AlexNet 这种工业级骨架来做 MNIST看起来是“杀鸡用牛刀”实际上能帮你把卷积神经网络的原理、训练节奏和调参手感一次性练扎实。这个项目标题的价值就在这它不只是一份能跑通的 Python 源码更是一份把 AlexNet 从理论落到 MNIST 数据集上的完整实验报告——适合课程设计、毕业设计也适合想从“调包跑通”进阶到“看懂网络每一层在干什么”的初学者。AlexNet 是 2012 年 ImageNet 竞赛的冠军结构它引入的 ReLU、Dropout、MaxPool 重叠、数据增强等设计至今仍是卷积神经网络的基本功。而 MNIST 是 28×28 的灰度图只有 10 个类别直接把 ImageNet 那套 224×224 的输入和 1000 类输出套过来肯定不行。这里面的关键就是改造把 AlexNet 的卷积核、全连接层规模、输入尺寸全部压扁适配 MNIST 的小图和少类别。整个过程会逼着你搞清楚每个参数为什么这么设而不是抄一个网络就完事。这篇笔记就把这套方案完整拆开网络结构怎么改、源码每一步在干什么、训练参数怎么调、实验报告怎么写才能拿高分、以及那些跑代码时最容易翻车的细节。新手可以照着步骤把项目复现出来熟手可以直接拿这里的参数对比和踩坑清单去调自己的实验。2. 从 AlexNet 到 MNIST先把网络结构改对再谈训练2.1 AlexNet 的核心设计为什么值得保留AlexNet 原版结构是 5 个卷积层加 3 个全连接层输入 224×224 的 RGB 图像最后一个全连接层输出 1000 类。它的核心设计放在今天看依然值得学第一个卷积层用 11×11 的大核快速下采样后面卷积层逐步改用 3×3 和 5×5 提取细粒度特征每经过一个卷积块就接 MaxPool 降低空间分辨率同时把通道数翻倍。ReLU 激活取代 Sigmoid解决了深层网络的梯度衰减问题训练速度快了几个量级。还有一个容易被忽略的设计是局部响应归一化LRN。AlexNet 作者当时发现 LRN 能提高泛化能力但后来大批实验证明它在现代网络里作用有限甚至有些复现干脆去掉。做 MNIST 这种小数据集时我一般会把它去掉——不是因为 LRN 没有用而是它的作用在 MNIST 这种简单任务上基本体现不出来还白增计算量。提示复现 AlexNet 时不要照抄原论文的所有超参数比如原版的 LRN、11×11 卷积核在 MNIST 上都不是必需品。保留结构骨架按数据规模调整细节。2.2 改造后的 AlexNet 模型定义PyTorch 源码逐行拆解改造的目标是把 AlexNet 压到能吃 28×28 灰度图。常见做法是保留“卷积堆 全连接层”的整体骨架把第一个卷积层的核从 11×11 缩到 5×5stride 从 4 改成 1因为 28×28 的图经不住大 stride 猛踩。全连接层的维度也要跟着卷积输出重新计算。下面这份源码是 PyTorch 的用 Python 直接跑就行。import torch import torch.nn as nn class AlexNetMNIST(nn.Module): def __init__(self, num_classes10): super(AlexNetMNIST, self).__init__() # 第一层输入1通道灰度图输出64通道 # 5x5卷积核 padding2保证28x28输入经过这层后尺寸不变 self.conv1 nn.Sequential( nn.Conv2d(1, 64, kernel_size5, stride1, padding2), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size3, stride2, padding1) # 重叠池化 ) # 第二层64通道 - 192通道 self.conv2 nn.Sequential( nn.Conv2d(64, 192, kernel_size5, stride1, padding2), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size3, stride2, padding1) ) # 第三层192 - 384无池化 self.conv3 nn.Sequential( nn.Conv2d(192, 384, kernel_size3, stride1, padding1), nn.ReLU(inplaceTrue) ) # 第四层384 - 256无池化 self.conv4 nn.Sequential( nn.Conv2d(384, 256, kernel_size3, stride1, padding1), nn.ReLU(inplaceTrue) ) # 第五层256 - 256接池化 self.conv5 nn.Sequential( nn.Conv2d(256, 256, kernel_size3, stride1, padding1), nn.ReLU(inplaceTrue), nn.MaxPool2d(kernel_size3, stride2, padding1) ) # 经过5层卷积后特征图尺寸从28x28变为3x3 # 所以全连接层输入维度是 256 * 3 * 3 2304 self.classifier nn.Sequential( nn.Dropout(p0.5), nn.Linear(256 * 3 * 3, 512), nn.ReLU(inplaceTrue), nn.Dropout(p0.5), nn.Linear(512, 256), nn.ReLU(inplaceTrue), nn.Linear(256, num_classes), ) def forward(self, x): x self.conv1(x) x self.conv2(x) x self.conv3(x) x self.conv4(x) x self.conv5(x) # 展平把 [batch, 256, 3, 3] 变成 [batch, 2304] x x.view(x.size(0), -1) x self.classifier(x) return x这段代码的关键逻辑说明第一层用 5×5 卷积加 padding2是因为 MNIST 图太小11×11 的大核扫一遍几乎把整张图压成一个点特征全丢了。stride 从原版的 4 改成 1也是为了避免过度下采样。每一层后面都跟 ReLU这是 AlexNet 的标志性设计——相比 SigmoidReLU 在反向传播时梯度不会快速衰减网络能训练得更深。参数说明conv1 的 padding2 一定要和 kernel_size5 匹配计算公式是 padding (kernel_size - 1) // 2这样卷积不改变特征图尺寸。池化层全部用 kernel_size3、stride2这是 AlexNet 原版的重叠池化技巧相邻池化窗口有 1 像素重叠能略微提升准确率。全连接层的 Dropout 都设在 0.5这是原版就定好的值MNIST 数据量少全连接层参数量大不加 Dropout 几乎必然过拟合。2.3 为什么全连接层输入是 2304手算特征图尺寸变化刚接触卷积神经网络的人最容易在这一步卡住。很多人直接从 GitHub 抄了模型代码跑通但一旦要改输入尺寸或者换数据集全连接层的输入维度就不知道怎么算了。这里把 28×28 走过上面 5 个卷积块的过程手算一遍以后任何网络结构都能自己推。输入 28×28经过 conv15×5 卷积 padding2尺寸不变还是 28×28然后 MaxPool k3, s2, p1输出尺寸公式是 floor((28 2*1 - 3) / 2) 1 14所以 conv1 输出 14×14。conv2 卷积后还是 14×14池化后变成 7×7。conv3 和 conv4 都只有卷积没有池化尺寸保持在 7×7。conv5 卷积后还是 7×7最后一个池化后变成 3×3。最终特征图就是 256 通道的 3×3展平后是 256×3×32304。这个计算过程建议写进实验报告里它比堆一堆训练曲线更能体现你真的理解了卷积神经网络结构。计算特征图尺寸有个通用公式输出尺寸 floor((输入尺寸 2×padding - kernel_size) / stride) 1。每次改网络结构先拿这个公式过一遍所有卷积和池化层再填全连接层的 in_features就不会在训练时报维度不匹配的错了。3. 训练脚本怎么写数据加载、超参数和训练循环3.1 MNIST 数据加载和预处理别忽视 Normalize 的数值MNIST 数据集在 PyTorch 里可以直接用 torchvision 下载不用自己找资源。但数据预处理有两个细节直接影响最终准确率一是要不要做数据增强二是 Normalize 的均值和标准差用什么值。很多入门代码直接写 Normalize((0.5,), (0.5,))这样确实能跑但效果不是最优。from torchvision import datasets, transforms from torch.utils.data import DataLoader # 训练集加一点随机仿射变换当数据增强模拟手写笔迹的偏移和旋转 train_transform transforms.Compose([ transforms.RandomAffine(degrees10, translate(0.1, 0.1)), transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) # MNIST 官方均值和标准差 ]) test_transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ]) train_dataset datasets.MNIST( root./data, trainTrue, downloadTrue, transformtrain_transform ) test_dataset datasets.MNIST( root./data, trainFalse, downloadTrue, transformtest_transform ) train_loader DataLoader(train_dataset, batch_size128, shuffleTrue, num_workers2) test_loader DataLoader(test_dataset, batch_size256, shuffleFalse, num_workers2)这段代码的逻辑说明训练集加了 RandomAffine对图像做 ±10° 旋转和 ±10% 平移。MNIST 本身是规整的居中数字真实手写不可能这么正这个增强能让模型看到更多变体。测试集不做增强保持原始分布这样测试准确率才能反映模型对“干净”手写体的真实识别能力。参数说明Normalize 的均值和标准差 0.1307、0.3081 是 MNIST 全量数据的统计值网上很多代码写的 0.5 是经验值不准确。用官方统计值做标准化输入分布的均值接近 0、方差接近 1模型收敛会更快。batch_size 设 128 是因为这个网络在 CPU 上也能跑得动如果显存充足可以提到 256但小批量往往能让训练更稳。注意下载 MNIST 数据时如果网络不稳定downloadTrue 可能超时。可以先把数据集下载到本地再让代码从本地路径读取。PyTorch 的 datasets.MNIST 支持传入已有的数据目录不会重复下载。3.2 训练循环主体优化器选择与学习率策略AlexNet 原论文用的是 SGD momentum学习率从 0.01 开始训练过程中手动衰减。现在很多项目习惯用 Adam但做 MNIST 图像分类SGD momentum 的表现其实更稳尤其是在训练后期Adam 容易在最优解附近震荡。这里我给出的训练脚本按照实验报告的常见要求来组织把每个 epoch 的损失和准确率都打印出来方便记录到报告里。import torch.optim as optim device torch.device(cuda if torch.cuda.is_available() else cpu) model AlexNetMNIST(num_classes10).to(device) criterion nn.CrossEntropyLoss() # SGD momentum 是 AlexNet 原版配置momentum0.9 optimizer optim.SGD(model.parameters(), lr0.01, momentum0.9, weight_decay5e-4) # 余弦退火让学习率从 0.01 平滑降到接近 0 scheduler optim.lr_scheduler.CosineAnnealingLR(optimizer, T_max10) def train_one_epoch(model, loader, criterion, optimizer, device): model.train() total_loss, correct, total 0.0, 0, 0 for images, labels in loader: images, labels images.to(device), labels.to(device) optimizer.zero_grad() outputs model(images) loss criterion(outputs, labels) loss.backward() optimizer.step() total_loss loss.item() * images.size(0) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() avg_loss total_loss / total acc correct / total return avg_loss, acc def evaluate(model, loader, criterion, device): model.eval() total_loss, correct, total 0.0, 0, 0 with torch.no_grad(): for images, labels in loader: images, labels images.to(device), labels.to(device) outputs model(images) loss criterion(outputs, labels) total_loss loss.item() * images.size(0) _, predicted torch.max(outputs, 1) total labels.size(0) correct (predicted labels).sum().item() return total_loss / total, correct / total # 训练 10 个 epoch记录每个 epoch 的训练和测试指标 for epoch in range(10): train_loss, train_acc train_one_epoch( model, train_loader, criterion, optimizer, device ) test_loss, test_acc evaluate(model, test_loader, criterion, device) scheduler.step() # 更新学习率 print(fEpoch {epoch1:02d} | Train Loss {train_loss:.4f} | fTrain Acc {train_acc:.4f} | Test Loss {test_loss:.4f} | fTest Acc {test_acc:.4f})这段代码的逻辑说明训练和评估分成了两个独立函数训练函数里 model.train() 会启用 Dropout评估函数里 model.eval() 会关闭 Dropout这个细节写错会导致测试准确率忽高忽低。评估时用 torch.no_grad() 关闭梯度计算能省不少内存同时也避免误操作触发反向传播。参数说明weight_decay5e-4 是 L2 正则化对全连接层尤其重要因为全连接层参数量占整个网络的大头不约束就过拟合。CosineAnnealingLR 把学习率在 10 个 epoch 内从初始值平滑衰减到接近 0比手动分段衰减省事。T_max 可以理解为“半个周期长度”设置成总 epoch 数时学习率恰好跑完一个完整余弦周期。3.3 训练多少轮、怎么判断收敛MNIST 上的预期曲线MNIST 属于简单任务改造后的 AlexNet 收敛速度比想象中快得多。我一般跑 10 到 15 个 epoch在 CPU 上每个 epoch 大约 1 到 2 分钟GPU 上几十秒。正常情况下第一个 epoch 结束测试准确率就能到 95% 以上5 个 epoch 后超过 98%10 个 epoch 后稳定在 99.2% 到 99.5% 之间。如果训练了好几轮准确率还停留在 90% 以下先不要调网络结构检查三个地方第一Normalize 是不是写错了——默认的 (0.5, 0.5) 也能用但 (0.1307, 0.3081) 效果更好前提是别把 mean、std 的顺序颠倒了第二学习率是不是太大——SGD 下 lr0.1 在这个网络上很容易发散0.01 是稳妥起点第三模型有没有正确切到 device——数据在 GPU 上模型却在 CPU虽然不报错但训练速度慢到让人误以为模型不收敛。训练过程中建议把每个 epoch 的训练损失、测试准确率都记下来存成 CSV 或者直接画折线图。实验报告里放一张“训练损失下降曲线”加一张“测试准确率上升曲线”比放十段文字都有说服力。如果训练 loss 持续下降但测试准确率上不去就是过拟合了优先降低全连接层维度或者增大 Dropout 概率。4. 把实验报告写出深度从源码到可答辩的完整文档4.1 报告的章节骨架照着这个目录组织就能过审实验报告是这个项目里和源码同等重要的资产。一般老师或评委看一份卷积神经网络实验报告关注的无非是四件事问题定义是否清晰、方法原理是否吃透、实验结果是否可信、结论是否诚实。下面的章节骨架是我在课程设计和毕业设计里反复用过的结构直接套就行。首先是引言部分写清楚要解决什么问题——对 MNIST 手写数字进行高准确率分类为什么选 AlexNet——因为它作为经典卷积神经网络包含了现代 CNN 的基本组件适合学习和对比。然后是数据说明描述 MNIST 数据集规模60000 张训练图、10000 张测试图28×28 灰度图10 个类别这些数字写准了就体现基本功夫。核心章节是网络结构设计放改造后的 AlexNet 结构图外加参数表标明每层输入输出尺寸、参数量。这里如果能画一张特征图尺寸变化表28×28 → 14×14 → 7×7 → 3×3整个报告的档次立刻不一样。接着是实验设置写清楚硬件环境、PyTorch 版本、优化器参数、batch size、epoch 数、数据增强策略这些直接复试就能复现。实验结果章节包括最终准确率、损失曲线、准确率曲线、以及随机抽取的预测结果可视化图。最后是分析讨论对比不同超参数下的结果比如去掉 Dropout 后准确率跌了多少、增大数据增强强度后有没有过拟合等这部分是拉分的。结论简短一二百字讲清工作和改进方向即可。4.2 实验结果图怎么写代码生成不必手动截图报告里的准确率曲线和预测可视化图不需要手工绘制用 matplotlib 写一段脚本就能批量生成。下面这段代码在训练完后运行会生成两个图左边是训练和测试准确率随 epoch 的变化右边是 8 张测试图像及其预测结果预测错的会标红。import matplotlib.pyplot as plt import numpy as np # 训练时记录下来的历史数据格式为 [(train_acc, test_acc), ...] history [(0.972, 0.985), (0.985, 0.989), (0.991, 0.993)] # 示例数据 # 图1准确率曲线 epochs range(1, len(history) 1) train_accs [h[0] for h in history] test_accs [h[1] for h in history] plt.figure(figsize(10, 4)) plt.subplot(1, 2, 1) plt.plot(epochs, train_accs, o-, labelTrain Accuracy) plt.plot(epochs, test_accs, s-, labelTest Accuracy) plt.xlabel(Epoch) plt.ylabel(Accuracy) plt.title(Training and Test Accuracy) plt.legend() plt.grid(True) # 图2测试集预测可视化 model.eval() images, labels next(iter(test_loader)) images, labels images.to(device), labels.to(device) with torch.no_grad(): outputs model(images) _, preds torch.max(outputs, 1) images_np images.cpu().numpy() plt.subplot(1, 2, 2) for i in range(8): plt.subplot(2, 4, i 1) img images_np[i].squeeze() # 去掉通道维度 # 反 Normalize 还原到 0~1 灰度范围 img img * 0.3081 0.1307 plt.imshow(img, cmapgray) color green if preds[i].item() labels[i].item() else red plt.title(fPred: {preds[i].item()} True: {labels[i].item()}, colorcolor) plt.axis(off) plt.tight_layout() plt.savefig(mnist_result.png, dpi150)这段代码的逻辑说明准确率曲线直接取训练过程中记录的历史列表这里只是演示数据真正使用时把 3.2 节训练循环里打印的数值收集到一个列表里即可。预测可视化从 test_loader 里取一个 batch 的 8 张图用训练好的模型预测然后按照预测对错给标题上不同的颜色一眼就能看出模型错在哪类数字上。参数说明反 Normalize 的运算是 img img × std mean这里用的是之前 Normalize 的数值 (0.1307, 0.3081)顺序不能反。如果 Normalize 参数不是这两个值这里也要同步替换。cmapgray 是必须的否则 matplotlib 会用默认的彩色 colormap 渲染灰度图看起来完全是另一回事。dpi150 足够论文插图使用。4.3 报告里最容易出现的三个问题答辩也爱问实验报告写得再漂亮如果出现以下三个问题评委会直接质疑实验的真实性。第一个是 OpenCV 读取 MNIST 图片的格式错误——MNIST 原文件是 IDX 格式不是 PNG有些同学用 OpenCV 的 imread 去读导致图像全黑或维度错误建议直接用 torchvision 的 datasets.MNIST 加载避免手写解析逻辑。第二个是训练集和测试集用同一种数据增强。RandomAffine 等增强手段只能用在训练集测试集必须保持原始数据否则测试准确率会被“增强后更容易识别”的假象抬高报告里的数字没有意义。写报告时要在实验设置里明确说明这一点。第三个是随机种子不一致导致结果无法复现。PyTorch 默认是随机初始化的同一套代码跑两次结果可能差零点几个百分点。在代码开头设置随机种子可以保证每次跑出来的曲线几乎一致实验报告的数据才有可复现性。def set_seed(seed42): import random random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark False set_seed(42)这段代码的逻辑说明cudnn.deterministicTrue 会让卷积操作使用确定性算法虽然牺牲了一点速度但保证每次训练结果完全一致。benchmarkFalse 防止 cuDNN 在运行时自动选择不同的卷积算法否则即使设了随机种子卷积层的执行方式也可能不同。把 set_seed(42) 放在导入依赖之后、构建模型之前执行后面的训练就全程可复现了。5. 避坑指南手写数字识别项目里最常见的 5 个翻车现场5.1 现象训练 loss 不降反升准确率在 10% 附近徘徊原因学习率过大SGD 在 loss 曲面上的步长越过最优点导致发散。初学者容易把 lr 设成 0.1 甚至 0.5在 MNIST 这种小数据集上很容易让模型彻底崩掉。另一个相似原因是权重初始化不当PyTorch 默认初始化对 AlexNet 这类结构是够用的但如果你手动用了 nn.init.normal_ 且 std 设得过大同样会导致梯度爆炸。解决先看打印的 loss 数值——如果第一个 batch 的 loss 超过 10 并且持续涨立刻把学习率降到 0.001 重新跑。把优化器改成 optimizer optim.SGD(model.parameters(), lr0.001, momentum0.9) 再观察两个 epoch正常情况第一个 epoch 结束后 loss 应该明显下降。还有一种玄学情况是 CPU 训练时 num_workers 设得过大导致数据加载卡死看起来像模型不收敛实际是 DataLoader 在空转。5.2 现象训练准确率 99%测试准确率却只有 91%原因典型过拟合。全连接层的参数量占了整个模型的绝大多数而 MNIST 训练集虽然有几万张图但数字形态简单模型很容易死记硬背训练集的特征。Dropout 概率设太低或者干脆忘了加以及数据增强太弱都会加剧这个问题。解决把 classifier 里的 Dropout 从 0.3 提到 0.5这是 AlexNet 原版就验证过的值。同时增强 RandomAffine 的旋转角度从 degrees10 提高到 degrees15 试试。还有一个隐形因素是训练跑太多轮——MNIST 上这个模型 10 个 epoch 足够跑到 30 个 epoch 测试准确率反而会往下掉及时早停。5.3 现象GPU 环境下显存不足batch_size 调到 16 还是炸原因如果直接用原版 AlexNet 的 11×11 大卷积核和 4096 维全连接层去跑 MNIST虽然输入是 28×28但全连接层参数量依然庞大中间激活值的显存占用非常大。很多人不改造网络结构直接跑就会遇到这个问题。解决全连接层的维度压缩到 512→256参数量降了一个数量级MNIST 这种简单任务完全够用。显存还不足就把 batch_size 降到 64或者把 conv1 的输出通道从 64 降到 32——但注意整个网络的通道数最好按比例缩放不要只改一层。实际上我的经验是改造后的 AlexNet 在显存 2GB 的旧显卡上跑 batch_size128 毫无压力压力大说明结构没改到位。5.4 现象测试时准确率忽高忽低每次结果差 1% 到 2%原因没有设置随机种子且模型没有调用 model.eval()。前者让每次权重初始化不同、数据打乱顺序不同后者让 Dropout 在推理时依然生效等于每次预测都随机“丢”了一部分神经元结果自然不稳定。解决在训练前调用 set_seed(42)确保所有随机源一致。在测试代码里先写 model.eval()让 BatchNorm 和 Dropout 都切换到推理模式。验证一个小技巧连续测试三次如果三次准确率波动超过 0.5%那大概率是 eval 模式没有正确开启。5.5 现象加载本地 MNIST 数据时报错提示文件损坏或格式不对原因torchvision 的 datasets.MNIST 如果下载中断会留下残缺的 .gz 文件再次运行时它不重新下载而是直接读残缺文件报错信息指向文件格式不对。这种情况在校园网环境下特别常见。解决直接删掉 ./data 目录下的 MNIST 子目录重新运行让它完整下载。或者在本地下载好四个 .gz 文件train-images-idx3-ubyte.gz、train-labels-idx1-ubyte.gz、t10k-images-idx3-ubyte.gz、t10k-labels-idx1-ubyte.gz放进 datasets.MNIST 对应的 root 目录下代码会自动识别。下完之后永远不要再动那些文件养成习惯。6. 再进一步把识别准确率从 99% 推到 99.7% 的三种做法MNIST 上 99% 以上的准确率看起来已经不错但如果你想在实验报告里加一个“模型优化与对比”章节或者纯粹想检验自己对卷积神经网络的理解是不是到位下面的三种做法值得折腾一遍。它们不是玄学调参而是有明确原理支撑的优化方向。第一种是换用更大的卷积核。AlexNet 改造版的第一层用了 5×5我试过改回 7×7stride 保持 1padding 设 3准确率能提升 0.1% 到 0.2%——代价是训练时间变长。原因也简单更大的感受野能让第一层捕获更多数字的全局轮廓信息这对 MNIST 这种笔画简单的图是有帮助的。你会因此重新手算一遍全连接层的输入维度值得做。第二种是加深而不加宽即在 conv3 和 conv4 之间插入一个额外的 3×3 卷积层。这样网络从 5 层卷积变 6 层但每层通道数保持不变。加深能让网络提取更抽象的特征但不显著增加参数量对小数据集很友好。我跑过一个 6 层版本epoch 数不变准确率到了 99.5% 左右。注意加了卷积层之后特征图尺寸计算要重新推一遍最后一个池化层的输出如果还是 3×3全连接层就不需要改。第三种是集成学习实现的代价最低但收益最稳定。训练三个不同随机种子的模型预测时对三个模型的输出做 softmax 概率平均选概率最大的类别。我在 MNIST 上做过三个模型集成的准确率基本稳定在 99.6% 以上比单个最优模型的 99.3% 高一大截。原理上是因为不同随机种子下模型的错误分布不一样平均概率能把单独的错误互相抵消。这个做法写进实验报告能展示你对模型不确定性有实际理解。验证这些优化有没有用的方法很简单在相同的测试集上跑完整评估记住三个数字——参数总量、单次前向推理耗时、最终准确率。画一个散点图或者表格放到报告里比单独列一堆准确率更能说明问题。我自己做项目时的习惯是每个改动先跑 5 个 epoch 看趋势趋势对了再跑满完整训练这样不会在没前途的改动上浪费半天时间。希望这些经验帮你在自己的实验里少走几步弯路。本文还有配套的精品资源点击获取