尧图网站建设 
简介这份资源面向计算机相关专业的毕业设计与期末大作业场景提供一套基于Python的CNN卷积神经网络手写数字识别完整项目适合具备一定Python基础、希望快速完成课程设计或入门深度学习实战的学生与开发者。压缩包共26个文件约31.64MB包含5个py源码文件、6个docx实验报告与需求分析文档、若干png与jpg效果图、md说明及数据集压缩包覆盖从模型训练到界面登录的完整流程。项目基于Python 3.9.7与Jupyter环境依赖TensorFlow、NumPy、Matplotlib和OpenCV围绕MNIST等数据集展开图像预处理、模型搭建与识别验证。读者可获得可直接运行的训练与识别代码、配套数据集、系统设计文档、测试用例及需求规格说明书便于对照复现实验、撰写报告并理解CNN在手写数字识别中的落地思路。目前已有68人学习下载。1. 从一份毕业设计说起CNN 手写数字识别到底在做什么很多同学拿到「基于 Python 实现的 CNN 卷积神经网络手写数字识别」这个题目时第一反应是去搜现成源码跑通就交差。但真正答辩时被问到「卷积核为什么是 5×5 而不是 3×3」「池化层到底丢掉了什么信息」「为什么你的准确率卡在 98% 上不去」往往答不上来。这个项目的核心其实就三件事用 Python 搭一个卷积神经网络在 MNIST 数据集上训练它识别 0 到 9 的手写数字最后把实验过程和分析写成报告。它适合两类人一是需要完成毕业设计或期末大作业的学生二是想通过一个完整项目入门深度学习 CNN 的开发者。MNIST 虽然被称为深度学习的「Hello World」但要把准确率从 95% 推到 99% 以上并且说清楚每一步为什么这么做里面有不少值得抠的细节。下面我按实际做项目的顺序把数据准备、模型搭建、训练调参、结果分析和踩坑排查完整走一遍。2. 数据准备与预处理MNIST 加载、归一化和增强的取舍2.1 MNIST 数据集的加载方式与格式转换MNIST 原始数据是 IDX 格式的二进制文件直接读取需要解析文件头。常见做法是用框架自带的数据集接口加载省去手动解析的麻烦。以 PyTorch 为例torchvision.datasets.MNIST会自动下载并缓存数据返回的是 PIL Image 对象需要配合ToTensor()转成张量。import torch from torchvision import datasets, transforms # 定义预处理流水线转张量 归一化 transform transforms.Compose([ transforms.ToTensor(), # 将 PIL Image (28x28) 转为 Tensor值域 [0,1] transforms.Normalize((0.1307,), (0.3081,)) # MNIST 全局均值和标准差 ]) # 加载训练集和测试集 train_dataset datasets.MNIST( root./data, # 数据缓存目录 trainTrue, # 训练集 downloadTrue, # 本地没有则自动下载 transformtransform ) test_dataset datasets.MNIST( root./data, trainFalse, # 测试集 downloadTrue, transformtransform ) # 包装成 DataLoader支持批量加载和打乱 train_loader torch.utils.data.DataLoader( train_dataset, batch_size64, shuffleTrue ) test_loader torch.utils.data.DataLoader( test_dataset, batch_size1000, shuffleFalse )这段代码的关键在Normalize的两个参数0.1307 是 MNIST 训练集所有像素的均值0.3081 是标准差。这两个值不是随便写的是统计出来的。归一化之后数据分布接近标准正态梯度下降收敛更快。如果不做归一化像素值在 [0,1] 之间第一层卷积的输入分布偏移较大训练初期 loss 下降会明显更慢。batch_size设为 64 是常见起点。太小如 8会导致每个 batch 的梯度噪声大loss 震荡太大如 512虽然训练快但泛化性能可能下降而且显存占用高。测试集的 batch_size 可以设大一些因为不需要反向传播只做推理1000 是安全的。2.2 数据增强什么时候该用什么时候不该用MNIST 的数字是居中的、大小基本一致的灰度图数据增强的空间不大。常见的增强手段有随机旋转、随机平移、随机缩放。但这里有个坑如果你加了随机旋转 ±15 度数字「6」和「9」可能被转混反而拉低准确率。我一般会做两种轻量增强随机平移 ±2 像素和随机仿射变换小幅度。代码如下train_transform transforms.Compose([ transforms.RandomAffine( degrees10, # 旋转范围 ±10 度 translate(0.1, 0.1), # 水平和垂直平移 ±10% scale(0.9, 1.1) # 缩放 90%~110% ), transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ])注意RandomAffine是在 ToTensor 之前应用的因为它操作的是 PIL Image。如果你先转成 Tensor 再用torchvision.transforms.RandomAffine需要确认版本支持 Tensor 输入否则会报类型错误。增强只加在训练集上测试集必须用原始数据加同样的归一化不能加随机变换。否则每次测试的结果都不一样无法复现。提示如果你的模型在训练集上准确率 99.5%、测试集只有 98%说明过拟合了可以适当加大增强力度或加 Dropout。如果训练集和测试集都低那是欠拟合增强反而有害。3. 搭建 CNN 模型从 LeNet-5 到适合 MNIST 的现代结构3.1 LeNet-5 的结构拆解与参数计算LeNet-5 是 1998 年提出的经典卷积网络专门为手写数字识别设计。它的结构是输入 28×28 → 卷积 5×5×6 → 池化 2×2 → 卷积 5×5×16 → 池化 2×2 → 全连接 120 → 全连接 84 → 输出 10。用 PyTorch 实现如下import torch.nn as nn import torch.nn.functional as F class LeNet5(nn.Module): def __init__(self): super(LeNet5, self).__init__() # 第一层卷积输入1通道输出6通道卷积核5x5 self.conv1 nn.Conv2d(1, 6, kernel_size5, padding2) # 第二层卷积输入6通道输出16通道卷积核5x5 self.conv2 nn.Conv2d(6, 16, kernel_size5) # 全连接层 self.fc1 nn.Linear(16 * 5 * 5, 120) self.fc2 nn.Linear(120, 84) self.fc3 nn.Linear(84, 10) def forward(self, x): # 第一层卷积 - ReLU - 最大池化 x F.max_pool2d(F.relu(self.conv1(x)), 2) # 第二层卷积 - ReLU - 最大池化 x F.max_pool2d(F.relu(self.conv2(x)), 2) # 展平 x x.view(-1, 16 * 5 * 5) # 全连接层 ReLU x F.relu(self.fc1(x)) x F.relu(self.fc2(x)) # 输出层不加 softmax因为 CrossEntropyLoss 内部会做 x self.fc3(x) return x这里有几个参数需要解释。padding2是为了让 28×28 的输入经过 5×5 卷积后仍然保持 28×28公式是输出尺寸 (输入尺寸 - 卷积核 2×padding) / 步长 1。如果不加 padding输出是 24×24再池化变 12×12第二层卷积后变 8×8池化后 4×4那全连接层的输入就是 16×4×4256不是 16×5×5400。所以fc1的输入维度必须根据实际结构算清楚这是新手最容易翻车的地方。3.2 改进版 CNN加 BatchNorm 和 Dropout 的实战配置LeNet-5 在 MNIST 上能跑到 98% 左右但要上 99% 需要加深网络并加正则化。我常用的结构是两层卷积 两层全连接每层卷积后加 BatchNorm 和 ReLU全连接层加 Dropout。class ImprovedCNN(nn.Module): def __init__(self): super(ImprovedCNN, self).__init__() # 卷积块1Conv - BN - ReLU - Conv - BN - ReLU - MaxPool self.conv1 nn.Conv2d(1, 32, 3, padding1) self.bn1 nn.BatchNorm2d(32) self.conv2 nn.Conv2d(32, 32, 3, padding1) self.bn2 nn.BatchNorm2d(32) self.pool1 nn.MaxPool2d(2) # 卷积块2 self.conv3 nn.Conv2d(32, 64, 3, padding1) self.bn3 nn.BatchNorm2d(64) self.conv4 nn.Conv2d(64, 64, 3, padding1) self.bn4 nn.BatchNorm2d(64) self.pool2 nn.MaxPool2d(2) # 全连接层 self.fc1 nn.Linear(64 * 7 * 7, 128) self.dropout nn.Dropout(0.5) self.fc2 nn.Linear(128, 10) def forward(self, x): x F.relu(self.bn1(self.conv1(x))) x F.relu(self.bn2(self.conv2(x))) x self.pool1(x) # 28x28 - 14x14 x F.relu(self.bn3(self.conv3(x))) x F.relu(self.bn4(self.conv4(x))) x self.pool2(x) # 14x14 - 7x7 x x.view(-1, 64 * 7 * 7) x F.relu(self.fc1(x)) x self.dropout(x) x self.fc2(x) return x这个结构的关键改动用 3×3 小卷积核堆两层代替 5×5 大卷积核感受野相同但参数更少非线性更强。BatchNorm 放在卷积之后、ReLU 之前能加速收敛并允许更大的学习率。Dropout 只加在全连接层卷积层不加因为卷积层的参数共享本身就有正则效果。fc1的输入维度 64×7×7 是这样算的输入 28×28经过两次池化每次减半28→14→7通道数从 1→32→64所以是 64×7×7。如果你改了池化次数或卷积通道数这个维度必须重新算。注意BatchNorm 在训练和推理时的行为不同。训练时用当前 batch 的均值和方差推理时用滑动平均。所以模型训练完必须调用model.eval()再测试否则结果会偏低。4. 训练、调参与评估让准确率从 95% 到 99% 的关键操作4.1 损失函数、优化器和学习率调度MNIST 是多分类任务损失函数用交叉熵CrossEntropyLoss它内部已经包含了 softmax所以模型输出层不要再加 softmax。优化器我一般用 Adam初始学习率 1e-3配合StepLR每 10 个 epoch 衰减到 0.1 倍。import torch.optim as optim device torch.device(cuda if torch.cuda.is_available() else cpu) model ImprovedCNN().to(device) criterion nn.CrossEntropyLoss() optimizer optim.Adam(model.parameters(), lr1e-3, weight_decay1e-4) scheduler optim.lr_scheduler.StepLR(optimizer, step_size10, gamma0.1)weight_decay1e-4是 L2 正则化防止权重过大。Adam 的默认 betas 是 (0.9, 0.999)一般不用改。如果你发现训练初期 loss 爆炸先把学习率降到 1e-4 试试。训练循环的标准写法def train(model, device, train_loader, optimizer, epoch): model.train() for batch_idx, (data, target) in enumerate(train_loader): data, target data.to(device), target.to(device) optimizer.zero_grad() output model(data) loss criterion(output, target) loss.backward() optimizer.step() if batch_idx % 100 0: print(fEpoch {epoch} [{batch_idx * len(data)}/{len(train_loader.dataset)}] f Loss: {loss.item():.6f}) def test(model, device, test_loader): model.eval() test_loss 0 correct 0 with torch.no_grad(): for data, target in test_loader: data, target data.to(device), target.to(device) output model(data) test_loss criterion(output, target).item() pred output.argmax(dim1, keepdimTrue) correct pred.eq(target.view_as(pred)).sum().item() test_loss / len(test_loader) acc 100. * correct / len(test_loader.dataset) print(fTest Loss: {test_loss:.4f}, Accuracy: {acc:.2f}%) return accmodel.train()和model.eval()必须成对出现前者启用 BatchNorm 的 batch 统计和 Dropout后者关闭。torch.no_grad()在测试时禁用梯度计算省显存也加速。4.2 训练过程监控与早停策略训练时重点看两个指标训练 loss 和测试准确率。如果训练 loss 持续下降但测试准确率停滞甚至下降说明过拟合可以提前停止或加大 Dropout。如果训练 loss 震荡不降检查学习率是否太大或数据归一化是否做错。我一般设 20 个 epoch每 5 个 epoch 记录一次测试准确率。如果连续 5 个 epoch 测试准确率没有提升就停。MNIST 上这个模型通常 10 个 epoch 内能到 99.2% 以上。best_acc 0 patience 5 counter 0 for epoch in range(1, 21): train(model, device, train_loader, optimizer, epoch) acc test(model, device, test_loader) scheduler.step() if acc best_acc: best_acc acc torch.save(model.state_dict(), best_model.pth) counter 0 else: counter 1 if counter patience: print(fEarly stopping at epoch {epoch}) break保存模型用state_dict()而不是整个模型对象这样加载时更灵活也不依赖原始类定义的位置。4.3 混淆矩阵与错误样本分析准确率到 99% 以后剩下的 1% 错在哪里值得看。用混淆矩阵找出哪些数字容易被混淆。from sklearn.metrics import confusion_matrix import seaborn as sns import matplotlib.pyplot as plt model.eval() all_preds [] all_targets [] with torch.no_grad(): for data, target in test_loader: data, target data.to(device), target.to(device) output model(data) preds output.argmax(dim1) all_preds.extend(preds.cpu().numpy()) all_targets.extend(target.cpu().numpy()) cm confusion_matrix(all_targets, all_preds) plt.figure(figsize(10, 8)) sns.heatmap(cm, annotTrue, fmtd, cmapBlues) plt.xlabel(Predicted) plt.ylabel(True) plt.savefig(confusion_matrix.png)常见混淆对是 4 和 9、3 和 5、7 和 1。如果某一对特别高可以针对性做数据增强比如对 4 和 9 加更多旋转样本。提示测试集准确率 99.2% 和 99.5% 的差别在答辩时可能被追问。99.5% 以上通常需要集成多个模型或更深的网络但收益递减。毕业设计做到 99.2% 并分析清楚错误原因比硬堆到 99.6% 更有说服力。5. 避坑与排查手写数字识别项目里最容易翻车的 5 个地方5.1 现象训练 loss 不下降准确率停在 10% 左右原因最常见的是标签和输出维度不匹配或者数据没有归一化。MNIST 标签是 0-9 的整数CrossEntropyLoss要求输出是 10 维 logits标签是torch.long类型。如果标签是 one-hot 编码loss 会算错。解决检查target的 dtype 和 shape。用print(target[:10])确认是整数不是向量。另外确认Normalize的参数是 MNIST 的均值和标准差不是 ImageNet 的。5.2 现象测试准确率比训练准确率还高原因训练时用了 Dropout 和 BatchNorm测试时忘了调model.eval()。训练模式下 Dropout 随机丢弃神经元BatchNorm 用 batch 统计测试模式下两者行为不同。如果测试时还在训练模式Dropout 会引入随机性BatchNorm 的统计也不对。解决测试前必须model.eval()训练前model.train()。这是血泪经验我见过不止一个同学在这里卡了半天。5.3 现象显存溢出报 CUDA out of memory原因batch_size 太大或者测试时没有用torch.no_grad()导致计算图一直累积。解决先把 batch_size 降到 32 或 16。测试循环包在with torch.no_grad():里。如果还不行用torch.cuda.empty_cache()清缓存或者把模型移到 CPU 上跑小批量调试。5.4 现象加载保存的模型后准确率暴跌原因保存的是整个模型对象加载时类定义变了或者设备不匹配。或者保存时用了torch.save(model, model.pth)加载时torch.load(model.pth)依赖原始类路径。解决统一用state_dict保存和加载。加载时先实例化模型结构再model.load_state_dict(torch.load(best_model.pth, map_locationdevice))。map_location在 CPU 和 GPU 之间迁移时特别有用。5.5 现象数据增强后准确率反而下降原因增强力度太大把数字的语义改变了。比如随机旋转 ±30 度数字 6 和 9 可能互换随机裁剪太多数字被切掉一部分。解决增强参数从小开始试。旋转不超过 ±10 度平移不超过 10%缩放 0.9 到 1.1。如果加了增强后训练集准确率下降说明增强太强模型学不到有效特征。6. 实验报告怎么写才不被导师挑刺从准确率曲线到结论的完整链条实验报告不是把代码贴一遍而是要把「为什么这么做、结果说明什么」讲清楚。我一般按这个结构写数据集介绍与预处理理由、模型结构设计与参数计算、训练配置与调参过程、结果对比与分析、结论与改进方向。结果部分至少放三张图训练 loss 曲线、测试准确率曲线、混淆矩阵。loss 曲线用 matplotlib 画横轴 epoch纵轴 loss训练和测试各一条。如果两条曲线分叉说明过拟合如果都平说明欠拟合。import matplotlib.pyplot as plt # 假设 train_losses 和 test_accs 是训练过程中记录的列表 plt.figure(figsize(12, 4)) plt.subplot(1, 2, 1) plt.plot(train_losses, labelTrain Loss) plt.xlabel(Epoch) plt.ylabel(Loss) plt.legend() plt.subplot(1, 2, 2) plt.plot(test_accs, labelTest Accuracy) plt.xlabel(Epoch) plt.ylabel(Accuracy (%)) plt.legend() plt.savefig(training_curve.png)对比实验是加分项。比如跑一组不加 BatchNorm 的、一组不加 Dropout 的、一组用 LeNet-5 的把准确率列成表格。这样导师能看到你做了控制变量不是随便跑了一个模型。模型配置测试准确率训练时间/epochLeNet-598.5%8sBatchNorm99.0%9sDropout99.1%9s两者99.3%10s表格里的数据要真实跑出来不要编。训练时间取决于硬件CPU 和 GPU 差别很大标注清楚你的设备。最后结论部分写三句话这个模型在 MNIST 上达到了多少准确率哪些数字最容易错下一步可以尝试什么比如换成 CNNRNN 的 CRNN 结构做不定长数字串识别。不要写「综上所述」之类的套话直接说结果。我自己的习惯是每次跑完实验先把原始输出和图表存到一个以日期命名的文件夹里报告里的每个数字都能追溯到那次运行。这样导师问「这个 99.3% 是哪次跑的」你能立刻翻出来。希望帮到你。本文还有配套的精品资源点击获取 基于Python的CNN手写数字识别：从MNIST到99%准确率的实战指南
简介这份资源面向计算机相关专业的毕业设计与期末大作业场景提供一套基于Python的CNN卷积神经网络手写数字识别完整项目适合具备一定Python基础、希望快速完成课程设计或入门深度学习实战的学生与开发者。压缩包共26个文件约31.64MB包含5个py源码文件、6个docx实验报告与需求分析文档、若干png与jpg效果图、md说明及数据集压缩包覆盖从模型训练到界面登录的完整流程。项目基于Python 3.9.7与Jupyter环境依赖TensorFlow、NumPy、Matplotlib和OpenCV围绕MNIST等数据集展开图像预处理、模型搭建与识别验证。读者可获得可直接运行的训练与识别代码、配套数据集、系统设计文档、测试用例及需求规格说明书便于对照复现实验、撰写报告并理解CNN在手写数字识别中的落地思路。目前已有68人学习下载。1. 从一份毕业设计说起CNN 手写数字识别到底在做什么很多同学拿到「基于 Python 实现的 CNN 卷积神经网络手写数字识别」这个题目时第一反应是去搜现成源码跑通就交差。但真正答辩时被问到「卷积核为什么是 5×5 而不是 3×3」「池化层到底丢掉了什么信息」「为什么你的准确率卡在 98% 上不去」往往答不上来。这个项目的核心其实就三件事用 Python 搭一个卷积神经网络在 MNIST 数据集上训练它识别 0 到 9 的手写数字最后把实验过程和分析写成报告。它适合两类人一是需要完成毕业设计或期末大作业的学生二是想通过一个完整项目入门深度学习 CNN 的开发者。MNIST 虽然被称为深度学习的「Hello World」但要把准确率从 95% 推到 99% 以上并且说清楚每一步为什么这么做里面有不少值得抠的细节。下面我按实际做项目的顺序把数据准备、模型搭建、训练调参、结果分析和踩坑排查完整走一遍。2. 数据准备与预处理MNIST 加载、归一化和增强的取舍2.1 MNIST 数据集的加载方式与格式转换MNIST 原始数据是 IDX 格式的二进制文件直接读取需要解析文件头。常见做法是用框架自带的数据集接口加载省去手动解析的麻烦。以 PyTorch 为例torchvision.datasets.MNIST会自动下载并缓存数据返回的是 PIL Image 对象需要配合ToTensor()转成张量。import torch from torchvision import datasets, transforms # 定义预处理流水线转张量 归一化 transform transforms.Compose([ transforms.ToTensor(), # 将 PIL Image (28x28) 转为 Tensor值域 [0,1] transforms.Normalize((0.1307,), (0.3081,)) # MNIST 全局均值和标准差 ]) # 加载训练集和测试集 train_dataset datasets.MNIST( root./data, # 数据缓存目录 trainTrue, # 训练集 downloadTrue, # 本地没有则自动下载 transformtransform ) test_dataset datasets.MNIST( root./data, trainFalse, # 测试集 downloadTrue, transformtransform ) # 包装成 DataLoader支持批量加载和打乱 train_loader torch.utils.data.DataLoader( train_dataset, batch_size64, shuffleTrue ) test_loader torch.utils.data.DataLoader( test_dataset, batch_size1000, shuffleFalse )这段代码的关键在Normalize的两个参数0.1307 是 MNIST 训练集所有像素的均值0.3081 是标准差。这两个值不是随便写的是统计出来的。归一化之后数据分布接近标准正态梯度下降收敛更快。如果不做归一化像素值在 [0,1] 之间第一层卷积的输入分布偏移较大训练初期 loss 下降会明显更慢。batch_size设为 64 是常见起点。太小如 8会导致每个 batch 的梯度噪声大loss 震荡太大如 512虽然训练快但泛化性能可能下降而且显存占用高。测试集的 batch_size 可以设大一些因为不需要反向传播只做推理1000 是安全的。2.2 数据增强什么时候该用什么时候不该用MNIST 的数字是居中的、大小基本一致的灰度图数据增强的空间不大。常见的增强手段有随机旋转、随机平移、随机缩放。但这里有个坑如果你加了随机旋转 ±15 度数字「6」和「9」可能被转混反而拉低准确率。我一般会做两种轻量增强随机平移 ±2 像素和随机仿射变换小幅度。代码如下train_transform transforms.Compose([ transforms.RandomAffine( degrees10, # 旋转范围 ±10 度 translate(0.1, 0.1), # 水平和垂直平移 ±10% scale(0.9, 1.1) # 缩放 90%~110% ), transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ])注意RandomAffine是在 ToTensor 之前应用的因为它操作的是 PIL Image。如果你先转成 Tensor 再用torchvision.transforms.RandomAffine需要确认版本支持 Tensor 输入否则会报类型错误。增强只加在训练集上测试集必须用原始数据加同样的归一化不能加随机变换。否则每次测试的结果都不一样无法复现。提示如果你的模型在训练集上准确率 99.5%、测试集只有 98%说明过拟合了可以适当加大增强力度或加 Dropout。如果训练集和测试集都低那是欠拟合增强反而有害。3. 搭建 CNN 模型从 LeNet-5 到适合 MNIST 的现代结构3.1 LeNet-5 的结构拆解与参数计算LeNet-5 是 1998 年提出的经典卷积网络专门为手写数字识别设计。它的结构是输入 28×28 → 卷积 5×5×6 → 池化 2×2 → 卷积 5×5×16 → 池化 2×2 → 全连接 120 → 全连接 84 → 输出 10。用 PyTorch 实现如下import torch.nn as nn import torch.nn.functional as F class LeNet5(nn.Module): def __init__(self): super(LeNet5, self).__init__() # 第一层卷积输入1通道输出6通道卷积核5x5 self.conv1 nn.Conv2d(1, 6, kernel_size5, padding2) # 第二层卷积输入6通道输出16通道卷积核5x5 self.conv2 nn.Conv2d(6, 16, kernel_size5) # 全连接层 self.fc1 nn.Linear(16 * 5 * 5, 120) self.fc2 nn.Linear(120, 84) self.fc3 nn.Linear(84, 10) def forward(self, x): # 第一层卷积 - ReLU - 最大池化 x F.max_pool2d(F.relu(self.conv1(x)), 2) # 第二层卷积 - ReLU - 最大池化 x F.max_pool2d(F.relu(self.conv2(x)), 2) # 展平 x x.view(-1, 16 * 5 * 5) # 全连接层 ReLU x F.relu(self.fc1(x)) x F.relu(self.fc2(x)) # 输出层不加 softmax因为 CrossEntropyLoss 内部会做 x self.fc3(x) return x这里有几个参数需要解释。padding2是为了让 28×28 的输入经过 5×5 卷积后仍然保持 28×28公式是输出尺寸 (输入尺寸 - 卷积核 2×padding) / 步长 1。如果不加 padding输出是 24×24再池化变 12×12第二层卷积后变 8×8池化后 4×4那全连接层的输入就是 16×4×4256不是 16×5×5400。所以fc1的输入维度必须根据实际结构算清楚这是新手最容易翻车的地方。3.2 改进版 CNN加 BatchNorm 和 Dropout 的实战配置LeNet-5 在 MNIST 上能跑到 98% 左右但要上 99% 需要加深网络并加正则化。我常用的结构是两层卷积 两层全连接每层卷积后加 BatchNorm 和 ReLU全连接层加 Dropout。class ImprovedCNN(nn.Module): def __init__(self): super(ImprovedCNN, self).__init__() # 卷积块1Conv - BN - ReLU - Conv - BN - ReLU - MaxPool self.conv1 nn.Conv2d(1, 32, 3, padding1) self.bn1 nn.BatchNorm2d(32) self.conv2 nn.Conv2d(32, 32, 3, padding1) self.bn2 nn.BatchNorm2d(32) self.pool1 nn.MaxPool2d(2) # 卷积块2 self.conv3 nn.Conv2d(32, 64, 3, padding1) self.bn3 nn.BatchNorm2d(64) self.conv4 nn.Conv2d(64, 64, 3, padding1) self.bn4 nn.BatchNorm2d(64) self.pool2 nn.MaxPool2d(2) # 全连接层 self.fc1 nn.Linear(64 * 7 * 7, 128) self.dropout nn.Dropout(0.5) self.fc2 nn.Linear(128, 10) def forward(self, x): x F.relu(self.bn1(self.conv1(x))) x F.relu(self.bn2(self.conv2(x))) x self.pool1(x) # 28x28 - 14x14 x F.relu(self.bn3(self.conv3(x))) x F.relu(self.bn4(self.conv4(x))) x self.pool2(x) # 14x14 - 7x7 x x.view(-1, 64 * 7 * 7) x F.relu(self.fc1(x)) x self.dropout(x) x self.fc2(x) return x这个结构的关键改动用 3×3 小卷积核堆两层代替 5×5 大卷积核感受野相同但参数更少非线性更强。BatchNorm 放在卷积之后、ReLU 之前能加速收敛并允许更大的学习率。Dropout 只加在全连接层卷积层不加因为卷积层的参数共享本身就有正则效果。fc1的输入维度 64×7×7 是这样算的输入 28×28经过两次池化每次减半28→14→7通道数从 1→32→64所以是 64×7×7。如果你改了池化次数或卷积通道数这个维度必须重新算。注意BatchNorm 在训练和推理时的行为不同。训练时用当前 batch 的均值和方差推理时用滑动平均。所以模型训练完必须调用model.eval()再测试否则结果会偏低。4. 训练、调参与评估让准确率从 95% 到 99% 的关键操作4.1 损失函数、优化器和学习率调度MNIST 是多分类任务损失函数用交叉熵CrossEntropyLoss它内部已经包含了 softmax所以模型输出层不要再加 softmax。优化器我一般用 Adam初始学习率 1e-3配合StepLR每 10 个 epoch 衰减到 0.1 倍。import torch.optim as optim device torch.device(cuda if torch.cuda.is_available() else cpu) model ImprovedCNN().to(device) criterion nn.CrossEntropyLoss() optimizer optim.Adam(model.parameters(), lr1e-3, weight_decay1e-4) scheduler optim.lr_scheduler.StepLR(optimizer, step_size10, gamma0.1)weight_decay1e-4是 L2 正则化防止权重过大。Adam 的默认 betas 是 (0.9, 0.999)一般不用改。如果你发现训练初期 loss 爆炸先把学习率降到 1e-4 试试。训练循环的标准写法def train(model, device, train_loader, optimizer, epoch): model.train() for batch_idx, (data, target) in enumerate(train_loader): data, target data.to(device), target.to(device) optimizer.zero_grad() output model(data) loss criterion(output, target) loss.backward() optimizer.step() if batch_idx % 100 0: print(fEpoch {epoch} [{batch_idx * len(data)}/{len(train_loader.dataset)}] f Loss: {loss.item():.6f}) def test(model, device, test_loader): model.eval() test_loss 0 correct 0 with torch.no_grad(): for data, target in test_loader: data, target data.to(device), target.to(device) output model(data) test_loss criterion(output, target).item() pred output.argmax(dim1, keepdimTrue) correct pred.eq(target.view_as(pred)).sum().item() test_loss / len(test_loader) acc 100. * correct / len(test_loader.dataset) print(fTest Loss: {test_loss:.4f}, Accuracy: {acc:.2f}%) return accmodel.train()和model.eval()必须成对出现前者启用 BatchNorm 的 batch 统计和 Dropout后者关闭。torch.no_grad()在测试时禁用梯度计算省显存也加速。4.2 训练过程监控与早停策略训练时重点看两个指标训练 loss 和测试准确率。如果训练 loss 持续下降但测试准确率停滞甚至下降说明过拟合可以提前停止或加大 Dropout。如果训练 loss 震荡不降检查学习率是否太大或数据归一化是否做错。我一般设 20 个 epoch每 5 个 epoch 记录一次测试准确率。如果连续 5 个 epoch 测试准确率没有提升就停。MNIST 上这个模型通常 10 个 epoch 内能到 99.2% 以上。best_acc 0 patience 5 counter 0 for epoch in range(1, 21): train(model, device, train_loader, optimizer, epoch) acc test(model, device, test_loader) scheduler.step() if acc best_acc: best_acc acc torch.save(model.state_dict(), best_model.pth) counter 0 else: counter 1 if counter patience: print(fEarly stopping at epoch {epoch}) break保存模型用state_dict()而不是整个模型对象这样加载时更灵活也不依赖原始类定义的位置。4.3 混淆矩阵与错误样本分析准确率到 99% 以后剩下的 1% 错在哪里值得看。用混淆矩阵找出哪些数字容易被混淆。from sklearn.metrics import confusion_matrix import seaborn as sns import matplotlib.pyplot as plt model.eval() all_preds [] all_targets [] with torch.no_grad(): for data, target in test_loader: data, target data.to(device), target.to(device) output model(data) preds output.argmax(dim1) all_preds.extend(preds.cpu().numpy()) all_targets.extend(target.cpu().numpy()) cm confusion_matrix(all_targets, all_preds) plt.figure(figsize(10, 8)) sns.heatmap(cm, annotTrue, fmtd, cmapBlues) plt.xlabel(Predicted) plt.ylabel(True) plt.savefig(confusion_matrix.png)常见混淆对是 4 和 9、3 和 5、7 和 1。如果某一对特别高可以针对性做数据增强比如对 4 和 9 加更多旋转样本。提示测试集准确率 99.2% 和 99.5% 的差别在答辩时可能被追问。99.5% 以上通常需要集成多个模型或更深的网络但收益递减。毕业设计做到 99.2% 并分析清楚错误原因比硬堆到 99.6% 更有说服力。5. 避坑与排查手写数字识别项目里最容易翻车的 5 个地方5.1 现象训练 loss 不下降准确率停在 10% 左右原因最常见的是标签和输出维度不匹配或者数据没有归一化。MNIST 标签是 0-9 的整数CrossEntropyLoss要求输出是 10 维 logits标签是torch.long类型。如果标签是 one-hot 编码loss 会算错。解决检查target的 dtype 和 shape。用print(target[:10])确认是整数不是向量。另外确认Normalize的参数是 MNIST 的均值和标准差不是 ImageNet 的。5.2 现象测试准确率比训练准确率还高原因训练时用了 Dropout 和 BatchNorm测试时忘了调model.eval()。训练模式下 Dropout 随机丢弃神经元BatchNorm 用 batch 统计测试模式下两者行为不同。如果测试时还在训练模式Dropout 会引入随机性BatchNorm 的统计也不对。解决测试前必须model.eval()训练前model.train()。这是血泪经验我见过不止一个同学在这里卡了半天。5.3 现象显存溢出报 CUDA out of memory原因batch_size 太大或者测试时没有用torch.no_grad()导致计算图一直累积。解决先把 batch_size 降到 32 或 16。测试循环包在with torch.no_grad():里。如果还不行用torch.cuda.empty_cache()清缓存或者把模型移到 CPU 上跑小批量调试。5.4 现象加载保存的模型后准确率暴跌原因保存的是整个模型对象加载时类定义变了或者设备不匹配。或者保存时用了torch.save(model, model.pth)加载时torch.load(model.pth)依赖原始类路径。解决统一用state_dict保存和加载。加载时先实例化模型结构再model.load_state_dict(torch.load(best_model.pth, map_locationdevice))。map_location在 CPU 和 GPU 之间迁移时特别有用。5.5 现象数据增强后准确率反而下降原因增强力度太大把数字的语义改变了。比如随机旋转 ±30 度数字 6 和 9 可能互换随机裁剪太多数字被切掉一部分。解决增强参数从小开始试。旋转不超过 ±10 度平移不超过 10%缩放 0.9 到 1.1。如果加了增强后训练集准确率下降说明增强太强模型学不到有效特征。6. 实验报告怎么写才不被导师挑刺从准确率曲线到结论的完整链条实验报告不是把代码贴一遍而是要把「为什么这么做、结果说明什么」讲清楚。我一般按这个结构写数据集介绍与预处理理由、模型结构设计与参数计算、训练配置与调参过程、结果对比与分析、结论与改进方向。结果部分至少放三张图训练 loss 曲线、测试准确率曲线、混淆矩阵。loss 曲线用 matplotlib 画横轴 epoch纵轴 loss训练和测试各一条。如果两条曲线分叉说明过拟合如果都平说明欠拟合。import matplotlib.pyplot as plt # 假设 train_losses 和 test_accs 是训练过程中记录的列表 plt.figure(figsize(12, 4)) plt.subplot(1, 2, 1) plt.plot(train_losses, labelTrain Loss) plt.xlabel(Epoch) plt.ylabel(Loss) plt.legend() plt.subplot(1, 2, 2) plt.plot(test_accs, labelTest Accuracy) plt.xlabel(Epoch) plt.ylabel(Accuracy (%)) plt.legend() plt.savefig(training_curve.png)对比实验是加分项。比如跑一组不加 BatchNorm 的、一组不加 Dropout 的、一组用 LeNet-5 的把准确率列成表格。这样导师能看到你做了控制变量不是随便跑了一个模型。模型配置测试准确率训练时间/epochLeNet-598.5%8sBatchNorm99.0%9sDropout99.1%9s两者99.3%10s表格里的数据要真实跑出来不要编。训练时间取决于硬件CPU 和 GPU 差别很大标注清楚你的设备。最后结论部分写三句话这个模型在 MNIST 上达到了多少准确率哪些数字最容易错下一步可以尝试什么比如换成 CNNRNN 的 CRNN 结构做不定长数字串识别。不要写「综上所述」之类的套话直接说结果。我自己的习惯是每次跑完实验先把原始输出和图表存到一个以日期命名的文件夹里报告里的每个数字都能追溯到那次运行。这样导师问「这个 99.3% 是哪次跑的」你能立刻翻出来。希望帮到你。本文还有配套的精品资源点击获取