尧图网站建设 
简介这份资源面向深度学习与自然语言处理方向的初学者及课程实践者围绕循环神经网络LSTM构建唐诗生成模型解决从零搭建文本生成项目的学习需求。包内共12个文件以6个Python脚本为核心涵盖数据加载、模型定义、训练与评估等完整流程另配2个txt语料与配置文本、1个h5训练权重、1张模型结构图、1份答辩PPT和1份实验报告PDF压缩包约20.18MB。实验要求以“日、红、山、夜、湖、海、月”等词作为起始词生成诗句可帮助读者理解序列建模、词向量与采样策略。答辩幻灯片与实验报告可直接用于课程展示与文档撰写训练好的权重文件便于快速复现效果。目前已有1537人学习下载适合希望掌握TensorFlow2.0下RNN实战、并需要完整项目材料的学习者参考。1. 从一份能跑通的 RNN 唐诗生成项目说起如果你正在找深度学习 NLP 的入门实战项目又不想一上来就被 Transformer 的注意力机制绕晕那这份基于 TensorFlow 2.0 的 RNN 唐诗写作资源包值得先跑一遍。它用 LSTM 搭了一个字符级语言模型训练数据是poems.txt里的全唐诗语料最终效果是给定“日、红、山、夜、湖、海、月”等开头字模型能续写出四句五言诗。资源包里除了train.py、model.py、eval.py这些核心代码还附了答辩 PPT 和实验报告对做毕设或课程设计的人来说省去了从零搭框架的时间。适合谁刚学完 RNN 原理想找个能跑通的项目练手的人或者需要一份完整 NLP 实战案例写进简历的应届生。不适合谁已经熟练用 BERT 做序列标注、想找 SOTA 方案的人——这个项目的价值在“把 RNN 的每个环节拆开给你看”不在刷榜。2. 拆开资源包文件结构与 LSTM 唐诗生成的核心逻辑2.1 每个文件在训练流程里的位置拿到压缩包解压后根目录下会看到这些文件train.py、model.py、dataset.py、settings.py、eval.py、utils.py、poems.txt、best_model.h5以及答辩用的答辩.pptx和实验报告.pdf。先别急着跑train.py花两分钟把调用关系理清楚后面调参和排错会省很多时间。settings.py是全局配置入口里面定义了学习率、batch size、embedding 维度、LSTM 隐藏层单元数、训练轮数这些超参数。dataset.py负责读poems.txt做字符级 tokenization把每首诗切成固定长度的输入序列和对应的目标序列。model.py定义网络结构核心是一个 Embedding 层接 LSTM 层再接全连接层输出维度等于词表大小。train.py把上面几个模块串起来加载数据、构建模型、编译、训练、保存best_model.h5。eval.py加载训练好的权重接收一个开头字自回归地生成后续字符。utils.py里放的是辅助函数比如把索引转回汉字、处理 padding。提示先打开settings.py看一眼默认参数再决定要不要改。很多“跑不起来”的问题其实是 batch size 或序列长度和显存不匹配。2.2 字符级 LSTM 到底在学什么这个项目用的是字符级语言模型不是词级。什么意思词表就是poems.txt里出现过的所有不重复汉字大概几千个。每个汉字先映射成一个整数索引再通过 Embedding 层变成稠密向量。LSTM 在每个时间步接收一个字的向量更新内部状态然后输出下一个字的概率分布。为什么用 LSTM 而不是普通 RNN普通 RNN 在反向传播时梯度容易消失学不到长距离依赖。唐诗虽然短但“平仄”“押韵”“对仗”这些规律跨越整句甚至整首LSTM 的门控机制能把这些信息保留得更久。训练时用的是 teacher forcing输入序列是“床前明月光”目标序列是“前明月光疑”模型在每个位置预测下一个字损失函数是交叉熵。这里有个容易忽略的点poems.txt的预处理质量直接决定生成效果。如果语料里混入了非五言或非七言的句子模型学出来的节奏会乱。常见做法是在dataset.py里加一个过滤逻辑只保留长度为 5 或 7 的整数倍、且以标点结尾的诗句。2.3 训练脚本的关键参数与调整方向打开train.py核心训练循环大概长这样# train.py 核心训练逻辑基于 TensorFlow 2.0 import tensorflow as tf from model import PoetryModel from dataset import load_poems from settings import BATCH_SIZE, EPOCHS, LEARNING_RATE # 加载并预处理数据 dataset, vocab_size, word2idx, idx2word load_poems(poems.txt) # 构建模型 model PoetryModel(vocab_sizevocab_size, embedding_dim256, hidden_units512) optimizer tf.keras.optimizers.Adam(learning_rateLEARNING_RATE) loss_fn tf.keras.losses.SparseCategoricalCrossentropy(from_logitsTrue) # 自定义训练循环 for epoch in range(EPOCHS): for batch_x, batch_y in dataset.batch(BATCH_SIZE): with tf.GradientTape() as tape: logits model(batch_x) # 输出每个时间步的预测 loss loss_fn(batch_y, logits) grads tape.gradient(loss, model.trainable_variables) optimizer.apply_gradients(zip(grads, model.trainable_variables)) print(fEpoch {epoch1}, Loss: {loss.numpy():.4f}) model.save_weights(best_model.h5)这段代码的逻辑说明load_poems返回的是已经切分好的tf.data.Dataset每个元素是(batch_x, batch_y)对。PoetryModel继承tf.keras.Model在call方法里定义前向传播。用GradientTape手动计算梯度而不是model.fit是为了方便后续加自定义逻辑比如梯度裁剪。SparseCategoricalCrossentropy的from_logitsTrue表示模型输出没有经过 softmax损失函数内部会处理数值更稳定。参数怎么改embedding_dim从 256 提到 512 能增加模型容量但训练时间翻倍hidden_units从 512 降到 256 可以加快收敛适合显存小的机器LEARNING_RATE默认 0.001如果 loss 震荡就降到 0.0005。BATCH_SIZE建议从 64 开始试显存不够就减半。3. 从零跑通训练环境配置、数据预处理与生成验证3.1 TensorFlow 2.0 环境搭建的版本匹配问题这个项目基于 TensorFlow 2.0但 2.x 系列内部也有兼容性差异。我一般会建一个独立的 conda 环境避免和系统里的其他包冲突# 创建并激活环境 conda create -n rnn_poetry python3.7 conda activate rnn_poetry # 安装 TensorFlow 2.0 及依赖 pip install tensorflow2.0.0 pip install numpy1.18.5 pip install matplotlib # 用于绘制 loss 曲线为什么锁 Python 3.7TensorFlow 2.0 对 Python 3.8 的支持不完善容易在tf.data或tf.keras导入时报ImportError。numpy锁 1.18.5 是因为更高版本和 TF 2.0 的 ABI 不兼容会报numpy.ndarray size changed的警告甚至崩溃。如果用的是 GPU 版本还需要确认 CUDA 10.0 和 cuDNN 7.6 的匹配这个在 TensorFlow 官方文档里有对应表。注意不要直接pip install tensorflow装最新版这个项目的代码没有适配 TF 2.10 以上的 API 变动比如tf.keras.optimizers.Adam的参数名在后续版本里有调整。3.2 数据预处理把唐诗变成模型能吃的序列dataset.py里的预处理逻辑决定了模型能学到什么。核心步骤是读文件、去重、过滤非诗句、构建词表、生成训练对。# dataset.py 关键预处理步骤 import numpy as np import tensorflow as tf def load_poems(file_path): with open(file_path, r, encodingutf-8) as f: lines f.read().splitlines() # 过滤只保留五言或七言且以标点结尾 poems [] for line in lines: line line.strip() if len(line) 5: continue # 去掉标点后判断长度 content .join([c for c in line if c not in 。、]) if len(content) % 5 0 or len(content) % 7 0: poems.append(line) # 构建字符级词表 all_chars .join(poems) vocab sorted(set(all_chars)) word2idx {ch: i for i, ch in enumerate(vocab)} idx2word {i: ch for ch, i in word2idx.items()} # 生成输入-目标对输入是前 n-1 个字目标是后 n-1 个字 sequences [] for poem in poems: idx_seq [word2idx[ch] for ch in poem] sequences.append(idx_seq) # padding 到统一长度 max_len max(len(s) for s in sequences) padded tf.keras.preprocessing.sequence.pad_sequences( sequences, maxlenmax_len, paddingpost, value0 ) # 构造 dataset dataset tf.data.Dataset.from_tensor_slices((padded[:, :-1], padded[:, 1:])) dataset dataset.shuffle(10000).batch(64) return dataset, len(vocab), word2idx, idx2word逻辑说明pad_sequences的paddingpost表示在序列末尾补零value0对应词表里的 padding 索引。输入是padded[:, :-1]目标是padded[:, 1:]这样每个时间步的输入是当前字目标是下一个字。shuffle(10000)打乱顺序防止模型学到诗句的固定排列。参数说明max_len由最长诗句决定如果语料里有超长句子建议截断到 200 以内否则 LSTM 的展开步数太多显存吃不消。batch(64)的 64 是经验值可以根据 GPU 显存调整。3.3 训练过程监控与生成效果验证跑python train.py之后终端会打印每个 epoch 的 loss。正常情况下loss 会从 6 左右降到 2 以下如果降到 1 以下且不再变化可能过拟合了。我一般会在train.py里加一段保存 loss 曲线的代码# 在训练循环里记录 loss loss_history [] # ... 训练循环内部 ... loss_history.append(loss.numpy()) # 训练结束后绘制曲线 import matplotlib.pyplot as plt plt.plot(loss_history) plt.xlabel(Epoch) plt.ylabel(Loss) plt.savefig(loss_curve.png)生成验证用eval.py核心是自回归采样# eval.py 生成逻辑 import tensorflow as tf from model import PoetryModel from dataset import load_poems from settings import EMBEDDING_DIM, HIDDEN_UNITS # 加载词表和模型 _, vocab_size, word2idx, idx2word load_poems(poems.txt) model PoetryModel(vocab_size, EMBEDDING_DIM, HIDDEN_UNITS) model.load_weights(best_model.h5) def generate(start_word, length20, temperature1.0): input_idx [word2idx.get(ch, 0) for ch in start_word] generated list(start_word) for _ in range(length): input_tensor tf.expand_dims(input_idx, 0) logits model(input_tensor) # 取最后一个时间步的输出 logits logits[:, -1, :] / temperature probs tf.nn.softmax(logits).numpy()[0] next_idx np.random.choice(len(probs), pprobs) generated.append(idx2word[next_idx]) input_idx.append(next_idx) input_idx input_idx[-20:] # 保持窗口长度 return .join(generated) print(generate(日, length20))逻辑说明temperature控制生成的随机性值越小越保守越大越多样。input_idx[-20:]是滑动窗口防止输入序列无限增长。np.random.choice按概率采样而不是直接取 argmax这样生成的诗不会千篇一律。参数说明length20大概对应四句五言诗的长度。如果生成结果全是重复字把temperature降到 0.5如果生成结果不通顺把temperature升到 1.2 试试。4. 避坑与排查训练不收敛、生成乱码、显存爆炸的常见原因4.1 Loss 不下降或震荡剧烈现象训练几个 epoch 后 loss 一直在 5 到 6 之间跳动不往下走。原因通常是学习率太大或者数据预处理时词表构建有问题。先检查settings.py里的LEARNING_RATE如果大于 0.01降到 0.001 或 0.0005。再检查dataset.py里word2idx的构建如果 padding 的 0 和某个真实汉字的索引冲突模型会学到错误的映射。解决在词表里保留 0 给 padding真实汉字从 1 开始编号。4.2 生成的诗全是重复字或乱码现象输入“日”输出“日日日日日”或者一堆不相关的字。原因有两个一是训练不充分loss 还没降到 2 以下二是采样时temperature设得太低模型总是选概率最高的那个字。解决先确认训练轮数够不够至少 50 个 epoch再把temperature调到 0.8 到 1.0 之间。如果还是乱码检查eval.py里加载权重时model.load_weights是否成功有时候路径写错会静默失败。4.3 显存不足或训练中途崩溃现象跑train.py时报ResourceExhaustedError或者训练到一半进程被 kill。原因是BATCH_SIZE或max_len太大LSTM 的展开步数太多。解决把BATCH_SIZE从 64 降到 32 或 16把max_len截断到 100 以内。如果用的是 GPU在train.py开头加一行限制显存增长gpus tf.config.experimental.list_physical_devices(GPU) if gpus: for gpu in gpus: tf.config.experimental.set_memory_growth(gpu, True)4.4 加载best_model.h5时报形状不匹配现象eval.py加载权重时提示ValueError: Shapes are incompatible。原因是训练时保存的模型结构和eval.py里构建的模型结构不一致比如embedding_dim或hidden_units改了但没同步。解决确保settings.py里的参数在训练和推理时完全一致或者直接在eval.py里从settings.py导入参数不要硬编码。4.5 中文编码问题导致读取乱码现象poems.txt读进来是乱码或者UnicodeDecodeError。原因是文件编码不是 UTF-8可能是 GBK 或 GB2312。解决用chardet检测编码或者在打开文件时指定encodingutf-8如果报错就换成encodinggbk。更稳妥的做法是用codecs模块以errorsignore打开跳过无法解码的字符。5. 进阶技巧用温度采样和开头字约束提升生成质量训练跑通之后生成效果往往差强人意——要么太死板要么太跳脱。我试过几个调整方向最有效的是温度采样和开头字约束的组合。温度采样的核心是在 softmax 之前把 logits 除以一个温度系数。温度低于 1.0 时概率分布更尖锐模型倾向于选高概率的字生成结果更保守但更通顺温度高于 1.0 时分布更平坦低概率字也有机会被选中生成结果更多样但可能不通顺。我一般会写一个循环用不同的温度生成几组结果对比for temp in [0.5, 0.8, 1.0, 1.2]: print(f--- Temperature: {temp} ---) for word in [日, 红, 山, 夜, 湖, 海, 月]: print(generate(word, length20, temperaturetemp))开头字约束是另一个实用技巧。模型在生成第一个字之后后续字的概率分布可能偏离诗歌的节奏。可以在生成每个字时对词表里属于标点符号的索引加一个惩罚项强制模型在合适的位置输出逗号或句号。具体做法是在eval.py的采样逻辑里加一个 mask# 对标点符号的 logits 做惩罚 punctuation_idx [word2idx[p] for p in 。 if p in word2idx] for idx in punctuation_idx: logits[0, idx] - 2.0 # 降低标点被选中的概率这个惩罚力度需要根据实际效果调-2.0 是我试过比较平衡的值。太小了标点乱入太大了整首诗没有断句。还有一个容易被忽略的点best_model.h5保存的是权重不是完整模型。如果换了 TensorFlow 版本加载权重时可能报Unknown layer错误。稳妥的做法是在train.py里用model.save(full_model)保存完整模型推理时用tf.keras.models.load_model(full_model)加载。这样即使代码结构改了模型也能直接跑。验证生成质量不能只看一两首。我一般会固定 7 个开头字每个生成 10 首人工检查押韵和对仗的比例。如果押韵率低于 30%说明模型还没学到韵律规律需要增加训练数据或调整 LSTM 的隐藏层维度。从那以后我每次训练完都会强制走一遍批量生成和人工抽检不然答辩时被问到“生成效果怎么样”只能凭感觉答。希望帮到你。本文还有配套的精品资源点击获取 TensorFlow 2.0 RNN唐诗生成实战：LSTM字符级语言模型入门项目
简介这份资源面向深度学习与自然语言处理方向的初学者及课程实践者围绕循环神经网络LSTM构建唐诗生成模型解决从零搭建文本生成项目的学习需求。包内共12个文件以6个Python脚本为核心涵盖数据加载、模型定义、训练与评估等完整流程另配2个txt语料与配置文本、1个h5训练权重、1张模型结构图、1份答辩PPT和1份实验报告PDF压缩包约20.18MB。实验要求以“日、红、山、夜、湖、海、月”等词作为起始词生成诗句可帮助读者理解序列建模、词向量与采样策略。答辩幻灯片与实验报告可直接用于课程展示与文档撰写训练好的权重文件便于快速复现效果。目前已有1537人学习下载适合希望掌握TensorFlow2.0下RNN实战、并需要完整项目材料的学习者参考。1. 从一份能跑通的 RNN 唐诗生成项目说起如果你正在找深度学习 NLP 的入门实战项目又不想一上来就被 Transformer 的注意力机制绕晕那这份基于 TensorFlow 2.0 的 RNN 唐诗写作资源包值得先跑一遍。它用 LSTM 搭了一个字符级语言模型训练数据是poems.txt里的全唐诗语料最终效果是给定“日、红、山、夜、湖、海、月”等开头字模型能续写出四句五言诗。资源包里除了train.py、model.py、eval.py这些核心代码还附了答辩 PPT 和实验报告对做毕设或课程设计的人来说省去了从零搭框架的时间。适合谁刚学完 RNN 原理想找个能跑通的项目练手的人或者需要一份完整 NLP 实战案例写进简历的应届生。不适合谁已经熟练用 BERT 做序列标注、想找 SOTA 方案的人——这个项目的价值在“把 RNN 的每个环节拆开给你看”不在刷榜。2. 拆开资源包文件结构与 LSTM 唐诗生成的核心逻辑2.1 每个文件在训练流程里的位置拿到压缩包解压后根目录下会看到这些文件train.py、model.py、dataset.py、settings.py、eval.py、utils.py、poems.txt、best_model.h5以及答辩用的答辩.pptx和实验报告.pdf。先别急着跑train.py花两分钟把调用关系理清楚后面调参和排错会省很多时间。settings.py是全局配置入口里面定义了学习率、batch size、embedding 维度、LSTM 隐藏层单元数、训练轮数这些超参数。dataset.py负责读poems.txt做字符级 tokenization把每首诗切成固定长度的输入序列和对应的目标序列。model.py定义网络结构核心是一个 Embedding 层接 LSTM 层再接全连接层输出维度等于词表大小。train.py把上面几个模块串起来加载数据、构建模型、编译、训练、保存best_model.h5。eval.py加载训练好的权重接收一个开头字自回归地生成后续字符。utils.py里放的是辅助函数比如把索引转回汉字、处理 padding。提示先打开settings.py看一眼默认参数再决定要不要改。很多“跑不起来”的问题其实是 batch size 或序列长度和显存不匹配。2.2 字符级 LSTM 到底在学什么这个项目用的是字符级语言模型不是词级。什么意思词表就是poems.txt里出现过的所有不重复汉字大概几千个。每个汉字先映射成一个整数索引再通过 Embedding 层变成稠密向量。LSTM 在每个时间步接收一个字的向量更新内部状态然后输出下一个字的概率分布。为什么用 LSTM 而不是普通 RNN普通 RNN 在反向传播时梯度容易消失学不到长距离依赖。唐诗虽然短但“平仄”“押韵”“对仗”这些规律跨越整句甚至整首LSTM 的门控机制能把这些信息保留得更久。训练时用的是 teacher forcing输入序列是“床前明月光”目标序列是“前明月光疑”模型在每个位置预测下一个字损失函数是交叉熵。这里有个容易忽略的点poems.txt的预处理质量直接决定生成效果。如果语料里混入了非五言或非七言的句子模型学出来的节奏会乱。常见做法是在dataset.py里加一个过滤逻辑只保留长度为 5 或 7 的整数倍、且以标点结尾的诗句。2.3 训练脚本的关键参数与调整方向打开train.py核心训练循环大概长这样# train.py 核心训练逻辑基于 TensorFlow 2.0 import tensorflow as tf from model import PoetryModel from dataset import load_poems from settings import BATCH_SIZE, EPOCHS, LEARNING_RATE # 加载并预处理数据 dataset, vocab_size, word2idx, idx2word load_poems(poems.txt) # 构建模型 model PoetryModel(vocab_sizevocab_size, embedding_dim256, hidden_units512) optimizer tf.keras.optimizers.Adam(learning_rateLEARNING_RATE) loss_fn tf.keras.losses.SparseCategoricalCrossentropy(from_logitsTrue) # 自定义训练循环 for epoch in range(EPOCHS): for batch_x, batch_y in dataset.batch(BATCH_SIZE): with tf.GradientTape() as tape: logits model(batch_x) # 输出每个时间步的预测 loss loss_fn(batch_y, logits) grads tape.gradient(loss, model.trainable_variables) optimizer.apply_gradients(zip(grads, model.trainable_variables)) print(fEpoch {epoch1}, Loss: {loss.numpy():.4f}) model.save_weights(best_model.h5)这段代码的逻辑说明load_poems返回的是已经切分好的tf.data.Dataset每个元素是(batch_x, batch_y)对。PoetryModel继承tf.keras.Model在call方法里定义前向传播。用GradientTape手动计算梯度而不是model.fit是为了方便后续加自定义逻辑比如梯度裁剪。SparseCategoricalCrossentropy的from_logitsTrue表示模型输出没有经过 softmax损失函数内部会处理数值更稳定。参数怎么改embedding_dim从 256 提到 512 能增加模型容量但训练时间翻倍hidden_units从 512 降到 256 可以加快收敛适合显存小的机器LEARNING_RATE默认 0.001如果 loss 震荡就降到 0.0005。BATCH_SIZE建议从 64 开始试显存不够就减半。3. 从零跑通训练环境配置、数据预处理与生成验证3.1 TensorFlow 2.0 环境搭建的版本匹配问题这个项目基于 TensorFlow 2.0但 2.x 系列内部也有兼容性差异。我一般会建一个独立的 conda 环境避免和系统里的其他包冲突# 创建并激活环境 conda create -n rnn_poetry python3.7 conda activate rnn_poetry # 安装 TensorFlow 2.0 及依赖 pip install tensorflow2.0.0 pip install numpy1.18.5 pip install matplotlib # 用于绘制 loss 曲线为什么锁 Python 3.7TensorFlow 2.0 对 Python 3.8 的支持不完善容易在tf.data或tf.keras导入时报ImportError。numpy锁 1.18.5 是因为更高版本和 TF 2.0 的 ABI 不兼容会报numpy.ndarray size changed的警告甚至崩溃。如果用的是 GPU 版本还需要确认 CUDA 10.0 和 cuDNN 7.6 的匹配这个在 TensorFlow 官方文档里有对应表。注意不要直接pip install tensorflow装最新版这个项目的代码没有适配 TF 2.10 以上的 API 变动比如tf.keras.optimizers.Adam的参数名在后续版本里有调整。3.2 数据预处理把唐诗变成模型能吃的序列dataset.py里的预处理逻辑决定了模型能学到什么。核心步骤是读文件、去重、过滤非诗句、构建词表、生成训练对。# dataset.py 关键预处理步骤 import numpy as np import tensorflow as tf def load_poems(file_path): with open(file_path, r, encodingutf-8) as f: lines f.read().splitlines() # 过滤只保留五言或七言且以标点结尾 poems [] for line in lines: line line.strip() if len(line) 5: continue # 去掉标点后判断长度 content .join([c for c in line if c not in 。、]) if len(content) % 5 0 or len(content) % 7 0: poems.append(line) # 构建字符级词表 all_chars .join(poems) vocab sorted(set(all_chars)) word2idx {ch: i for i, ch in enumerate(vocab)} idx2word {i: ch for ch, i in word2idx.items()} # 生成输入-目标对输入是前 n-1 个字目标是后 n-1 个字 sequences [] for poem in poems: idx_seq [word2idx[ch] for ch in poem] sequences.append(idx_seq) # padding 到统一长度 max_len max(len(s) for s in sequences) padded tf.keras.preprocessing.sequence.pad_sequences( sequences, maxlenmax_len, paddingpost, value0 ) # 构造 dataset dataset tf.data.Dataset.from_tensor_slices((padded[:, :-1], padded[:, 1:])) dataset dataset.shuffle(10000).batch(64) return dataset, len(vocab), word2idx, idx2word逻辑说明pad_sequences的paddingpost表示在序列末尾补零value0对应词表里的 padding 索引。输入是padded[:, :-1]目标是padded[:, 1:]这样每个时间步的输入是当前字目标是下一个字。shuffle(10000)打乱顺序防止模型学到诗句的固定排列。参数说明max_len由最长诗句决定如果语料里有超长句子建议截断到 200 以内否则 LSTM 的展开步数太多显存吃不消。batch(64)的 64 是经验值可以根据 GPU 显存调整。3.3 训练过程监控与生成效果验证跑python train.py之后终端会打印每个 epoch 的 loss。正常情况下loss 会从 6 左右降到 2 以下如果降到 1 以下且不再变化可能过拟合了。我一般会在train.py里加一段保存 loss 曲线的代码# 在训练循环里记录 loss loss_history [] # ... 训练循环内部 ... loss_history.append(loss.numpy()) # 训练结束后绘制曲线 import matplotlib.pyplot as plt plt.plot(loss_history) plt.xlabel(Epoch) plt.ylabel(Loss) plt.savefig(loss_curve.png)生成验证用eval.py核心是自回归采样# eval.py 生成逻辑 import tensorflow as tf from model import PoetryModel from dataset import load_poems from settings import EMBEDDING_DIM, HIDDEN_UNITS # 加载词表和模型 _, vocab_size, word2idx, idx2word load_poems(poems.txt) model PoetryModel(vocab_size, EMBEDDING_DIM, HIDDEN_UNITS) model.load_weights(best_model.h5) def generate(start_word, length20, temperature1.0): input_idx [word2idx.get(ch, 0) for ch in start_word] generated list(start_word) for _ in range(length): input_tensor tf.expand_dims(input_idx, 0) logits model(input_tensor) # 取最后一个时间步的输出 logits logits[:, -1, :] / temperature probs tf.nn.softmax(logits).numpy()[0] next_idx np.random.choice(len(probs), pprobs) generated.append(idx2word[next_idx]) input_idx.append(next_idx) input_idx input_idx[-20:] # 保持窗口长度 return .join(generated) print(generate(日, length20))逻辑说明temperature控制生成的随机性值越小越保守越大越多样。input_idx[-20:]是滑动窗口防止输入序列无限增长。np.random.choice按概率采样而不是直接取 argmax这样生成的诗不会千篇一律。参数说明length20大概对应四句五言诗的长度。如果生成结果全是重复字把temperature降到 0.5如果生成结果不通顺把temperature升到 1.2 试试。4. 避坑与排查训练不收敛、生成乱码、显存爆炸的常见原因4.1 Loss 不下降或震荡剧烈现象训练几个 epoch 后 loss 一直在 5 到 6 之间跳动不往下走。原因通常是学习率太大或者数据预处理时词表构建有问题。先检查settings.py里的LEARNING_RATE如果大于 0.01降到 0.001 或 0.0005。再检查dataset.py里word2idx的构建如果 padding 的 0 和某个真实汉字的索引冲突模型会学到错误的映射。解决在词表里保留 0 给 padding真实汉字从 1 开始编号。4.2 生成的诗全是重复字或乱码现象输入“日”输出“日日日日日”或者一堆不相关的字。原因有两个一是训练不充分loss 还没降到 2 以下二是采样时temperature设得太低模型总是选概率最高的那个字。解决先确认训练轮数够不够至少 50 个 epoch再把temperature调到 0.8 到 1.0 之间。如果还是乱码检查eval.py里加载权重时model.load_weights是否成功有时候路径写错会静默失败。4.3 显存不足或训练中途崩溃现象跑train.py时报ResourceExhaustedError或者训练到一半进程被 kill。原因是BATCH_SIZE或max_len太大LSTM 的展开步数太多。解决把BATCH_SIZE从 64 降到 32 或 16把max_len截断到 100 以内。如果用的是 GPU在train.py开头加一行限制显存增长gpus tf.config.experimental.list_physical_devices(GPU) if gpus: for gpu in gpus: tf.config.experimental.set_memory_growth(gpu, True)4.4 加载best_model.h5时报形状不匹配现象eval.py加载权重时提示ValueError: Shapes are incompatible。原因是训练时保存的模型结构和eval.py里构建的模型结构不一致比如embedding_dim或hidden_units改了但没同步。解决确保settings.py里的参数在训练和推理时完全一致或者直接在eval.py里从settings.py导入参数不要硬编码。4.5 中文编码问题导致读取乱码现象poems.txt读进来是乱码或者UnicodeDecodeError。原因是文件编码不是 UTF-8可能是 GBK 或 GB2312。解决用chardet检测编码或者在打开文件时指定encodingutf-8如果报错就换成encodinggbk。更稳妥的做法是用codecs模块以errorsignore打开跳过无法解码的字符。5. 进阶技巧用温度采样和开头字约束提升生成质量训练跑通之后生成效果往往差强人意——要么太死板要么太跳脱。我试过几个调整方向最有效的是温度采样和开头字约束的组合。温度采样的核心是在 softmax 之前把 logits 除以一个温度系数。温度低于 1.0 时概率分布更尖锐模型倾向于选高概率的字生成结果更保守但更通顺温度高于 1.0 时分布更平坦低概率字也有机会被选中生成结果更多样但可能不通顺。我一般会写一个循环用不同的温度生成几组结果对比for temp in [0.5, 0.8, 1.0, 1.2]: print(f--- Temperature: {temp} ---) for word in [日, 红, 山, 夜, 湖, 海, 月]: print(generate(word, length20, temperaturetemp))开头字约束是另一个实用技巧。模型在生成第一个字之后后续字的概率分布可能偏离诗歌的节奏。可以在生成每个字时对词表里属于标点符号的索引加一个惩罚项强制模型在合适的位置输出逗号或句号。具体做法是在eval.py的采样逻辑里加一个 mask# 对标点符号的 logits 做惩罚 punctuation_idx [word2idx[p] for p in 。 if p in word2idx] for idx in punctuation_idx: logits[0, idx] - 2.0 # 降低标点被选中的概率这个惩罚力度需要根据实际效果调-2.0 是我试过比较平衡的值。太小了标点乱入太大了整首诗没有断句。还有一个容易被忽略的点best_model.h5保存的是权重不是完整模型。如果换了 TensorFlow 版本加载权重时可能报Unknown layer错误。稳妥的做法是在train.py里用model.save(full_model)保存完整模型推理时用tf.keras.models.load_model(full_model)加载。这样即使代码结构改了模型也能直接跑。验证生成质量不能只看一两首。我一般会固定 7 个开头字每个生成 10 首人工检查押韵和对仗的比例。如果押韵率低于 30%说明模型还没学到韵律规律需要增加训练数据或调整 LSTM 的隐藏层维度。从那以后我每次训练完都会强制走一遍批量生成和人工抽检不然答辩时被问到“生成效果怎么样”只能凭感觉答。希望帮到你。本文还有配套的精品资源点击获取