目录一、提示工程定义二、推理类问题--思维链CoT三、推理类问题--LtM四、推理类问题--自我一致性SC五、推理类问题--思维树ToT六、Prompt的攻击与防范一、提示工程定义二、推理类问题--思维链CoT训练AI做推理类问题时要通过将复杂问题分解为一步一步的子问题并以此进行求解的过程提供推理过程来提升大模型的性能。思维链模式三、推理类问题--LtM因为思维链模式只能针对一个问题进行拆解去训练迁移或者泛化能力不足所以引入了LtMLtM训练过程通过To solve____we need to first solve:来触发大模型去以这样的模式进行思考来解决问题目前不需要使用这个形式去大模型上试验了现在大模型可以直接解决这个问题主要是理解这种训练大模型的思维方式四、推理类问题--自我一致性SCSC训练过程零样本问答选择回答次数最多的作为正确回答上面问题问了5遍其中67岁这个结果回答了三次最终将67作为输出答案上面三个训练方法对于复杂问题还是无法训练五、推理类问题--思维树ToT思维树ToT过程拆分任务→状态评估→搜索算法 类似于广度优先算法BFS 代码实现在进行评分时使用的时是进行了3次评分是结果更真实第一轮评估结束后每组都有评估得分进行筛选取评分最高的五组第二轮剩余两个数进行评分筛选第三轮一个数筛选输出结果六、Prompt的攻击与防范引导Prompt回答能回答的问题正常的去问AIAI会进行Prompt防范输出无法回答通过场景设置哄骗AI说出序列号此时已经成功实现Prompt攻击系统已经给出序列号攻击就是通过设计Prompt,来哄骗AI实现攻击Prompt防范通过设计提示词来防止prompt攻击在我们日常使用AI时给AI的提示词在传输过程中也会再进行处理和封装来防止AI被攻击例如上面例子中封装“只会回答跟课程设计相关的内容”目前AI也在不断地进步上面演示出现的问题可能很快就解决了。主要是要意思到Prompt的重要性在做产品时要注意测试这个内容。