1. 从“AI 写手”到“可控的创作伙伴”一次 LangChain JS 的深度实验最近在折腾一个内容生成的小项目目标是让 AI 帮我写一些特定风格的文案比如科技新闻稿或者产品功能介绍。一开始我直接调用了大模型的 API扔给它一个提示词然后祈祷它能给我一个满意的结果。但很快我就发现这就像在开盲盒有时候文笔精炼、逻辑清晰堪称完美有时候却啰里啰嗦、天马行空甚至完全跑题。这种不可控性让我非常头疼尤其是在需要批量生成或保持风格一致性的场景下。于是我把目光投向了 LangChain。这个框架在 Python 生态里大名鼎鼎但作为一个前端和 Node.js 的深度用户我更关心它的 JavaScript/TypeScript 版本——LangChain JS。它承诺能帮我更好地“驾驭”大模型而不仅仅是“调用”。我决定围绕三个核心控制点展开实验温度参数、提示词工程以及异步调用流程。这不仅仅是调几个 API而是理解如何将 AI 从一个“随性的写手”变成一个“可控的创作伙伴”。温度参数决定了 AI 的“想象力”有多奔放提示词则是我们给它的“创作大纲”和“风格指南”而异步调用则关乎整个创作流程的效率和稳定性。接下来我就把这次实验中的发现、踩过的坑以及总结出的实用技巧毫无保留地分享给你。2. 温度参数不只是“创造性”的调节旋钮几乎所有大模型 API 都有一个叫temperature的参数中文常译为“温度”。官方文档通常简单解释为控制输出的随机性值越高输出越随机、越有创造性。但经过大量测试我发现这种理解过于笼统甚至有些误导。它更像一个“概率分布的平滑器”直接干预模型选择下一个词Token的决策过程。2.1 温度参数的工作原理与数学直觉大模型在生成每一个词时实际上是在计算一个庞大的概率分布即词汇表中每个词作为下一个词出现的可能性。假设对于“天空是___”这个句子模型计算出的原始概率可能是“蓝色的”0.7、“灰色的”0.15、“晴朗的”0.1、“广阔的”0.05。当 temperature 0模型会执行“贪婪采样”。它完全无视其他选项永远只选择概率最高的那个词。所以输出会变成“天空是蓝色的”并且每次都是这个结果完全确定毫无变化。这适合需要绝对一致答案的场景比如代码补全的关键字。当 temperature 1模型直接使用原始的“softmax”概率分布进行采样。这意味着它有 70% 的概率选“蓝色的”15% 选“灰色的”以此类推。输出具有随机性但尊重模型的原始判断。当 temperature 1 (例如 1.5)概率分布被“平滑”或“加热”。高低概率之间的差异被缩小。原本 0.7 的“蓝色”和 0.05 的“广阔”差距很大经过高温处理后它们的概率值会变得更接近。这使得低概率词如“广阔的”被选中的机会大大增加从而产生更出人意料、更具“创造性”但也可能更不连贯的文本。当 temperature 1 (例如 0.2)概率分布被“锐化”或“冷却”。高概率词的概率被进一步放大低概率词的概率被压制。这使得模型输出更加集中、保守和可预测更倾向于选择最常见、最安全的表达。在 LangChain JS 中我们通常在初始化模型时设置这个参数import { OpenAI } from langchain/openai; const model new OpenAI({ temperature: 0.7, // 这是一个常用的平衡值 openAIApiKey: process.env.OPENAI_API_KEY, });2.2 不同温度下的写作实验对比为了直观感受温度的影响我设计了一个简单的实验让模型续写“在一个雨夜他独自走在街上”。我固定了其他所有参数模型、提示词等只改变温度值。温度值生成的续写内容示例特点分析0.1“在一个雨夜他独自走在街上雨水打湿了他的衣服和头发。他感到有些寒冷于是加快了脚步想要尽快回到家中。”极度保守。生成的是最符合逻辑、最安全的叙述。句式简单用词常见几乎每次生成都一样。缺乏细节和情感张力。0.7“在一个雨夜他独自走在街上昏黄的路灯将他的影子拉得忽长忽短。雨滴敲打着伞面发出单调的声响与他内心的纷乱形成奇异的共鸣。他并非无处可去只是需要这冰冷的雨水让自己清醒。”平衡可控。在保持连贯性的基础上增加了环境细节路灯、影子、雨声和心理描写。每次生成的核心情节相似但具体措辞和细节会有微妙变化适合大多数创作场景。1.2“在一个雨夜他独自走在街上仿佛整个世界都溶解在了这银灰色的帷幕之后。突然巷口传来一阵爵士乐声萨克斯风的旋律像一只温暖的手将他从冰冷的孤独中打捞起来。他循声望去那是一家从未注意过的咖啡馆。”富有创意。出现了更诗意的比喻“银灰色的帷幕”和戏剧性的情节转折爵士乐、咖啡馆。连贯性依然不错但方向开始有更大的不确定性。1.5“在一个雨夜他独自走在街上雨水并非从天而降而是从记忆的裂缝中渗出。脚下的水洼映出的不是自己的脸而是去年夏天她离开时的背影。手机在口袋里震动是一条来自陌生号码的短信‘回头看看那盏灯。’”高度随机/抽象。引入了超现实元素雨水从记忆渗出和悬疑情节。文本可能非常惊艳但也更容易出现逻辑跳跃、前后矛盾或语义模糊的情况。注意温度没有“最佳值”。0.7-0.9 是通用写作的甜点区平衡了创造性和一致性。对于技术文档、法律条文应使用更低温度0.1-0.3对于诗歌、头脑风暴可以尝试更高温度1.0-1.3。务必通过实验为你的特定任务找到最合适的值。2.3 温度与max_tokens、top_p的协同作用温度不是孤立的它需要与其它参数配合。max_tokens(最大生成长度)在高温度下AI 更容易“跑偏”或陷入无意义的重复。设置一个合理的max_tokens可以防止生成过长、失控的文本。例如写一首俳句max_tokens设为 50 足矣写一篇短文可能需要 500。top_p(核采样)这是另一个控制随机性的重要参数。它设定一个概率累积阈值只从概率累积和达到top_p的最高概率词中采样。例如top_p0.9意味着只考虑概率最高的、加起来达到 90% 的那些词排除那些长尾的低概率词。通常建议只调节温度 (temperature) 和核采样 (top_p) 中的一个而不是同时调整。OpenAI 官方建议对于大多数情况调整其中一个即可同时调整会让行为难以预测。我的经验是优先使用temperature进行粗调如果需要更精细地排除怪异选项再考虑使用top_p。在 LangChain JS 中可以这样设置const model new OpenAI({ temperature: 0.8, maxTokens: 300, topP: 0.95, // 通常保持较高值如0.9-1.0 modelName: gpt-4, // 或 gpt-3.5-turbo openAIApiKey: process.env.OPENAI_API_KEY, });3. 提示词工程从“指令”到“结构化对话”的跃迁如果说温度是调节 AI 的“内在性格”那么提示词就是我们对它下达的“外部指令”。一个糟糕的提示词即使温度调得再完美也得不到好结果。LangChain JS 的强大之处在于它将提示词从简单的字符串提升到了可编程、可组合的“模板”和“组件”层面。3.1 超越简单字符串使用ChatPromptTemplate最初我这样写提示词const prompt 请以科技博客的风格写一篇关于${productName}的简短介绍突出其${keyFeature}。字数约200字。;这能工作但非常脆弱。当需要动态插入多个变量、组合不同指令或构建多轮对话时代码会变得混乱不堪。LangChain JS 的ChatPromptTemplate提供了优雅的解决方案。import { ChatPromptTemplate } from langchain/core/prompts; import { HumanMessagePromptTemplate, SystemMessagePromptTemplate } from langchain/core/prompts; // 1. 定义系统消息设定AI的角色和全局行为 const systemTemplate 你是一位资深的{style}撰稿人。你的写作风格是{style}语言{language}。请严格遵循以下要求; const systemMessagePrompt SystemMessagePromptTemplate.fromTemplate(systemTemplate); // 2. 定义用户消息具体的任务指令 const humanTemplate 请撰写一篇关于{product}的{docType}。核心需要突出的功能是{feature}。文章长度约为{wordCount}字。; const humanMessagePrompt HumanMessagePromptTemplate.fromTemplate(humanTemplate); // 3. 组合成完整的聊天提示模板 const chatPrompt ChatPromptTemplate.fromMessages([ systemMessagePrompt, humanMessagePrompt, ]); // 4. 使用模板传入变量值 const formattedPrompt await chatPrompt.formatMessages({ style: 专业、客观且略带前瞻性, language: 精炼、准确, product: 下一代智能手表X1, feature: 无创血糖监测, docType: 产品新闻稿, wordCount: 250 }); // formattedPrompt 是一个数组包含两条消息一条系统消息一条用户消息。 // 这正是ChatGPT APIgpt-3.5-turbo, gpt-4所期望的格式。 console.log(formattedPrompt);这种方式的好处是清晰分离系统消息和用户消息分离符合现代聊天模型的上下文结构。变量化所有动态部分都成了变量易于管理和复用。可组合可以轻松地添加更多的消息块例如在用户消息前加一个助理的示例消息实现少样本学习。3.2 少样本学习用示例“教会”AI写作风格有时候光靠语言描述风格如“科技博客风”是不够的。这时少样本学习就派上用场了。通过提供输入-输出的示例对你可以更精准地塑造 AI 的写作行为。假设我要让 AI 学会写一种“反转式”的广告标语。我可以这样构建提示词import { ChatPromptTemplate } from langchain/core/prompts; import { HumanMessagePromptTemplate, AIMessagePromptTemplate, SystemMessagePromptTemplate } from langchain/core/prompts; const chatPrompt ChatPromptTemplate.fromMessages([ SystemMessagePromptTemplate.fromTemplate(你是一个广告文案专家擅长创作带有意外反转的标语。), HumanMessagePromptTemplate.fromTemplate(产品普通咖啡\n特点提神醒脑), AIMessagePromptTemplate.fromTemplate(不是所有咖啡都能让你清醒但这杯可以让你彻底“失眠”于它的美味。), HumanMessagePromptTemplate.fromTemplate(产品静音键盘\n特点打字安静), AIMessagePromptTemplate.fromTemplate(你的思绪如此澎湃不该被键盘的噪音打扰。), HumanMessagePromptTemplate.fromTemplate(产品{product}\n特点{feature}), // 这是用户新的查询 ]); const messages await chatPrompt.formatMessages({ product: 超轻量背包, feature: 重量极轻 }); // 将 messages 传给模型调用 const model new OpenAI({ temperature: 0.8 }); const response await model.invoke(messages); console.log(response.content); // 可能会输出类似“背上的不是行李是羽毛。但你装的却是整个世界。”在这个例子中我通过两个具体的示例向 AI 演示了什么是“反转式”标语。当它接收到新的产品信息时就会模仿示例的格式和逻辑进行创作。这种方法对于格式固定、风格独特的文本生成如诗词、特定格式的邮件、代码注释特别有效。3.3 思维链与分步指示提升复杂任务的表现对于逻辑推理或步骤复杂的写作任务例如“根据以下数据写一份分析报告”直接提问效果可能不好。可以借鉴思维链的思想在提示词中要求 AI 分步思考。const complexPrompt 你是一位行业分析师。请根据以下公司季度数据撰写一份简要分析报告。 数据 - 营收同比增长15% - 净利润同比增长5% - 研发投入同比增长40% - 市场份额下降2% 请按照以下步骤进行 1. 首先列出数据中明显的积极信号和消极信号。 2. 然后分析这些信号之间可能存在的关联例如研发投入增加对利润的短期影响。 3. 最后基于以上分析给出对公司下一阶段发展的简要展望。 报告要求语言专业、简洁。 ;通过在提示词中明确步骤你是在引导模型的“思考过程”这通常能产生更结构化、更深思熟虑的输出。在 LangChain 中你甚至可以结合SequentialChain将一个大任务拆解成多个子任务链式执行不过对于写作任务在提示词中内部分步通常就足够了。4. 异步调用构建高效稳定的写作流水线当我们需要批量生成内容或者将 AI 写作集成到一个需要响应外部请求的服务器应用中时同步调用一次等一个结果会成为性能瓶颈。LangChain JS 基于 Promise 和 Async/Await天然支持异步操作但如何用好它里面有不少门道。4.1 基础异步调用与错误处理最基本的调用是model.invoke()或model.call()它们返回一个 Promise。import { OpenAI } from langchain/openai; const model new OpenAI({ temperature: 0.7 }); async function generateBlogTitle(topic) { try { const prompt 生成一个关于“${topic}”的吸引人的博客标题。; const response await model.invoke(prompt); // 异步调用 return response.content.trim(); } catch (error) { console.error(生成标题“${topic}”时出错:, error); // 返回一个降级方案而不是让整个流程崩溃 return 关于${topic}的深度探讨; } } // 使用 const title await generateBlogTitle(量子计算); console.log(title);这里的关键是用 try-catch 包裹调用。网络波动、API 限流、令牌超限都可能导致错误。良好的错误处理能防止单个任务失败导致整个应用崩溃。4.2 并发控制别把 API 限流打爆如果你有 100 个主题要生成标题最 naive 的做法是用Promise.all同时发起 100 个请求。这几乎肯定会触发 OpenAI API 的速率限制RPM/TPM导致大量请求失败。// ❌ 危险做法可能瞬间超限 const topics [AI, 区块链, 元宇宙, ...]; // 100个主题 const promises topics.map(topic generateBlogTitle(topic)); const allTitles await Promise.all(promises); // 并发100个请求正确的做法是进行并发控制。我们可以使用简单的for...of循环进行串行但效率太低。更好的方式是使用一个并发池。在 Node.js 环境中我们可以自己实现或者使用像p-limit这样的库。import pLimit from p-limit; const limit pLimit(5); // 最多同时进行5个请求 async function generateAllTitlesConcurrently(topics) { const promises topics.map(topic limit(() generateBlogTitle(topic)) // 将任务放入限流器 ); const results await Promise.all(promises); return results; } // 使用 const topics [...]; // 100个主题 const titles await generateAllTitlesConcurrently(topics);这样无论有多少任务同时最多只有 5 个在进行完美符合 API 的限流要求且效率远高于串行。4.3 利用 LangChain 的Runnable接口与流式输出LangChain JS 从 v0.1 开始核心抽象变成了Runnable。几乎一切模型、提示词、链、工具都是Runnable。这带来了统一的调用接口invoke、batch、stream。batch方法LangChain 为某些组件提供了原生的batch方法它可以更高效地处理一批输入。但底层仍是对 API 的多次调用需要注意并发控制。const prompt ChatPromptTemplate.fromTemplate(写一句关于{thing}的谚语。); const chain prompt.pipe(model); // 将提示词模板和模型连接成一个链RunnableSequence const inputs [{thing: 时间}, {thing: 学习}, {thing: 友谊}]; const results await chain.batch(inputs, { maxConcurrency: 3 }); // 使用batch方法并设置最大并发数 results.forEach(res console.log(res.content));流式输出对于长文本生成等待全部完成再返回给用户比如网页前端体验很差。流式输出可以逐词Token地返回结果。// 假设在一个支持流式响应的环境如Node.js HTTP服务器或Next.js API Route const stream await chain.stream({ thing: 人工智能的未来 }); for await (const chunk of stream) { // chunk 可能是一个字符串或者一个包含更多信息的对象 process.stdout.write(chunk.content || chunk); // 逐块输出 // 在Web场景中可以通过Server-Sent Events (SSE) 发送给前端 }流式输出不仅能提升用户体验还能让你在生成过程中就进行初步的内容判断或过滤实现更精细的控制。5. 实战整合构建一个可控的博客大纲生成器让我们把温度、提示词和异步调用结合起来构建一个实用的“博客大纲生成器”。这个工具能根据用户输入的主题和风格异步、稳定地生成结构清晰的大纲。5.1 系统设计与模块拆分我们将构建一个简单的 Node.js 脚本它包含以下模块模型与提示词配置模块负责初始化模型和定义提示词模板。大纲生成链将提示词和模型组合成可执行的“链”。批量任务处理器接收多个主题进行并发控制生成所有大纲。输出格式化器将 AI 生成的文本大纲整理成结构化的 JSON 或 Markdown。5.2 核心代码实现// blogOutlineGenerator.js import { OpenAI } from langchain/openai; import { ChatPromptTemplate } from langchain/core/prompts; import pLimit from p-limit; import * as fs from fs/promises; // 1. 配置模型 const creativeModel new OpenAI({ temperature: 0.9, // 生成大纲需要一些创意 modelName: gpt-4, openAIApiKey: process.env.OPENAI_API_KEY, }); const preciseModel new OpenAI({ temperature: 0.3, // 润色步骤需要更精确 modelName: gpt-4, openAIApiKey: process.env.OPENAI_API_KEY, }); // 2. 定义提示词模板 const outlinePrompt ChatPromptTemplate.fromMessages([ [system, 你是一位经验丰富的博客作家和内容策划师。], [human, 请针对以下主题生成一份详细的博客大纲。 主题{topic} 目标读者{audience} 文章风格{style} 要求 1. 大纲需包含引人入胜的标题、开篇引语、3-5个核心论点每个论点下包含2-3个子点、总结段落。 2. 请用清晰的层级结构如使用数字和缩进呈现。 3. 确保内容符合{style}风格。] ]); const polishPrompt ChatPromptTemplate.fromMessages([ [system, 你是一位专业的文本编辑。], [human, 请对以下博客大纲进行语言润色和逻辑微调使其更加流畅、专业。 原始大纲 {draftOutline} 润色要求保持原结构和核心内容优化措辞确保各章节过渡自然。] ]); // 3. 构建链 const outlineChain outlinePrompt.pipe(creativeModel); const polishChain polishPrompt.pipe(preciseModel); // 4. 批量任务处理器带并发控制 const limit pLimit(3); // 考虑到GPT-4的速率限制并发数设低一些 async function generateSingleOutline(topic, audience 普通技术爱好者, style 深入浅出、实用性强) { try { console.log(正在生成主题“${topic}”的大纲...); // 第一步生成大纲草稿 const draftResult await outlineChain.invoke({ topic, audience, style }); const draftOutline draftResult.content; // 第二步润色大纲 const polishedResult await polishChain.invoke({ draftOutline }); const finalOutline polishedResult.content; console.log(主题“${topic}”大纲生成完成。); return { topic, outline: finalOutline, status: success }; } catch (error) { console.error(处理主题“${topic}”时失败:, error.message); return { topic, outline: null, status: failed, error: error.message }; } } async function generateAllOutlines(topics, audience, style) { const promises topics.map(topic limit(() generateSingleOutline(topic, audience, style)) ); const results await Promise.allSettled(promises); // 使用allSettled即使个别失败也不影响其他 const successful []; const failed []; results.forEach((result, index) { if (result.status fulfilled) { successful.push(result.value); } else { failed.push({ topic: topics[index], error: result.reason.message }); } }); return { successful, failed }; } // 5. 输出格式化与保存 function formatOutlineToMarkdown(outlineData) { let md # 博客主题${outlineData.topic}\n\n; md ## 生成的大纲\n\n; md ${outlineData.outline}\n\n---\n; return md; } async function main() { const topics [ LangChain JS 在企业级应用中的最佳实践, 如何用TypeScript和Next.js构建全栈AI应用, 大模型时代前端开发者的新机遇, ]; const { successful, failed } await generateAllOutlines( topics, 有一定经验的中级开发者, 技术扎实、案例丰富、有前瞻性 ); console.log(\n任务完成。成功${successful.length} 个失败${failed.length} 个); // 保存成功的结果 let allMarkdown ; for (const item of successful) { allMarkdown formatOutlineToMarkdown(item); } await fs.writeFile(generated_blog_outlines.md, allMarkdown, utf-8); console.log(大纲已保存至 generated_blog_outlines.md); // 处理失败的任务例如记录日志 if (failed.length 0) { console.error(失败的任务, failed); await fs.writeFile(failed_tasks.json, JSON.stringify(failed, null, 2), utf-8); } } // 运行主函数 main().catch(console.error);5.3 实验总结与关键收获通过这个完整的实验项目我深刻体会到将 LangChain JS 用于可控写作的几个关键点参数不是孤立的温度、提示词、异步控制必须协同工作。一个高创造性的温度0.9需要搭配一个约束性强的提示词来防止跑偏批量异步任务必须进行严格的并发控制否则再好的提示词也无用武之地。提示词是“代码”不要把它看成魔法咒语而要像编写函数一样设计它。清晰的指令、恰当的角色设定、有效的示例少样本学习和分步引导思维链都是提升输出质量的可靠工程方法。异步是生产环境的基石try-catch、并发限制、链式调用 (pipe)、流式处理 (stream) 这些特性是将实验性脚本转化为健壮应用的必要组件。使用Promise.allSettled来处理批量任务中的部分失败是保持系统韧性的好习惯。组合大于单体如示例中先“创作”再“润色”的两步链这种组合模式非常强大。你可以为复杂任务设计多阶段的链每个阶段使用不同的模型参数或提示词实现更精细的控制流程。最终LangChain JS 提供的是一套思维框架和工具箱它帮助我们系统化地、工程化地去解决“如何让 AI 按需写作”的问题。它消除了很多底层繁琐的细节让我们能更专注于创作逻辑和流程设计本身。当你熟练掌握了温度、提示词和异步调用这三个杠杆你才能真正意义上地“驾驭”AI的创作能力让它从黑箱变成一台高效、可控的内容生成引擎。