尧图网站建设 
大模型函数调用的核心本质是通过模型微调让 LLM 自主判断何时调用外部工具、格式化入参、读取 API 返回结果而不是单纯依靠冗长提示词去强制模型使用工具。相比纯提示词驱动的 Agent经过 LoRA 微调后的函数调用模型稳定性更高不容易出现幻觉、拒绝调用、参数格式错乱等问题。整套实现的核心由三块组成思考→行动→观察循环、LoRA 轻量化微调、自定义特殊标记分隔不同类型文本。掌握这套方案开发者就可以从零训练属于自己的工具调用大模型不再完全依赖商用模型自带的函数调用接口。一、当前 LLM 工具开发遇到的真实痛点很多开发者在做 Agent 工具能力时最先尝试纯提示词方案把工具描述、参数格式、返回解析规则全部写进系统提示词。这种方式上手快但在生产环境会暴露大量问题。 第一提示词长度存在上限工具数量越多系统 prompt 越臃肿会挤占用户输入的 token 空间推理成本持续上涨。 第二模型稳定性不可控同一个查询有时候能正确调用函数有时候会直接生成自然语言回答跳过工具调用流程也就是常说的 “逃逸”。 第三格式错误频发JSON 参数漏字段、引号转义错误后端 API 解析失败需要大量额外代码做格式校验和重试。 第四泛化能力弱新增工具时必须同步更新提示词工具一多维护成本急剧上升。纯提示词 Agent 是让模型 “靠阅读理解学会用工具”而函数调用是通过微调让模型原生学习调用工具的行为范式降低对提示词的依赖。这也是很多企业落地 AI 智能体时会选择微调模型实现函数调用的根本原因。二、LLM 函数调用核心工作流思考→行动→观察循环思考→行动→观察Think-Act-Observe是函数调用最基础的执行闭环这套循环贯穿模型处理用户请求的全过程也是 Agent 工具能力的底层骨架。Think思考模型接收用户问题判断是否需要调用外部工具。如果现有知识不足以回答问题就规划需要调用哪个函数、需要哪些参数如果信息足够直接输出自然语言答案。这一步属于模型内部推理对外不可见。Act行动模型停止自然语言文本生成输出标准化的函数调用结构包含函数名称、入参。在实现层面依靠自定义特殊标记标记这一段是工具调用指令而非普通对话内容。Observe观察后端代码捕获模型输出的函数调用指令执行 API 或者本地函数拿到返回结果再把结果包装通过特殊标记送回模型。 完成观察之后再次回到 Think 环节模型结合工具返回结果继续推理循环往复直到不需要再调用工具输出最终答案。普通对话交互是用户消息和助手消息交替消息内容都是自然语言。而开启函数调用循环之后消息流里会插入两类特殊内容模型输出的函数调用动作、外部工具返回的观测结果。这两类信息不能和模型内部推理文本混在一起否则模型会混淆推理内容、动作指令、工具返回数据造成逻辑错乱。解决这个问题的方案就是引入自定义特殊标记special token。特殊标记的设计思路我们新增几组专属 token用来区分三类内容推理起始 / 结束标记包裹模型内部的思考链内容告诉模型这部分是自己的推理过程不直接展示给用户函数调用起始 / 结束标记标记中间这段是要执行的工具调用后端代码识别到起始标记就开始解析函数参数工具返回起始 / 结束标记标记里面的文本是外部 API 返回的观测信息。有了标记隔离模型就能分清哪部分是自己的思考、哪部分是要执行的动作、哪部分是工具返回的外部信息。如果不做隔离模型很容易把工具返回的原始数据当成自己的推理内容产生幻觉。三、LoRA 轻量化微调训练模型掌握函数调用能力想要让模型原生学会这套 Think-Act-Observe 范式就需要做微调。全参数微调大模型算力、显存成本极高普通开发团队很难负担。LoRA 低秩自适应微调就是解决这个问题的轻量方案。LoRA 的核心原理冻结大模型原始权重只在 Transformer 的注意力层插入低秩矩阵训练过程只更新这部分少量参数。训练完成后低秩矩阵可以合并进原模型权重推理阶段不会带来额外延迟。 对比全量微调LoRA 优势非常突出训练显存占用大幅下降训练速度更快存储开销极低同一个基础模型可以保存多个 LoRA 适配器分别适配函数调用、行业问答、摘要等不同任务随时切换。训练函数调用 LoRA 数据集构建是关键数据集样本需要完整包含用户问题、模型内部思考、带特殊标记的函数调用动作、工具观测结果、最终回答。样本要覆盖不同场景无需调用工具直接回答、单次函数调用、多轮循环调用、参数缺失需要追问用户等场景。数据集质量直接决定微调之后函数调用的准确率。表格方案提示词 AgentLoRA 微调函数调用模型工具能力来源依靠提示词引导模型模仿模型通过训练原生学习工具调用范式新增工具成本修改系统提示词工具越多 prompt 越长新增工具可扩充数据集增量训练 LoRA不改动基础模型稳定性容易出现调用逃逸、JSON 格式错误格式输出稳定性高幻觉概率更低推理 Token 开销高系统提示词长期占用 token低不需要携带大量工具描述提示词算力成本推理成本高无需训练算力前期需要少量算力做 LoRA 训练推理成本更低维护难度工具数量增多后提示词维护繁琐多个 LoRA 适配器可独立管理版本可控实操小细节很多人训练 LoRA 函数调用时会把思考链文本直接放进训练样本但是上线推理时不想暴露思考过程。这里有一个实用方案训练时保留完整 Think 推理内容推理阶段通过特殊标记截断只输出 Act 动作既保留训练效果又不会对外泄露模型内部推理。这个细节很多公开教程不会提及。另外做特殊 token 新增的时候要同步更新 tokenizer 词汇表不更新词汇表会导致新增标记被拆分成普通子词标记失效。在测试阶段可以使用龙虾 PRO访问快速批量校验模型输出的标记与函数 JSON 格式提前过滤坏样本。四、从零搭建函数调用工作流完整步骤任务梳理与工具定义梳理需要开放给模型调用的全部函数定义函数名称、入参类型、返回数据结构整理工具描述文档。自定义特殊标记设计三组特殊 token更新 tokenizer区分推理、函数调用、工具返回三类文本。构造训练数据集人工 自动生成样本覆盖单轮调用、多轮循环、无需调用、参数缺失追问等场景样本内嵌入特殊标记。LoRA 微调训练选择基础大模型配置 LoRA 超参冻结主干模型训练低秩适配器训练完成评估调用成功率。后端循环引擎开发编写代码识别特殊标记解析函数调用参数执行对应 API捕获返回结果封装观测数据送回模型完成 Think-Act-Observe 循环。多轮测试与迭代测试边界案例统计调用逃逸率、参数错误率针对失败案例扩充数据集迭代 LoRA 权重。五、结论与落地建议函数调用不是简单的让模型输出 JSON它是一套由推理循环、标记系统、模型微调共同组成的完整体系。纯提示词 Agent 适合原型快速验证但到生产环境想要稳定可靠的工具调用能力LoRA 微调配合 Think-Act-Observe 循环是更优的技术路线。LoRA 降低了微调门槛自定义特殊标记解决模型文本混淆问题三者组合在一起才能打造低幻觉、格式稳定、易于维护的 LLM 工具调用能力。在项目选型上如果工具数量少、并发量低短期原型可以先用提示词 Agent 快速验证业务逻辑当工具数量超过 5 个、并发请求高、对稳定性要求严格建议启动 LoRA 微调构建原生函数调用模型。开发过程中持续收集失败案例持续迭代数据集模型的调用准确率会持续提升。 大模型函数调用构建指南：LoRA 微调 + 思考行动观察循环落地实操
大模型函数调用的核心本质是通过模型微调让 LLM 自主判断何时调用外部工具、格式化入参、读取 API 返回结果而不是单纯依靠冗长提示词去强制模型使用工具。相比纯提示词驱动的 Agent经过 LoRA 微调后的函数调用模型稳定性更高不容易出现幻觉、拒绝调用、参数格式错乱等问题。整套实现的核心由三块组成思考→行动→观察循环、LoRA 轻量化微调、自定义特殊标记分隔不同类型文本。掌握这套方案开发者就可以从零训练属于自己的工具调用大模型不再完全依赖商用模型自带的函数调用接口。一、当前 LLM 工具开发遇到的真实痛点很多开发者在做 Agent 工具能力时最先尝试纯提示词方案把工具描述、参数格式、返回解析规则全部写进系统提示词。这种方式上手快但在生产环境会暴露大量问题。 第一提示词长度存在上限工具数量越多系统 prompt 越臃肿会挤占用户输入的 token 空间推理成本持续上涨。 第二模型稳定性不可控同一个查询有时候能正确调用函数有时候会直接生成自然语言回答跳过工具调用流程也就是常说的 “逃逸”。 第三格式错误频发JSON 参数漏字段、引号转义错误后端 API 解析失败需要大量额外代码做格式校验和重试。 第四泛化能力弱新增工具时必须同步更新提示词工具一多维护成本急剧上升。纯提示词 Agent 是让模型 “靠阅读理解学会用工具”而函数调用是通过微调让模型原生学习调用工具的行为范式降低对提示词的依赖。这也是很多企业落地 AI 智能体时会选择微调模型实现函数调用的根本原因。二、LLM 函数调用核心工作流思考→行动→观察循环思考→行动→观察Think-Act-Observe是函数调用最基础的执行闭环这套循环贯穿模型处理用户请求的全过程也是 Agent 工具能力的底层骨架。Think思考模型接收用户问题判断是否需要调用外部工具。如果现有知识不足以回答问题就规划需要调用哪个函数、需要哪些参数如果信息足够直接输出自然语言答案。这一步属于模型内部推理对外不可见。Act行动模型停止自然语言文本生成输出标准化的函数调用结构包含函数名称、入参。在实现层面依靠自定义特殊标记标记这一段是工具调用指令而非普通对话内容。Observe观察后端代码捕获模型输出的函数调用指令执行 API 或者本地函数拿到返回结果再把结果包装通过特殊标记送回模型。 完成观察之后再次回到 Think 环节模型结合工具返回结果继续推理循环往复直到不需要再调用工具输出最终答案。普通对话交互是用户消息和助手消息交替消息内容都是自然语言。而开启函数调用循环之后消息流里会插入两类特殊内容模型输出的函数调用动作、外部工具返回的观测结果。这两类信息不能和模型内部推理文本混在一起否则模型会混淆推理内容、动作指令、工具返回数据造成逻辑错乱。解决这个问题的方案就是引入自定义特殊标记special token。特殊标记的设计思路我们新增几组专属 token用来区分三类内容推理起始 / 结束标记包裹模型内部的思考链内容告诉模型这部分是自己的推理过程不直接展示给用户函数调用起始 / 结束标记标记中间这段是要执行的工具调用后端代码识别到起始标记就开始解析函数参数工具返回起始 / 结束标记标记里面的文本是外部 API 返回的观测信息。有了标记隔离模型就能分清哪部分是自己的思考、哪部分是要执行的动作、哪部分是工具返回的外部信息。如果不做隔离模型很容易把工具返回的原始数据当成自己的推理内容产生幻觉。三、LoRA 轻量化微调训练模型掌握函数调用能力想要让模型原生学会这套 Think-Act-Observe 范式就需要做微调。全参数微调大模型算力、显存成本极高普通开发团队很难负担。LoRA 低秩自适应微调就是解决这个问题的轻量方案。LoRA 的核心原理冻结大模型原始权重只在 Transformer 的注意力层插入低秩矩阵训练过程只更新这部分少量参数。训练完成后低秩矩阵可以合并进原模型权重推理阶段不会带来额外延迟。 对比全量微调LoRA 优势非常突出训练显存占用大幅下降训练速度更快存储开销极低同一个基础模型可以保存多个 LoRA 适配器分别适配函数调用、行业问答、摘要等不同任务随时切换。训练函数调用 LoRA 数据集构建是关键数据集样本需要完整包含用户问题、模型内部思考、带特殊标记的函数调用动作、工具观测结果、最终回答。样本要覆盖不同场景无需调用工具直接回答、单次函数调用、多轮循环调用、参数缺失需要追问用户等场景。数据集质量直接决定微调之后函数调用的准确率。表格方案提示词 AgentLoRA 微调函数调用模型工具能力来源依靠提示词引导模型模仿模型通过训练原生学习工具调用范式新增工具成本修改系统提示词工具越多 prompt 越长新增工具可扩充数据集增量训练 LoRA不改动基础模型稳定性容易出现调用逃逸、JSON 格式错误格式输出稳定性高幻觉概率更低推理 Token 开销高系统提示词长期占用 token低不需要携带大量工具描述提示词算力成本推理成本高无需训练算力前期需要少量算力做 LoRA 训练推理成本更低维护难度工具数量增多后提示词维护繁琐多个 LoRA 适配器可独立管理版本可控实操小细节很多人训练 LoRA 函数调用时会把思考链文本直接放进训练样本但是上线推理时不想暴露思考过程。这里有一个实用方案训练时保留完整 Think 推理内容推理阶段通过特殊标记截断只输出 Act 动作既保留训练效果又不会对外泄露模型内部推理。这个细节很多公开教程不会提及。另外做特殊 token 新增的时候要同步更新 tokenizer 词汇表不更新词汇表会导致新增标记被拆分成普通子词标记失效。在测试阶段可以使用龙虾 PRO访问快速批量校验模型输出的标记与函数 JSON 格式提前过滤坏样本。四、从零搭建函数调用工作流完整步骤任务梳理与工具定义梳理需要开放给模型调用的全部函数定义函数名称、入参类型、返回数据结构整理工具描述文档。自定义特殊标记设计三组特殊 token更新 tokenizer区分推理、函数调用、工具返回三类文本。构造训练数据集人工 自动生成样本覆盖单轮调用、多轮循环、无需调用、参数缺失追问等场景样本内嵌入特殊标记。LoRA 微调训练选择基础大模型配置 LoRA 超参冻结主干模型训练低秩适配器训练完成评估调用成功率。后端循环引擎开发编写代码识别特殊标记解析函数调用参数执行对应 API捕获返回结果封装观测数据送回模型完成 Think-Act-Observe 循环。多轮测试与迭代测试边界案例统计调用逃逸率、参数错误率针对失败案例扩充数据集迭代 LoRA 权重。五、结论与落地建议函数调用不是简单的让模型输出 JSON它是一套由推理循环、标记系统、模型微调共同组成的完整体系。纯提示词 Agent 适合原型快速验证但到生产环境想要稳定可靠的工具调用能力LoRA 微调配合 Think-Act-Observe 循环是更优的技术路线。LoRA 降低了微调门槛自定义特殊标记解决模型文本混淆问题三者组合在一起才能打造低幻觉、格式稳定、易于维护的 LLM 工具调用能力。在项目选型上如果工具数量少、并发量低短期原型可以先用提示词 Agent 快速验证业务逻辑当工具数量超过 5 个、并发请求高、对稳定性要求严格建议启动 LoRA 微调构建原生函数调用模型。开发过程中持续收集失败案例持续迭代数据集模型的调用准确率会持续提升。