这次我们来看一个AI Agent快速上手的实战指南。如果你对“Agent”这个词感到既熟悉又陌生想知道它到底能做什么、怎么快速入门、以及如何在自己的电脑上跑起来这篇文章就是为你准备的。它不是一个具体的开源项目而是一套浓缩的、可执行的训练路径目标是在2.5小时内让你从概念理解到能动手搭建一个具备基础能力的智能体。核心在于“练”。我们不空谈理论而是聚焦于几个关键问题Agent开发需要哪些技术栈本地环境如何搭建有没有现成的框架可以一键启动如何验证一个Agent是否具备了“思考”和“行动”的能力本文将围绕一套高效的训练流程展开涵盖环境准备、框架选择、核心能力实现与测试最终让你能评估一个Agent项目的实际效果。1. 核心能力速览AI Agent 是什么能做什么在开始动手之前我们需要明确目标。一个AI Agent智能体不仅仅是调用大模型API的聊天机器人。它应该具备感知、规划、决策和执行的能力能够理解复杂目标并调用工具如搜索、计算、写代码去完成它。能力项说明与本文聚焦点核心定位具备自主规划与工具使用能力的AI程序而非简单问答。技术栈门槛Python基础、大模型API或本地模型、Agent框架如LangChain, AutoGen。硬件/环境需求无特殊GPU要求。主要依赖CPU和网络调用云端API或适量显存运行本地轻量模型。启动与验证通过编写Python脚本启动核心验证其规划、工具调用、多步任务执行能力。关键功能任务分解、工具调用搜索、计算、文件操作、记忆管理、多轮对话协作。适合场景自动化工作流、智能数据分析、个性化助手、多步骤问题求解。不适合场景需要极高实时性、绝对确定性输出的任务。2. 适用场景与使用边界在投入时间学习前先看看Agent技术能帮你解决什么问题以及它的局限性在哪里。适合谁用开发者/工程师希望将AI能力集成到现有系统实现自动化流程。产品经理/业务人员需要快速原型验证一个AI驱动的产品想法。学生/研究者学习前沿AI应用技术进行相关实验。能解决什么问题信息整合与报告生成给定一个主题Agent可以自动搜索最新资料整理并生成一份摘要报告。自动化数据处理读取一个数据文件根据自然语言指令进行分析、可视化并输出结论。代码辅助与生成理解一个复杂功能需求分解步骤并调用代码解释器逐步实现。个性化任务管理基于你的日历、邮件和待办事项自动规划日程或起草回复。使用边界与注意事项非确定性Agent的决策路径可能每次不同不适合需要100%固定流程的生产环节。成本与延迟频繁调用大模型API会产生费用和网络延迟需做好预算和超时管理。安全性Agent会自动执行工具调用如网络请求、文件写入必须在沙箱或严格权限控制下运行防止恶意指令。版权与合规Agent生成的内容可能涉及版权问题用于商业用途前必须审核。调用搜索工具时需遵守数据抓取协议。3. 环境准备与前置条件我们的目标是快速搭建一个可运行的环境。以下清单涵盖了从零开始到运行第一个Agent所需的一切。基础软件环境操作系统Windows 10/11, macOS, 或 Linux (Ubuntu 20.04 推荐)。本文命令以Linux/macOS为例Windows用户可使用Git Bash或WSL。Python版本 3.8 - 3.11。推荐使用3.10以保证框架兼容性。使用python --version检查。包管理工具pip最新版。使用pip install --upgrade pip更新。代码编辑器VS Code (推荐) 或 PyCharm。核心依赖安装我们将使用一个流行的Agent框架——LangChain因为它生态丰富、文档齐全适合快速入门。 打开终端创建一个新的虚拟环境并安装依赖# 1. 创建并进入项目目录 mkdir ai_agent_workshop cd ai_agent_workshop # 2. 创建Python虚拟环境可选但强烈推荐 python -m venv venv # Windows激活: venv\Scripts\activate # Linux/macOS激活: source venv/bin/activate # 3. 安装LangChain及其常用组件 pip install langchain langchain-community langchain-openai # 4. 安装用于工具调用的额外包例如网页搜索、数学计算 pip install duckduckgo-search numexpr # 5. 安装Jupyter notebook用于交互式实验可选 pip install jupyter大模型接入准备Agent需要一个“大脑”。你可以选择云端API推荐初学者需要OpenAI、DeepSeek、智谱AI等平台的API Key。获取后妥善保存。本地模型需一定资源使用Ollama、LM Studio等工具在本地运行轻量模型如Qwen2.5-7B, Llama 3.2适合网络隔离或隐私要求高的场景。本文示例将使用OpenAI APIGPT-3.5-turbo进行演示因其稳定、快速。4. 第一个Agent从零到一的启动与验证现在我们编写第一个能真正“行动”的Agent。这个Agent将具备使用搜索引擎和计算器两种工具的能力。4.1 项目结构初始化在项目目录下创建两个文件requirements.txt: 记录依赖。first_agent.py: 主程序。将之前安装的包记录到requirements.txtlangchain langchain-community langchain-openai duckduckgo-search numexpr python-dotenv # 用于管理环境变量4.2 编写智能体脚本创建first_agent.py代码如下。请将your_openai_api_key_here替换为你自己的API Key。import os from langchain.agents import AgentExecutor, create_react_agent from langchain_openai import ChatOpenAI from langchain import hub from langchain_community.tools import DuckDuckGoSearchRun, NumExprTool from langchain_core.prompts import PromptTemplate # 1. 设置大模型使用OpenAI GPT-3.5-turbo llm ChatOpenAI( modelgpt-3.5-turbo, temperature0, # 降低随机性使Agent更确定 openai_api_keyyour_openai_api_key_here # 请务必替换 ) # 2. 定义工具集 # 工具1互联网搜索 search_tool DuckDuckGoSearchRun() # 工具2数学计算器 calc_tool NumExprTool() tools [search_tool, calc_tool] # 3. 使用LangChain Hub上的一个标准ReAct提示词模板 # ReAct是让Agent“思考-行动”的关键范式 prompt hub.pull(hwchase17/react) # 4. 创建ReAct Agent agent create_react_agent(llm, tools, prompt) # 5. 创建执行器 agent_executor AgentExecutor( agentagent, toolstools, verboseTrue, # 开启详细日志方便观察Agent的思考过程 handle_parsing_errorsTrue # 优雅处理解析错误 ) # 6. 运行测试 if __name__ __main__: print( 你的第一个AI Agent已启动 ) # 测试查询1需要结合搜索和计算的问题 query1 截至2024年上海的人口是多少将这个数字除以1000结果是多少 print(f\n[用户提问]: {query1}) result1 agent_executor.invoke({input: query1}) print(f[Agent回答]: {result1[output]}) # 测试查询2纯计算问题 query2 计算一下(15 * 24) (180 / 3) 的结果。 print(f\n[用户提问]: {query2}) result2 agent_executor.invoke({input: query2}) print(f[Agent回答]: {result2[output]}) print(\n 测试完成 )4.3 启动与效果验证在终端运行你的脚本python first_agent.py成功运行的标志控制台打印“你的第一个AI Agent已启动”。对于第一个问题你应该能看到类似以下的详细思考过程verboseTrue的作用[Agent思考]我需要先找到上海的人口数据然后进行除法计算。 [Agent行动]使用搜索工具查询“上海 2024 人口”。 [工具观察]搜索结果返回文本包含人口数据例如“2489.43万人”。 [Agent思考]我得到了数据“2489.43万”也就是2489.43 * 10000 24,894,300人。现在需要除以1000。 [Agent行动]使用计算器工具计算“24894300 / 1000”。 [工具观察]计算结果为24894.3。 [Agent回答]截至2024年上海人口约为2489.43万人除以1000后约为24894.3。第二个问题直接调用计算器工具得出结果。最终正确输出两个问题的答案。如果看到以上过程恭喜你你已经成功启动了一个具备规划Plan、工具调用Action、观察结果Observation和最终回答能力的真正Agent。5. 核心能力进阶训练在2.5小时的训练中完成基础启动后应快速迭代验证Agent的更多核心能力。5.1 能力一复杂任务分解一个强大的Agent能将模糊的指令分解为清晰的子任务。测试用例让Agent帮你规划一次“北京三日游”。complex_query “为我规划一个北京的三日游行程需要包含故宫、长城和颐和园并估算大致的门票总花费。” result agent_executor.invoke({input: complex_query})验证点Agent是否将任务分解为“搜索各景点门票”、“规划每日路线”、“计算总费用”等步骤最终输出的行程表是否结构清晰、时间合理它是否主动使用了搜索工具来获取最新的门票价格5.2 能力二记忆与多轮对话让Agent记住对话历史实现上下文关联。测试方法我们升级脚本使用ConversationBufferMemory。from langchain.memory import ConversationBufferMemory memory ConversationBufferMemory(memory_keychat_history, return_messagesTrue) # 需要更新prompt以支持记忆这里使用一个简单的对话提示模板 prompt_with_memory PromptTemplate.from_template( “你是一个有帮助的助手。以下是之前的对话{chat_history}\n\n人类的新问题{input}\n助手” ) # 重新创建Agent和执行器此处简化实际需调整agent创建逻辑 # 更常见的做法是使用 create_conversational_react_agent测试对话“我叫张三。”“我的爱好是什么”看Agent是否能指出它还不知道“我的爱好是编程和爬山。记住它。”“再说一遍我的爱好”验证记忆是否生效5.3 能力三自定义工具扩展除了搜索和计算Agent可以连接任何API或函数。实战练习创建一个获取当前时间的工具。from langchain.tools import tool from datetime import datetime tool def get_current_time(format: str “%Y-%m-%d %H:%M:%S”) - str: “”“获取当前的日期和时间。”“” return datetime.now().strftime(format) # 将新工具加入到tools列表中 tools.append(get_current_time) # 更新agent_executor的tools配置测试查询“现在几点了顺便搜索一下‘时区’的概念。” 验证Agent能否正确调用你自定义的get_current_time工具并混合使用搜索工具。6. 接口API与服务化部署当你的Agent脚本稳定后下一步是将其封装成API服务供其他程序调用。这里使用FastAPI快速搭建。6.1 创建API服务文件agent_api.pyfrom fastapi import FastAPI, HTTPException from pydantic import BaseModel from your_agent_module import agent_executor # 假设你的Agent逻辑封装在了这个模块里 import uvicorn app FastAPI(titleAI Agent Service) class AgentRequest(BaseModel): query: str session_id: str | None None # 用于支持多会话记忆 class AgentResponse(BaseModel): session_id: str answer: str reasoning_steps: list | None None # 可返回思考链 app.post(/v1/chat, response_modelAgentResponse) async def chat_with_agent(request: AgentRequest): try: # 调用你的Agent执行器 result agent_executor.invoke({input: request.query}) return AgentResponse( session_idrequest.session_id or default, answerresult[output], reasoning_stepsresult.get(intermediate_steps, []) # 如果记录了中间步骤 ) except Exception as e: raise HTTPException(status_code500, detailfAgent execution failed: {str(e)}) if __name__ __main__: uvicorn.run(app, host0.0.0.0, port8000)6.2 启动与调用服务启动服务python agent_api.py服务将在http://127.0.0.1:8000运行。使用curl测试curl -X POST http://127.0.0.1:8000/v1/chat \ -H Content-Type: application/json \ -d {query: 计算圆周率的前5位小数是多少, session_id: test_1}使用Python客户端测试import requests response requests.post( http://127.0.0.1:8000/v1/chat, json{query: 今天北京的天气怎么样, session_id: user_123} ) print(response.json())7. 资源占用与性能观察Agent服务的资源消耗主要来自大模型调用和工具执行。API调用模式资源消耗极低主要是网络I/O和内存但需关注API调用成本和网络延迟。使用time库测量单次请求耗时并设置合理的超时时间。本地模型模式如果使用Ollama等运行本地模型如7B参数模型则需关注显存占用7B模型量化后如q4_K_M通常需要4-8GB显存。使用nvidia-smi(GPU) 或任务管理器观察。内存占用加载模型需要额外2-4GB系统内存。推理速度首次加载慢后续推理速度取决于CPU/GPU性能。性能优化建议缓存对相同或相似的查询结果进行缓存减少重复的模型调用和工具调用。异步处理对于批量任务使用异步IO如asyncio并发处理多个请求但注意API的速率限制。超时与重试为网络工具如搜索设置短超时并实现重试机制。轻量化模型在本地部署时优先选择量化版本GGUF格式在精度和速度间取得平衡。8. 常见问题与排查方法在开发和运行Agent过程中你一定会遇到以下问题。这里提供快速排查思路。问题现象可能原因排查方式解决方案运行脚本报ModuleNotFoundError依赖未安装或虚拟环境未激活。1. 运行pip list检查langchain等包是否存在。2. 检查终端提示符前是否有(venv)字样。1. 激活虚拟环境。2. 执行pip install -r requirements.txt。Agent回答“我不知道”或胡言乱语1. Prompt设计不佳。2. 模型温度temperature过高。3. 工具描述不清晰。1. 检查verboseTrue的日志看思考步骤是否合理。2. 将temperature设为0或0.1再试。1. 优化Prompt明确指令和格式。2. 为工具编写清晰、具体的描述字符串。调用搜索工具无结果或超时1. 网络问题。2. DuckDuckGo搜索被限制或变更。1. 测试网络连通性。2. 尝试直接运行DuckDuckGoSearchRun().run(“test”)。1. 检查代理设置。2. 考虑更换搜索工具源如SerpAPI需API Key。API调用返回权限错误API Key错误、过期或余额不足。1. 检查Key字符串是否正确有无多余空格。2. 登录OpenAI控制台查看用量和余额。1. 重新生成并妥善保存API Key。2. 在代码中使用环境变量管理Keyos.getenv(“OPENAI_API_KEY”)。本地模型加载失败1. 模型文件路径错误。2. 显存不足。3. Ollama服务未启动。1. 检查模型文件是否存在。2. 运行ollama list查看已拉取模型。3. 查看Ollama服务日志。1. 使用绝对路径。2. 尝试更小的量化模型如q2_K。3. 重启Ollama服务ollama serve。多轮对话记忆混乱Memory对象未在对话间正确传递或存储。检查每次调用agent_executor.invoke时是否传入了相同的memory对象。对于Web服务使用字典或数据库以session_id为键存储和管理不同的memory对象。9. 最佳实践与工程化建议要让你的Agent从玩具变成工具需要遵循一些工程实践。环境变量管理永远不要将API Key硬编码在代码中。使用.env文件和python-dotenv库。# .env 文件 OPENAI_API_KEYsk-... SERPAPI_API_KEY...from dotenv import load_dotenv load_dotenv() api_key os.getenv(OPENAI_API_KEY)日志与监控为Agent服务添加详细日志记录每个请求的输入、输出、工具调用链和耗时便于调试和优化。错误处理与降级对工具调用尤其是网络请求进行异常捕获。当主要工具失败时提供备选方案或友好的错误提示。测试驱动开发为你的Agent核心逻辑编写单元测试模拟工具调用的返回确保其决策逻辑的稳定性。安全沙箱对于执行代码、文件操作等高风险工具必须在严格的沙箱环境中运行限制其权限和资源访问。效果评估建立简单的评估流程用一批标准问题测试Agent定期运行以监控其性能是否下降例如因依赖的API或模型更新导致。10. 总结与下一步通过以上2.5小时的密集训练你应该已经完成了从零到一的跨越理解了Agent的核心概念搭建了开发环境创建了一个具备工具调用能力的智能体并对其进行了功能测试、服务化封装和问题排查。最值得尝试的下一步连接真实世界工具尝试将Agent与你日常使用的软件连接比如让它读写Notion数据库、发送邮件、操作日历。LangChain提供了大量现成的工具集成。尝试多智能体协作使用像AutoGen这样的框架创建多个具有不同角色如策划、执行、审核的Agent让它们通过对话协作解决更复杂的问题。探索本地模型方案使用Ollama在本地部署一个轻量级模型如qwen2.5:7b构建一个完全离线、隐私无忧的Agent原型。加入记忆与知识库为你的Agent接入向量数据库如Chroma让它能够利用你提供的私有文档进行回答成为你的专属知识助手。Agent开发的精髓在于“快速实验快速验证”。不要追求一开始就构建一个完美的系统而是先让一个最小的闭环跑起来然后不断添加新的工具和能力。现在你已经拥有了这个起点。
这次我们来看一个AI Agent快速上手的实战指南。如果你对“Agent”这个词感到既熟悉又陌生想知道它到底能做什么、怎么快速入门、以及如何在自己的电脑上跑起来这篇文章就是为你准备的。它不是一个具体的开源项目而是一套浓缩的、可执行的训练路径目标是在2.5小时内让你从概念理解到能动手搭建一个具备基础能力的智能体。核心在于“练”。我们不空谈理论而是聚焦于几个关键问题Agent开发需要哪些技术栈本地环境如何搭建有没有现成的框架可以一键启动如何验证一个Agent是否具备了“思考”和“行动”的能力本文将围绕一套高效的训练流程展开涵盖环境准备、框架选择、核心能力实现与测试最终让你能评估一个Agent项目的实际效果。1. 核心能力速览AI Agent 是什么能做什么在开始动手之前我们需要明确目标。一个AI Agent智能体不仅仅是调用大模型API的聊天机器人。它应该具备感知、规划、决策和执行的能力能够理解复杂目标并调用工具如搜索、计算、写代码去完成它。能力项说明与本文聚焦点核心定位具备自主规划与工具使用能力的AI程序而非简单问答。技术栈门槛Python基础、大模型API或本地模型、Agent框架如LangChain, AutoGen。硬件/环境需求无特殊GPU要求。主要依赖CPU和网络调用云端API或适量显存运行本地轻量模型。启动与验证通过编写Python脚本启动核心验证其规划、工具调用、多步任务执行能力。关键功能任务分解、工具调用搜索、计算、文件操作、记忆管理、多轮对话协作。适合场景自动化工作流、智能数据分析、个性化助手、多步骤问题求解。不适合场景需要极高实时性、绝对确定性输出的任务。2. 适用场景与使用边界在投入时间学习前先看看Agent技术能帮你解决什么问题以及它的局限性在哪里。适合谁用开发者/工程师希望将AI能力集成到现有系统实现自动化流程。产品经理/业务人员需要快速原型验证一个AI驱动的产品想法。学生/研究者学习前沿AI应用技术进行相关实验。能解决什么问题信息整合与报告生成给定一个主题Agent可以自动搜索最新资料整理并生成一份摘要报告。自动化数据处理读取一个数据文件根据自然语言指令进行分析、可视化并输出结论。代码辅助与生成理解一个复杂功能需求分解步骤并调用代码解释器逐步实现。个性化任务管理基于你的日历、邮件和待办事项自动规划日程或起草回复。使用边界与注意事项非确定性Agent的决策路径可能每次不同不适合需要100%固定流程的生产环节。成本与延迟频繁调用大模型API会产生费用和网络延迟需做好预算和超时管理。安全性Agent会自动执行工具调用如网络请求、文件写入必须在沙箱或严格权限控制下运行防止恶意指令。版权与合规Agent生成的内容可能涉及版权问题用于商业用途前必须审核。调用搜索工具时需遵守数据抓取协议。3. 环境准备与前置条件我们的目标是快速搭建一个可运行的环境。以下清单涵盖了从零开始到运行第一个Agent所需的一切。基础软件环境操作系统Windows 10/11, macOS, 或 Linux (Ubuntu 20.04 推荐)。本文命令以Linux/macOS为例Windows用户可使用Git Bash或WSL。Python版本 3.8 - 3.11。推荐使用3.10以保证框架兼容性。使用python --version检查。包管理工具pip最新版。使用pip install --upgrade pip更新。代码编辑器VS Code (推荐) 或 PyCharm。核心依赖安装我们将使用一个流行的Agent框架——LangChain因为它生态丰富、文档齐全适合快速入门。 打开终端创建一个新的虚拟环境并安装依赖# 1. 创建并进入项目目录 mkdir ai_agent_workshop cd ai_agent_workshop # 2. 创建Python虚拟环境可选但强烈推荐 python -m venv venv # Windows激活: venv\Scripts\activate # Linux/macOS激活: source venv/bin/activate # 3. 安装LangChain及其常用组件 pip install langchain langchain-community langchain-openai # 4. 安装用于工具调用的额外包例如网页搜索、数学计算 pip install duckduckgo-search numexpr # 5. 安装Jupyter notebook用于交互式实验可选 pip install jupyter大模型接入准备Agent需要一个“大脑”。你可以选择云端API推荐初学者需要OpenAI、DeepSeek、智谱AI等平台的API Key。获取后妥善保存。本地模型需一定资源使用Ollama、LM Studio等工具在本地运行轻量模型如Qwen2.5-7B, Llama 3.2适合网络隔离或隐私要求高的场景。本文示例将使用OpenAI APIGPT-3.5-turbo进行演示因其稳定、快速。4. 第一个Agent从零到一的启动与验证现在我们编写第一个能真正“行动”的Agent。这个Agent将具备使用搜索引擎和计算器两种工具的能力。4.1 项目结构初始化在项目目录下创建两个文件requirements.txt: 记录依赖。first_agent.py: 主程序。将之前安装的包记录到requirements.txtlangchain langchain-community langchain-openai duckduckgo-search numexpr python-dotenv # 用于管理环境变量4.2 编写智能体脚本创建first_agent.py代码如下。请将your_openai_api_key_here替换为你自己的API Key。import os from langchain.agents import AgentExecutor, create_react_agent from langchain_openai import ChatOpenAI from langchain import hub from langchain_community.tools import DuckDuckGoSearchRun, NumExprTool from langchain_core.prompts import PromptTemplate # 1. 设置大模型使用OpenAI GPT-3.5-turbo llm ChatOpenAI( modelgpt-3.5-turbo, temperature0, # 降低随机性使Agent更确定 openai_api_keyyour_openai_api_key_here # 请务必替换 ) # 2. 定义工具集 # 工具1互联网搜索 search_tool DuckDuckGoSearchRun() # 工具2数学计算器 calc_tool NumExprTool() tools [search_tool, calc_tool] # 3. 使用LangChain Hub上的一个标准ReAct提示词模板 # ReAct是让Agent“思考-行动”的关键范式 prompt hub.pull(hwchase17/react) # 4. 创建ReAct Agent agent create_react_agent(llm, tools, prompt) # 5. 创建执行器 agent_executor AgentExecutor( agentagent, toolstools, verboseTrue, # 开启详细日志方便观察Agent的思考过程 handle_parsing_errorsTrue # 优雅处理解析错误 ) # 6. 运行测试 if __name__ __main__: print( 你的第一个AI Agent已启动 ) # 测试查询1需要结合搜索和计算的问题 query1 截至2024年上海的人口是多少将这个数字除以1000结果是多少 print(f\n[用户提问]: {query1}) result1 agent_executor.invoke({input: query1}) print(f[Agent回答]: {result1[output]}) # 测试查询2纯计算问题 query2 计算一下(15 * 24) (180 / 3) 的结果。 print(f\n[用户提问]: {query2}) result2 agent_executor.invoke({input: query2}) print(f[Agent回答]: {result2[output]}) print(\n 测试完成 )4.3 启动与效果验证在终端运行你的脚本python first_agent.py成功运行的标志控制台打印“你的第一个AI Agent已启动”。对于第一个问题你应该能看到类似以下的详细思考过程verboseTrue的作用[Agent思考]我需要先找到上海的人口数据然后进行除法计算。 [Agent行动]使用搜索工具查询“上海 2024 人口”。 [工具观察]搜索结果返回文本包含人口数据例如“2489.43万人”。 [Agent思考]我得到了数据“2489.43万”也就是2489.43 * 10000 24,894,300人。现在需要除以1000。 [Agent行动]使用计算器工具计算“24894300 / 1000”。 [工具观察]计算结果为24894.3。 [Agent回答]截至2024年上海人口约为2489.43万人除以1000后约为24894.3。第二个问题直接调用计算器工具得出结果。最终正确输出两个问题的答案。如果看到以上过程恭喜你你已经成功启动了一个具备规划Plan、工具调用Action、观察结果Observation和最终回答能力的真正Agent。5. 核心能力进阶训练在2.5小时的训练中完成基础启动后应快速迭代验证Agent的更多核心能力。5.1 能力一复杂任务分解一个强大的Agent能将模糊的指令分解为清晰的子任务。测试用例让Agent帮你规划一次“北京三日游”。complex_query “为我规划一个北京的三日游行程需要包含故宫、长城和颐和园并估算大致的门票总花费。” result agent_executor.invoke({input: complex_query})验证点Agent是否将任务分解为“搜索各景点门票”、“规划每日路线”、“计算总费用”等步骤最终输出的行程表是否结构清晰、时间合理它是否主动使用了搜索工具来获取最新的门票价格5.2 能力二记忆与多轮对话让Agent记住对话历史实现上下文关联。测试方法我们升级脚本使用ConversationBufferMemory。from langchain.memory import ConversationBufferMemory memory ConversationBufferMemory(memory_keychat_history, return_messagesTrue) # 需要更新prompt以支持记忆这里使用一个简单的对话提示模板 prompt_with_memory PromptTemplate.from_template( “你是一个有帮助的助手。以下是之前的对话{chat_history}\n\n人类的新问题{input}\n助手” ) # 重新创建Agent和执行器此处简化实际需调整agent创建逻辑 # 更常见的做法是使用 create_conversational_react_agent测试对话“我叫张三。”“我的爱好是什么”看Agent是否能指出它还不知道“我的爱好是编程和爬山。记住它。”“再说一遍我的爱好”验证记忆是否生效5.3 能力三自定义工具扩展除了搜索和计算Agent可以连接任何API或函数。实战练习创建一个获取当前时间的工具。from langchain.tools import tool from datetime import datetime tool def get_current_time(format: str “%Y-%m-%d %H:%M:%S”) - str: “”“获取当前的日期和时间。”“” return datetime.now().strftime(format) # 将新工具加入到tools列表中 tools.append(get_current_time) # 更新agent_executor的tools配置测试查询“现在几点了顺便搜索一下‘时区’的概念。” 验证Agent能否正确调用你自定义的get_current_time工具并混合使用搜索工具。6. 接口API与服务化部署当你的Agent脚本稳定后下一步是将其封装成API服务供其他程序调用。这里使用FastAPI快速搭建。6.1 创建API服务文件agent_api.pyfrom fastapi import FastAPI, HTTPException from pydantic import BaseModel from your_agent_module import agent_executor # 假设你的Agent逻辑封装在了这个模块里 import uvicorn app FastAPI(titleAI Agent Service) class AgentRequest(BaseModel): query: str session_id: str | None None # 用于支持多会话记忆 class AgentResponse(BaseModel): session_id: str answer: str reasoning_steps: list | None None # 可返回思考链 app.post(/v1/chat, response_modelAgentResponse) async def chat_with_agent(request: AgentRequest): try: # 调用你的Agent执行器 result agent_executor.invoke({input: request.query}) return AgentResponse( session_idrequest.session_id or default, answerresult[output], reasoning_stepsresult.get(intermediate_steps, []) # 如果记录了中间步骤 ) except Exception as e: raise HTTPException(status_code500, detailfAgent execution failed: {str(e)}) if __name__ __main__: uvicorn.run(app, host0.0.0.0, port8000)6.2 启动与调用服务启动服务python agent_api.py服务将在http://127.0.0.1:8000运行。使用curl测试curl -X POST http://127.0.0.1:8000/v1/chat \ -H Content-Type: application/json \ -d {query: 计算圆周率的前5位小数是多少, session_id: test_1}使用Python客户端测试import requests response requests.post( http://127.0.0.1:8000/v1/chat, json{query: 今天北京的天气怎么样, session_id: user_123} ) print(response.json())7. 资源占用与性能观察Agent服务的资源消耗主要来自大模型调用和工具执行。API调用模式资源消耗极低主要是网络I/O和内存但需关注API调用成本和网络延迟。使用time库测量单次请求耗时并设置合理的超时时间。本地模型模式如果使用Ollama等运行本地模型如7B参数模型则需关注显存占用7B模型量化后如q4_K_M通常需要4-8GB显存。使用nvidia-smi(GPU) 或任务管理器观察。内存占用加载模型需要额外2-4GB系统内存。推理速度首次加载慢后续推理速度取决于CPU/GPU性能。性能优化建议缓存对相同或相似的查询结果进行缓存减少重复的模型调用和工具调用。异步处理对于批量任务使用异步IO如asyncio并发处理多个请求但注意API的速率限制。超时与重试为网络工具如搜索设置短超时并实现重试机制。轻量化模型在本地部署时优先选择量化版本GGUF格式在精度和速度间取得平衡。8. 常见问题与排查方法在开发和运行Agent过程中你一定会遇到以下问题。这里提供快速排查思路。问题现象可能原因排查方式解决方案运行脚本报ModuleNotFoundError依赖未安装或虚拟环境未激活。1. 运行pip list检查langchain等包是否存在。2. 检查终端提示符前是否有(venv)字样。1. 激活虚拟环境。2. 执行pip install -r requirements.txt。Agent回答“我不知道”或胡言乱语1. Prompt设计不佳。2. 模型温度temperature过高。3. 工具描述不清晰。1. 检查verboseTrue的日志看思考步骤是否合理。2. 将temperature设为0或0.1再试。1. 优化Prompt明确指令和格式。2. 为工具编写清晰、具体的描述字符串。调用搜索工具无结果或超时1. 网络问题。2. DuckDuckGo搜索被限制或变更。1. 测试网络连通性。2. 尝试直接运行DuckDuckGoSearchRun().run(“test”)。1. 检查代理设置。2. 考虑更换搜索工具源如SerpAPI需API Key。API调用返回权限错误API Key错误、过期或余额不足。1. 检查Key字符串是否正确有无多余空格。2. 登录OpenAI控制台查看用量和余额。1. 重新生成并妥善保存API Key。2. 在代码中使用环境变量管理Keyos.getenv(“OPENAI_API_KEY”)。本地模型加载失败1. 模型文件路径错误。2. 显存不足。3. Ollama服务未启动。1. 检查模型文件是否存在。2. 运行ollama list查看已拉取模型。3. 查看Ollama服务日志。1. 使用绝对路径。2. 尝试更小的量化模型如q2_K。3. 重启Ollama服务ollama serve。多轮对话记忆混乱Memory对象未在对话间正确传递或存储。检查每次调用agent_executor.invoke时是否传入了相同的memory对象。对于Web服务使用字典或数据库以session_id为键存储和管理不同的memory对象。9. 最佳实践与工程化建议要让你的Agent从玩具变成工具需要遵循一些工程实践。环境变量管理永远不要将API Key硬编码在代码中。使用.env文件和python-dotenv库。# .env 文件 OPENAI_API_KEYsk-... SERPAPI_API_KEY...from dotenv import load_dotenv load_dotenv() api_key os.getenv(OPENAI_API_KEY)日志与监控为Agent服务添加详细日志记录每个请求的输入、输出、工具调用链和耗时便于调试和优化。错误处理与降级对工具调用尤其是网络请求进行异常捕获。当主要工具失败时提供备选方案或友好的错误提示。测试驱动开发为你的Agent核心逻辑编写单元测试模拟工具调用的返回确保其决策逻辑的稳定性。安全沙箱对于执行代码、文件操作等高风险工具必须在严格的沙箱环境中运行限制其权限和资源访问。效果评估建立简单的评估流程用一批标准问题测试Agent定期运行以监控其性能是否下降例如因依赖的API或模型更新导致。10. 总结与下一步通过以上2.5小时的密集训练你应该已经完成了从零到一的跨越理解了Agent的核心概念搭建了开发环境创建了一个具备工具调用能力的智能体并对其进行了功能测试、服务化封装和问题排查。最值得尝试的下一步连接真实世界工具尝试将Agent与你日常使用的软件连接比如让它读写Notion数据库、发送邮件、操作日历。LangChain提供了大量现成的工具集成。尝试多智能体协作使用像AutoGen这样的框架创建多个具有不同角色如策划、执行、审核的Agent让它们通过对话协作解决更复杂的问题。探索本地模型方案使用Ollama在本地部署一个轻量级模型如qwen2.5:7b构建一个完全离线、隐私无忧的Agent原型。加入记忆与知识库为你的Agent接入向量数据库如Chroma让它能够利用你提供的私有文档进行回答成为你的专属知识助手。Agent开发的精髓在于“快速实验快速验证”。不要追求一开始就构建一个完美的系统而是先让一个最小的闭环跑起来然后不断添加新的工具和能力。现在你已经拥有了这个起点。
)
