尧图网站建设 
aider 实战解析Claude 3.5 Sonnet 如何突破 4k 输出 token 上限实现无限代码输出【免费下载链接】Qwen3-CoderQwen3-Coder is the code version of Qwen3, the large language model series developed by Qwen team.项目地址: https://gitcode.com/GitHub_Trending/co/Qwen3-Coder本篇技术指南以 2024-07-01-sonnet-not-lazy.md 这篇 aider 官方博客为核心骨架结合 Qwen3-Coder 仓库中收录的 aider 完整源码深入解析 aider 如何解决 Claude 3.5 Sonnet 频繁撞上 4k 输出 token 上限的工程难题。读完本文你将掌握多轮响应拼接实现无限输出、反浪费的简洁编辑提示以及ANTHROPIC_API_KEY 自动切换默认模型三大机制的原理与实操方法并能在本地立即用 aider Sonnet 复现这一工作流。背景一切源于 Sonnet 太勤奋了2024 年 7 月aider 团队发现 Claude 3.5 Sonnet 在 AI 编程场景中表现出一个幸福的烦恼它异常勤勉、专注且卖力经常在一次响应中写出远超其他模型的优质代码。但所有 LLM 除了有上下文窗口context window限制外还受限于单次请求的输出 token 上限。Sonnet 与当时绝大多数模型一样单次响应最多只能返回 4k tokens于是它经常在代码写到一半时被硬生生截断。这在 aider 的 refactoring benchmark 上直接体现为分数落差。按该博客的原始记录Sonnet 的得分从 55.1% 跃升至 64.0%一举进入第二名仅次于 Opus、领先 GPT-4o——而这个提升正是源自解除 4k 输出限制。需要说明的是这是该博客发布时2024 年 7 月的历史测评数据记录的是当时的模型与 benchmark 状态并非当前仓库的实时结论。深入理解Sonnet 为什么会撞上 4k 输出上限Sonnet 频繁触发 4k 输出截断根源在于三个叠加因素单次生成大量完整代码Sonnet 有能力在一次响应中输出大量正确且完整的新代码远超 4k tokens 的容量单次指定超长编辑序列在重构大文件时Sonnet 可以一口气列出涉及绝大多数行的修改这些编辑指令本身就会耗尽输出预算SEARCH/REPLACE 整段引用Sonnet 倾向于在编辑时引用文件的大段原内容这不仅是 token 浪费还会显著增加延迟和费用。其中前两点属于好问题——意味着 Sonnet 的编码能力比其他模型更强只是不希望被输出上限中途打断第三点则是纯浪费需要从提示词层面加以纠正。机制一多轮响应拼接实现无限输出aider 的核心解法是不再让 Sonnet 一次响应受限而是允许它将输出拆分成多个 4k token 的 API 响应由 aider 无缝拼接。这样 Sonnet 可以返回任意长度的代码既保留其高产出的优点又彻底摆脱单次输出上限的钳制。从仓库源码可以印证这一设计。在 models.py 中claude-3-5-sonnet-20240620的模型配置models.py#L255-L267显式设置了max_tokens8192并携带自定义请求头extra_headers{ anthropic-beta: ANTHROPIC_BETA_HEADER, },而ANTHROPIC_BETA_HEADER的定义models.py#L21为ANTHROPIC_BETA_HEADER max-tokens-3-5-sonnet-2024-07-15,prompt-caching-2024-07-31这说明 aider 通过两类手段共同突破输出瓶颈一是利用anthropic-beta的max-tokens-3-5-sonnet特性申请更大的输出窗口二是依靠自身infinite output机制将长输出拆成连续多次请求并自动续接。该机制在 base_coder.py 的模型信息汇总中也有体现base_coder.py#L184 附近输出infinite output标记。仓库收录的 HISTORY.md 同样记载了 Allow Claude 3.5 Sonnet to stream back 4k tokens! 与 Support for Sonnets 8k output window 两条变更记录HISTORY.md#L219-L220从版本演进角度佐证了这一能力。机制二提示词层面的反浪费——鼓励精简编辑与无限输出不同第三个问题SEARCH/REPLACE 整段引用无法靠拼接响应解决因为它的本质是token、时间和金钱的三重浪费。面对源文件中分散的几个小改动Sonnet 常常倾向于做一次覆盖几乎整个文件的巨型 SEARCH/REPLACE而正确做法应是几次外科手术式的精准小编辑。aider 的应对策略是改写提示词主动引导模型输出简洁编辑。这在 editblock_prompts.py 的system_reminder中有完整体现editblock_prompts.py#L159-L162Keep *SEARCH/REPLACE* blocks concise. Break large *SEARCH/REPLACE* blocks into a series of smaller blocks that each change a small portion of the file. Include just the changing lines, and a few surrounding lines if needed for uniqueness. Do not include long runs of unchanging lines in *SEARCH/REPLACE* blocks.即保持 SEARCH/REPLACE 块精简、把大块拆成多个小块、只包含变更行与少量上下文、绝不夹带大段未变化的代码。这套规则直接约束了模型在 diff 编辑格式下的输出习惯。与此同时aider 还注入了一个反懒惰提示lazy_prompt鼓励模型完整实现而非用注释敷衍。其定义位于 base_prompts.py#L12-L15You are diligent and tireless! You NEVER leave comments describing code without implementing it! You always COMPLETELY IMPLEMENT the needed code!该提示在 base_coder.py#L923 处按模型能力条件注入主系统提示lazy_prompt self.gpt_prompts.lazy_prompt if self.main_model.lazy else 并贯穿多个编辑格式的提示模板editblock_prompts.py、udiff_prompts.py、wholefile_prompts.py 中均有{lazy_prompt}占位符。两套提示一简一勤配合既保证代码完整实现又避免无谓的 token 开销。机制三ANTHROPIC_API_KEY 就绪时自动切换 Sonnetaider 在最新版本中对 Claude 3.5 Sonnet 做了专项支持其中一条重要变化是只要环境中设置了ANTHROPIC_API_KEYaider 就默认使用 Sonnet。该逻辑在 main.py#L506-L509 中清晰可见if not args.model: args.model gpt-4o-2024-08-06 if os.environ.get(ANTHROPIC_API_KEY): args.model claude-3-5-sonnet-20240620即默认模型仍是 GPT-4o但一旦检测到 Anthropic 密钥就自动切换为claude-3-5-sonnet-20240620。此外aider 还提供--sonnet快捷参数显式指定该模型args.py#L60-L67sonnet_model claude-3-5-sonnet-20240620 group.add_argument( --sonnet, actionstore_const, destmodel, constsonnet_model, helpfUse {sonnet_model} model for the main chat, )而--anthropic-api-key参数args.py#L40-L45支持环境变量同名注入在 main.py#L489-L490 中被写入os.environ实现命令行与环境的双重配置方式。实操五分钟用 aider Sonnet 跑起来按博客原文与仓库代码的配置方式快速启动命令如下以 Mac/Linux 为例$ python -m pip install aider-chat $ export ANTHROPIC_API_KEYkey # Mac/Linux $ setx ANTHROPIC_API_KEY key # Windowssetx 后需重启 shell $ aider要点说明安装依赖直接走pip install aider-chat无额外系统依赖export设置环境变量后运行aider程序会自动检测ANTHROPIC_API_KEY并将主模型切换为claude-3-5-sonnet-20240620main.py#L506-L509若想显式指定模型可运行aider --sonnet或aider --model claude-3-5-sonnet-20240620若希望回退到默认的 GPT-4o直接不设置ANTHROPIC_API_KEY即可进入交互后Sonnet 会自动应用无限输出与精简 SEARCH/REPLACE两套机制即使重构超大文件也不会被 4k 截断。在 Qwen3-Coder 仓库中的定位本文剖析的 aider 源码完整收录于 qwencoder-eval/instruct/aider/ 目录是 Qwen3-Coder 评测体系qwencoder-eval/中面向真实 Agent 编码场景的评估组件之一。仓库内除本次分析的编辑提示与模型配置外还包含 aider 的完整测试集qwencoder-eval/instruct/aider/tests/、基准评测脚本qwencoder-eval/instruct/aider/benchmark/以及官方文档站qwencoder-eval/instruct/aider/aider/website/。需要了解博客所依赖的完整版本演进可查阅 HISTORY.md想深入 SEARCH/REPLACE 格式的解析实现可研读 search_replace.py 与 editblock_coder.py。对于希望在评测中复现这一输出上限解除能力的读者上述路径提供了从提示词到模型配置的完整证据链。【免费下载链接】Qwen3-CoderQwen3-Coder is the code version of Qwen3, the large language model series developed by Qwen team.项目地址: https://gitcode.com/GitHub_Trending/co/Qwen3-Coder创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 aider 实战解析：Claude 3.5 Sonnet 如何突破 4k 输出 token 上限实现无限代码输出
aider 实战解析Claude 3.5 Sonnet 如何突破 4k 输出 token 上限实现无限代码输出【免费下载链接】Qwen3-CoderQwen3-Coder is the code version of Qwen3, the large language model series developed by Qwen team.项目地址: https://gitcode.com/GitHub_Trending/co/Qwen3-Coder本篇技术指南以 2024-07-01-sonnet-not-lazy.md 这篇 aider 官方博客为核心骨架结合 Qwen3-Coder 仓库中收录的 aider 完整源码深入解析 aider 如何解决 Claude 3.5 Sonnet 频繁撞上 4k 输出 token 上限的工程难题。读完本文你将掌握多轮响应拼接实现无限输出、反浪费的简洁编辑提示以及ANTHROPIC_API_KEY 自动切换默认模型三大机制的原理与实操方法并能在本地立即用 aider Sonnet 复现这一工作流。背景一切源于 Sonnet 太勤奋了2024 年 7 月aider 团队发现 Claude 3.5 Sonnet 在 AI 编程场景中表现出一个幸福的烦恼它异常勤勉、专注且卖力经常在一次响应中写出远超其他模型的优质代码。但所有 LLM 除了有上下文窗口context window限制外还受限于单次请求的输出 token 上限。Sonnet 与当时绝大多数模型一样单次响应最多只能返回 4k tokens于是它经常在代码写到一半时被硬生生截断。这在 aider 的 refactoring benchmark 上直接体现为分数落差。按该博客的原始记录Sonnet 的得分从 55.1% 跃升至 64.0%一举进入第二名仅次于 Opus、领先 GPT-4o——而这个提升正是源自解除 4k 输出限制。需要说明的是这是该博客发布时2024 年 7 月的历史测评数据记录的是当时的模型与 benchmark 状态并非当前仓库的实时结论。深入理解Sonnet 为什么会撞上 4k 输出上限Sonnet 频繁触发 4k 输出截断根源在于三个叠加因素单次生成大量完整代码Sonnet 有能力在一次响应中输出大量正确且完整的新代码远超 4k tokens 的容量单次指定超长编辑序列在重构大文件时Sonnet 可以一口气列出涉及绝大多数行的修改这些编辑指令本身就会耗尽输出预算SEARCH/REPLACE 整段引用Sonnet 倾向于在编辑时引用文件的大段原内容这不仅是 token 浪费还会显著增加延迟和费用。其中前两点属于好问题——意味着 Sonnet 的编码能力比其他模型更强只是不希望被输出上限中途打断第三点则是纯浪费需要从提示词层面加以纠正。机制一多轮响应拼接实现无限输出aider 的核心解法是不再让 Sonnet 一次响应受限而是允许它将输出拆分成多个 4k token 的 API 响应由 aider 无缝拼接。这样 Sonnet 可以返回任意长度的代码既保留其高产出的优点又彻底摆脱单次输出上限的钳制。从仓库源码可以印证这一设计。在 models.py 中claude-3-5-sonnet-20240620的模型配置models.py#L255-L267显式设置了max_tokens8192并携带自定义请求头extra_headers{ anthropic-beta: ANTHROPIC_BETA_HEADER, },而ANTHROPIC_BETA_HEADER的定义models.py#L21为ANTHROPIC_BETA_HEADER max-tokens-3-5-sonnet-2024-07-15,prompt-caching-2024-07-31这说明 aider 通过两类手段共同突破输出瓶颈一是利用anthropic-beta的max-tokens-3-5-sonnet特性申请更大的输出窗口二是依靠自身infinite output机制将长输出拆成连续多次请求并自动续接。该机制在 base_coder.py 的模型信息汇总中也有体现base_coder.py#L184 附近输出infinite output标记。仓库收录的 HISTORY.md 同样记载了 Allow Claude 3.5 Sonnet to stream back 4k tokens! 与 Support for Sonnets 8k output window 两条变更记录HISTORY.md#L219-L220从版本演进角度佐证了这一能力。机制二提示词层面的反浪费——鼓励精简编辑与无限输出不同第三个问题SEARCH/REPLACE 整段引用无法靠拼接响应解决因为它的本质是token、时间和金钱的三重浪费。面对源文件中分散的几个小改动Sonnet 常常倾向于做一次覆盖几乎整个文件的巨型 SEARCH/REPLACE而正确做法应是几次外科手术式的精准小编辑。aider 的应对策略是改写提示词主动引导模型输出简洁编辑。这在 editblock_prompts.py 的system_reminder中有完整体现editblock_prompts.py#L159-L162Keep *SEARCH/REPLACE* blocks concise. Break large *SEARCH/REPLACE* blocks into a series of smaller blocks that each change a small portion of the file. Include just the changing lines, and a few surrounding lines if needed for uniqueness. Do not include long runs of unchanging lines in *SEARCH/REPLACE* blocks.即保持 SEARCH/REPLACE 块精简、把大块拆成多个小块、只包含变更行与少量上下文、绝不夹带大段未变化的代码。这套规则直接约束了模型在 diff 编辑格式下的输出习惯。与此同时aider 还注入了一个反懒惰提示lazy_prompt鼓励模型完整实现而非用注释敷衍。其定义位于 base_prompts.py#L12-L15You are diligent and tireless! You NEVER leave comments describing code without implementing it! You always COMPLETELY IMPLEMENT the needed code!该提示在 base_coder.py#L923 处按模型能力条件注入主系统提示lazy_prompt self.gpt_prompts.lazy_prompt if self.main_model.lazy else 并贯穿多个编辑格式的提示模板editblock_prompts.py、udiff_prompts.py、wholefile_prompts.py 中均有{lazy_prompt}占位符。两套提示一简一勤配合既保证代码完整实现又避免无谓的 token 开销。机制三ANTHROPIC_API_KEY 就绪时自动切换 Sonnetaider 在最新版本中对 Claude 3.5 Sonnet 做了专项支持其中一条重要变化是只要环境中设置了ANTHROPIC_API_KEYaider 就默认使用 Sonnet。该逻辑在 main.py#L506-L509 中清晰可见if not args.model: args.model gpt-4o-2024-08-06 if os.environ.get(ANTHROPIC_API_KEY): args.model claude-3-5-sonnet-20240620即默认模型仍是 GPT-4o但一旦检测到 Anthropic 密钥就自动切换为claude-3-5-sonnet-20240620。此外aider 还提供--sonnet快捷参数显式指定该模型args.py#L60-L67sonnet_model claude-3-5-sonnet-20240620 group.add_argument( --sonnet, actionstore_const, destmodel, constsonnet_model, helpfUse {sonnet_model} model for the main chat, )而--anthropic-api-key参数args.py#L40-L45支持环境变量同名注入在 main.py#L489-L490 中被写入os.environ实现命令行与环境的双重配置方式。实操五分钟用 aider Sonnet 跑起来按博客原文与仓库代码的配置方式快速启动命令如下以 Mac/Linux 为例$ python -m pip install aider-chat $ export ANTHROPIC_API_KEYkey # Mac/Linux $ setx ANTHROPIC_API_KEY key # Windowssetx 后需重启 shell $ aider要点说明安装依赖直接走pip install aider-chat无额外系统依赖export设置环境变量后运行aider程序会自动检测ANTHROPIC_API_KEY并将主模型切换为claude-3-5-sonnet-20240620main.py#L506-L509若想显式指定模型可运行aider --sonnet或aider --model claude-3-5-sonnet-20240620若希望回退到默认的 GPT-4o直接不设置ANTHROPIC_API_KEY即可进入交互后Sonnet 会自动应用无限输出与精简 SEARCH/REPLACE两套机制即使重构超大文件也不会被 4k 截断。在 Qwen3-Coder 仓库中的定位本文剖析的 aider 源码完整收录于 qwencoder-eval/instruct/aider/ 目录是 Qwen3-Coder 评测体系qwencoder-eval/中面向真实 Agent 编码场景的评估组件之一。仓库内除本次分析的编辑提示与模型配置外还包含 aider 的完整测试集qwencoder-eval/instruct/aider/tests/、基准评测脚本qwencoder-eval/instruct/aider/benchmark/以及官方文档站qwencoder-eval/instruct/aider/aider/website/。需要了解博客所依赖的完整版本演进可查阅 HISTORY.md想深入 SEARCH/REPLACE 格式的解析实现可研读 search_replace.py 与 editblock_coder.py。对于希望在评测中复现这一输出上限解除能力的读者上述路径提供了从提示词到模型配置的完整证据链。【免费下载链接】Qwen3-CoderQwen3-Coder is the code version of Qwen3, the large language model series developed by Qwen team.项目地址: https://gitcode.com/GitHub_Trending/co/Qwen3-Coder创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考