
如何在little-coder中用大模型规划、小模型实现Per-phase双模型完整使用指南【免费下载链接】little-coderA harness optimized to smaller LLMs项目地址: https://gitcode.com/gh_mirrors/li/little-coderlittle-coder是专为小模型优化的本地编码智能体coding agent它的 Per-phase 双模型按阶段选模型功能让你可以用大模型做规划、小模型做实现——规划阶段花大模型的脑力实现阶段交给快速廉价的小模型从而在本地硬件上同时获得高质量计划和高执行速度。下面这份指南带你从零开始完成配置。 为什么大模型规划、小模型实现在动手之前先理解这个设计背后的三个理由痛点双模型方案小模型做复杂规划容易跑偏、漏掉边界情况规划阶段切到能力更强的大模型产出可靠计划大模型本地推理慢写代码逐行输出代价高实现阶段切回小模型token 生成快、成本低规划过程会占满上下文窗口计划被批准后会保存为文件实现阶段开全新会话只带计划本身不把研究过程带进实现上下文最后一点是 little-coder 的关键机制计划批准后会持久化到.pi/approved-plan.md执行/implement时会用一个以计划为种子的新会话启动工作避免小上下文窗口被前期研究挤爆。下图展示了 little-coder 这套脚手架对多语言编码任务的表现对比 Aider Polyglot 基准直观说明小模型 好的脚手架 合理的阶段分工能带来多大的提升⌨️ 核心命令一览双模型配置全部通过斜杠命令完成支持自动补全和模糊匹配输入9b也能命中qwen3.5-9b命令作用/plan-model 名称指定规划阶段Plan Mode使用的模型/action-model 名称指定实现阶段使用的模型/phase-models查看两个阶段模型、当前激活模型和交接模式/model-handover auto\|manual切换自动交接或手动切换/implement用实现模型在新会话中执行最近一次被批准的计划示例/plan-model llamacpp/qwen3.8-27b /action-model llamacpp/qwen3.5-9b 模型标签是会话状态而非启动配置——你可以随时在会话中途更改这正是该功能的设计初衷拿同一份需求给两个规划模型做 A/B 对比。 完整使用流程第 1 步设定两个阶段的模型启动 little-coder 后先指定规划模型与实现模型名称支持模糊匹配/plan-model qwen3.8-27b /action-model 9b第 2 步进入 Plan Mode 产出计划按ctrlq切换规划模式输入框下方出现◆ PLAN MODE指示器也可以启动时就用--plan-mode参数直接进入。提交需求后little-coder 会派只读子编码器研究代码库只把简报带回主上下文向你提 1–3 个澄清问题带建议答案和自由填写项;在聊天中写出完整计划——不会动任何文件。第 3 步批准计划批准计划后它会保存到.pi/approved-plan.md并停下。此时不会切换模型——交接发生在实现真正开始的那一刻所以批准了又反悔想重写计划不产生任何代价。第 4 步/implement 交给小模型执行运行/implementlittle-coder 会切换到实现模型如小模型、开启以计划为种子上下文的全新会话、开始干活。研究、问答等前期消耗都不会吃掉实现所需的上下文。按Esc可随时取消进行中的规划。⚙️ 配置默认值不想每次手动敲命令可以在 models.json 顶层加默认键或用环境变量来源配置项models.jsonplanModel/actionModel/handover环境变量LITTLE_CODER_PLAN_MODEL、LITTLE_CODER_ACTION_MODEL、LITTLE_CODER_MODEL_HANDOVER两个阶段都没设置时每个阶段都用当前激活模型——即不配置就完全回退到普通用法零影响。⚡ 自动 vs 手动交接本地用户必看默认是auto模式进入 Plan Mode 自动切到规划模型/implement时自动切到实现模型。但本地部署有个重要细节在单个 llama.cpp 后端上模型切换会卸载并重新加载权重可能带来约 15 秒的停顿。如果你希望完全掌控切换时机比如在两个模型都预热的状态下手动切换可运行/model-handover manual几个贴心的降级行为✅ 两个阶段指向同一模型时交接是空操作不会触发重载✅ 切换失败模型不可用、缺密钥时会停留在当前模型并明确告知而不是卡死。 常见问题速查问题解答如何确认配置生效运行/phase-models可查看两个阶段模型、激活模型与交接模式批准计划后可以不执行吗可以。交接发生在/implement时而非批准时反悔重写计划零成本只想用一个模型两个命令都不设置即可各阶段沿用当前激活模型本地切换卡顿改用/model-handover manual自己挑时机切换更多模型从哪看little-coder --list-models列出所有已注册模型 延伸阅读功能与命令详解README.md 的 Per-phase model selection 一节脚手架架构与扩展机制docs/extensions.md项目系统提示词AGENTS.md基准测试叙述含小模型实战数据docs/benchmark-qwen3.6-35b-a3b.md按大模型想清楚、小模型写出来的节奏工作你只需记住三件事/plan-model指定规划者、/action-model指定执行者、/implement一键交接。剩下的little-coder 会替你管好上下文和模型切换。【免费下载链接】little-coderA harness optimized to smaller LLMs项目地址: https://gitcode.com/gh_mirrors/li/little-coder创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考