我最开始用龙虾也是 Opus 从头到尾觉得这样才算是释放了最大的生产力。随着 token 越来越不够用我开始持续探索节省 token 的方案 越深入越发现真正的省 token 不是削减投入、不是降低预算而是在保证效率和产能的前提下用结构化的方式替代蛮力输入。本质上就是学会工程化地用 AI关键在于一个动作在合适的时间把合适的上下文装载进合适的模型。这不仅省 token更重要的是让 AI 的每一分注意力都用在刀刃上。为什么 AI 越用越贵还越用越笨在ChatBot时期模型看到的输入基本就是官方预设的系统提示词以及用户输入框里打字的提示词再加上一些多轮对话的历史记忆。但是在进入龙虾时代后在token看板上随便观测任何一个任务执行的agent调用链路以及对照公开的 token 用量分析才发现打字输入的提示词仅仅只是模型输入的冰山一角了工具在多次调用、skills在反复装载、本地文件在不断被读取……随之而来的是历史上下文的几何级膨胀。我们手打输入的那几个字在整个 Token 账单里其实只是零头。看完这个分布我们不难发现上下文如何管理是一个有技术且很需要精进的点。因为我们都知道现在上下文最大的模型也就是1M左右。不管它的话模型会越用越笨所有多出来的历史上下文只能依赖龙虾工具自己的上下文压缩能力来维系对话的进行。但是这个压缩一定是有损的在压缩过程中可能就会丢失了我们之前定好的约束反复问已经确认过的事情。这也就是经常能听到的 Context Rot上下文腐烂。上下文 token 越多模型召回准确率持续下降。根因在 Transformer 架构本身n 个 token 之间是 n² 的两两关联上下文越长注意力被摊得越薄。越多的无效信息就反而冲淡了我们真正想要大模型读取到的上下文内容。所以对上下文做好合适的工程化管理既能省 Token事实上也是在让 AI 变聪明产出更好的效果。接下来四章拆成四个动作最小上下文、清晰理想态、Harness 架构分层、动态选型。别让 AI “读全文”要让它按需取说了管理上下文的必要性那到底什么是好的上下文其实就是要求我们找到那个最小的、信号最强的 token 集合(the smallest set of high-signal tokens)。不是喂得越多越好是喂得越准越好。我们可以参考大多数龙虾针对代码仓库做索引的设计方案不把整个代码库一股脑塞进上下文只维护一套轻量索引文件路径、查询语句、链接用到时用 grep / glob / read 现场搜索读取。这套打法叫 JITJust-in-Time即时检索。JIT 解决进来时少装。长的多轮会话还有另一个问题会话本身会膨胀。这就需要上下文卸载把 AI 上下文当存储系统来管理缓存该缓存落盘该落盘分层存储。想象你的龙虾就像一台电脑。电脑有多层存储CPU 缓存最快但最小内存次之硬盘最慢但容量无限。AI 的上下文系统也一样对标这个层级卸载的策略就清晰了具体怎么操作提到缓存这里顺带还有一个经常被忽略的省 token 技巧Prompt Caching提示缓存命中。固定的系统指令和工具定义放前缀重复部分只按零头计费。启用缓存最多可降低 90% 的输入成本在尝试使用 DeepSeek 模型执行任务时就经常能被账单的性价比惊艳到。越约束越自由花五分钟说清楚省五十分钟拉扯很多 Token是在猜来猜去里烧掉的。你扔一句帮我写个登录页AI 只能猜你想要什么写出来不对你改它再猜。五六轮过去Token 花了很多事情还没做好。写提示词就像调收音机要找到对的频率高度right altitude。太低硬编码一堆 if-else太高说一句请专业地完成任务刚刚好给清目标和约束别把每步都规定死。出发前花五分钟回答以下三个问题能省掉后面五十分钟的反复。注意是策展不是堆砌不要塞一长串边缘情况试图覆盖所有规则而是挑几个多样化、有代表性的样板。这三个问题的背后是一个递进的金字塔给示例One-Shot最准确给规则Spec / 约束次之让虾猜光提需求最差。一个真实的例子比一千字的文字描述更高效。但注意这是策展不是堆砌不要试图列出一长串边缘情况来覆盖所有规则而是精心挑选几个多样化、有代表性的样板。把这些约束和示例固化下来就是给 AI 装上护栏。护栏是信任的基础。没有护栏你只敢让 AI 做简单的事有了护栏你才敢把复杂的活交给它。如果工具集臃肿、功能重叠、规则模糊即使人类工程师都说不清该用哪个工具、该遵循哪条规则AI 也不可能猜对。约束越精确 → AI 越不用猜 → 一次到位 → 返工越少 → Token 越省。同时输出质量也会更高。省 Token 和把 AI 用好就是同一件事。活太大就别让一个脑子硬扛有些任务本身复杂单个会话很快被细节塞满。这就需要从架构层面重新思考不是一个虾硬扛而是多个虾的分工和协作。第一部分主动压缩 · 会话的三段生命周期一个会话不是越长越好。随着轮次增加虾的表现会经历三个阶段· FRESH清醒 前 20 轮虾的状态最好。输入输出精准、理解深度到位、响应快速。这个时候就放心用不用省。·DRIFT漂移20~60 轮上下文开始有点乱。虾开始重复犯同一种错、忘了早期的约定、输出变啰嗦。这个时候该动手压缩了。把历史摘要一下新窗口继续。·ROT腐烂 超过 60 轮虾已经是另一个样子了。风格突变、问题答非所问、逻辑混乱。这个时候已经没救了必须重开。关键是不要硬撑。一旦进入 DRIFT就主动摘要一下拿摘要启动新会话继续。主动做一次上下文压缩、保留摘要 最近的几个文件新会话继续服务。成本降效果也没掉。第二部分子智能体架构 · 轻主虾 重子虾但即使你很会压缩有些任务也就是特别复杂。比如一个月级的长期项目需要全程精细化决策。光靠按阶段压缩还是不够因为你经常需要在执行中途改需求、改方案。这时候就该换个架构不是一个虾从头到尾而是一个主虾 多个子虾。核心思想很简单主虾只做决策和调度子虾做具体执行。主虾的工作是理解全局、拆分任务、整合结论。子虾各自拿一个明确的、最小粒度的原子任务用干净的上下文窗口完成后只交回结果不回灌过程。举个例子写一个复杂的系统设计文档。旧方法是一个 Opus 从需求分析 → 架构设计 → 代码框架 → 文档输出一个会话全搞定。问题是上下文越堆越厚最后虾被前面的细节压得喘不过气新的需求改动反而容易被忽视。新方法是主虾接到写系统设计文档的任务拆成 5 个子任务给子虾①理解需求②梳理关键决策点③设计核心架构④给出代码参考⑤生成文档框架。每个子虾拿一个子任务干完把结论交回来主虾汇总最后输出。这样做有三个好处①主虾永不疲劳强模型只在决策点出场上下文从不积压。即使项目跑数千行代码主虾脑子一直是清醒的。②子虾是原子单位每个子虾的任务完全独立、不需要跨轮积累上下文。用便宜点的模型就够了一次搞定。③需求变更无痛中途改需求主虾重新拆分即可。不用推翻整个进度只调整涉及的子虾。关键是任务的拆分粒度。不是拆成 5 个大阶段而是拆到最低细粒度的原子任务每个都完全独立、不需要跨轮上下文。比如“给代码补充单测”“校验 JSON 结构”“从文档提取决策点”。这样子虾用 Sonnet 甚至更便宜的模型就够了成本降到原来的 20~30%。回到开头别全程开着最强模型按阶段切换模型 是最直接的方案。简单任务用快模型关键任务才用最强的这招实际上手快但手动切换麻烦且如果任务本身高度复杂需要全程精细化决策仅靠按阶段切换其实还不够。这里还有一个更优雅的方案大脑手脚架构。用一个强的模型当主 Agent大脑。它的唯一职责是理解全局、拆分任务、调度执行、汇总决策。然后让性价比高的模型作为 Sub-Agent手脚。接收大脑下达的细粒度原子任务逐个完成只反馈结果不回灌过程。关键是任务拆分粒度。大脑不是把一个大任务砍成五六个中等任务这还是太粗而是拆到最低细粒度的原子任务。每个都是完全独立、不需要上下文积累、可以用中等模型一把搞定的单元。比如“给这段代码加注释”“检查这个JSON 字段有没有缺”“从这个文本里提取核心信息”。这样做的妙处在于① 大脑永不疲劳强模型只在决策点出场上下文从不积压。即使项目跑数千行代码主虾脑子一直是清醒的。② 手脚可以并行五个原子任务可以同时派给五个便宜模型实例并行完成大脑只需在最后合并结果。 五个原子任务可以同时派给五个便宜模型实例并行完成大脑只需在最后合并结果。③ 成本剧降大脑的调用次数少只在关键时刻手脚用便宜模型。整体成本可能只有全程 Opus的 20–30%。这也恰似软件工程的高内聚、低耦合把模型当团队编制大脑和手脚职责明确信息流清晰反而削弱单一模型的上下文焦虑。认清账单、最小上下文、清晰理想态、Harness 架构分层、动态选型省 token 和怎么把 AI 用好本质都是一句话在合适的时间把合适的上下文装载进合适的模型这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容
我最开始用龙虾也是 Opus 从头到尾觉得这样才算是释放了最大的生产力。随着 token 越来越不够用我开始持续探索节省 token 的方案 越深入越发现真正的省 token 不是削减投入、不是降低预算而是在保证效率和产能的前提下用结构化的方式替代蛮力输入。本质上就是学会工程化地用 AI关键在于一个动作在合适的时间把合适的上下文装载进合适的模型。这不仅省 token更重要的是让 AI 的每一分注意力都用在刀刃上。为什么 AI 越用越贵还越用越笨在ChatBot时期模型看到的输入基本就是官方预设的系统提示词以及用户输入框里打字的提示词再加上一些多轮对话的历史记忆。但是在进入龙虾时代后在token看板上随便观测任何一个任务执行的agent调用链路以及对照公开的 token 用量分析才发现打字输入的提示词仅仅只是模型输入的冰山一角了工具在多次调用、skills在反复装载、本地文件在不断被读取……随之而来的是历史上下文的几何级膨胀。我们手打输入的那几个字在整个 Token 账单里其实只是零头。看完这个分布我们不难发现上下文如何管理是一个有技术且很需要精进的点。因为我们都知道现在上下文最大的模型也就是1M左右。不管它的话模型会越用越笨所有多出来的历史上下文只能依赖龙虾工具自己的上下文压缩能力来维系对话的进行。但是这个压缩一定是有损的在压缩过程中可能就会丢失了我们之前定好的约束反复问已经确认过的事情。这也就是经常能听到的 Context Rot上下文腐烂。上下文 token 越多模型召回准确率持续下降。根因在 Transformer 架构本身n 个 token 之间是 n² 的两两关联上下文越长注意力被摊得越薄。越多的无效信息就反而冲淡了我们真正想要大模型读取到的上下文内容。所以对上下文做好合适的工程化管理既能省 Token事实上也是在让 AI 变聪明产出更好的效果。接下来四章拆成四个动作最小上下文、清晰理想态、Harness 架构分层、动态选型。别让 AI “读全文”要让它按需取说了管理上下文的必要性那到底什么是好的上下文其实就是要求我们找到那个最小的、信号最强的 token 集合(the smallest set of high-signal tokens)。不是喂得越多越好是喂得越准越好。我们可以参考大多数龙虾针对代码仓库做索引的设计方案不把整个代码库一股脑塞进上下文只维护一套轻量索引文件路径、查询语句、链接用到时用 grep / glob / read 现场搜索读取。这套打法叫 JITJust-in-Time即时检索。JIT 解决进来时少装。长的多轮会话还有另一个问题会话本身会膨胀。这就需要上下文卸载把 AI 上下文当存储系统来管理缓存该缓存落盘该落盘分层存储。想象你的龙虾就像一台电脑。电脑有多层存储CPU 缓存最快但最小内存次之硬盘最慢但容量无限。AI 的上下文系统也一样对标这个层级卸载的策略就清晰了具体怎么操作提到缓存这里顺带还有一个经常被忽略的省 token 技巧Prompt Caching提示缓存命中。固定的系统指令和工具定义放前缀重复部分只按零头计费。启用缓存最多可降低 90% 的输入成本在尝试使用 DeepSeek 模型执行任务时就经常能被账单的性价比惊艳到。越约束越自由花五分钟说清楚省五十分钟拉扯很多 Token是在猜来猜去里烧掉的。你扔一句帮我写个登录页AI 只能猜你想要什么写出来不对你改它再猜。五六轮过去Token 花了很多事情还没做好。写提示词就像调收音机要找到对的频率高度right altitude。太低硬编码一堆 if-else太高说一句请专业地完成任务刚刚好给清目标和约束别把每步都规定死。出发前花五分钟回答以下三个问题能省掉后面五十分钟的反复。注意是策展不是堆砌不要塞一长串边缘情况试图覆盖所有规则而是挑几个多样化、有代表性的样板。这三个问题的背后是一个递进的金字塔给示例One-Shot最准确给规则Spec / 约束次之让虾猜光提需求最差。一个真实的例子比一千字的文字描述更高效。但注意这是策展不是堆砌不要试图列出一长串边缘情况来覆盖所有规则而是精心挑选几个多样化、有代表性的样板。把这些约束和示例固化下来就是给 AI 装上护栏。护栏是信任的基础。没有护栏你只敢让 AI 做简单的事有了护栏你才敢把复杂的活交给它。如果工具集臃肿、功能重叠、规则模糊即使人类工程师都说不清该用哪个工具、该遵循哪条规则AI 也不可能猜对。约束越精确 → AI 越不用猜 → 一次到位 → 返工越少 → Token 越省。同时输出质量也会更高。省 Token 和把 AI 用好就是同一件事。活太大就别让一个脑子硬扛有些任务本身复杂单个会话很快被细节塞满。这就需要从架构层面重新思考不是一个虾硬扛而是多个虾的分工和协作。第一部分主动压缩 · 会话的三段生命周期一个会话不是越长越好。随着轮次增加虾的表现会经历三个阶段· FRESH清醒 前 20 轮虾的状态最好。输入输出精准、理解深度到位、响应快速。这个时候就放心用不用省。·DRIFT漂移20~60 轮上下文开始有点乱。虾开始重复犯同一种错、忘了早期的约定、输出变啰嗦。这个时候该动手压缩了。把历史摘要一下新窗口继续。·ROT腐烂 超过 60 轮虾已经是另一个样子了。风格突变、问题答非所问、逻辑混乱。这个时候已经没救了必须重开。关键是不要硬撑。一旦进入 DRIFT就主动摘要一下拿摘要启动新会话继续。主动做一次上下文压缩、保留摘要 最近的几个文件新会话继续服务。成本降效果也没掉。第二部分子智能体架构 · 轻主虾 重子虾但即使你很会压缩有些任务也就是特别复杂。比如一个月级的长期项目需要全程精细化决策。光靠按阶段压缩还是不够因为你经常需要在执行中途改需求、改方案。这时候就该换个架构不是一个虾从头到尾而是一个主虾 多个子虾。核心思想很简单主虾只做决策和调度子虾做具体执行。主虾的工作是理解全局、拆分任务、整合结论。子虾各自拿一个明确的、最小粒度的原子任务用干净的上下文窗口完成后只交回结果不回灌过程。举个例子写一个复杂的系统设计文档。旧方法是一个 Opus 从需求分析 → 架构设计 → 代码框架 → 文档输出一个会话全搞定。问题是上下文越堆越厚最后虾被前面的细节压得喘不过气新的需求改动反而容易被忽视。新方法是主虾接到写系统设计文档的任务拆成 5 个子任务给子虾①理解需求②梳理关键决策点③设计核心架构④给出代码参考⑤生成文档框架。每个子虾拿一个子任务干完把结论交回来主虾汇总最后输出。这样做有三个好处①主虾永不疲劳强模型只在决策点出场上下文从不积压。即使项目跑数千行代码主虾脑子一直是清醒的。②子虾是原子单位每个子虾的任务完全独立、不需要跨轮积累上下文。用便宜点的模型就够了一次搞定。③需求变更无痛中途改需求主虾重新拆分即可。不用推翻整个进度只调整涉及的子虾。关键是任务的拆分粒度。不是拆成 5 个大阶段而是拆到最低细粒度的原子任务每个都完全独立、不需要跨轮上下文。比如“给代码补充单测”“校验 JSON 结构”“从文档提取决策点”。这样子虾用 Sonnet 甚至更便宜的模型就够了成本降到原来的 20~30%。回到开头别全程开着最强模型按阶段切换模型 是最直接的方案。简单任务用快模型关键任务才用最强的这招实际上手快但手动切换麻烦且如果任务本身高度复杂需要全程精细化决策仅靠按阶段切换其实还不够。这里还有一个更优雅的方案大脑手脚架构。用一个强的模型当主 Agent大脑。它的唯一职责是理解全局、拆分任务、调度执行、汇总决策。然后让性价比高的模型作为 Sub-Agent手脚。接收大脑下达的细粒度原子任务逐个完成只反馈结果不回灌过程。关键是任务拆分粒度。大脑不是把一个大任务砍成五六个中等任务这还是太粗而是拆到最低细粒度的原子任务。每个都是完全独立、不需要上下文积累、可以用中等模型一把搞定的单元。比如“给这段代码加注释”“检查这个JSON 字段有没有缺”“从这个文本里提取核心信息”。这样做的妙处在于① 大脑永不疲劳强模型只在决策点出场上下文从不积压。即使项目跑数千行代码主虾脑子一直是清醒的。② 手脚可以并行五个原子任务可以同时派给五个便宜模型实例并行完成大脑只需在最后合并结果。 五个原子任务可以同时派给五个便宜模型实例并行完成大脑只需在最后合并结果。③ 成本剧降大脑的调用次数少只在关键时刻手脚用便宜模型。整体成本可能只有全程 Opus的 20–30%。这也恰似软件工程的高内聚、低耦合把模型当团队编制大脑和手脚职责明确信息流清晰反而削弱单一模型的上下文焦虑。认清账单、最小上下文、清晰理想态、Harness 架构分层、动态选型省 token 和怎么把 AI 用好本质都是一句话在合适的时间把合适的上下文装载进合适的模型这里给大家精心整理了一份全面的AI大模型学习资源包括AI大模型全套学习路线图从入门到实战、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等资料免费分享扫码免费领取全部内容1. 成长路线图学习规划要学习一门新的技术作为新手一定要先学习成长路线图方向不对努力白费。这里我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。2. 大模型经典PDF书籍书籍和学习文档资料是学习大模型过程中必不可少的我们精选了一系列深入探讨大模型技术的书籍和学习文档它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。书籍含电子版PDF3. 大模型视频教程对于很多自学或者没有基础的同学来说书籍这些纯文字类的学习教材会觉得比较晦涩难以理解因此我们提供了丰富的大模型视频教程以动态、形象的方式展示技术概念帮助你更快、更轻松地掌握核心知识。4. 2026行业报告行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5. 大模型项目实战学以致用当你的理论知识积累到一定程度就需要通过项目实战在实际操作中检验和巩固你所学到的知识同时为你找工作和职业发展打下坚实的基础。6. 大模型面试题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我们将提供精心整理的大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。7. 资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容
