ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

AI资产调整下的技术应对:从算力、模型到应用的分化与选择

AI资产调整下的技术应对:从算力、模型到应用的分化与选择 7月那轮AI资产调整很多人只看到账面上的回撤但我更关注的是同一片下跌里不同层级的资产正在走向完全不同的命运。这种分化不是短期的情绪波动而是AI产业从“概念驱动”切换到“兑现驱动”的必然结果。本文从算力、模型、应用三个层面复盘这轮调整并给出了技术侧应对思路。1. 先说结论AI资产的“三岔路口”已经出现如果你在7月初打开行情软件会发现AI相关资产几乎是一片深绿色。但如果你把时间拉长把资产分层就会发现这轮下跌并不是无差别的恐慌抛售更像一次“排雷”——市场正在用脚投票把 AI 资产分成三类第一类算力基础设施类资产。包括GPU服务器、IDC、云计算资源、光模块、液冷、电力配套等。短期内依然是最确定的受益方向但估值已经透支了未来两年的增长预期。第二类模型与平台类资产。包括基础大模型、模型即服务MaaS、开发者平台等。这类资产面临“开源吞噬闭源”“同质化竞争”和“资本开支无底洞”三层压力商业故事开始讲不圆。第三类应用与场景类资产。包括AI办公、AI编程、AI Agent、行业解决方案等。这类资产虽然波动最大但长期空间也最大分化会极其剧烈。如果你是一个AI技术从业者这次调整其实是一份免费的风险提示书。下面我把每一类资产的逻辑拆开并给出对应的技术选型建议。2. 算力资产军备竞赛还在但估值已经提前跑了2.1 算力为什么先跌算力是这轮AI浪潮最硬的基础设施。大模型训练、推理、微调、Agent执行每一步都需要消耗海量计算资源。从逻辑上讲只要AI继续发展算力需求就永远在增长这也是为什么过去一年多时间里算力资产涨得最凶。但7月的下跌说明了一个问题即使需求是真的估值也不可能无限脱离现实。算力资产的成本结构非常透明用一张简单的表就能说明成本项说明对资产价格的影响芯片采购成本单卡价格、货期、替代方案影响利润率服务器整机成本整机柜、网络、存储影响交付能力数据中心建设成本土建、电力、制冷影响长期折旧电力与运维成本电费、人力、监控影响实际运营利润当市场情绪高涨时投资者愿意为“未来三年的增长”买单当市场情绪转冷时同样一批资产就变成了“高资本开支、低当期利润”的重资产项目。一位做IDC基建的朋友说得更直白现在一个大型智算中心的投资动辄几十亿电力批复、能耗指标、设备到货周期、PUE电源使用效率要求每一个环节都有不确定性。资本市场不可能一直为这种不确定性支付溢价。2.2 算力资产的技术判断关注“利用率”而不是“采购量”站在技术人员角度我们不要纠结短期行情而是要看真正影响算力资产价值的核心指标。我梳理了三层判断维度第一层芯片供给格局。先进芯片的出货节奏是否稳定替代方案是否成熟直接影响算力资产的稀缺性。第二层集群利用效率。一个数据中心如果空置率高即使设备再先进也无法创造现金流。现在很多智算中心已经开始考核“千卡利用率”“万卡有效算力占比”这类KPI。第三层长期运维成本。GPU集群不是买回来就能吃灰的它需要专人维护需要处理故障需要做容错调度。这些成本在购买时看不出来但运营两年后就会成为分水岭。所以如果你是在企业里负责AI基础设施选型这时候反而可以冷静一点优先考虑租用算力而不是一次性采购硬件保留灵活性。评估集群的有效训练时长而不是只看卡数。预留异构算力的兼容能力避免被单一芯片供应商绑定。算力资产没有“死亡”它只是从“闭眼买”变成了“挑着买”。3. 模型资产开源吞噬闭源商业故事需要重写3.1 模型层暴跌的深层原因如果算力资产只是估值回撤模型层资产的下跌更像是逻辑被挑战。过去一年多基础大模型的迭代路径是清晰的更大参数、更多数据、更强推理能力。但到了某个阶段以后几个核心问题开始浮出水面第一个问题是同质化。头部模型之间的能力差距越来越小用户很难感知到“哪个模型绝对更好”。既然模型能力拉不开差距谁能把成本做到更低、谁能把生态做得更丰富谁就能胜出。第二个问题是开源吞噬闭源。开源模型的能力快速逼近闭源模型而部署成本只有闭源API的几分之一。很多企业开始放弃调用闭源API转向私有化部署开源模型。这个趋势直接打击了“模型即服务”的商业逻辑。第三个问题是资本开支的无底洞。训练下一代模型的成本是指数级上升的而模型收入却没能同步增长。市场开始计算“需要多少年才能收回训练成本”算完之后发现故事并不圆满。3.2 模型层不应该“一张K线图定生死”从技术角度看模型层资产还有另一条线索那就是从“大而全”走向“小而专”。也就是说基础大模型的市场份额可能会集中到少数几个头部玩家手里但垂直领域的模型优化、模型压缩、推理加速、数据工程、评测与安全会有大量细分机会。举几个实际场景模型压缩与蒸馏把大模型压缩到可以在普通显卡上运行的尺寸在保持效果的同时降低推理成本。这是所有企业落地AI都会遇到的问题。领域微调与数据治理通用模型无法解决行业专业问题需要针对医疗、法律、金融、制造等场景做定制微调。这里面数据质量比模型结构更重要。模型评测与红队测试随着大模型应用面扩大模型安全性、幻觉率、稳定性评测会成为刚需。所以模型层资产的分化本质上是在区分“你是卖水的人”还是“你是挖金子的人”。基础模型的竞争会越来越像基础设施的竞争而围绕模型的工程服务反而会越来越值钱。3.3 给技术团队的模型选型建议在实操层面我建议技术团队用一个简单的评估矩阵来做模型选型评估维度权重建议说明能力达标度35%在业务场景下测试准确率与效果推理成本25%按实际调用量测算月度费用可部署性20%是否支持私有化、是否容易被集成生态与工具链20%是否兼容现有框架、是否有人维护不要把“参数最大”“榜单第一”当成唯一指标。现在很多团队已经在做混合路由简单任务用轻量模型复杂任务才调用大模型。这种分层调用策略不仅省钱还能降低对单一模型的依赖。4. 应用资产短期最惨长期空间最大4.1 应用资产的波动来自哪里应用资产在7月的下跌里幅度往往最明显原因不外乎三点没有成熟变现路径。产品同质化严重。用户留存数据难看。AI应用早期大多以“工具型产品”出现比如AI写作、AI绘画、AI问答。这类产品的特点是“来得快去得也快”。用户因为新鲜感试用一次真正能留下来形成付费习惯的比例并不高。这种“高流量、低留存、低付费”的结构决定了应用资产的估值会出现剧烈波动。一旦市场开始关注“月活”“留存率”“付费转化率”而不是“用户增长速度”很多AI应用公司的故事就讲不下去了。4.2 应用真正有价值的方向AI Agent与工作流但跌下来不等于没有机会。从技术发展角度看AI应用的下半场是从“单点工具”走向“AI Agent”。单点工具解决的问题是用户输入一句话AI返回一段内容。AI Agent解决的问题是用户提出一个目标AI自动拆解任务、调用工具、执行操作、返回结果。比如一个简单的客服场景传统AI问答用户问“我的订单到哪里了”AI从订单系统查询后回复。Agent化客服用户说“帮我查一下上周买的商品到哪里了如果今天不到就申请退款”AI自动完成查询、判断、发起退款申请并给用户反馈。这个变化非常关键。前者只是提升了信息检索的效率后者真正替代了人工操作流程。而替代流程才是企业愿意付费的根本原因。从工程角度看Agent应用会涉及以下技术栈任务规划把用户意图拆解为多个步骤。工具调用通过函数调用Function Calling或MCP协议接入外部系统。状态管理管理多轮对话中的上下文和执行状态。权限与安全Agent在执行操作前需要校验权限避免越权行为。可观测性记录每一步执行的日志方便追溯和调试。这些技术点对普通开发者来说既是门槛也是机会。4.3 应用层的技术建议把Agent当作核心开发范式如果你所在团队正在做AI应用我的建议是尽早把产品形态从“对话框”升级为“工作流”和“智能体”。一个最朴素的理由是工具型应用的用户生命周期太短而嵌入业务流程的Agent生命周期要长得多。具体落地时可以分三步走第一步找到高频且重复的业务流程。比如报表生成、客服处理、代码审查、数据清洗。第二步把流程拆成可以被AI调用的工具。这一步是在为Agent铺路。第三步用Agent把工具串起来形成“目标输入—自动执行—结果反馈”的闭环。这套思路既适用于创业团队也适用于企业内部降本增效。5. 暴跌之后AI工程实践的三个转向看完三类资产的命运我们再回到技术本身。这轮调整对AI工程实践最直接的影响是推动三个转向。5.1 从“模型优先”转向“成本优先”过去很多团队做AI首选就是“上一个最厉害的大模型”。但算力和模型资产的波动提醒了我们模型能力再强算不好成本账项目一样会被砍。现在主流的做法是分层模型架构简单任务用开源小模型或轻量模型成本低、响应快。中等任务用中等规模的模型。复杂任务才调用大模型API。我用一个示例来说明分层调用的思路# 示例思路按任务复杂度路由到不同模型 def route_task(task: str) - str: # 简单任务关键词匹配或意图识别 if len(task) 20 and not any(kw in task for kw in [总结, 分析, 代码, 报告]): return light-model # 轻量模型成本最低 # 中等任务需要一定推理能力 if not any(kw in task for kw in [代码, 报告]): return medium-model # 中等规模模型 # 复杂任务代码生成、长文档分析 return heavy-model # 大模型成本最高上面只是示意实际项目中需要通过意图识别或规则来路由但思路是通用的不要让所有请求都打到最贵的模型上。5.2 从“模型能力”转向“数据资产”7月的下跌让我重新审视了一个问题模型能力是买来的数据资产才是自己的。同一批模型API谁都能调用。但如果你的团队积累了大量领域数据、标注样本、用户反馈并把这些数据加工成了高质量的微调数据集或检索增强库你就有了别人短时间拿不走的壁垒。数据能力至少包含几个方面数据治理统一数据格式、去重、脱敏。数据标注建立与业务目标一致的标注规范。数据版本管理数据也会迭代不管理版本等于埋雷。数据评测用留出集验证微调效果而不是靠感觉。千万不要低估数据清洗的工作量。很多微调模型效果不好不是模型问题而是数据问题。5.3 从“Demo演示”转向“可观测性”过去AI项目汇报最喜欢现场演示输入一句提示词模型生成一段惊艳内容。但演示成功不代表生产可用。真正的AI工程还包含另一套指标。我在生产环境里通常会关注以下几类指标指标类型具体指标说明性能指标首Token延迟、总延迟、吞吐量决定用户体验成本指标每次调用成本、月度总成本决定经济性效果指标准确率、满意度、任务完成率决定业务价值稳定指标错误率、超时率、重试率决定可用性安全指标注入攻击拦截数、敏感信息泄露率决定合规风险没有这些指标AI应用就像没有仪表盘的飞机。短期看不出问题但一旦用户量上来或者业务方要求复盘你会发现连“到底哪里出了问题”都说不清楚。一个最小可用的观测方案是把每次模型调用的输入、输出、耗时、Token数、模型版本、错误码记录下来写入日志系统再通过看板展示。6. 普通开发者和技术团队现在应该做什么与其纠结行情的短期涨跌不如把注意力放到自己可控的范围内。针对不同角色的建议也不太一样。6.1 如果你是一名后端或全栈开发者建议尽快把AI能力当成一项基础技能而不是只是“调用API”。至少要掌握以下内容提示词工程了解上下文窗口、Few-shot、思维链等基础概念。Function Calling学会如何让模型调用外部函数。Agent框架了解任务规划、工具调用与状态管理的原理。模型微调知道什么时候需要微调什么时候只需要RAG。大模型部署掌握至少一种推理加速方案比如vLLM、TensorRT-LLM等。6.2 如果你负责技术团队或架构设计建议把“AI成本控制”和“AI可观测性”纳入技术评审。具体来说在需求阶段就确定调用模型的上限与预算。在架构设计中预留模型切换的抽象层避免被单一模型绑定。在测试环节加入对抗性测试和红线内容测试不能只在正确输入下运行。在上线前制定降级方案模型不可用时如何保证业务可用。6.3 如果你正在AI领域创业这轮调整会淘汰掉一批靠“讲故事”拿钱的项目但对真正有用户、有场景、有收入的团队反而是利好。一个朴素的判断标准是你的AI产品是否解决了某个具体问题并且用户愿意为这个结果付费如果不能回答这个问题那不管资本市场怎么变项目本身都会很危险。7. 常见问题与思考清单这部分给一份可直接使用的自查清单用来复盘你自己的AI项目或技术选型。7.1 自查清单问题判断方向我依赖的模型如果涨价或停服是否影响业务是否预留了模型切换能力我的推理成本占收入的比例是多少是否做过成本模型测算我的AI功能是否嵌入了核心业务流程是否还是锦上添花的玩具我的数据资产是否在持续积累是否建立了数据回流机制我的项目是否具备可观测性是否能回答线上“为什么错”我的应用是否能容忍AI幻觉是否有人工审核或兜底机制7.2 想到的三个关键经验第一AI项目的风险不在于“模型不够强”而在于“成本不可控”。第二长期竞争力来自“数据积累”和“工程能力”不是“调用了某家API”。第三任何AI功能都要回答一个终极问题如果模型出错后果是什么我们如何兜底。这三个问题想清楚了不管行业怎么波动你的项目都能找到自己的位置。如果你这段时间也在复盘自己的AI项目或者正在纠结算力、模型、应用方向的选择欢迎在评论区交流。
返回列表