
某中国头部 AI 大模型企业以突破性的长文本处理能力与高阶推理技术著称同时也是推动万亿级大模型开源的行业领跑者。随着其开源万亿级强化推理大模型投入应用模型需要处理百万级超长上下文与 Agent 级复杂任务。一次长任务可能包含数千次工具调用累计处理数百万 context tokens。随任务一起快速增长的还有记录模型决策、工具调用与执行过程的 Agent Trace。这款模型上线后在线 Trace 写入吞吐达到每小时 TB 级。这些 Trace 不只是用于排查问题的日志更是开展 Evals评测和归因分析的重要数据资产。该企业选择 Databend Cloud 承载其万亿级强化推理大模型及相关应用的全链路 Trace构建一条贯穿数据接入、增量处理与评测分析的统一数据管道。当 Agent 开始处理百万级上下文一次普通对话往往在几轮交互后结束。一次复杂的 Agent 任务却可能持续数小时模型不断制定计划、调用工具、接收结果再根据新的上下文决定下一步行动。当上下文窗口扩展到 1M tokens这个过程的规模也发生了变化。单次长任务可能发起数千次工具调用累计处理数百万 context tokens。模型的输入与输出、工具返回结果、执行状态和中间产物会不断形成新的 Span并最终汇聚成一条庞大而复杂的 Trace。对于工程团队来说问题不再只是“如何保存日志”。他们需要知道一次任务为什么成功、在哪一步偏离预期以及模型、Prompt、工具或 Harness 的变化是否真正改善了结果。换句话说Trace 的终点不应只是可观测性平台。它还需要继续流向 Evals 和归因分析成为下一轮模型与 Agent 迭代的依据。Trace 数据管道的新要求传统可观测性 Trace 主要围绕服务调用展开Schema 相对稳定分析重点通常是延迟、错误率和调用链。Agent Trace 则更加动态。每一次模型或工具升级都可能带来新的 JSON 字段。长任务产生的 Span 跨越更长的时间窗口同一条执行链路也可能分散在大量数据之中。如果接入时就把所有字段固化为固定 Schema上游的一次变化就可能牵动 Consumer、表结构与处理链路如果只保留原始 JSON后续查询和评测又会承担更高的处理成本。此外原始 Span 并不天然等于可使用的评测数据。工程团队还需要持续清洗数据、抽取关键字段并将新增事件加工成适合分析的结构。与此同时Trace 中可能包含用户输入、工具返回结果等敏感信息不同分析任务只能访问完成工作所必需的字段。在这样的数据规模下摄取链路必须持续跟上业务增长同时避免 JSON 处理、增量建模和分析查询反过来阻塞实时写入。这个场景真正需要的不只是能够存下 Trace 的系统而是一条连接数据接入、原始数据留存、增量处理、Eval 数据集生产、查询与历史回放的完整数据管道。Databend Cloud 通过 Stage、VARIANT、Stream 和 Task 形成这套数据管道能力Stage 承接来自对象存储的数据VARIANT原样保留结构不断变化的 Prompt、Tool Call、Span、延迟、Token 消耗和 Eval 结果Stream 跟踪新增数据Task 自动完成清洗、转换和增量建模。结合列式分析、数据剪枝和 Time Travel工程团队可以进一步完成聚合分析、问题排查与历史数据回放让持续产生的 Agent Trace 持续转化为可用的分析与评测数据。Agent Trace 全链路架构该企业将 Web/App 端行为轨迹与 Agent 执行轨迹以 Trace/Span 的形式实时汇聚到 Kafka再接入 Databend Cloud。原始数据首先以追加方式写入kafka_raw。完整 Span 通过VARIANT保存即使 JSON 结构随着模型和工具快速演进接入层也不必频繁修改表结构未来需要的新字段仍可从原始数据中提取。Stream 持续跟踪新增数据Task 自动完成 JSON 清洗、字段抽取和增量建模再将结果写入面向分析的traces表。整个过程只处理新产生的变化不需要重复扫描已经完成清洗的历史数据。这样一来原始数据留存与面向分析的建模不再彼此冲突kafka_raw保存完整、可回溯的事实记录traces则为 Evals、链路分析和问题归因提供更适合查询的数据结构。Databend Cloud 如何承载 Agent Trace 生产负载每小时 TB 级的 Agent Trace 链路需要同时处理三类负载数据持续写入Stream 与 Task 不断完成增量加工工程师则随时可能发起链路查询或评测分析。如果这些任务争抢同一组资源一次复杂查询就可能影响实时接入。Databend Cloud 将持久化数据保存在客户自有的对象存储中并允许写入、处理和分析分别使用独立 Warehouse。不同阶段可以根据实际负载单独扩缩容在保障数据链路持续运行的同时无需长期为峰值预留整套计算资源。面向长链路分析查询表按照时间和链路标识组织帮助查询缩小需要扫描的数据范围。数据接入、增量处理、建模和分析也无需分散到多套独立系统从而减少额外的数据搬运与调度链路。数据安全与合规治理同样被纳入这条链路。Masking Policy 可以针对VARIANT子路径配置细粒度脱敏规则限制敏感字段的可见范围让评测和分析任务只看到所需字段原始数据则继续保留在客户控制的对象存储中。数日接入把工程时间留给 Evals 与模型迭代Databend Cloud 在数日内完成生产接入并开始持续承载该开源万亿级强化推理大模型及相关应用产生的 Agent Trace。作为全托管服务Databend Cloud 将数据接入、增量处理、计算资源和日常运维集中在同一平台中。客户无需自行搭建和维护多套存储、调度与分析组件也不必投入大量时间学习不同系统、反复配置集群或排查跨系统数据链路。这不仅缩短了 Trace 数据平台从接入到生产运行的周期也降低了后续维护成本。工程师可以把更多时间投入真正影响 Agent 质量的工作完善 Evals、优化 Harness并验证模型、Prompt 与工具的每一次变化。随着 Trace 从原始事件进入可分析的数据集模型运行、问题定位和效果评测之间形成了更短的反馈链路。Databend Cloud 帮助该企业的工程团队将持续增长的 Agent 运行数据转化为可用于分析和评测的数据资产并持续支持模型与 Agent 产品迭代。Agent 走得越远越需要看清它走过的路百万级上下文和复杂工具调用让 Agent 有能力完成更长、更开放的任务也让每次运行产生的数据变得前所未有地重要。对于正在推进 Agent 生产化的团队数据平台需要回答的不只是“能否存下这些 Trace”还包括能否持续接入、增量处理、安全分析并将其转化为稳定的评测反馈。这家头部 AI 大模型企业的实践提供了一条清晰路径以 Databend Cloud 统一连接 Trace 与 Evals让每一次 Agent 运行都能沉淀为下一次模型和产品进化的依据。