AI时代企业正在犯一个似曾相识的错误以为给AI更多数据它就会变得更聪明但事实是海量信息并不会自动带来智慧甚至可能让AI陷入混乱。将海量数据直接倾倒给AI并不能让它变得更聪明真正关键的是为它提供正确的头部信息而不是让它面对各种相互矛盾的“事实”。如果你在硅谷的AI圈子里待得足够久就会反复听到同一个观点AI需要上下文。这句话大体上是对的。问题在于“上下文”已经成为整个行业中最模糊的词汇之一。由于使用者的身份不同上下文可以指代文档、仪表盘、报告、元数据、业务规则、策略、交易历史、CRM记录、知识库或行业专家经验这个词已经变成了一个大杂烩几乎涵盖了所有可以提供给模型的任何信息。结果许多企业开始将上下文视为一个“容量问题”。人们的对话迅速转向更大的上下文窗口、更多的数据源以及更广泛的系统访问权限却极少有人去评估这些信息是否真的提升了最终输出的质量。我们在实践中观察到的情况表明人们需要换一种方式来思考这个问题。在企业级AI领域取得最大进展的组织并不一定是那些向其系统开放最多信息量的公司相反是那些投入最多时间去理解哪些信息应该影响决策、哪些信息不应该影响以及如何确保业务逻辑得到一致执行的公司。这种区别至关重要因为整个行业正在开始重蹈企业曾经犯过的覆辙。上下文正成为新的“大数据”在过去二十年的大部分时间里企业都基于这样一个假设进行运营收集更多的数据自然会带来更好的决策为此企业在数据仓库、报告平台、分析系统和商业智能工具上进行了巨大的投资这些投资创造了巨大的价值但它们也揭示了一个重要事实收集信息与理清头绪并不是一回事。如今AI正步入一条相似的道路。许多企业AI项目通过统计模型可以访问多少信息来衡量进度文档越多越好、系统越多越好、上下文窗口越大越好。在人们的讨论中往往默认数量和质量是同步提升的。然而事实并非如此。根据Salesforce的研究尽管多年来在数据基础设施和分析方面投入了大量资金但仅有35%的商业领袖表示对本企业有效利用数据的能力完全满意。企业多年前就吸取了教训单凭信息本身并不能产生洞察同样的教训也适用于AI。当一个模型可以访问同一个指标的五个不同版本、相互冲突的业务流程定义或者多年未更新的文档时它不会魔术般地消除这些不一致而是会全盘接收。更多的上下文不仅能减少歧义也同样容易增加混乱。仅仅向模型开放更多信息并不能保证更好的结果关键在于系统所能获取的信息是否能帮助它在正确的时间做出正确的决策。大多数AI的失败本质上是上下文的失败在过去一年里我们观察到的最有趣的现象之一是许多AI项目因一些与AI本身毫无关系的问题而饱受指责。模型回答错误了一个问题人们的第一反应就是模型失败了但实际上底层问题往往出在其他地方。企业内部对被查询的指标可能有多种定义客户信息可能存在于多个系统且数值相互冲突业务规则可能在一个地方有记录在另一个地方部分实施而不同的团队对其理解又各不相同。在许多部署案例中问题不在于AI缺乏信息而在于它能够访问多个相互矛盾的“事实”版本。任何在大型企业工作过的人都会对这种模式感到熟悉营业收入对财务部门来说是一个意思对销售部门来说可能又略有不同产品使用指标随着时间的推移不断演变操作流程在变而文档却处于冻结状态。人类员工通过经验和组织内部的隐性知识学会了如何在这些不一致中摸索前进但AI系统会立即全盘继承这些问题。这就是为什么关于上下文的讨论常常偏离核心的原因挑战不仅在于提供更多信息而是在于确定哪些信息是值得信赖的、如何解决冲突以及应该用什么业务逻辑来支配最终的答案。一个值得信赖的单一事实源可能比一百个松散连接的数据源更有价值一条定义清晰的规则可能比数千页的文档更有用上下文的质量远比容量更重要。访问权限不等于信任许多企业可以准确地告诉你他们的AI系统是如何检索信息的他们可以极尽详细地解释检索流水线、向量数据库、重排系统、语义搜索架构和上下文窗口。但极少有企业能解释他们是如何确定系统生成的答案始终是正确的。在企业环境中这种认知鸿沟变得尤为关键因为一个错误答案的代价可能极其高昂。一个正在做预测的销售主管、一个正在评估业绩的财务团队或是一个正在做出资源配置决策的运营高管他们并不关心系统检索了多少文档他们只关心答案是否正确。信任一直是企业数据中最难解决的问题之一根据Accenture关于数据信任和决策的研究只有大约四分之一的员工表示在做出决策时对企业的数据抱有高度信心。当AI加入进来时这一挑战并不会凭空消失。如果说有什么变化的话那就是它变得更加显而易见。企业频繁地衡量访问权限是因为访问权限很容易被量化而可靠性则要困难得多。可靠性需要理解一个答案在不同用户、不同提示词、不同时间段以及不断变化的业务条件下是否保持一致它需要理解同一个问题是否能产生相同的答案以及该答案是否反映了企业想要强制执行的业务逻辑。这些在根本上是不同的衡量标准它们指向了对成功截然不同的定义。上下文需要衡量与评估这个问题之所以变得越来越突出原因之一是企业积累信息的速度远快于清理信息的速度。新系统不断增加新报告不断创建流程也在演变团队开发出本地化的定义和专门的工作流文档持续增长却极少被删除。随着时间的推移企业构建了庞大的信息库其中包含着多年来的历史决策、特例、临时解决方案以及相互矛盾的解读。我们还没有遇到过哪家企业不存在某种程度的这种问题。这一现实将上下文从一个技术挑战转变成了一个运营挑战。仅仅将AI系统连接到企业信息并不能提高这些信息的质量在某些情况下它反而暴露了此前被人类的自主解读和内部心照不宣的经验所掩盖的长期不一致性。Gartner长期以来一直将糟糕的数据质量视为成功实施分析和AI项目最显著的障碍之一因为无论技术变得多么先进糟糕的输入必然会产生不可靠的输出。随着AI更深地融入业务运营企业将需要新的方法来评估其系统所依赖的上下文他们需要清晰地看到信息是如何被使用的、定义在何处发生冲突、哪些来源是值得信赖的以及上下文的质量如何影响最终结果上下文不能被视为一种静态资产它必须随着时间的推移被衡量、监控和改进就像企业衡量基于其构建的模型和应用质量一样。从“获取访问权”向“确保可靠性”的转变在过去的几年里整个行业都把目光聚焦在访问权限上我们如何将模型连接到企业系统?我们如何开放组织内部的知识?我们如何让AI看清人们每天都在使用的数据?这些问题在当时很重要因为它们代表了真正的技术壁垒而今天许多壁垒正在消退。大多数企业现在已经能够将AI系统连接到数据仓库、应用程序、仪表盘、文档和知识库。现在的对话正开始转向一个更困难的问题确定这些连接是否真正产生了人们信赖的结果。这正是企业级AI下一阶段的胜负手所在。将上下文视为数量问题的企业将继续添加更多信息并寄希望于准确率能自行提升而将上下文视为质量问题的企业则会专注于信任、一致性、治理以及结果的可靠性。这两种方法之间的区别听起来可能很微妙但它带来的影响是巨大的。一种方法造就了能够访问信息的系统而另一种方法则造就了人们愿意信赖并据此做出决策的系统。在企业级应用中这种区别最终决定了一切。
AI时代企业正在犯一个似曾相识的错误以为给AI更多数据它就会变得更聪明但事实是海量信息并不会自动带来智慧甚至可能让AI陷入混乱。将海量数据直接倾倒给AI并不能让它变得更聪明真正关键的是为它提供正确的头部信息而不是让它面对各种相互矛盾的“事实”。如果你在硅谷的AI圈子里待得足够久就会反复听到同一个观点AI需要上下文。这句话大体上是对的。问题在于“上下文”已经成为整个行业中最模糊的词汇之一。由于使用者的身份不同上下文可以指代文档、仪表盘、报告、元数据、业务规则、策略、交易历史、CRM记录、知识库或行业专家经验这个词已经变成了一个大杂烩几乎涵盖了所有可以提供给模型的任何信息。结果许多企业开始将上下文视为一个“容量问题”。人们的对话迅速转向更大的上下文窗口、更多的数据源以及更广泛的系统访问权限却极少有人去评估这些信息是否真的提升了最终输出的质量。我们在实践中观察到的情况表明人们需要换一种方式来思考这个问题。在企业级AI领域取得最大进展的组织并不一定是那些向其系统开放最多信息量的公司相反是那些投入最多时间去理解哪些信息应该影响决策、哪些信息不应该影响以及如何确保业务逻辑得到一致执行的公司。这种区别至关重要因为整个行业正在开始重蹈企业曾经犯过的覆辙。上下文正成为新的“大数据”在过去二十年的大部分时间里企业都基于这样一个假设进行运营收集更多的数据自然会带来更好的决策为此企业在数据仓库、报告平台、分析系统和商业智能工具上进行了巨大的投资这些投资创造了巨大的价值但它们也揭示了一个重要事实收集信息与理清头绪并不是一回事。如今AI正步入一条相似的道路。许多企业AI项目通过统计模型可以访问多少信息来衡量进度文档越多越好、系统越多越好、上下文窗口越大越好。在人们的讨论中往往默认数量和质量是同步提升的。然而事实并非如此。根据Salesforce的研究尽管多年来在数据基础设施和分析方面投入了大量资金但仅有35%的商业领袖表示对本企业有效利用数据的能力完全满意。企业多年前就吸取了教训单凭信息本身并不能产生洞察同样的教训也适用于AI。当一个模型可以访问同一个指标的五个不同版本、相互冲突的业务流程定义或者多年未更新的文档时它不会魔术般地消除这些不一致而是会全盘接收。更多的上下文不仅能减少歧义也同样容易增加混乱。仅仅向模型开放更多信息并不能保证更好的结果关键在于系统所能获取的信息是否能帮助它在正确的时间做出正确的决策。大多数AI的失败本质上是上下文的失败在过去一年里我们观察到的最有趣的现象之一是许多AI项目因一些与AI本身毫无关系的问题而饱受指责。模型回答错误了一个问题人们的第一反应就是模型失败了但实际上底层问题往往出在其他地方。企业内部对被查询的指标可能有多种定义客户信息可能存在于多个系统且数值相互冲突业务规则可能在一个地方有记录在另一个地方部分实施而不同的团队对其理解又各不相同。在许多部署案例中问题不在于AI缺乏信息而在于它能够访问多个相互矛盾的“事实”版本。任何在大型企业工作过的人都会对这种模式感到熟悉营业收入对财务部门来说是一个意思对销售部门来说可能又略有不同产品使用指标随着时间的推移不断演变操作流程在变而文档却处于冻结状态。人类员工通过经验和组织内部的隐性知识学会了如何在这些不一致中摸索前进但AI系统会立即全盘继承这些问题。这就是为什么关于上下文的讨论常常偏离核心的原因挑战不仅在于提供更多信息而是在于确定哪些信息是值得信赖的、如何解决冲突以及应该用什么业务逻辑来支配最终的答案。一个值得信赖的单一事实源可能比一百个松散连接的数据源更有价值一条定义清晰的规则可能比数千页的文档更有用上下文的质量远比容量更重要。访问权限不等于信任许多企业可以准确地告诉你他们的AI系统是如何检索信息的他们可以极尽详细地解释检索流水线、向量数据库、重排系统、语义搜索架构和上下文窗口。但极少有企业能解释他们是如何确定系统生成的答案始终是正确的。在企业环境中这种认知鸿沟变得尤为关键因为一个错误答案的代价可能极其高昂。一个正在做预测的销售主管、一个正在评估业绩的财务团队或是一个正在做出资源配置决策的运营高管他们并不关心系统检索了多少文档他们只关心答案是否正确。信任一直是企业数据中最难解决的问题之一根据Accenture关于数据信任和决策的研究只有大约四分之一的员工表示在做出决策时对企业的数据抱有高度信心。当AI加入进来时这一挑战并不会凭空消失。如果说有什么变化的话那就是它变得更加显而易见。企业频繁地衡量访问权限是因为访问权限很容易被量化而可靠性则要困难得多。可靠性需要理解一个答案在不同用户、不同提示词、不同时间段以及不断变化的业务条件下是否保持一致它需要理解同一个问题是否能产生相同的答案以及该答案是否反映了企业想要强制执行的业务逻辑。这些在根本上是不同的衡量标准它们指向了对成功截然不同的定义。上下文需要衡量与评估这个问题之所以变得越来越突出原因之一是企业积累信息的速度远快于清理信息的速度。新系统不断增加新报告不断创建流程也在演变团队开发出本地化的定义和专门的工作流文档持续增长却极少被删除。随着时间的推移企业构建了庞大的信息库其中包含着多年来的历史决策、特例、临时解决方案以及相互矛盾的解读。我们还没有遇到过哪家企业不存在某种程度的这种问题。这一现实将上下文从一个技术挑战转变成了一个运营挑战。仅仅将AI系统连接到企业信息并不能提高这些信息的质量在某些情况下它反而暴露了此前被人类的自主解读和内部心照不宣的经验所掩盖的长期不一致性。Gartner长期以来一直将糟糕的数据质量视为成功实施分析和AI项目最显著的障碍之一因为无论技术变得多么先进糟糕的输入必然会产生不可靠的输出。随着AI更深地融入业务运营企业将需要新的方法来评估其系统所依赖的上下文他们需要清晰地看到信息是如何被使用的、定义在何处发生冲突、哪些来源是值得信赖的以及上下文的质量如何影响最终结果上下文不能被视为一种静态资产它必须随着时间的推移被衡量、监控和改进就像企业衡量基于其构建的模型和应用质量一样。从“获取访问权”向“确保可靠性”的转变在过去的几年里整个行业都把目光聚焦在访问权限上我们如何将模型连接到企业系统?我们如何开放组织内部的知识?我们如何让AI看清人们每天都在使用的数据?这些问题在当时很重要因为它们代表了真正的技术壁垒而今天许多壁垒正在消退。大多数企业现在已经能够将AI系统连接到数据仓库、应用程序、仪表盘、文档和知识库。现在的对话正开始转向一个更困难的问题确定这些连接是否真正产生了人们信赖的结果。这正是企业级AI下一阶段的胜负手所在。将上下文视为数量问题的企业将继续添加更多信息并寄希望于准确率能自行提升而将上下文视为质量问题的企业则会专注于信任、一致性、治理以及结果的可靠性。这两种方法之间的区别听起来可能很微妙但它带来的影响是巨大的。一种方法造就了能够访问信息的系统而另一种方法则造就了人们愿意信赖并据此做出决策的系统。在企业级应用中这种区别最终决定了一切。
