
文章主要内容总结本文是LG AI Research发布的技术报告,介绍了大语言模型EXAONE 4.0的核心特性、技术细节与性能表现。该模型整合了非推理模式(NON-REASONING)和推理模式(REASONING),既保留了EXAONE 3.5的高可用性,又继承了EXAONE Deep的高级推理能力。EXAONE 4.0系列包含两个版本:320亿参数的中尺寸模型(优化高性能场景)和12亿参数的小尺寸模型(适用于端侧应用)。其核心升级包括:支持智能体工具使用(agentic tool use),扩展多语言能力至英语、韩语、西班牙语;将最大上下文长度提升至128K tokens(32B模型)和64K tokens(1.2B模型),并通过混合注意力机制(全局+局部)平衡长上下文处理的效率与性能;通过大规模预训练(32B模型使用14万亿tokens)增强世界知识与专业领域能力(如STEM);采用新的强化学习算法AGAPO提升推理性能,并通过偏好学习整合两种模式。评估结果显示,EXAONE 4.0在数学、代码、世界知识、长上下文任务等领域优于同级别开源模型,且与前沿大模型相比仍具竞争力。模型已开源,可通过Hugging Face获取。创新点模式整合:首次在单一模型中统一非推理模式(快速响应)和推理模式(深度思考),无需切换模型即可支持两种需求。智能体能力:引入智能体工具使用核心能力,支持整合外部工具开发智能体或应用,为智能体时代奠定基础。长上下文处理:通过混合注