ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

第12篇:多模态大模型论文VISIONTRIM: UNIFIED VISION TOKEN COMPRESSIONFOR TRAINING-FREE MLLM ACCELERATION

第12篇:多模态大模型论文VISIONTRIM: UNIFIED VISION TOKEN COMPRESSIONFOR TRAINING-FREE MLLM ACCELERATION

第一部分:基本信息

  • 论文标题:VISIONTRIM: UNIFIED VISION TOKEN COMPRESSION FOR TRAINING-FREE MLLM ACCELERATION
  • 投稿会议:ICLR 2026(正处于双盲评审阶段)
  • 核心目标:解决 MLLM 因视觉令牌过多导致的高计算成本问题,实现无额外训练的推理加速,同时保持甚至提升任务性能。

第二部分:解决的问题

(1)问题背景

  • 多模态大模型(MLLM)里,视觉 token 特别多,尤其是高分辨率图像和视频,多到:

    • 计算复杂度高(注意力是 O(n2)O(n^2)O(n2))

    • KV cache 巨大、推理很慢

  • 以 LLaVA 系列、Video-LLaVA 为代

返回列表