苹果与杜克提出LensVLM长上下文压缩方法

苹果基础大模型团队与杜克大学提出 LensVLM，将长上下文压缩成覆盖全文的页面图像，让模型先浏览压缩页面、再展开与问题相关的页面细读，该工作已被 NeurIPS 2026 接收。 在七项文本问答评测中，LensVLM 以 4.3 倍有效压缩达到 68.9% 的平均准确率，接近完整文本参照的 72.4%；在 15 倍初始压缩下，基础模型直接阅读仅 18.1%，LensVLM 为 52.1%。 据该工作称，短上下文中直接输入全文仍然更快，这套方案的优势主要体现在长文档以及可复用页面图像的多次查询场景。公开的 LensVLM 9B Demo 已上线。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。