NeurIPS 2026 | STILL 首个内容感知的层内混合注意力架构，让 LLM 线性化后长文能力不降反升

哈工大（深圳）等团队提出的 STILL 被 NeurIPS 2026 接收，是首个内容感知的层内混合注意力框架，让 token 凭自显著性分数而非位置决定进入 Softmax 还是线性注意力分支。它仅用 0.04B 训练 token 完成 LLM 线性化，在 16K 上下文下实现 80% 显存削减、83% 预填充加速，长上下文基准相对已有线性化方法最高提升 86.2%。