SpecTr-GBV 统一多草稿与块验证加速推测解码

中国人民大学等团队提出 SpecTr-GBV 推测解码验证框架，将 multi-draft 与 greedy block verification（GBV）统一进同一个推测解码框架。 该框架把多草稿 token blocks 与 target token block 的验证写成最优传输问题，在保持输出分布一致性的同时最大化期望接受长度。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。