跳到正文
  1. Google Research62

    Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型

    Google Research 发布新架构,将多 Token 预测(MTP)头挂载到已冻结的 Gemini Nano v3 模型上,已在 Pixel 9 和 10 系列上线,作为开箱即用的加速方案。

    推荐理由:Google 把 MTP 头挂到冻结的 Gemini Nano v3 上,读者可了解端侧推测解码如何省内存并提速。

已经到底了