跳到正文
量子位· 关注前沿科技·· 3 小时前精选AI 评分67

记忆张量开源 MemT 1.0 记忆原生模型,最大 288B 参数

RSI三块关键拼图,MemT 1.0从模型层补上「记忆」

AI 导读

记忆张量开源发布 MemT 1.0 系列记忆原生模型,包含 36B 参数、激活 3B 的 Nano(基座 Qwen3.6-35B-A3B)和 288B 参数、激活 17B 的 Flash(基座 DeepSeek-V4-Flash),在 Transformer 模块中加入与注意力并行的记忆分支,把经验编码为可读写的内部矩阵状态。

推荐理由

记忆张量开源 MemT 1.0,把经验写入模型内部状态,读者可据此比较记忆原生与外部记忆两条路线的取舍。

来源:量子位 · mp.weixin.qq.com