2026 年 10 月 20 日，记忆张量发布并开源记忆原生模型 MemT-1.0 系列，含 288B 的 MemT-1.0-Flash（激活 17B）与 36B 的 MemT-1.0-Nano（激活 3B），权重已在 Hugging Face 开放。它要改的是记忆在模型里的位置：不再外挂在会话、微调或检索库上，而是变成前向传播里的一段计算。名字里的记忆原生，说的就是这个位置变化。
记忆过去是外挂的
外挂有三条路，各有各的代价：
- 激活记忆，也就是上下文窗口，随会话消失，而且成本随历史长度线性增长。
- 参数记忆，靠微调把知识写进权重，要动整个模型，无法逐条编辑，也删不干净。
- 外部知识库，每次推理都靠检索把片段找回来，多一层链路和延迟。
三条路的分界线在于记忆住在哪。住在上下文里，成本是线性的；住在权重里，编辑粒度是整个模型；住在向量库里，每次都要重新取一遍。这三个位置都不是为长期记忆设计的，它们是通用能力的副产品。MemT-1.0 换了个位置：让记忆成为模型内部的一块状态。
架构上的三件套
三件事各解决一个问题，合起来才算完整方案：
- 在选定的 Transformer 模块里加入原生记忆模块，让普通注意力与记忆注意力并行运行，记忆成为前向传播的一部分，不必每次重传历史文本。
- 用基于 Gated DeltaNet-2 的逐 token 擦除、写入、遗忘机制，让记忆的更新过程稳定下来，不会越写越糊。
- 用 Mixture-of-Storage 把记忆扩成多个专家，解决容量扩展：记忆装不下时不是把状态堆大，而是分成专家分别承载。
第 2、3 条针对的是同一个软肋的两面：写入机制管记得准不准，存储结构管装不装得下。前者决定记忆会不会随时间退化，后者决定记忆能不能随使用量增长。记忆架构创新说明对这套并行结构有更细的拆解。
图 1：注意力与记忆注意力并行运行，记忆成为前向传播的一部分
11 项记忆基准上的分数
两个尺寸的成绩分别是：
- MemT-1.0-Flash，288B，11 项记忆基准平均 50.6 分。
- MemT-1.0-Nano，36B、激活 3B，同一批基准平均 47.0 分。
参数相差八倍，平均分只差 3.6 分。这个比例说明记忆能力对参数量的依赖远小于通用能力，也说明它不是靠堆参数堆出来的。对做选型的人来说，小尺寸在记忆场景里是可用选项，不是简化版。同类开放权重模型今年普遍在做尺寸分档，MiniMax M2.7 开源也是按档位对应不同的部署预算。
编程智能体里的实测
基准分数容易被质疑，这项实测的分量更重，因为它测的是记忆有没有被真正用上。做法是让执行框架在关键断点触发经验写入，把上一次任务踩过的坑存下来，再看下一次能不能少走弯路：
- Nano 在 SWE-bench Verified 的 500 项任务上，平均成功率从 66.07% 升到 69.73%。
- 长历史场景下比全上下文方式快约 1.86 倍（128K）与 3.99 倍（256K）。
- 持久化记忆状态约为全上下文方式的 1/66。
成功率的提升是 2.66 个百分点，不算夸张，但对照条件干净：同一个执行框架、同一批任务，变量只有记忆。真正拉开差距的是成本侧，历史越长，全上下文方式要重复读入的文本越多，差距就越明显，到 256K 时是 3.99 倍，持久化记忆状态只有全上下文的 1/66。
这个时间优势来自结构，不是来自压缩。全上下文每轮都要把历史重新过一遍注意力，记忆原生把历史压成模型内部的状态，只留下与任务相关的部分。代价是记忆必须被正确地写、正确地忘，这也解释了第 2 条机制为什么必要。把这层能力放进智能体语境，Hermes 智能体框架里关于上下文压缩与经验复用的讨论，正好是同一个问题的另一面。
图 2：11 项记忆基准平均得分 50.6 与 47.0
记忆从数据问题变成优化问题
这次发布改的不只是模型会不会记，还有记忆在工程里被当成什么：
- 过去的路线是数据问题：想让模型记住更多，就喂更多数据、拉更长上下文、建更大的向量库，投入对象是素材。
- 记忆原生把投入对象换成了结构：往哪写、写多少、什么时候忘，都是可以调、可以评估的工程参数。
- 权重已开放，外部团队可以自己跑一遍写入时机与遗忘策略，这类实验在过去只能靠微调加外部库拼出来。
这个转向的实际意义是，记忆第一次有了自己的评测集。11 项记忆基准和 SWE-bench 上的增量放在一起，能拆出哪些提升来自记忆、哪些来自基础能力。开放权重这一步也很关键，智谱 GLM-5.1 开源之后，可复现的对照已经成了发布标配，发布与技术细节里对训练与开源范围有更完整的交代。
所以这一版真正值得记的不是 50.6 和 47.0，而是它把记忆从一个数据问题变成了优化问题。数据问题只能靠砸资源，优化问题可以靠设计。
更新时间：2026-10-21