结论

MemTensor团队10月20日公开预印本MemT-1.0，提出将记忆内化为模型计算的记忆原生架构。作者报告在11个记忆基准上平均超越参数记忆基线并与检索增强方法相当，在128K历史下实现约1.86倍端到端推理加速与66倍持久存储缩减，并在SWE-bench编码智能体任务上提升成功率。该工作为未经同行评审的预印本，结论限于特定基座与受控评测，需独立复现。

研究主体与状态

论文标题为MemT-1.0: Towards Memory-Native Evolution，作者署名为MemTensor Team，arXiv编号2610.26825，共66页15图16表，学科为计算与语言、机器学习。arXiv提交历史为2026年10月19日17时54分35秒UTC，对应北京时间10月20日01时54分；arXiv计算与语言周二10月20日新论文批次与Hugging Face 2026-10-20当日论文页均收录该论文，首次公开可确认属于上海当日窗口。版本为v1预印本，未经同行评审，也未在文中声称已发表或已获期刊会议接收。

方法与数据范围

MemT-1.0在前作Metis基础上升级，将token选择改为基于Gated DeltaNet-2的稳定token级更新机制，保留动态局部记忆与可训练超记忆结构，并引入Mixture-of-Storage扩展原生记忆容量。模型家族包括MemT-1.0-Nano约36B参数、3B激活、10M动态记忆，以及MemT-1.0-Flash约288B参数、17B激活、336M动态记忆，基座分别为Qwen3.6-35B-A3B与进一步后训练的DeepSeek-V4-Flash。训练分持续预训练与后训练两阶段，构建约34B token语料，并配套分布式训练与有状态推理设施，保持独立轨迹的记忆隔离，固定记忆配置下持久状态规模不随交互累积增长。评估覆盖11个记忆基准、通用能力噪声测试、128K长程效率与SWE-bench Verified及多语言编码智能体任务。

主要结果

  • 1. 在11个记忆基准上，MemT-1.0平均超越参数记忆基线，与检索增强方法总体相当，同时基本保留通用能力，作者称有效利用历史信息且推理时不访问原始上下文。 2. 在128K历史长度下，MemT-1.0-Nano相对全量上下文KV缓存实现约1.86倍端到端推理加速与约66倍持久存储缩减，长程下延迟与存储优势随历史增长而扩大。 3. 将检索到的过程性经验内化为原生记忆后，经验引导的编码智能体在SWE-bench Verified与多语言集上平均任务成功率与多次运行一致性提升，效果与显式文本经验相当。 4. 记忆容量与训练数据的扩展实验显示，记忆容量是除参数与数据外的重要扩展维度，为构建更强记忆基础模型提供依据，以上均为作者受控实验结论。

局限与待验证事项

  • 1. 预印本未经同行评审，所有提升、加速与存储数字均为作者单方报告，需独立复现，不得视为普遍或因果事实。 2. 验证限于两个特定基座、11个记忆基准与SWE-bench编码场景，未覆盖更广模型、语言、真实部署与长尾任务。 3. 效率对比基线为全量上下文KV缓存，依赖固定记忆配置与自研高效算子及设施，实际收益随任务类型、历史分布与部署条件变化。 4. 模型权重、代码与可复现细节的公开可用性尚未经本站独立验证，文中发布模型家族不构成商业可用或全面开放承诺。

潜在意义

若后续能独立复现，该工作提示记忆可从外部上下文内化为模型原生计算，有望降低长程推理的延迟与存储负担，并将原生记忆从信息回忆扩展到过程性经验指导的多步执行。但在当前预印本阶段，更稳妥的理解是受控条件下的方向性证据，而非已成熟的通用方案。中国读者在跟进时应以原论文与后续评审版本为准，重点核对基座、记忆配置与评测边界是否与自身任务一致。

作者称这是走向记忆原生演化的实用一步，这是作者结论而非独立验证结论；编辑解释是该判断仍需评审与复现支持。