结论
ByteDance Seed、M-A-P 与 TokenWave.AI 团队于上海时间 2026 年 9 月 1 日 01:05（对应 UTC 8 月 31 日 17:05）以预印本首次公开 S3Gym（arXiv:2608.31100v1），提出交互式基准用于检验大语言模型能否通过自测试与自判断实现自改进。核心发现是自改进既非自动也非均匀：引入探索经验可在多数组模型与游戏上提升严格留出评测的表现，但最优路径强依赖任务可压缩性，摘要记忆在可抽象为规则时有效、否则不如直接历史，参数训练在部分任务上显著提升却在另一些任务上出现严重负迁移。该成果当前为预印本，未经同行评审，评估限于 7 款文本游戏与受控配置。
方法与评估条件
S3Gym 将一次自改进循环形式化为探索→判断→整合→更新→评测，每轮包含 N_exp 次宽松探索与 N_eval 次严格留出评测，两阶段使用不相交随机种子且评测轨迹不回流。交互中 agent 在每个步骤同时产生动作与自判断即时分数 s，而环境通过可执行 verifier 产生真实奖励 r，r 在探索阶段不向 agent 暴露以独立度量判断可靠性。经验整合分三条路径：History ICL 直接串行化带分轨迹进入上下文，Summary Memory 由模型将轨迹压缩为保留、避免与下一步方向的自然语言摘要，Training 将轨迹与分数构造成有监督微调数据并更新参数。该设计显式分离模型自判断与环境结果，允许对比判断准确性与后续改进效果。
数据范围与主要结果
基准在 7 款文本游戏上实例化：Chess、Minesweeper、Nullify、Tetris、Snake、PvZ、Trust Evolution，分别侧重潜规则归纳、约束满足、数值变换、空间规划、资源分配、生存与多智能体策略；探索配置更宽松、评测配置更严格以检验知识迁移而非记忆。作者在代表性大模型上对比三路径，结果显示：多数模型-游戏组合下引入经验可提升评测分数，但提升幅度与最佳路径差异显著；当经验可抽象为可复用规则时摘要路径有效，否则原始历史保留更优；参数训练在部分任务上增益显著、但在另一些任务上出现剧烈回退，表明已判断经验的错误会经参数固化放大。进一步分析揭示，识别成功不足以保证改进，必须将反馈转化为可执行、可迁移策略，判断与环境结果的错位是主要瓶颈。
局限与不确定性
作者与分析视角均明确局限：S3Gym 为约 30 页预印本，未经期刊或会议同行评审，尚未有独立团队复现；游戏虽覆盖多类交互机制，但仍为受控文本环境，无法代表真实软件工程、具身、开放域或多模态任务；上下文长度、摘要生成质量、自判断准确率、训练数据筛选阈值等配置影响结果稳定性；评估指标为 verifier 终端分数，未涉及安全性、成本、遗忘或长程演化，跨模型、跨规模与跨提示策略外推需谨慎。相关性、局部增益与预印本结果不应视为普遍、因果或已获学界认可的事实。
是否同行评审与潜在意义
该工作当前状态为预印本 arXiv:2608.31100v1，尚未发表于期刊或会议，引用需标注为未同行评审。其意义在于首次将自测试、自判断与自改进在同一可验证协议下分离度量，揭示仅识别成功不足以保证改进，提供可复现的诊断框架用于区分经验质量、判断可靠性与融入机制的责任；为后续设计更可靠的经验压缩、自判断校准与负迁移抑制机制提供基准，但在规模化应用前仍需同行评审、独立验证与安全性评估。