结论

卡内基梅隆大学团队公开的预印本 CliffCompaction 提出一种面向长程编码智能体的低成本上下文压缩方法,核心是只截断或丢弃、不改写重述,并且每次压缩都丢弃上次压缩结果,只从最近窗口原文重新构造。作者报告在 Terminal-Bench 2.0 上保持或提升成功率的同时总成本最高降低50%,在 KernelBench 持续学习上达到3.58倍加速。以下数字均为作者自报,尚未经过同行评审与独立复现,不应视为普遍或已确立的事实。

研究状态与对象

该工作状态为预印本,arXiv 提交历史为 UTC 2026年9月22日17时55分59秒,对应 Asia/Shanghai 2026年9月23日1时55分59秒,属于当日窗口内首次公开。责任主体为 Carnegie Mellon University,研究对象是长程编码智能体在数百万 token 上下文下的容量与成本问题,特别是工具调用与工具结果占主导的上下文膨胀、前缀缓存失效,以及测试时扩展和持续学习中的成本收益权衡。验证基座包括 Kimi K2.6、GLM-5.1 等模型与 OpenHands 等脚手架,未声称覆盖全部智能体形态。

方法与评估条件

CliffCompaction 为免训练、模型无关的规则式方法。上下文自然增长至预设阈值才触发压缩,压缩时主要处理工具相关内容:超过500字符的工具结果直接丢弃并保留短结果,工具调用压缩为保留工具名、目标文件与关键参数的签名,智能体思考截断至300字符,系统提示与任务描述完整保留。关键设计是高压缩精度优先于完整召回:从不压缩压缩结果,每次丢弃历史压缩块,只用压缩后新增轮次的原文构造新块,需要历史信息时可通过保留签名重新调用工具恢复。评估条件为 Terminal-Bench 2.0、SWE-bench Verified 与 KernelBench Level 3,SWE-bench 上下文阈值仅16K与32K,成本按未缓存输入、缓存读取与输出区分核算,缓存读取虽单价最低但在长会话中占比最高。

数据范围与主要结果

作者报告的范围限于上述三项基准与受控配置:一、在 Terminal-Bench 2.0 上实现更高成功率且总成本降低50%,缓存读取成本最高降低90%;二、在 SWE-bench Verified 上以32K阈值保持 GLM-5.1 全上下文成功率,以16K阈值保持 Kimi K2.6 全上下文成功率;三、测试时扩展更经济,三次压缩的 Kimi K2.6 rollout 以约1.9倍单次未压缩成本提升10.5个百分点,并行扩展下追平 Opus 4.7、超越 Opus 4.6 与 GPT-5.3 Codex 且成本更低;四、在 KernelBench Level 3 的50题持续学习中,200步达到2.23倍、400步达到3.58倍 CUDA 加速,作者称在同等评测设置下超越专用搜索算法与训练智能体约25%。作者同时开源了与 Claude Code、Codex 等兼容的脚手架无关 API 代理实现,以上均为论文摘要与正文自报结果。

局限与待验证事项

第一,该工作为预印本,未经同行评审,需独立复现才能确认。第二,结果强依赖基准、模型、脚手架、阈值与成本口径,未验证开放域对话、多轮协作或长上下文问答等迁移能力。第三,方法主动牺牲完整历史召回,两次压缩间隔之外的直接信息不再可检索,依赖按需重调工具恢复,对无法重演的外部状态可能不适用。第四,每次压缩仍会使前缀缓存失效并触发重填,开销大小取决于压缩后体积与触发频率,不同厂商缓存定价与硬件下的实际节省需要求结合自身负载复测。第五,与 Opus、GPT 等前沿模型的对比为特定基准与特定花费口径下的作者结论,不构成通用能力排名。

潜在意义

编辑解释:如果后续独立复现成立,该思路的意义在于把保真度放在召回之前,用可丢弃、可重取的截断策略换取更少的重填与更长的缓存复用,使多次 rollout 的测试时扩展和超百万 token 的持续改进在成本上可行。这对需要跑长程终端任务与内核优化的工程团队有直接参考价值。但在当前证据下,读者应将其视为特定基准与特定配置上的作者结论,而非机构宣传或行业普遍结论,选型前需在自身模型、任务与计费条件下验证精度与成本。