结论

英伟达与加州大学伯克利分校团队公开的预印本 SWE-Serve 提出面向生产级推理服务的智能体工程基准,以53个源自 SGLang 真实生产变更的仓库级任务检验智能体能否把本地可运行补丁做成生产正确实现。作者报告在11个模型31种配置下最优配置平均 pass@1 为75%,并揭示明显的生产正确性差距:在19个含端到端服务测试的任务上,约三分之一通过其他全部测试的补丁被端到端测试拒绝。以下数字均为作者自报,尚未经过同行评审与独立复现,不应视为普遍或已确立的事实。

研究状态与对象

该工作状态为预印本,arXiv 提交历史为 UTC 2026年9月22日17时54分59秒,对应 Asia/Shanghai 2026年9月23日1时54分59秒,属于当日窗口内首次公开。责任主体为 NVIDIA 与加州大学伯克利分校,研究对象是生产推理工程中的智能体编码能力,特别是模型支持、运行时执行与公开 API 协同变更、持久状态与并发协调等生产路径问题,而非孤立内核生成或单点性能优化。

方法与评估条件

SWE-Serve 为免训练的基准型研究,方法是将2025年12月以来合入 SGLang 的83个生产 PR 整理为53个可执行任务,覆盖六个推理工程家族。每个任务提供容器化仓库基线、任务指令、隐藏可执行验证器与可解性 oracle,12个任务在纯 CPU 执行,41个在单卡 H100 执行,其中19个含模型服务端的端到端测试,3个含校准性能门限。验证设计包括无操作与 oracle 对照、智能体辅助的对抗性验证器审查、闭卷执行与轨迹审计。智能体在 Harbor 0.13.1 沙箱中最多执行350步或210分钟,隐藏验证器按失败转通过与通过仍通过测试判定是否生产正确。

数据范围与主要结果

作者报告的范围限于上述53任务与受控执行:一、任务规模上中位 oracle 改动553行跨7个文件,最多6077行跨35个文件,37个任务源自单个上游变更,16个整合2至6个相关变更;二、11个模型31种配置下最优配置平均 pass@1 为75%,存在约40个百分点的模型间差距;三、生产正确性差距上,19个端到端任务中剔除端到端测试后通过率从45.9%升至69.4%,作者称约三分之一本地通过补丁未达到生产正确,例如 Gemma 4 混合专家核心服务任务中16/33个补丁通过其他全部测试但无法经由在线服务公开接口正确服务指定模型;四、在12个可配对比较任务上,移除端到端测试新增通过数约为移除同等数量非端到端测试的2倍。以上均为论文摘要与正文自报结果。

局限与待验证事项

第一,该工作为预印本,未经同行评审,需独立复现才能确认。第二,结论限 SGLang 单一系统与2025年12月以来的生产变更抽样,共53个任务,不能推广为全部推理系统或通用软件工程能力。第三,执行限 CPU 与单卡 H100,端到端覆盖仅19个任务,性能门限仅3个任务,硬件与负载变化下的表现需重新验证。第四,隐藏测试与对抗审查虽经设计,仍可能遗漏有效替代实现或接受捷径实现,作者已用 canary 标记发布产物以便后续检测泄露。第五,模型对比为特定基座、脚手架与努力配置下的作者结论,不构成通用能力排名。

潜在意义

编辑解释:如果后续独立复现成立,该基准的意义在于把生产正确性变成可直接度量的差距,使后续智能体不仅追求本地通过,还需通过服务端公开接口、持久状态与并发下的回归与性能约束。这对做推理服务与智能体落地的工程团队有直接参考价值。但在当前证据下,读者应将其视为特定系统与特定任务集上的作者结论,而非机构宣传或行业普遍结论,选型前需在自身仓库、硬件与服务路径上复测。