结论

南洋理工大学与新加坡科技研究局团队公开预印本《What Makes a Good Unmasking Policy? A Controlled Study of Learned Unmasking in Diffusion Language Models》，以受控对照拆解扩散语言模型中学习式解掩码策略的设计选择。作者提出轨迹收缩标注替代常用的终值匹配标注，并以置信度加隐藏状态训练仅856K参数的轻量策略。作者报告称，该策略在LLaDA-8B-Instruct上GSM8K取得最优精度与函数评估次数前沿并在各精度目标下吞吐最高，在MATH-500与HumanEval中等目标下评估次数最少。这仍是作者在自有解码协议上的单次报告结论，未经同行评审，也未经本站独立复现，不应视为普遍、因果或可直接部署的事实。

研究状态与发布时间

该工作以arXiv预印本形式首次公开，版本为v1，共32页11图，学科为cs.AI。arXiv摘要页记录提交时间为2026年10月22日17时15分04秒UTC，换算为北京时间为2026年10月23日01时15分04秒，因此归入本次上海日历日10月23日窗口。arXiv当日cs.AI新论文列表明确标注为2026年10月23日星期五的新提交，摘要页与HTML全文页均可确认该时间与预印本属性。论文未标注期刊或会议接收信息，仍按预印本处理。主题为扩散模型并行解码策略的方法优化，不涉及商业模型发布、产品功能上线或仓库版本本身，归入研究进展符合收录边界。

研究对象与方法

研究对象是掩码扩散语言模型并行生成中的解掩码决策，即每步决定提交哪些位置的预测。保守策略需多次去噪评估，激进并行则可能提交在同状态下独立预测但互不一致的词元，且已提交词元后续不再修正。作者将已有监督式策略统一视为对固定解码过程的蒸馏：先在训练提示上运行参考轨迹，再由教师标注可提交位置，策略模仿该教师。方法上逐项对照三个维度，一是教师把什么标为可提交，二是在哪些状态上模仿，三是策略观察什么信息。新提出的轨迹收缩仅当一次提交能直接到达参考轨迹的后续状态时才视为有效，以替代终值匹配。策略输入对照置信度、概率间隔、骨干隐藏表征及置信度加隐藏表征，策略容量覆盖至7.5M参数并实测吞吐开销。

评估条件与数据范围

作者以冻结骨干加离线训练的轻量策略为范围，对照Learn2PD与TraceLock等监督路线及Fast-dLLM等免训练置信度阈值路线。主骨干为LLaDA-8B-Instruct，泛化检验用Dream-7B-Instruct。任务为GSM8K、MATH-500、HumanEval与MBPP，指标同时报告函数评估次数与端到端每秒词元吞吐，并做分步延迟剖析与前缀缓存兼容、生成长度外推检验。以上范围均来自当日论文同一套解码与评测协议，不涉及自回归长文本生成的一般保证，也不构成跨骨干的普遍结论。

作者报告的主要结果

作者称终值匹配在低评估次数区过于宽松，28.7%的该类正例在提前提交时会偏离参考轨迹。作者称隐藏表征单独使用较弱，但在高精度目标下与词元置信度结合可改善前沿。作者称在受测设置下，至多7.5M参数的策略只要减少约10%以上评估次数即可在吞吐上抵消自身开销。基于上述发现训练的856K参数策略约占骨干0.01%，在GSM8K上取得最优精度与评估次数前沿并在各精度目标下吞吐最高，在MATH-500与HumanEval上以最少评估次数与最高吞吐达到中等精度目标，在MBPP上与最强基线相当，并大体迁移至Dream-7B。编辑解释是：在最高精度目标区作者称免训练方法更高效，优势区间依赖目标精度与任务，不等同于全面最优。

局限与不确定性

本工作为预印本，未经同行评审，结论未经独立复现，不得写成已获认可的事实。结论限LLaDA-8B-Instruct主评测与Dream-7B迁移检验、上述四基准与自有解码配置，不推广到其他扩散骨干、其他模态、生产负载或中文场景。轨迹收缩教师、参考轨迹监督与贪心式提交均为特定近似，最优性与跨分布泛化仍待检验。论文未给出可独立核算的完整超参数与全部数值表，正文长尾细节需读全文核对，不应据此作选型或上线依据。吞吐结论与缓存、提示长度和硬件相关，减少评估次数不等于所有部署下加速。

潜在意义

若后续复现成立，该路线为扩散模型推理加速提供除分别调阈值之外的统一监督视角，提示标注目标与策略输入需联合设计。对关注推理成本的中国读者，可将其视为待验证的候选并行解码方向，在复现与评审完成前，重点核对自身骨干、精度目标与延迟测量是否匹配，而非直接作为部署结论。