结论
加州大学圣克鲁兹分校、加州大学圣巴巴拉分校与Google合作团队公开预印本ALPS,提出一种语言对齐、可像素解码的状态编码器。作者报告称,在统一冻结评测中,该ViT-B/16模型在LIBERO状态探针上取得同规模最低聚合误差,并以冻结表征在LIBERO策略上达到平均85.5%的成功率。这是作者在受控基准上的单次报告结论,尚未经过同行评审,也未经本站独立复现,不应视为普遍或因果事实。
研究状态与发布时间
该工作以arXiv预印本形式首次公开,版本为v1。arXiv记录的提交时间为2026年10月21日17时57分11秒UTC,换算为北京时间为2026年10月22日1时57分11秒,因此归入本次上海日历日10月22日窗口。论文共35页,含15页正文与20页补充,附13图26表。项目页与代码仓库在论文中同步给出,但因页面本身未显示可确认的当日日期,本站未将其作为 dated 证据采用,仅以arXiv摘要页与HTML全文页作为当日来源。
方法与数据范围
ALPS分两阶段训练,均只用静态图像与文本,未用视频、动作或外部视觉教师。第一阶段从零训练ViT-B/16,在DataComp-1B上以网页标题与合成标题联合训练,对同一组补丁表征同时施加对比对齐、标题生成、像素重建与跨视角稠密对应四个目标,先在128分辨率处理128亿样本,再在224分辨率处理10亿样本。第二阶段将第一阶段编码器冻结为教师,从增强裁剪的学生表征出发,以几何查询预测干净裁剪对应位置的标准化教师表征,仅重叠区域计入损失,预测器训练后丢弃。文本塔、图像投影随编码器保留,标题解码器与重建解码器等训练辅助模块在阶段结束后丢弃。
评估条件:作者在同一冻结协议下对比包括CLIP、SigLIP 2、DINOv2、DINOv3、C-RADIOv3、V-JEPA 2等在内的十五个公开编码器,覆盖LIBERO状态探针、语言对齐、像素重建、下游控制与世界模型规划。状态探针读取最近16帧冻结表征,估计当前场景状态或在给定动作下预测未来1秒与3秒状态;语言侧报告ImageNet零样本与Flickr30k图文检索;重建侧为每个编码器单独训练评估解码器,在1000张ImageNet留存图上计平均L1误差;控制侧在LIBERO四套件上训练语言条件策略;规划侧在PushT、Wall与Granular上评测。
- 作者报告的主要结果
作者称ALPS聚合LIBERO状态探针误差为0.829,为参评ViT-B中最低,并与参数大3.5倍的V-JEPA 2-L持平;第二阶段相对第一阶段降低状态误差17%,而图文检索至多变化0.5分,作为对照,同样微调使SigLIP 2与CLIP检索下降4至12分。语言侧ALPS第一阶段Flickr图到文召回93.4%居首,ALPS为93.2%,ImageNet零样本73.4%至74.5%。重建侧ALPS第一阶段L1为0.112最优,ALPS为0.120,作者称低于所有非重建类编码器。冻结ALPS表征在LIBERO四套件平均策略成功率上,配BERT指令为83.4%,配自带文本塔为85.5%,为对比中最高。世界模型规划在PushT、Wall与Granular上领先或持平最优,且预测的未来表征可直接解码为像素用于目检。以上均为论文内的受控评测数值。
局限与不确定性
本工作为预印本,未经同行评审,结论限于论文自建的统一协议、所列十五个编码器、ViT-B/16规模与LIBERO、PushT、Wall、Granular等特定任务。训练仅用静态图文,是否推广到视频预训练、更大规模、其他机器人平台与真实长期部署,论文未证明。重建保真与规划增益的关系、检索与状态的权衡仍依赖特定解码器与探针设计。编辑解释是:局部基准领先不等于通用视觉最优,相关性与仿真规划结果不构成因果或生产可用保证,引用前需等待独立复现。
潜在意义
若后续复现成立,该路线提示单一冻结视觉表征可同时承载物理状态、语言接口与像素可检视性,有望减少世界模型与策略对多编码器拼接的依赖。但在复现与评审完成前,中国读者宜将其视为待验证的研究候选,而非可直接选型的结论。