结论

澳大利亚国立大学与Canva团队在 Asia/Shanghai 10月20日首次公开预印本GenOlympiad,研究前沿文生图模型在已能生成高质量图像之后究竟在哪些硬约束上仍然失效。作者报告,以801个九轴极限提示检验20余个强文生图模型,最强Nano Banana Pro严格分仅23.9分、宽松分40.0分,GPT-Image-2.5-sunburst严格分14.9分、宽松分29.6分居第二,显示即使头部模型也远未触及能力天花板。以上为作者在自建基准与自研自动评测管线中的结论,为预印本v1未经同行评审,也未经本站独立验证,不应视为文生图通用质量的定论。

方法与评估条件

论文提交记录为2026年10月19日17时59分41秒UTC,对应北京时间2026年10月20日01时59分,满足当日首次公开门槛。研究对象是文生图评测基准与自动评分框架,而非新模型发布。作者与AI协作头脑风暴并人工筛选801个提示,覆盖数量与精度、隐式计算、物理一致性、空间与三维推理、文本保真、符号系统、长程一致性、反常识指令遵循、世界知识接地九个能力轴,每个提示至少包含一处必须严格满足的硬约束,例如罗盘指针须指向落日方向。每个任务配有专用评测程序,含简单题与困难题:简单题如是否存在大量骰子,先做门控过滤,任一不通过则记零分;困难题如23颗骰子点数之和是否为131,需视觉证据支撑。557个任务需证据接地,管线对计数类画边界框、对罗盘类画指针延长线与太阳轮廓,用Gemini 2.5 Flash判断接地是否成功并迭代重试,再由确定性程序对比边界框坐标、数量与求和判定是否满足约束,接地失败则剔除该任务而不强行打分。评测覆盖GPT-Image 1至2.5、Nano Banana系列、Seedream、FLUX等20余个前沿模型,对照为同一基准与同一评分规则下的横向比较。

主要结果

作者围绕整体天花板、版本演进与评分有效性报告结果。第一,整体严格分普遍偏低:Nano Banana Pro严格分23.9、宽松分40.0居文生图模型首位,GPT-Image-2.5-sunburst严格分14.9、宽松分29.6居第二,作者据此认为现有自动基准如GenEval已饱和至约0.90而失去区分度,GenOlympiad仍处能力边界。第二,封闭模型随新版本在GenOlympiad上多有提升,开源权重模型表现分化,作者解释为后者可能未针对边界训练,编辑提示该解释为作者推断而非因果证实。第三,代码类模型如GPT-6 Astra提示对齐分更高但视觉观感欠佳,作者将其并列呈现而不主张以对齐分替代美学判断。第四,作者报告评测管线与人类评分具有可比一致性,简单题单次问答与人类一致率94.7%,三次多数投票仅微升至95.3%,困难题依赖迭代接地与确定性计分提升可解释性。以上数字均限本次冻结模型版本、固定提示集与作者实现的裁判配置。

  • 801个提示覆盖九轴,每任务含简单门控题与加权困难题,其中557题需画框画线接地;Nano Banana Pro严格分23.9宽松分40.0居首,GPT-Image-2.5-sunburst严格分14.9宽松分29.6居次;封闭模型随版本提升,开源模型分化;简单题与人类一致率94.7%,接地失败则剔除不强行打分;代码与项目页已随文公开。

局限与适用边界

本研究为预印本v1,未经同行评审,所有结论限作者自建801提示、专用评测程序与特定裁判模型组合,需独立复现后才能确认。数据范围限可视觉验证的硬约束,不覆盖风格、美学、创意等主观维度,不得推广为通用图像质量排名。成本与效率未作系统披露,迭代接地、多次VLM调用与确定性后处理的开销、延迟与失败率与任务领域相关。接地失败剔除可能引入选择偏差,不同模型接地失败率差异需结合原文图表解读。模型版本冻结于评测时点,Nano Banana Pro、GPT-Image、Seedream等闭源模型后续更新可能改变排名与分差,跨版本、跨语言提示与中文场景迁移性尚未验证。

是否同行评审与潜在意义

截至核验时,该工作状态为预印本,arXiv页面明确为v1,无会议或期刊接收信息,评论仅标注30页、16图、6表,编辑将其归为预印本而非已获同行认可的事实。若后续能被独立复现,其意义在于为文生图补上一块边界试金石:从只看对齐均分与美学排序,转向以可数、可量、可画线验证的硬约束定位短板,数量精度、隐式求和、物理遮挡、三维透视等九轴划分可直接用于自查提示词与选型。中国读者参考时应注意基准多为英文提示与公开场景,与中文文本渲染、境内服务可用版本存在差异,实际采用仍需在自有任务分布下重测并保留人工复核。