论文
TaoD2C-Bench:超越视觉还原的工业界面代码生成评测
TaoD2C-Bench: Benchmarking MLLMs for Industrial UI Code Generation Beyond Visual Fidelity
摘要
多模态大语言模型 (MLLM) 的一个关键挑战是从视觉识别转向约束感知的跨模态推理。这涉及将视觉线索与其他方式的信息相结合,以理解特定领域规则下元素的关系。这一挑战在工业设计到代码 (D2C) 中尤为明显,它将用户界面 (UI) 设计转换为代码,并要求 MLLM 将设计图像与杂乱的层元数据连接起来,推断组件和布局实现要求,并在目标库约束下以代码形式实现它们。然而,这些能力在现实的工业环境中仍未得到充分评估。为了填补这一空白,我们推出了 TaiD2C-Bench,这是一个评估 MLLM 生成满足工业应用实施要求的 UI 代码能力的基准。 TaiD2C 数据集包含来自 17 个商业平台的 2,861 个产品设计,以及四个类别的 97,652 个专家注释:组件、组、对齐和位置。这些注释区分所需 来自允许的实施选择的限制。 TaiD2C-Bench定义了三个任务:端到端UI代码生成、需求推理和需求实现。评估八个 MLLM 揭示了生成满足实现要求的 UI 代码方面的巨大差距,以及推理和实现方面的不同性能概况。我们进一步表明,MLLM 的视觉重建能力并不一定意味着能够生成满足这些要求的代码。我们发布TaoD2C来支持工业UI代码生成的研究。
