← 返回列表

论文综述:Macaron-A2UI 个人 AI 代理的生成式界面

Macaron-A2UI: A Model for Generative UI in Personal Agents

原文作者 Fancy Kong, Congjie Zheng, Murphy Zhuang, Rio Yang, Sueky Zhang, Hao Fu, Gene Jin, Song Cao, Kaijie Chen, Andrew Chen, Pony Ma 机构 Mind Lab (Macaron AI) 论文发布 2026-05-26 综述日期 2026-05-31 HF 票数 🔺 78
generative-UIpersonal-agentreinforcement-learningQwenA2UI
📄 查看原文 →

一、论文是干什么的?

生成式 UI(Generative UI) 让 AI 在对话中实时生成可交互的界面元素,而不只是回复文字。

预订机票时,AI 不是问你”出发日期是?“然后等你打字,而是直接弹出一个日历组件让你点击选择。确认订单时,AI 弹出一个确认按钮,而不是让你打”好的”。

这和你平时用的 App 界面有根本区别:

  • 传统固定界面:程序员提前设计好所有按钮和表单,每个用户看到的都一样
  • 生成式 UI:AI 根据当前对话内容,实时决定是否需要生成界面,以及生成什么样的界面

纯文字对话的三大痛点:认知负担高(要读很多字)、表达不精确(“预算大概 500 到 800”不如滑动条直观)、效率低(确认操作打字不如点按钮)。

二、核心方法与创新

A2UI 协议

整个系统基于 A2UI(Agent-to-User Interface)协议 构建。AI 模型不需要写 HTML,只需输出结构化 JSON 消息,然后客户端负责把这些消息渲染成实际界面。

打个比方:AI 只需说”我要在这里放一个下拉选择框,选项是国航、南航、东航”,App 读懂后自己画出漂亮的下拉菜单。协议支持 23 种组件(交互类/展示类/布局类),四种消息类型(beginRendering、surfaceUpdate、dataModelUpdate、deleteSurface)。

训练数据

从 MultiWOZ、SGD、ESConv、AnnoMI 四个对话数据集出发,用规则和 LLM 混合标注,构建了 14,245 条训练样本,可渲染率达 99.2%。其中 71.7% 含界面内容,28.3% 是纯文字回复(刻意保留,因为有时纯文字才是最合适的)。

A2UI-Bench 评测基准

300 道测试题,三维度评分(各 1–5 分):

  • L1:协议正确性(JSON 格式是否合法)
  • L2:任务构建质量(组件选择是否合适,内容和对话是否对齐)
  • L3:用户体验质量(界面是否真正降低了用户负担)

两阶段训练

第一阶段:LoRA 监督微调(SFT) 在对话数据上学会基本的”文字 + A2UI”联合生成格式(LoRA 秩=16,1 个 epoch)。

第二阶段:GRPO 强化学习(RL) 每道题采样 8 个回答,对比奖励后优化(训练 50 步)。奖励函数:R=L1×0.2+L2×0.4+L3×0.4R = L1 \times 0.2 + L2 \times 0.4 + L3 \times 0.4,其中 L1 格式错误直接给 0 分。RL 阶段的奖励裁判使用 GPT-5.1,32 路并发评分。

三个模型规模

用咖啡杯型命名:

模型基础模型规模
Piccolo(小杯)Qwen3-30B-A3B-Instruct-250730B 总参数,激活 3B(MoE)
Grande(中杯)Qwen3-235B-A22B-Instruct-2507235B 总参数,激活 22B(MoE)
Venti(大杯)GLM-5.1(智谱 AI)754B

三、使用了哪些模型和计算资源?

项目详情
基础模型Qwen3-30B / 235B-A22B-Instruct-2507(阿里巴巴 MoE 架构),GLM-5.1(智谱 AI)
RL 奖励裁判GPT-5.1 API(32 路并发)
GPU暂无相关信息(Mind Lab 历史上曾使用 48× H100)
训练时长暂无相关信息

四、实验结果

核心结论:不给任何协议文档的 Macaron-A2UI-Venti,总评分 3.72,超过了给了完整 Schema 的 GPT-5.4(3.54)

模型是否给 Schema总评分
GPT-5.4✅ 给3.54
DeepSeek-V3.1✅ 给3.13
Qwen3-235B(未微调)❌ 不给3.20
Macaron-A2UI-Grande(235B)❌ 不给3.66
Macaron-A2UI-Venti(GLM-5.1)❌ 不给3.72

30B 模型经 SFT+RL 后从 19.8 分提升到 58.8 分(提升约 197%),235B 从 21.6 分提升到 74.2 分(提升约 244%)。四个测试数据集(MultiWOZ/SGD/ESConv/AnnoMI)得分差异极小(3.82–3.84),泛化性好。

五、潜在应用与已落地应用

已落地: Macaron AI App 于 2025 年 8 月 15 日正式上线,覆盖北美(英文)、日本、韩国市场,提供 iOS 版。用户可以说一句话让 AI 生成一个可用的小程序(如健身记录器),生成速度已从最初约 20 分钟优化到约 2 分钟。

行业标准化: A2UI 协议已被 Google 推动标准化(v0.9),CopilotKit、Oracle 等公司宣布支持,成为 2026 年 AI 代理开发的六大核心协议之一(与 MCP 等并列)。

Mind Lab 的训练框架已整合进 NVIDIA NeMo Megatron字节跳动 VERL

六、网络上的讨论与评价

论文于 2026 年 5 月 26 日发布,时间较新,但 Mind Lab 团队(来自 OpenAI、DeepMind、清华、MIT)在此之前的研究已引发广泛关注。X(Twitter)上的 AI 观察者对 Mind Lab 的技术突破(万亿参数 RL 成本降低 90%)评价”令人震惊”。

A2UI 协议本身在开发者社区已有广泛讨论,被列为 2026 年 AI 代理开发的核心标准之一。对于普通用户,这项技术意味着:未来与 AI 聊天时,AI 能在聊天界面里直接弹出表单、日历、选项卡,大幅降低信息输入的麻烦。

七、思维导图

mindmap
  root((Macaron-A2UI))
    研究问题
      纯文字对话的局限
        复杂信息输入靠文字效率低
        用户认知负担重
      现有UI生成方案的问题
        需要单独系统生成UI 与对话脱节
        无统一协议 不同模型行为不一致
    A2UI协议设计
      统一响应格式
        text_response 文字回复部分
        a2ui 列表 UI操作序列
      四种原子操作
        beginRendering 初始化UI渲染
        surfaceUpdate 更新已有UI组件
        dataModelUpdate 更新数据模型
        deleteSurface 删除UI组件
      UI组件类型
        表单 Form 日历 Calendar 选项卡 Tabs 等
    两阶段训练流程
      阶段一 SFT监督微调
        损失函数 标准交叉熵 对每个token预测
        数据来源 MultiWOZ Schema-Guided ESConv AnnoMI
        原始数据14245条转换后样本
        99.2%渲染成功率 71.7% UI轮次比例
        超参 lr=1e-4 batch=32 1 epoch max_len=4096
        LoRA适配 rank=16
      阶段二 GRPO强化学习
        优势估计 A_ij = R_ij 减 组内平均奖励
        组大小G=8
        超参 lr=3e-5 batch=32 50步 max_len=2200
    奖励函数三层设计
      L1协议正确性 权重0.2
        JSON解析合规 Schema符合 引用完整性
        必填字段 格式规范
      L2任务构建质量 权重0.4
        触发时机恰当 组件与意图对齐
        文字UI接地 数据模型利用 动作完整性
      L3体验质量 权重0.4
        文字优先原则下的价值增益
        对话自然性 认知负荷
      全局通过门控 R = pass * L1+L2+L3加权
    评估框架 A2UI-Bench
      300个任务 atomic depth width三类
      文本指标 L1 L2 L3打分
      视觉指标 V1 V2 V3
        Flutter渲染 + VLM评委
        视觉完整性 任务对齐 动作清晰度
    实验结果
      Macaron-A2UI-235B 总分75.6
        超越GPT-5.4的74.1
      Macaron-A2UI-30B 总分58.8
      未调优Qwen-235B基线 21.6
      训练收益分解
        Qwen-30B基线 19.8
        SFT后 37.2 L1从无到2.25
        GRPO后 58.8 L1进一步升至4.11
      跨领域鲁棒性
        不同对话领域评分在3.82至3.84之间
        方差极小
    规模效益
      万亿参数模型RL训练成本降低90%
      Mind Lab团队来自OpenAI DeepMind清华MIT