← 返回列表

论文综述:Crafter 多智能体科学图表自动生成框架

Crafter: A Multi-Agent Harness for Editable Scientific Figure Generation from Diverse Inputs

原文作者 Haozhe Zhao et al. (9 authors) 机构 (多机构合作) 论文发布 2026-05-28 综述日期 2026-06-02 HF 票数 🔺 78
figure-generationmulti-agentscientific-figuressvg-editingharness
📄 查看原文 →

一、论文是干什么的?

科研论文配图费时费力——流程图、方法示意图、信息图表,往往需要在Figma、PowerPoint或Illustrator里花几小时乃至几天手工制作。现有的AI自动配图工具有三个硬伤:

  1. 只支持单一图表类型:每个工具只会做一种特定的图;
  2. 只接受纯文字输入:不能处理”补全草图”或”参考已有图片风格”等真实需求;
  3. 输出是死图:PNG/JPG生成后无法编辑,有任何小错误都要从头来过。

Crafter 同时解决了这三个问题,并且首次打通了”生成→可编辑矢量图”的完整流程。

二、核心方法与创新

一句话比喻:Crafter 不是更强的”AI画图手”,而是一个能指挥、审查、纠错的”团队总监”。

论文的核心思路叫做 Harness(总控框架)。由5个协作智能体组成循环流水线:

意图推理器 → 方案生成器 → 图像生成器 → 评审员 → 规格修订器
     ↑                                               ↓
     └──────────── 循环最多3轮,保留最佳版本 ───────────┘
智能体角色职责
意图推理器理解需求分析输入,生成初始规格说明
方案生成器出方案并行生成K个候选视觉布局
图像生成器画图把方案渲染成实际图片
评审员找问题从6个维度打分,列出具体缺陷
规格修订器改规格把审查意见转为结构化编辑操作

三个关键创新:

创新1:多方案并行探索 — 不是只生成一个方案,而是同时生成K个风格不同的候选方案,从一开始就规避糟糕的构图。

创新2:结构化记忆 — 每次修改以”类型化操作”记录,而非往提示词里堆文字,避免指令越积越混乱。

创新3:先验证再修改 — 审查员给出可操作的具体诊断(“第二列文字溢出边界、箭头端点未对齐”),而非模糊的整体评分,最多修三轮。

附加系统 CraftEditor:把生成的光栅图(JPG/PNG)转换成可编辑的SVG矢量图,分三步:提取(清理背景噪声)→ 处理(为每个元素打标注定坐标)→ 合成(迭代组装SVG,混合VLM+程序检查器审核)。

三、使用了哪些模型和计算资源?

全部通过 OpenRouter API调用,无需本地GPU训练:

角色使用的模型
语言推理(LLM)Anthropic Claude Opus 4.6
视觉理解(VLM,评审员)Google Gemini 3.1 Pro Preview
图像生成(主要后端)Google Gemini 3.0 Pro Image Preview
图像生成(低成本后端)Google Gemini 3.1 Flash Image Preview
CraftEditorGemini 3.1 Flash-Lite + GPT-5 + Doubao-Seed-2.0-Pro
评估裁判Gemini 3.5 Flash

API调用费用:

任务单次费用
Crafter(低成本后端)约 $0.25/张
Crafter(高质量后端)约 $0.32/张
CraftEditor(光栅转SVG)约 $0.85/次
整个评测基准(279样本)总计不足 $90

CraftEditor需要一台带CUDA GPU的服务器(用于SAM3分割服务),主流程无需本地GPU。

四、实验结果

评测基准 CraftBench 覆盖3种图类、4种输入条件、18个研究领域、279个人工标注样本:

  • 比最强竞争对手(PaperBanana、AutoFigure)领先 16-22个百分点
  • 消融实验证明多方案探索、结构化记忆、先验证再修改三个组件均有独立贡献

五、潜在应用场景

  • 学术论文配图:提供论文文字描述,一键生成方法流程图、示意图
  • 科学海报制作:会前几小时快速生成会议海报
  • 信息图表制作:科普工作者将技术内容转化为易读图表
  • 图表补全修复:给定不完整草图,AI自动补全缺失部分
  • 可编辑输出:通过CraftEditor,所有输出均可在Inkscape/Illustrator中进一步精修

六、网络上的评价与讨论

论文2026年5月发布,GitHub(HaozheZhao/Crafter)约5星,尚处于早期传播阶段。

技术亮点: 首个同时覆盖多种图类+多种输入条件+可编辑输出的端到端流水线;Harness抽象具有方法论意义,可推广到其他生成任务的质量控制。

主要争议: 完全依赖闭源商业模型(Claude、Gemini、GPT-5),可复现性受限;成本比竞品高2-3倍,对预算敏感的用户不够友好。对”高度风格化布局”和”极端宽高比”的图形仍会失败。

七、思维导图

mindmap
  root((Crafter))
    研究问题
      单一输入无法覆盖真实使用场景
      生成结果不可编辑 SVG结构丢失
      无质量验证环节 错误累积无法修复
    五智能体Harness架构
      Intent Reasoner意图推理器
        分析输入内容和用户指令
        产出结构化生成意图
      Plan Generator计划生成器
        生成K个候选视觉方案
        多样性探索 逃脱不合适构图陷阱
      Image Generation Backend图像生成后端
        对每个方案进行渲染
        支持文生图与参考图条件生成
      Critic评判智能体
        per-dimension诊断评分
        识别具体缺陷并给出可执行修正指令
      Specification Refiner规格精化器
        应用typed edits 布局约束 元素禁止 尺寸调整
        替代自由文本修订 保证修改可控
      共享记忆 Evolving Figure Specification
        所有智能体读写同一规格对象 支持增量纠正
    CraftBench评估基准
      279个精心策划样本 含人工质量标注
      图表类型 学术示意图 会议海报 信息图表
      Crafter总分50.2% vs 最强基线29.0%
      消融实验 每个机制独立贡献5至9分
    三类输入模式
      Text-to-Figure 纯文本生成
      Mask completion 局部填充
      Sketch-to-figure 草图转图
      Key-element composition 关键元素组合
    CraftEditor可编辑组件
      光栅图转向量 Raster-to-Vector
      指令驱动元素提取
      迭代SVG组合 清理重叠元素
      混合评判 VLM加程序化结构验证器
      输出可在Inkscape和Illustrator中精修
    局限与展望
      完全依赖闭源商业模型 可复现性受限
      成本比竞品高2至3倍
      极端宽高比和高度风格化布局仍失败