PAPER READING · FIXED VERSION 2502.01572v2

MakeAnything

让图像扩散模型生成创作过程:蛇形视觉上下文、共享低秩适配与目标图像条件

Yiren Song · Cheng Liu · Mike Zheng Shou | 2025 | 中文精读与可复核证据

01 · 论文身份与阅读边界

MakeAnything: Harnessing Diffusion Transformers for Multi-Domain Procedural Sequence Generation,Yiren Song、Cheng Liu、Mike Zheng Shou,National University of Singapore / Show Lab。本文精读固定在 arXiv 2502.01572v2,2025-02-05:16 页合订 PDF,正文与结论至第 8 页,第 9–10 页参考文献,第 11–16 页附录。Mike Zheng Shou 在首页明确标为通讯作者。这里不把版式中的 ICML 关键词当作已核验的会议录用记录。

原始 PDF 已与现有 Obsidian PDF 的 SHA256 完全匹配,因此原笔记的页码与高亮锚点仍指向同一版本。官方代码是 2026-09-30 读取的公开 main 分支资料,与论文 v2 不同时间,下面严格分开记录。没有下载模型权重、训练模型或重跑论文实验。

固定版本 · 原始 PDF · 官方代码

02 · 先掌握这篇论文真正解决的问题

它生成的是看起来像制作教程的多帧图像序列:输入文字可以得到绘画、烹饪、LEGO、雕刻等步骤;输入最终成品图像,可以得到一种合理的形成过程。输出并不是可执行 Python、Substance 节点图、3D 建模操作或机器人动作。对 PMG 而言,它更接近“视觉中间状态先验”,不是已经解决程序化材质生成。

核心技巧很直接但具有启发性:把 4 或 9 帧按蛇形摆进一张大图,让预训练图像 DiT 在同一张画布内建模步骤关联;用共享低秩矩阵 A 和分任务矩阵 B 学习跨域共性及任务差异;第二阶段把最终图像的干净潜变量作为条件,使其他帧去噪时一直能看到目标。

21 个领域

论文称总计超过 24,000 条过程数据,单领域约 50–10,000 条,严重不均衡

4 / 9 帧

固定网格生成;不是任意长度视频,更不是每一步都经过执行检验

两阶段

文字→过程的 Asymmetric LoRA,再用合并后的模型训练图像→过程的 ReCraft

最重要的证据边界:图像对齐、主观连贯性和教程可用性获得改善,但没有证明真实制作可行性、精确恢复原始历史、物理正确性或程序可执行性。漂亮的中间图像不等于一个合法的制作程序。

03 · 动机:跨域过程不是普通视频运动

单帧生成模型擅长画“成品”,但不天然知道怎样从初始状态走到成品。视频模型擅长连续运动,却不一定适应雕刻、烹饪、组装这类有明显结构变化的步骤。已有绘画方法则往往专用:优化画笔轨迹、预测局部分割或学习某种画风,难直接推广到食谱与工艺品。

作者把障碍归为三类:跨任务过程数据稀缺;步骤间语义与视觉一致性难维持;跨域训练容易出现任务冲突或小数据过拟合。其假设是:预训练 DiT 已有很强的视觉知识,主要缺少适当的过程布局与适配方式,而不必从头训练长视频模型。

这里的 in-context 主要指多个步骤同处网格,注意力利用同画布的视觉上下文。训练仍明确依赖 LoRA 梯度更新,不能将它解释为完全无需训练的提示工程,也不等同于 LLM 的外部文档检索。作者所说空间相邻 token 更容易互相关注,是布局设计的直觉;本篇未给足蛇形相对其他布局的独立因果消融。

依据:原文 §1、§2、§3.3;下面对视觉上下文与训练的区分属于阅读解释。

04 · 输入、输出与完整流程

文字条件记为 \(c_T\),最终图像经过 VAE 编码后的条件记为 \(c_I\),过程图像为 \(I_1,\ldots,I_K\),其中 \(K\in\{4,9\}\)。用蛇形排列算子 \(S\) 把序列放到二维网格:\(X=S(I_1,\ldots,I_K)\)。此处 \(S\) 是为解释流程补充的符号,不是论文新增的可学习模块。

文字→过程的输出是完整网格 \(X\);图像→过程以已知最终帧为约束,预测前面的帧。二维网格解码后必须按蛇形索引还原时间顺序,否则观看者会把第二行倒着读。九帧从上到下是 1→2→3,6←5←4,7→8→9;四帧是上排 1→2、下排 4←3。

  1. 收集真实教程或艺术家制作过程,抽取 4/9 帧并标注每一步
  2. 按领域分配适配器索引,构造蛇形网格及对应文字
  3. 冻结 FLUX 基础权重,学习共享 A 与各领域 B,使用 flow matching 目标
  4. 选取目标领域的 A/B 组合,转为标准 LoRA 并合并到 FLUX,作为 ReCraft 底座
  5. 用最终图像的干净潜变量作为条件,训练剩余过程帧的生成
  6. 推理时选择任务、输入文字或最终图像,生成并按网格顺序解读教程

主算法没有 agent 的工具调用、环境 observation、反思或执行失败重试,也没有程序编译、约束解码或材质 renderer-in-the-loop。将这种能力加入系统是后续研究设想,不是原文方法。

原 Figure 2:共享 A、多任务 B 的适配,与干净图像 token 条件的第二阶段
原 Figure 2 · 共享 A、多任务 B 的适配,与干净图像 token 条件的第二阶段 · Song et al., 2025
原 Figure 3:21域数据及4/9帧蛇形排列
原 Figure 3 · 21域数据及4/9帧蛇形排列 · Song et al., 2025

05 · 数学表示:注意力、共享子空间与训练目标

5.1 多模态注意力与位置

论文把图像潜 token 写成 \(z\in\mathbb{R}^{N\times d}\),文字 token 为 \(c_T\in\mathbb{R}^{M\times d}\)。\(N,M\) 分别是 token 数,\(d\) 是表示维度;注意它与下面 LoRA 的矩阵输出维度符号重用,不能混算。

\[z_{i,j}\longmapsto z_{i,j}R(i,j)\tag{1}\]

\(R(i,j)\) 代表网格位置的旋转位置编码矩阵。论文对文字 token 用位置 (0,0) 作简化说明;这是文中抽象记法,不能替代实际 FLUX 多维位置编码实现细节。空间排列改变 token 的相对距离,因此蛇形布局试图让相邻步骤在横向或纵向接触。

\[\operatorname{MMA}([z;c_T])=\operatorname{softmax}\!\left(\frac{QK^{\top}}{\sqrt d}\right)V\tag{2}\]

拼接后的图像与文字投影得到 Q、K、V。每个查询通过相似度选择其他 token,再加权聚合值向量。注意力是双向的:同一画布中的后续步骤能够影响前面的步骤;“制作时间方向”由数据与布局表达,而不是一个严格的自回归因果 mask。多头实现中缩放通常按 head 维度,本文保留原文简化公式,不伪称实现只用单头。

5.2 Asymmetric LoRA

\[W=W_0+\Delta W=W_0+\sum_{i=1}^{D}\omega_iB_iA,\qquad A\in\mathbb{R}^{r\times k},\quad B_i\in\mathbb{R}^{d_o\times r}\tag{3}\]

论文使用 N 表示领域项数量;这里用 D 避免和图像 token 数混淆,并把输出维度写作 \(d_o\)。\(W_0\) 是冻结基础权重,A 为所有任务共享的低秩投影,\(B_i\) 把共享特征映射为第 i 个领域的更新,\(\omega_i\) 为组合权重。概念上,共享 A 提供跨任务迁移的通道,各 B 保留特化自由度。

不要误读摘要的“冻结 encoder、微调 decoder”:§3.3 和 Figure 2 明确说共享 A 与多个 B 联合训练。这不是“冻结 LoRA A 仅训练 B”,也不是修改 VAE 解码器。原笔记对共享 A、多 B 的概括与方法部分一致。官方脚本缓存文本编码器输出并只训练 UNet/DiT 适配器,需与摘要笼统措辞区分。

为解释参数代价,假设同一个 \(d_o\times k\) 层有 D 个同秩适配器:独立 LoRA 需 \(Dr(k+d_o)\) 参数,共享 A 的结构需 \(rk+Drd_o\),相差 \((D-1)rk\)。这是从矩阵维度得到的阅读推导,不是论文实测显存节省;它未计优化器状态、激活与哪些层插入 LoRA。

权重 \(\omega_i\) 在公式中写成一般加权和,但公开推理模板用明确的任务索引 lora_up_cur 选择 B;没有证据表明原实验一定使用学习式软路由。将其直接称作自动 MoE gating 会夸大实现。

5.3 Flow matching 的损失究竟拟合什么

\[\mathcal L_{\mathrm{CFM}}=\mathbb E_{t,p_t(z\mid\epsilon),p(\epsilon)}\left[\left\|v_{\Theta}(z,t,c_T)-u_t(z\mid\epsilon)\right\|_2^2\right]\tag{4}\]

\(t\) 为连续噪声时间,\(\epsilon\) 是噪声,\(p_t\) 是数据与噪声之间的路径;\(u_t\) 为条件路径的目标速度,\(v_{\Theta}\) 是网络预测速度。优化使生成流沿正确方向移动。原文把目标速度说明得较概括,不应补造一个新的逻辑约束损失。

直观例子(解释,不是声称原文完整采样配置):若线性路径 \(z_t=(1-t)\epsilon+t z_{\mathrm{data}}\),则 \(\frac{\mathrm d z_t}{\mathrm d t}=z_{\mathrm{data}}-\epsilon\)。网络学习该速度后可沿流积分生成样本。不同时间方向约定会改变符号;复现应以官方采样器为准,不能把这个例子机械复制为训练代码。

5.4 ReCraft 的条件与损失

\[\operatorname{MMA}([z;c_I;c_T])=\operatorname{softmax}\!\left(\frac{QK^{\top}}{\sqrt d}\right)V\tag{5}\]
\[\mathcal L_{\mathrm{CFM}}^{I}=\mathbb E_{t,p_t(z\mid\epsilon),p(\epsilon)}\left[\left\|v_{\Theta}(z,t,c_I,c_T)-u_t(z\mid\epsilon)\right\|_2^2\right]\tag{6}\]

目标图像经 VAE 得到干净 \(c_I\),和带噪声的其余帧 token 一起参加注意力;只有待生成帧经历加噪/去噪。最终图像因而不是一次性的全局 embedding,而是始终可被查询的视觉 token。第二阶段仍用 LoRA,底座已合并第一阶段的任务知识。

九帧示例由最终帧约束前八帧,四帧配置由末帧约束前三帧。文中引言有“recursively”措辞,而方法主要描述拼接 token 的联合预测;没有公开一个必须逐帧调用八次的明确循环算法,不把它武断写成自回归生成。

原文 §3.1–3.4,公式 (1)–(6);附加参数量与线性路径推导明确属于阅读解释。

06 · 数据:24K 总量与每域 50 例不是同一统计口径

原文 §3.5 的数据来源包括网络教程、专业整理标注和与艺术家合作制作。总计 21 域、超过 24,000 条序列,各域规模约 50–10,000;GPT-4o 用来描述每一帧。前十域用 9 帧,其他十一域用 4 帧,训练输入为拼接网格,不是把每一帧当独立无关联样本。

原 Figure 3 的领域包括 Painting、Sketch、Sand Art、Portrait、Icon、Landscape Illustration、Illustration、LEGO、Transformer、Cook,以及 Clay Toys、Pencil Sketch、Ink/Chinese Painting、Fabric Toys、Oil Painting、Wood Sculpture、Clay Sculpture、ZBrush Modeling、Jade Carving、Line Draw、Emoji。表格中 Brush Modeling 与图中 ZBrush 命名存在简写差异,保留原表但在解释中说明。

当前官方 README 则写用于 MakeAnything 训练的每域 50 条,额外提供 Icon 约 1.4K、Portrait 2K、Sketch 9K、Emoji 12K 等扩展数据。不能把“公开数据总池”直接等同“每次训练实际消耗的均衡训练集”。本次没有逐文件清点远端数据集,精确去重与训练拆分清单未核验。

论文没有完整报告 train/validation/test 的样本级拆分、近重复去除、教程来源隔离、艺术家隔离和域间泄漏控制。主测试每域生成 20 条,21 域合计 420 条生成序列,这不等于 420 个有真实过程 ground truth 的留出案例。

对可复现性的影响:若从同一个视频抽多段,把它们随机分到训练与测试,模型可能记住风格和构图;因此复现时应按教程/作者/对象身份划分并保存原始来源。此项是 reviewer 建议,论文没有声称已完成这种控制。

原文数据部分 · 当前官方数据说明

07 · 训练、推理与版本差异清单

设置论文 v2公开模板(本次读取)复现时怎么处理
底座FLUX.1-devFLUX dev,CLIP-L、T5XXL、VAE 各有路径固定权重版本;不把商业 Flux 产品混为训练底座
分辨率10244 帧 1024;9 帧 1056声明使用论文协议还是公开实现协议
Asymmetric LoRA rank6464,alpha=1不能漏掉缩放参数
Asymmetric LoRA steps40,00050,000训练预算并不完全相同
Asymmetric optimizer / LRCAME / 1e-4CAME / 1e-4,constant,无 warmup后两项来自当前脚本,不倒填论文
batch size2README 推荐 1;ReCraft 模板 2同时记录梯度累积和设备数
ReCraft rank64256明显不同,不能当成同一实验配置
ReCraft steps15,00050,000,并设 epochs=100明确哪个终止条件先触发
ReCraft optimizer / LRCAME / 1e-4Prodigy / 2e-6;weight decay 0.01不要悄悄用新模板声称复现旧表
精度与内存未完整披露bf16、fp8_base、gradient checkpointing 等只作为当前代码示例,不宣称论文同样设置
文字推理步数未报告完整采样配置asylora_inference.sh 为 25 steps记录实际 scheduler、seed 与 guidance
GPU / 时长 / 推理成本未给足可核验数值模板 gpu_ids 只是设备编号不由 gpu_ids 猜硬件型号或显存需求

代码训练输入为同名 .png 与 .caption 文件。当前 README 要求 caption 显式加入从 1 开始的 lora_up 索引,并提醒公开数据的 caption 未预填该字段。因此下载数据后直接开训可能缺任务路由,属于很实际的复现前处理。九帧索引示例中 Portrait=6,LEGO=1,Cook=2;索引不是语义自动识别器。

ReCraft 训练先提取领域 B,转为标准 LoRA 并合并到底座,随后再训练图像条件适配器。输入图像与 prompt 以相应文本清单提供。官方已经提供部分领域的图像条件权重,不代表 21 域均有同等覆盖的 ReCraft 权重。

公开 README 存在可见小错误:arXiv 徽章显示其他编号但实际超链接正确;Asymmetric 推理段的命令文字误写成训练脚本。应依据实际文件用途核查,不复制文档笔误。这里仅检查了 README 与四个模板,未完成整个训练网络源代码审计,不据此断言实现每一细节与论文一致。

Asymmetric 训练模板 · ReCraft 训练模板 · 文字推理模板 · 图像推理模板

08 · 指标与评审协议:分数、胜选率不要混用

Table 1/2 的 GPT 评估是 1–5 分的直接评分;Alignment 是内容/提示符合程度,Coherence 是步骤的逻辑推进,Usability 是对理解制作过程的帮助。CLIP 分数测文字与图像相关性,无法独立检验过程是否物理可执行。Table 1 的人评分也在相似区间,但参与者人数、标注者背景、随机顺序、置信区间及一致性统计披露不足。

附录 A 还定义多模型并排比较的排名任务,让评估器在 Accuracy、Coherence、Usability 三维输出 JSON。正文叫 Alignment,附录 JSON 键叫 Accuracy,这两个命名指相近的提示符合维度,不能擅自当作额外第四项准确率。Image-to-Sequence 则用 Consistency 衡量对参考图像的保持。

Tables 3–6 的每个比较组按列大致加总为 1,数值应理解为比较偏好/选择比例,而不是 1–5 分平均值,也不是相对提升百分比。比如 0.67 表示该组相应比较的约 67% 份额,不能写成“准确率 67%”。正文称比较 50 组序列,但 GPT/人类人数、评判次序与完整原始投票未公布。

附录只给评分规则、输出结构和一个雕塑例句,没有完整版本化 system prompt、temperature、重复评测次数或全部测试 prompts。本文不补造隐藏 prompt。用 GPT-4o 同时标注训练数据和评估可能带来共同偏好,应独立检查人类评分与实际任务成功。

原 Figure 5:绘画及其他教程的定性对照
原 Figure 5 · 绘画及其他教程的定性对照 · Song et al., 2025

09 · 完整主结果与附录比较

下面重建全部原 Table 1–6 的方法行与指标列,保留原表数值和标签。G=GPT 直接分;H=人类直接分;C=CLIP。表格较宽时横向滚动,正文不会强制溢出屏幕。

原 Table 1

Task Alignment (G | H | C) Coherence (G | H) Usability (G | H)
Painting 4.50 | 4.27 | 34.24 4.80 | 3.98 4.60 | 4.13
Sketch 4.10 | 3.97 | 29.35 4.70 | 4.11 4.10 | 4.13
Sand Art 4.20 | 4.30 | 31.82 4.70 | 4.12 4.30 | 4.18
Portrait 4.25 | 4.28 | 33.84 5.00 | 4.28 4.05 | 4.33
Icon 3.45 | 4.33 | 31.46 3.50 | 4.17 3.15 | 4.25
Landscape Ill. 4.55 | 4.28 | 32.25 4.85 | 3.95 4.50 | 4.12
Illustration 3.12 | 4.17 | 31.68 3.40 | 4.07 2.45 | 4.07
LEGO 4.60 | 4.32 | 34.40 4.90 | 4.15 4.75 | 4.00
Transformer 4.75 | 4.30 | 33.03 4.90 | 4.23 4.75 | 4.15
Cook 3.20 | 4.21 | 34.41 4.25 | 4.03 3.65 | 3.90
Clay Toys 4.30 | 4.17 | 35.25 4.50 | 4.30 4.20 | 4.30
Pencil Sketch 3.85 | 4.33 | 34.44 4.50 | 4.20 3.80 | 4.25
Chinese Painting 4.80 | 4.37 | 33.46 4.90 | 4.22 4.70 | 4.33
Fabric Toys 4.35 | 4.30 | 32.83 4.60 | 4.08 4.40 | 4.30
Oil Painting 4.90 | 4.30 | 37.30 4.95 | 4.17 4.85 | 4.20
Wood Sculpture 4.65 | 4.32 | 33.83 4.85 | 4.23 4.65 | 4.08
Clay Sculpture 4.30 | 4.17 | 35.25 4.50 | 4.30 4.20 | 4.30
Brush Modeling 4.20 | 4.33 | 32.27 4.15 | 4.03 4.05 | 4.25
Jade Carving 4.90 | 4.28 | 32.93 4.85 | 4.12 4.75 | 4.00
Line Draw 4.10 | 4.20 | 30.76 4.20 | 3.97 3.90 | 4.08
Emoji 3.75 | 4.25 | 34.20 3.60 | 4.17 3.80 | 4.18

原表来源

跨域差异不能被一个“全面领先”口号抹去。Table 1 中 Illustration 的 GPT Usability 为 2.45、人工为 4.07;Icon 分别 3.15、4.25,说明评估器并不一致。Portrait 的 GPT Coherence=5.00,也不是所有人的平均评价都达到满分:H=4.28。绘画领域和难工艺领域应分开报告。

原 Table 3

Category Methods Alignment Coherence Usability
Painting Processpainter 0.24 0.26 0.22
Ideogram 0.32 0.14 0.26
Flux 0.02 0.04 0.00
Ours 0.42 0.56 0.52
Others Ideogram 0.36 0.30 0.32
Flux 0.28 0.28 0.30
Ours 0.36 0.42 0.38

原表来源

原 Table 4

Category Methods Consistency Coherence Usability
Painting Inverse Paints 0.02 0.00 0.02
PaintsUndo 0.18 0.30 0.24
Ours 0.80 0.70 0.74

原表来源

原 Table 5

Category Methods Alignment Coherence Usability
Painting Processpainter 0.06 0.10 0.14
Ideogram 0.06 0.06 0.10
Flux 0.21 0.15 0.13
Ours 0.67 0.69 0.63
Others Ideogram 0.19 0.19 0.17
Flux 0.11 0.13 0.12
Ours 0.70 0.68 0.71

原表来源

原 Table 6

Category Methods Consistency Coherence Usability
Painting Inverse Paints 0.27 0.31 0.33
PaintsUndo 0.18 0.08 0.06
Ours 0.55 0.61 0.61

原表来源

文字→绘画的人类 Alignment:Ours=0.67,对比 Flux=0.21、Ideogram=0.06、ProcessPainter=0.06;相对最强对照是 46 个百分点的偏好份额差。文字→其他的 GPT Alignment:Ours=0.36 与 Ideogram=0.36 并列,不是严格优于所有方法。Usability 则 0.38 对 0.32,差 6 个百分点。

图像→绘画的 GPT Consistency:0.80 对 PaintsUndo 0.18;人类则 Ours=0.55、Inverse Paints=0.27、PaintsUndo=0.18。方向一致但优势幅度明显不同,不能把 GPT 的 80% 说成“80% 的人类更喜欢”。

比较公平性仍有限:专门绘画模型和通用图片模型不共享训练数据、底座、预算;多域方法受益于专门收集的过程数据。现有结果说明完整系统更受偏好,不单独证明 Asymmetric LoRA 是所有增益的唯一原因。原 Figure 7 的条形图对应这些附录原始数值,本页用可读表格替代难以精确读数的截图。

原 Figure 4:文字、图像条件与未见领域风格组合
原 Figure 4 · 文字、图像条件与未见领域风格组合 · Song et al., 2025

10 · 消融:收益是有条件的

原 Table 2

Model Task Alignment(G | C) Coherence Usability
Base Model Portrait 3.75| 29.78 3.45 3.35
Wood 3.25| 35.29 2.95 2.65
Fabric toys 3.55| 32.95 4.00 3.85
w/o Asymmetric LoRA Portrait 4.25| 31.08 4.50 4.15
Wood Sculpture 3.55| 31.05 4.35 3.75
Fabric toys 3.75| 30.72 3.15 3.20
Full Portrait 4.55| 32.95 4.75 4.25
Wood Sculpture 4.25| 33.89 3.80 4.05
Fabric toys 4.40| 32.01 4.25 4.35

原表来源

Portrait:完整方法相对普通 LoRA,GPT Alignment 4.25→4.55,Coherence 4.50→4.75,Usability 4.15→4.25;对基础模型的改善更明显。该现象支持在小数据情况下共享知识有帮助。原文定性消融说 Portrait 只用 50 例、Sketch 用 300 例;不要把它与 README 每域 50 例自动合并为同一个版本协议。

两处重要反例:Wood Sculpture 的 Coherence 从无 Asymmetric 的 4.35 降至完整方法的 3.80;基础模型的 CLIP=35.29 也高于完整方法 33.89。Fabric Toys 的基础 CLIP=32.95 高于完整 32.01,虽然完整模型的 GPT Coherence 与 Usability 更好。因此“所有任务所有指标都提升”不被这张消融表支持。

这也解释为什么不能只用 CLIP 评价过程:成品语义对齐好,仍可能没有合理步骤。反过来,GPT 偏好更高也不自动保证忠实对齐和真实可执行。作者没有独立展示共享 A 的不同 rank、不同领域采样率、蛇形 vs 行优先布局、固定 vs 学习路由以及多随机种子的完整控制实验。

原 Figure 6:基础模型、普通LoRA与非对称LoRA对照
原 Figure 6 · 基础模型、普通LoRA与非对称LoRA对照 · Song et al., 2025

11 · 原图阅读指南与额外结果

Figure 2 用于理解两阶段结构;Figure 3 用于核对领域和步骤顺序;Figure 4 说明文字、图像与风格 LoRA 组合三种能力;Figure 5 是 baseline 定性对照;Figure 6 对照基础、普通 LoRA 与非对称适配。下面保留附录 Figure 8–11,便于检查作者挑选的多领域例子。定性图的存在不能替代失败率统计。

原 Figure 8:更多9帧生成结果
原 Figure 8 · 更多9帧生成结果 · Song et al., 2025
原 Figure 9:油画与线稿
原 Figure 9 · 油画与线稿 · Song et al., 2025
原 Figure 10:水墨与粘土雕塑
原 Figure 10 · 水墨与粘土雕塑 · Song et al., 2025
原 Figure 11:木雕、ZBrush与织物
原 Figure 11 · 木雕、ZBrush与织物 · Song et al., 2025

Figure 1 是首页任务概览,与 Figure 4 内容角色重复;本页未重复嵌入。Figure 7 的准确数据已由 Tables 3–6 重建。未展示图不会被谎报为已嵌入。

12 · 局限与 reviewer 评价

论文明确承认

网格固定限制帧数,上限九步;总画布分辨率有限,论文写最大 1024×1024。一个 3×3 网格会把每个步骤分到很小的局部面积,不能把整张图 1024 理解为每帧 1024。当前代码九帧用 1056,但仍不解除固定步数与单步分辨率瓶颈。

证据支持的优势

把通用图像底座转为跨域过程先验,训练组件少、表示统一;共享/特化分解回应小样本与任务不均衡;ReCraft 通过干净视觉 token 提供强目标条件,而不是为每个领域重训庞大条件编码器。比较同时使用人类和 GPT,且附录提供了关键原始数值,便于发现不一致。

需要警惕的解释跳跃

社会影响段落没有重点展开数据授权与操作误导。实际产品如用于烹饪、加工或工程教程,应增加专家核验和显式错误提示,不能把生成图当作安全作业说明。

13 · 与 PMG、Context Optimization 和 evaluator 的关系

Our Interpretation:蛇形网格相当于把“过程时间”编码进“空间上下文”。这提示 context 不只是文字提示,也可以是模型更容易注意到的视觉组织结构;但本篇结果不足以证明蛇形本身最优。

Research Extension 1:状态到程序的双层规划。先预测粗结构→纹理细节→外观修正的视觉中间目标,再让程序生成器输出可执行节点图。每一步执行 renderer,比较真实渲染与视觉目标,而不是接受任意一张看似合理的中间图。对照直接 image→graph、固定人工分解、模型预测分解,控制 token/调用预算与训练数据。

Research Extension 2:把 layout 作为可优化 context。保持输入图和基础模型不变,比较行优先、蛇形、按依赖拓扑分组、全局/局部多尺度布局。任务指标应包括 graph validity、渲染误差、节点数、成本与失败恢复,不只 CLIP。这样才能把布局影响和额外信息量影响分开。

Research Extension 3:评估器分解。外观 evaluator 检查目标匹配,结构 evaluator 检查图连接与参数合法性,过程 evaluator 检查编辑序列是否导致可预期变化。用执行结果校准 VLM 评分,观察评分能否真正提高最终成功率;GPT 的审美偏好不能直接当可执行奖励。

Research Extension 4:共享与任务专用适配。可尝试共享低秩子空间处理材质的通用外观特征,以不同 B 处理木材、金属、织物等。必须比较单一适配器、独立适配器、共享 A、多路由策略,记录相同参数预算下的跨域干扰。本文没有验证这种 PMG 迁移,不能直接宣称已有效。

一个可证伪假设是:“在固定生成预算下,可执行中间状态监督比仅提供最终目标图提高材质图成功率”。若收益只体现在主观美观、执行成功率不变,该假设就未获得支持。这比泛泛声称‘过程思维让 agent 更强’更可实验。

14 · 最小复现路线与缺失项

  1. 固定本页 v2 PDF;保存源代码提交和实际配置,禁止混用论文 CAME/rank64 与新模板 Prodigy/rank256 后宣称同协议
  2. 下载并核对各域序列、caption、任务索引;保存训练/测试来源隔离及去重清单
  3. 先单域四帧烟雾测试,确认蛇形顺序、任务索引、VAE 与文本编码器路径正确
  4. 复现文字过程,再提取特定领域 LoRA 合并底座,训练 ReCraft;检查条件图像 token 不被错误加噪
  5. 固定生成 prompts、采样器、步数、seed,并保存全部样本而非只选最好例子
  6. 分开计算单序列1–5评分与多模型偏好份额;对比较顺序随机化,加入多 seed、评审者一致性与置信区间
  7. 记录文本/图像对齐、步骤逻辑、可用性、真实操作可行性和成本,主动收集失败样例

待核验项:精确训练子集与 split;所有实验用的完整 prompts;标注者数量/招募/重复度;原实验硬件及训练时长;权重来源与预处理版本;评估调用的确切 GPT-4o 快照;布局消融;通用图像模型比较的公平采样预算。没有证据的字段保持缺失,而不是用常见默认值补齐。

15 · 来源、归档与版本记录

保留原 Obsidian 笔记全部内容与 PDF++ anchor,新增精读追加在末尾;这一批是云端待下载的合并候选,尚未写回用户 vault。通讯作者 Mike Zheng Shou 已由原 PDF 首页核实,作者记录使用已有角色建议,不创建共享 People/索引。正文中的流程图符号、参数量推导、reviewer 评价和 PMG 实验建议属于本次解读。

论文页面标记 CC BY-SA 4.0。本文引用的原图及重建表格归原作者,来源已标注;这些改编内容按相同许可署名分享。用户原笔记不因这一说明改变其原有权利。联网图片和 MathJax 扩展可能需要网络;页面正文、主表和核心 MathJax 引擎包含在单文件中。