论文称总计超过 24,000 条过程数据,单领域约 50–10,000 条,严重不均衡
01 · 论文身份与阅读边界
MakeAnything: Harnessing Diffusion Transformers for Multi-Domain Procedural Sequence Generation,Yiren Song、Cheng Liu、Mike Zheng Shou,National University of Singapore / Show Lab。本文精读固定在 arXiv 2502.01572v2,2025-02-05:16 页合订 PDF,正文与结论至第 8 页,第 9–10 页参考文献,第 11–16 页附录。Mike Zheng Shou 在首页明确标为通讯作者。这里不把版式中的 ICML 关键词当作已核验的会议录用记录。
原始 PDF 已与现有 Obsidian PDF 的 SHA256 完全匹配,因此原笔记的页码与高亮锚点仍指向同一版本。官方代码是 2026-09-30 读取的公开 main 分支资料,与论文 v2 不同时间,下面严格分开记录。没有下载模型权重、训练模型或重跑论文实验。
02 · 先掌握这篇论文真正解决的问题
它生成的是看起来像制作教程的多帧图像序列:输入文字可以得到绘画、烹饪、LEGO、雕刻等步骤;输入最终成品图像,可以得到一种合理的形成过程。输出并不是可执行 Python、Substance 节点图、3D 建模操作或机器人动作。对 PMG 而言,它更接近“视觉中间状态先验”,不是已经解决程序化材质生成。
核心技巧很直接但具有启发性:把 4 或 9 帧按蛇形摆进一张大图,让预训练图像 DiT 在同一张画布内建模步骤关联;用共享低秩矩阵 A 和分任务矩阵 B 学习跨域共性及任务差异;第二阶段把最终图像的干净潜变量作为条件,使其他帧去噪时一直能看到目标。
固定网格生成;不是任意长度视频,更不是每一步都经过执行检验
文字→过程的 Asymmetric LoRA,再用合并后的模型训练图像→过程的 ReCraft
最重要的证据边界:图像对齐、主观连贯性和教程可用性获得改善,但没有证明真实制作可行性、精确恢复原始历史、物理正确性或程序可执行性。漂亮的中间图像不等于一个合法的制作程序。
03 · 动机:跨域过程不是普通视频运动
单帧生成模型擅长画“成品”,但不天然知道怎样从初始状态走到成品。视频模型擅长连续运动,却不一定适应雕刻、烹饪、组装这类有明显结构变化的步骤。已有绘画方法则往往专用:优化画笔轨迹、预测局部分割或学习某种画风,难直接推广到食谱与工艺品。
作者把障碍归为三类:跨任务过程数据稀缺;步骤间语义与视觉一致性难维持;跨域训练容易出现任务冲突或小数据过拟合。其假设是:预训练 DiT 已有很强的视觉知识,主要缺少适当的过程布局与适配方式,而不必从头训练长视频模型。
这里的 in-context 主要指多个步骤同处网格,注意力利用同画布的视觉上下文。训练仍明确依赖 LoRA 梯度更新,不能将它解释为完全无需训练的提示工程,也不等同于 LLM 的外部文档检索。作者所说空间相邻 token 更容易互相关注,是布局设计的直觉;本篇未给足蛇形相对其他布局的独立因果消融。
依据:原文 §1、§2、§3.3;下面对视觉上下文与训练的区分属于阅读解释。
04 · 输入、输出与完整流程
文字条件记为 \(c_T\),最终图像经过 VAE 编码后的条件记为 \(c_I\),过程图像为 \(I_1,\ldots,I_K\),其中 \(K\in\{4,9\}\)。用蛇形排列算子 \(S\) 把序列放到二维网格:\(X=S(I_1,\ldots,I_K)\)。此处 \(S\) 是为解释流程补充的符号,不是论文新增的可学习模块。
文字→过程的输出是完整网格 \(X\);图像→过程以已知最终帧为约束,预测前面的帧。二维网格解码后必须按蛇形索引还原时间顺序,否则观看者会把第二行倒着读。九帧从上到下是 1→2→3,6←5←4,7→8→9;四帧是上排 1→2、下排 4←3。
- 收集真实教程或艺术家制作过程,抽取 4/9 帧并标注每一步
- 按领域分配适配器索引,构造蛇形网格及对应文字
- 冻结 FLUX 基础权重,学习共享 A 与各领域 B,使用 flow matching 目标
- 选取目标领域的 A/B 组合,转为标准 LoRA 并合并到 FLUX,作为 ReCraft 底座
- 用最终图像的干净潜变量作为条件,训练剩余过程帧的生成
- 推理时选择任务、输入文字或最终图像,生成并按网格顺序解读教程
主算法没有 agent 的工具调用、环境 observation、反思或执行失败重试,也没有程序编译、约束解码或材质 renderer-in-the-loop。将这种能力加入系统是后续研究设想,不是原文方法。


05 · 数学表示:注意力、共享子空间与训练目标
5.1 多模态注意力与位置
论文把图像潜 token 写成 \(z\in\mathbb{R}^{N\times d}\),文字 token 为 \(c_T\in\mathbb{R}^{M\times d}\)。\(N,M\) 分别是 token 数,\(d\) 是表示维度;注意它与下面 LoRA 的矩阵输出维度符号重用,不能混算。
\(R(i,j)\) 代表网格位置的旋转位置编码矩阵。论文对文字 token 用位置 (0,0) 作简化说明;这是文中抽象记法,不能替代实际 FLUX 多维位置编码实现细节。空间排列改变 token 的相对距离,因此蛇形布局试图让相邻步骤在横向或纵向接触。
拼接后的图像与文字投影得到 Q、K、V。每个查询通过相似度选择其他 token,再加权聚合值向量。注意力是双向的:同一画布中的后续步骤能够影响前面的步骤;“制作时间方向”由数据与布局表达,而不是一个严格的自回归因果 mask。多头实现中缩放通常按 head 维度,本文保留原文简化公式,不伪称实现只用单头。
5.2 Asymmetric LoRA
论文使用 N 表示领域项数量;这里用 D 避免和图像 token 数混淆,并把输出维度写作 \(d_o\)。\(W_0\) 是冻结基础权重,A 为所有任务共享的低秩投影,\(B_i\) 把共享特征映射为第 i 个领域的更新,\(\omega_i\) 为组合权重。概念上,共享 A 提供跨任务迁移的通道,各 B 保留特化自由度。
不要误读摘要的“冻结 encoder、微调 decoder”:§3.3 和 Figure 2 明确说共享 A 与多个 B 联合训练。这不是“冻结 LoRA A 仅训练 B”,也不是修改 VAE 解码器。原笔记对共享 A、多 B 的概括与方法部分一致。官方脚本缓存文本编码器输出并只训练 UNet/DiT 适配器,需与摘要笼统措辞区分。
为解释参数代价,假设同一个 \(d_o\times k\) 层有 D 个同秩适配器:独立 LoRA 需 \(Dr(k+d_o)\) 参数,共享 A 的结构需 \(rk+Drd_o\),相差 \((D-1)rk\)。这是从矩阵维度得到的阅读推导,不是论文实测显存节省;它未计优化器状态、激活与哪些层插入 LoRA。
权重 \(\omega_i\) 在公式中写成一般加权和,但公开推理模板用明确的任务索引 lora_up_cur 选择 B;没有证据表明原实验一定使用学习式软路由。将其直接称作自动 MoE gating 会夸大实现。
5.3 Flow matching 的损失究竟拟合什么
\(t\) 为连续噪声时间,\(\epsilon\) 是噪声,\(p_t\) 是数据与噪声之间的路径;\(u_t\) 为条件路径的目标速度,\(v_{\Theta}\) 是网络预测速度。优化使生成流沿正确方向移动。原文把目标速度说明得较概括,不应补造一个新的逻辑约束损失。
直观例子(解释,不是声称原文完整采样配置):若线性路径 \(z_t=(1-t)\epsilon+t z_{\mathrm{data}}\),则 \(\frac{\mathrm d z_t}{\mathrm d t}=z_{\mathrm{data}}-\epsilon\)。网络学习该速度后可沿流积分生成样本。不同时间方向约定会改变符号;复现应以官方采样器为准,不能把这个例子机械复制为训练代码。
5.4 ReCraft 的条件与损失
目标图像经 VAE 得到干净 \(c_I\),和带噪声的其余帧 token 一起参加注意力;只有待生成帧经历加噪/去噪。最终图像因而不是一次性的全局 embedding,而是始终可被查询的视觉 token。第二阶段仍用 LoRA,底座已合并第一阶段的任务知识。
九帧示例由最终帧约束前八帧,四帧配置由末帧约束前三帧。文中引言有“recursively”措辞,而方法主要描述拼接 token 的联合预测;没有公开一个必须逐帧调用八次的明确循环算法,不把它武断写成自回归生成。
原文 §3.1–3.4,公式 (1)–(6);附加参数量与线性路径推导明确属于阅读解释。
06 · 数据:24K 总量与每域 50 例不是同一统计口径
原文 §3.5 的数据来源包括网络教程、专业整理标注和与艺术家合作制作。总计 21 域、超过 24,000 条序列,各域规模约 50–10,000;GPT-4o 用来描述每一帧。前十域用 9 帧,其他十一域用 4 帧,训练输入为拼接网格,不是把每一帧当独立无关联样本。
原 Figure 3 的领域包括 Painting、Sketch、Sand Art、Portrait、Icon、Landscape Illustration、Illustration、LEGO、Transformer、Cook,以及 Clay Toys、Pencil Sketch、Ink/Chinese Painting、Fabric Toys、Oil Painting、Wood Sculpture、Clay Sculpture、ZBrush Modeling、Jade Carving、Line Draw、Emoji。表格中 Brush Modeling 与图中 ZBrush 命名存在简写差异,保留原表但在解释中说明。
当前官方 README 则写用于 MakeAnything 训练的每域 50 条,额外提供 Icon 约 1.4K、Portrait 2K、Sketch 9K、Emoji 12K 等扩展数据。不能把“公开数据总池”直接等同“每次训练实际消耗的均衡训练集”。本次没有逐文件清点远端数据集,精确去重与训练拆分清单未核验。
论文没有完整报告 train/validation/test 的样本级拆分、近重复去除、教程来源隔离、艺术家隔离和域间泄漏控制。主测试每域生成 20 条,21 域合计 420 条生成序列,这不等于 420 个有真实过程 ground truth 的留出案例。
对可复现性的影响:若从同一个视频抽多段,把它们随机分到训练与测试,模型可能记住风格和构图;因此复现时应按教程/作者/对象身份划分并保存原始来源。此项是 reviewer 建议,论文没有声称已完成这种控制。
07 · 训练、推理与版本差异清单
| 设置 | 论文 v2 | 公开模板(本次读取) | 复现时怎么处理 |
|---|---|---|---|
| 底座 | FLUX.1-dev | FLUX dev,CLIP-L、T5XXL、VAE 各有路径 | 固定权重版本;不把商业 Flux 产品混为训练底座 |
| 分辨率 | 1024 | 4 帧 1024;9 帧 1056 | 声明使用论文协议还是公开实现协议 |
| Asymmetric LoRA rank | 64 | 64,alpha=1 | 不能漏掉缩放参数 |
| Asymmetric LoRA steps | 40,000 | 50,000 | 训练预算并不完全相同 |
| Asymmetric optimizer / LR | CAME / 1e-4 | CAME / 1e-4,constant,无 warmup | 后两项来自当前脚本,不倒填论文 |
| batch size | 2 | README 推荐 1;ReCraft 模板 2 | 同时记录梯度累积和设备数 |
| ReCraft rank | 64 | 256 | 明显不同,不能当成同一实验配置 |
| ReCraft steps | 15,000 | 50,000,并设 epochs=100 | 明确哪个终止条件先触发 |
| ReCraft optimizer / LR | CAME / 1e-4 | Prodigy / 2e-6;weight decay 0.01 | 不要悄悄用新模板声称复现旧表 |
| 精度与内存 | 未完整披露 | bf16、fp8_base、gradient checkpointing 等 | 只作为当前代码示例,不宣称论文同样设置 |
| 文字推理步数 | 未报告完整采样配置 | asylora_inference.sh 为 25 steps | 记录实际 scheduler、seed 与 guidance |
| GPU / 时长 / 推理成本 | 未给足可核验数值 | 模板 gpu_ids 只是设备编号 | 不由 gpu_ids 猜硬件型号或显存需求 |
代码训练输入为同名 .png 与 .caption 文件。当前 README 要求 caption 显式加入从 1 开始的 lora_up 索引,并提醒公开数据的 caption 未预填该字段。因此下载数据后直接开训可能缺任务路由,属于很实际的复现前处理。九帧索引示例中 Portrait=6,LEGO=1,Cook=2;索引不是语义自动识别器。
ReCraft 训练先提取领域 B,转为标准 LoRA 并合并到底座,随后再训练图像条件适配器。输入图像与 prompt 以相应文本清单提供。官方已经提供部分领域的图像条件权重,不代表 21 域均有同等覆盖的 ReCraft 权重。
公开 README 存在可见小错误:arXiv 徽章显示其他编号但实际超链接正确;Asymmetric 推理段的命令文字误写成训练脚本。应依据实际文件用途核查,不复制文档笔误。这里仅检查了 README 与四个模板,未完成整个训练网络源代码审计,不据此断言实现每一细节与论文一致。
08 · 指标与评审协议:分数、胜选率不要混用
Table 1/2 的 GPT 评估是 1–5 分的直接评分;Alignment 是内容/提示符合程度,Coherence 是步骤的逻辑推进,Usability 是对理解制作过程的帮助。CLIP 分数测文字与图像相关性,无法独立检验过程是否物理可执行。Table 1 的人评分也在相似区间,但参与者人数、标注者背景、随机顺序、置信区间及一致性统计披露不足。
附录 A 还定义多模型并排比较的排名任务,让评估器在 Accuracy、Coherence、Usability 三维输出 JSON。正文叫 Alignment,附录 JSON 键叫 Accuracy,这两个命名指相近的提示符合维度,不能擅自当作额外第四项准确率。Image-to-Sequence 则用 Consistency 衡量对参考图像的保持。
Tables 3–6 的每个比较组按列大致加总为 1,数值应理解为比较偏好/选择比例,而不是 1–5 分平均值,也不是相对提升百分比。比如 0.67 表示该组相应比较的约 67% 份额,不能写成“准确率 67%”。正文称比较 50 组序列,但 GPT/人类人数、评判次序与完整原始投票未公布。
附录只给评分规则、输出结构和一个雕塑例句,没有完整版本化 system prompt、temperature、重复评测次数或全部测试 prompts。本文不补造隐藏 prompt。用 GPT-4o 同时标注训练数据和评估可能带来共同偏好,应独立检查人类评分与实际任务成功。

09 · 完整主结果与附录比较
下面重建全部原 Table 1–6 的方法行与指标列,保留原表数值和标签。G=GPT 直接分;H=人类直接分;C=CLIP。表格较宽时横向滚动,正文不会强制溢出屏幕。
原 Table 1
| Task | Alignment (G | H | C) | Coherence (G | H) | Usability (G | H) |
|---|---|---|---|
| Painting | 4.50 | 4.27 | 34.24 | 4.80 | 3.98 | 4.60 | 4.13 |
| Sketch | 4.10 | 3.97 | 29.35 | 4.70 | 4.11 | 4.10 | 4.13 |
| Sand Art | 4.20 | 4.30 | 31.82 | 4.70 | 4.12 | 4.30 | 4.18 |
| Portrait | 4.25 | 4.28 | 33.84 | 5.00 | 4.28 | 4.05 | 4.33 |
| Icon | 3.45 | 4.33 | 31.46 | 3.50 | 4.17 | 3.15 | 4.25 |
| Landscape Ill. | 4.55 | 4.28 | 32.25 | 4.85 | 3.95 | 4.50 | 4.12 |
| Illustration | 3.12 | 4.17 | 31.68 | 3.40 | 4.07 | 2.45 | 4.07 |
| LEGO | 4.60 | 4.32 | 34.40 | 4.90 | 4.15 | 4.75 | 4.00 |
| Transformer | 4.75 | 4.30 | 33.03 | 4.90 | 4.23 | 4.75 | 4.15 |
| Cook | 3.20 | 4.21 | 34.41 | 4.25 | 4.03 | 3.65 | 3.90 |
| Clay Toys | 4.30 | 4.17 | 35.25 | 4.50 | 4.30 | 4.20 | 4.30 |
| Pencil Sketch | 3.85 | 4.33 | 34.44 | 4.50 | 4.20 | 3.80 | 4.25 |
| Chinese Painting | 4.80 | 4.37 | 33.46 | 4.90 | 4.22 | 4.70 | 4.33 |
| Fabric Toys | 4.35 | 4.30 | 32.83 | 4.60 | 4.08 | 4.40 | 4.30 |
| Oil Painting | 4.90 | 4.30 | 37.30 | 4.95 | 4.17 | 4.85 | 4.20 |
| Wood Sculpture | 4.65 | 4.32 | 33.83 | 4.85 | 4.23 | 4.65 | 4.08 |
| Clay Sculpture | 4.30 | 4.17 | 35.25 | 4.50 | 4.30 | 4.20 | 4.30 |
| Brush Modeling | 4.20 | 4.33 | 32.27 | 4.15 | 4.03 | 4.05 | 4.25 |
| Jade Carving | 4.90 | 4.28 | 32.93 | 4.85 | 4.12 | 4.75 | 4.00 |
| Line Draw | 4.10 | 4.20 | 30.76 | 4.20 | 3.97 | 3.90 | 4.08 |
| Emoji | 3.75 | 4.25 | 34.20 | 3.60 | 4.17 | 3.80 | 4.18 |
跨域差异不能被一个“全面领先”口号抹去。Table 1 中 Illustration 的 GPT Usability 为 2.45、人工为 4.07;Icon 分别 3.15、4.25,说明评估器并不一致。Portrait 的 GPT Coherence=5.00,也不是所有人的平均评价都达到满分:H=4.28。绘画领域和难工艺领域应分开报告。
原 Table 3
| Category | Methods | Alignment | Coherence | Usability |
| Painting | Processpainter | 0.24 | 0.26 | 0.22 |
| Ideogram | 0.32 | 0.14 | 0.26 | |
| Flux | 0.02 | 0.04 | 0.00 | |
| Ours | 0.42 | 0.56 | 0.52 | |
| Others | Ideogram | 0.36 | 0.30 | 0.32 |
| Flux | 0.28 | 0.28 | 0.30 | |
| Ours | 0.36 | 0.42 | 0.38 | |
原 Table 4
| Category | Methods | Consistency | Coherence | Usability |
| Painting | Inverse Paints | 0.02 | 0.00 | 0.02 |
| PaintsUndo | 0.18 | 0.30 | 0.24 | |
| Ours | 0.80 | 0.70 | 0.74 | |
原 Table 5
| Category | Methods | Alignment | Coherence | Usability |
| Painting | Processpainter | 0.06 | 0.10 | 0.14 |
| Ideogram | 0.06 | 0.06 | 0.10 | |
| Flux | 0.21 | 0.15 | 0.13 | |
| Ours | 0.67 | 0.69 | 0.63 | |
| Others | Ideogram | 0.19 | 0.19 | 0.17 |
| Flux | 0.11 | 0.13 | 0.12 | |
| Ours | 0.70 | 0.68 | 0.71 | |
原 Table 6
| Category | Methods | Consistency | Coherence | Usability |
| Painting | Inverse Paints | 0.27 | 0.31 | 0.33 |
| PaintsUndo | 0.18 | 0.08 | 0.06 | |
| Ours | 0.55 | 0.61 | 0.61 | |
文字→绘画的人类 Alignment:Ours=0.67,对比 Flux=0.21、Ideogram=0.06、ProcessPainter=0.06;相对最强对照是 46 个百分点的偏好份额差。文字→其他的 GPT Alignment:Ours=0.36 与 Ideogram=0.36 并列,不是严格优于所有方法。Usability 则 0.38 对 0.32,差 6 个百分点。
图像→绘画的 GPT Consistency:0.80 对 PaintsUndo 0.18;人类则 Ours=0.55、Inverse Paints=0.27、PaintsUndo=0.18。方向一致但优势幅度明显不同,不能把 GPT 的 80% 说成“80% 的人类更喜欢”。
比较公平性仍有限:专门绘画模型和通用图片模型不共享训练数据、底座、预算;多域方法受益于专门收集的过程数据。现有结果说明完整系统更受偏好,不单独证明 Asymmetric LoRA 是所有增益的唯一原因。原 Figure 7 的条形图对应这些附录原始数值,本页用可读表格替代难以精确读数的截图。

10 · 消融:收益是有条件的
原 Table 2
| Model | Task | Alignment(G | C) | Coherence | Usability |
| Base Model | Portrait | 3.75| 29.78 | 3.45 | 3.35 |
| Wood | 3.25| 35.29 | 2.95 | 2.65 | |
| Fabric toys | 3.55| 32.95 | 4.00 | 3.85 | |
| w/o Asymmetric LoRA | Portrait | 4.25| 31.08 | 4.50 | 4.15 |
| Wood Sculpture | 3.55| 31.05 | 4.35 | 3.75 | |
| Fabric toys | 3.75| 30.72 | 3.15 | 3.20 | |
| Full | Portrait | 4.55| 32.95 | 4.75 | 4.25 |
| Wood Sculpture | 4.25| 33.89 | 3.80 | 4.05 | |
| Fabric toys | 4.40| 32.01 | 4.25 | 4.35 | |
Portrait:完整方法相对普通 LoRA,GPT Alignment 4.25→4.55,Coherence 4.50→4.75,Usability 4.15→4.25;对基础模型的改善更明显。该现象支持在小数据情况下共享知识有帮助。原文定性消融说 Portrait 只用 50 例、Sketch 用 300 例;不要把它与 README 每域 50 例自动合并为同一个版本协议。
两处重要反例:Wood Sculpture 的 Coherence 从无 Asymmetric 的 4.35 降至完整方法的 3.80;基础模型的 CLIP=35.29 也高于完整方法 33.89。Fabric Toys 的基础 CLIP=32.95 高于完整 32.01,虽然完整模型的 GPT Coherence 与 Usability 更好。因此“所有任务所有指标都提升”不被这张消融表支持。
这也解释为什么不能只用 CLIP 评价过程:成品语义对齐好,仍可能没有合理步骤。反过来,GPT 偏好更高也不自动保证忠实对齐和真实可执行。作者没有独立展示共享 A 的不同 rank、不同领域采样率、蛇形 vs 行优先布局、固定 vs 学习路由以及多随机种子的完整控制实验。

11 · 原图阅读指南与额外结果
Figure 2 用于理解两阶段结构;Figure 3 用于核对领域和步骤顺序;Figure 4 说明文字、图像与风格 LoRA 组合三种能力;Figure 5 是 baseline 定性对照;Figure 6 对照基础、普通 LoRA 与非对称适配。下面保留附录 Figure 8–11,便于检查作者挑选的多领域例子。定性图的存在不能替代失败率统计。




Figure 1 是首页任务概览,与 Figure 4 内容角色重复;本页未重复嵌入。Figure 7 的准确数据已由 Tables 3–6 重建。未展示图不会被谎报为已嵌入。
12 · 局限与 reviewer 评价
论文明确承认
网格固定限制帧数,上限九步;总画布分辨率有限,论文写最大 1024×1024。一个 3×3 网格会把每个步骤分到很小的局部面积,不能把整张图 1024 理解为每帧 1024。当前代码九帧用 1056,但仍不解除固定步数与单步分辨率瓶颈。
证据支持的优势
把通用图像底座转为跨域过程先验,训练组件少、表示统一;共享/特化分解回应小样本与任务不均衡;ReCraft 通过干净视觉 token 提供强目标条件,而不是为每个领域重训庞大条件编码器。比较同时使用人类和 GPT,且附录提供了关键原始数值,便于发现不一致。
需要警惕的解释跳跃
- 多个制作历史可以通向同一终态,ReCraft 只能生成合理候选,不能唯一恢复真实过程
- “Usability”是主观判断,不是让参与者实际按步骤完成任务的受控试验
- 真实组装需要零件、连接和约束,烹饪需要量、温度、时间;图像步骤可能遗漏这些不可见变量
- 数据总量、均衡训练子集、公开脚本与 v2 超参数存在不同口径,复现必须固定一套协议
- 无种子方差、置信区间与详细标注者信息,不足以判断小幅差异统计显著
- 未见领域的效果依赖外部风格 LoRA,不能全部归因于原模型自身的零样本泛化
社会影响段落没有重点展开数据授权与操作误导。实际产品如用于烹饪、加工或工程教程,应增加专家核验和显式错误提示,不能把生成图当作安全作业说明。
13 · 与 PMG、Context Optimization 和 evaluator 的关系
Our Interpretation:蛇形网格相当于把“过程时间”编码进“空间上下文”。这提示 context 不只是文字提示,也可以是模型更容易注意到的视觉组织结构;但本篇结果不足以证明蛇形本身最优。
Research Extension 1:状态到程序的双层规划。先预测粗结构→纹理细节→外观修正的视觉中间目标,再让程序生成器输出可执行节点图。每一步执行 renderer,比较真实渲染与视觉目标,而不是接受任意一张看似合理的中间图。对照直接 image→graph、固定人工分解、模型预测分解,控制 token/调用预算与训练数据。
Research Extension 2:把 layout 作为可优化 context。保持输入图和基础模型不变,比较行优先、蛇形、按依赖拓扑分组、全局/局部多尺度布局。任务指标应包括 graph validity、渲染误差、节点数、成本与失败恢复,不只 CLIP。这样才能把布局影响和额外信息量影响分开。
Research Extension 3:评估器分解。外观 evaluator 检查目标匹配,结构 evaluator 检查图连接与参数合法性,过程 evaluator 检查编辑序列是否导致可预期变化。用执行结果校准 VLM 评分,观察评分能否真正提高最终成功率;GPT 的审美偏好不能直接当可执行奖励。
Research Extension 4:共享与任务专用适配。可尝试共享低秩子空间处理材质的通用外观特征,以不同 B 处理木材、金属、织物等。必须比较单一适配器、独立适配器、共享 A、多路由策略,记录相同参数预算下的跨域干扰。本文没有验证这种 PMG 迁移,不能直接宣称已有效。
一个可证伪假设是:“在固定生成预算下,可执行中间状态监督比仅提供最终目标图提高材质图成功率”。若收益只体现在主观美观、执行成功率不变,该假设就未获得支持。这比泛泛声称‘过程思维让 agent 更强’更可实验。
14 · 最小复现路线与缺失项
- 固定本页 v2 PDF;保存源代码提交和实际配置,禁止混用论文 CAME/rank64 与新模板 Prodigy/rank256 后宣称同协议
- 下载并核对各域序列、caption、任务索引;保存训练/测试来源隔离及去重清单
- 先单域四帧烟雾测试,确认蛇形顺序、任务索引、VAE 与文本编码器路径正确
- 复现文字过程,再提取特定领域 LoRA 合并底座,训练 ReCraft;检查条件图像 token 不被错误加噪
- 固定生成 prompts、采样器、步数、seed,并保存全部样本而非只选最好例子
- 分开计算单序列1–5评分与多模型偏好份额;对比较顺序随机化,加入多 seed、评审者一致性与置信区间
- 记录文本/图像对齐、步骤逻辑、可用性、真实操作可行性和成本,主动收集失败样例
待核验项:精确训练子集与 split;所有实验用的完整 prompts;标注者数量/招募/重复度;原实验硬件及训练时长;权重来源与预处理版本;评估调用的确切 GPT-4o 快照;布局消融;通用图像模型比较的公平采样预算。没有证据的字段保持缺失,而不是用常见默认值补齐。
15 · 来源、归档与版本记录
- 论文 v2 PDF(16页):本文方法、公式、完整 Tables 1–6 与 Figures 2–11
- 固定版本 HTML:辅助核对表格结构、原图 URL
- 官方项目仓库:当前 README、四个训练/推理模板,只读核对,没有执行代码
- 作者发布的数据入口:README 指向的来源,本次未逐文件清点
保留原 Obsidian 笔记全部内容与 PDF++ anchor,新增精读追加在末尾;这一批是云端待下载的合并候选,尚未写回用户 vault。通讯作者 Mike Zheng Shou 已由原 PDF 首页核实,作者记录使用已有角色建议,不创建共享 People/索引。正文中的流程图符号、参数量推导、reviewer 评价和 PMG 实验建议属于本次解读。
论文页面标记 CC BY-SA 4.0。本文引用的原图及重建表格归原作者,来源已标注;这些改编内容按相同许可署名分享。用户原笔记不因这一说明改变其原有权利。联网图片和 MathJax 扩展可能需要网络;页面正文、主表和核心 MathJax 引擎包含在单文件中。