PAPER READING · TPD · FIXED ARXIV v1 · CVPR 2024

Texture-Preserving Diffusion

共享画布的SATT与两阶段DMP|纹理、编辑区域与公开实现

Xu Yang · Changxing Ding · Zhibin Hong · Junhao Huang · Jin Tao · Xiangmin Xu

01 · 核心答案与原笔记纠偏

TPD 用一张横向拼接画布,让同一个扩散 U-Net 同时看见人物和参考衣服。原有 self-attention 在两半画布之间传递纹理;同一模型还联合预测衣服覆盖区域,以两轮去噪决定“哪里该改”与“改成什么”。两项贡献分别是 SATT 和 DMP。

SATT

Self-Attention-based Texture Transfer。人物在左、衣服在右,先拼成更宽的图像,再编码与去噪;不增加专门的衣服 CLIP/ViT/第二 U-Net。

DMP

先用粗 mask 预测目标衣服覆盖范围,再与原衣服范围合并,第二轮只修改必要区域,尽量保护手臂、纹身和背景。

实际输出

二维试穿图与区域预测,不是三维布料、真实尺码或服装物理仿真。生成质量依赖 parsing、姿态条件与数据域。

回应原 note:简称是 SATT,而非 SAAT;实现不是先分别运行 source/reference attention 再只拼 K/V。空间拼接在像素输入构建时已完成。没有额外 garment encoder 不等于去掉 VAE,本文仍依赖冻结 VAE,补充材料还把极小文字重建失败归因于其压缩损失。

另一个关键点:“新旧衣服区域的并集”与 Figure 3 的 mask 逐元素乘法并不矛盾:代码的 mask 中 1 表示保留,0 表示重绘。两张保留 mask 相乘,恰好得到衣服前景并集的补集。若把 mask 都当作衣服前景,原 note 的乘法解释就会变成错误交集。

原 Figure 1:TPD 商品到人物试穿样例
原 Figure 1 · TPD 商品到人物试穿样例 · 原图来源

固定来源:arXiv v1 正文 10 页;另读 CVPR 官方补充材料 5 页;官方实现。

02 · 身份、来源版本与原文保护

字段核查结果
标题Texture-Preserving Diffusion Models for High-Fidelity Virtual Try-On
作者Xu Yang、Changxing Ding、Zhibin Hong、Junhao Huang、Jin Tao、Xiangmin Xu
机构Xu Yang、Changxing Ding、Jin Tao、Xiangmin Xu:South China University of Technology;Zhibin Hong、Junhao Huang:S Research
通讯作者Changxing Ding;固定 PDF 首页星号明确为 Corresponding author
版本arXiv:2404.01089v1,2024-04-01;CVPR2024,论文页码 7017–7026
全文范围固定正文 10 页,含 8 页内容与 2 页参考文献;独立官方 supplement 5 页,不混计为原 PDF 内附录
仓库迁移正文 Gal4way/TPD 现重定向到 MPI-Lab/TPD
代码审计只读当前 main 的配置、数据集、模型损失、DDIM、训练/推理/评估脚本;保存 URL、文件 hash 与原创审计,不在交付中复制官方源码或权重

原 note 中的全部中英混合记录、未完成问题、原始标签、外部图片链接、PDF++ 裁切/高亮和块标识均完整保留。补充信息只追加,不修改原始前缀。原记录 modality/text 可列为待审:通用 SD 介绍出现 text embedding,但 TPD 实际没有自然语言 prompt,cross-attention 使用固定可学习向量;本文的任务输入模态是图像与派生条件图。

当前公开代码是后续发布实现,不能仅凭当前参数断言所有原论文实验完全按该脚本运行。CVF 论文 HTML 本轮返回 403,但官方 supplement PDF 成功获取并核实标题。补充材料是会议源,和固定 arXiv 正文并列引用,不伪装成同一个文件。

03 · 纹理转移与编辑区域是两个独立问题

试穿需要同时满足服装身份和人物身份:字母、logo、条纹与局部图案应随身体合理变形,而非衣服部分的皮肤、纹身、手指和背景应尽可能保持。一个方法即使把目标衣服生成得漂亮,只要粗 mask 抹掉了手臂纹身,也没有完成高保真试穿。

传统两阶段方法先估计 TPS、flow 或关键点 warp,再融合。前端形变错误会传给生成器。基于扩散的 warping-free 方法常使用 CLIP 或额外视觉编码器,把衣服特征作为 cross-attention context;全局语义特征可能丢失高频细节,强空间编码分支又增加容量和计算。TPD 把衣服直接作为同一画布的可见上下文,利用既有 U-Net 多尺度卷积和 self-attention。

原 Figure 2:warp、cross-attention、self-attention三种机制
原 Figure 2 · warp、cross-attention、self-attention三种机制 · 原图来源
符号语义注意事项
\(S,C,C^{\ast},I^{\ast}\)原人物、与原人物配对的衣服、推理目标衣服、理想换装人物训练拥有 \((S,C)\),通常没有换另一件衣服的真实 \(I^{\ast}\)
\(c_m\)输入保留 mask代码约定 1保留、0重绘;人体背景为 \(c_m\odot S\)
\(M_S\)论文中描述原衣服区域;实现存储其保留区域补集说明前景/补集后才能解释乘法
\(b_S\)粗矩形编辑范围代码结合衣服和手臂 parsing 生成,非任意人工矩形
\(c_p,c_d\)OpenPose pose map、DensePose 图仍需外部预处理,不是 parser-free
\(z_t,m_t\)四通道图像 latent 与一通道 mask 的加噪状态mask 不经 VAE,直接缩放到 latent 分辨率
\(e\)U-Net cross-attention contextTPD 是共享可学习向量,不承载不同商品文本

Paper Verified:正文验证 garment-to-person 的 VITON、VITON-HD,以及 DeepFashion 的 person-to-person 定性结果。Author Claim:“精确 mask”与“更有效率”是相对所比较方案的经验结论,没有证明预测区域是最小可编辑集合,也没有保证任意自然场景都成功。

04 · SATT 的空间拼接究竟怎么工作

原 Eq. 1:噪声 MSE 为什么能学会纹理转移

\[\mathcal L_{\mathrm{SD}}= \mathbb E_{z,\epsilon,t} \left\|\epsilon-\epsilon_{\theta} \left(z_t,\mathcal E(m\odot x),m,t,e\right)\right\|_2^2.\tag{1}\]

它是条件去噪目标,不是显式“纹理铺贴损失”。训练时目标人物 S 已经穿着商品 C;遮掉衣服后,要预测正确噪声、恢复目标纹理,模型可以利用未遮的人体、姿态和右侧商品图。若所有衣服条件都忽略,细节变化会提高重建误差;配对样本与随机噪声提供学习信号。但 MSE 不保证逐字复制,也不能突破 VAE 丢掉的高频信息。

不是通道拼接的替代名字

\[S_C=\operatorname{Concat}_{W}(S,C),\qquad B_C=\operatorname{Concat}_{W}(c_m\odot S,C).\]

每张原图为 3×512×384,拼接后为 3×512×768。VAE 在整张拼接画布上编码,得到 4×64×96 latent;左右分别对应人物和衣服。输入 noisy state 覆盖两半,训练也要求同时重建人物与衣服。右侧 clean garment 还在 background condition 中可见,并非只依靠一份噪声衣服重建猜测。

pose 与 densepose 条件同样左右拼接:左侧对应人物 pose/DensePose,右侧放商品图;mask 右侧填 1,表示参考区域已知。这个安排让所有条件在同一宽画布坐标上有一致左右语义,并没有提前把商品像素对齐到人体像素。几何对应由 self-attention 学出来。

原 Eq. 2:跨半画布的信息通路

\[\operatorname{Attention}(Q,K,V)= \operatorname{softmax}\left(\frac{QK^{\mathsf T}}{\sqrt d}\right)V,\qquad Q,K,V\in\mathbb R^{p\times d}.\tag{2}\]

Q/K/V 来自同一 combined feature map。按人物与衣服 token 分块:

\[Q=\begin{bmatrix}Q_S\\Q_C\end{bmatrix},\quad K=\begin{bmatrix}K_S\\K_C\end{bmatrix},\quad A=\begin{bmatrix}A_{SS}&A_{SC}\\A_{CS}&A_{CC}\end{bmatrix}, \quad O_S=A_{SS}V_S+A_{SC}V_C.\]

\(A_{SC}\) 是人物 query 读取衣服 value 的通路,但模型执行的整体仍是 self-attention,不是单独安装一层 garment cross-attention。多尺度卷积提取局部纹理,不同分辨率 attention 汇聚远距离对应。与原 note 中“分别 attention 后拼 K/V”不同,源码数据集已在 torch.cat(dim=2) 构造左右像素画布。

若沿 channel 拼接,人物和衣服同一位置被挤进同一个 token 的通道,空间上的独立源索引消失,需要额外变换才能重定位;这解释了为什么空间拼接更自然。它不是数学上证明 channel 方法绝对无法转移纹理,而是该论文消融中性能较差。

“无额外编码器”并不意味着零额外代价

移除专门衣服编码器节省参数,但画布宽度翻倍会让同尺度 token 数从 p 增至 2p,标准全局 attention 的 QK 相关矩阵由 p² 增到 4p²;卷积/VAE 的面积也增大。实际实现、分辨率和高效 attention 可改变内存与速度,但不能只看参数减少就断言端到端 FLOPs 同比例下降。DMP 还有第二轮完整采样成本,补充效率表只标 SATT,后文单独审读。

固定正文 §3.3,Eq.1–2;官方画布构建。

05 · DMP 的 mask 语义与两轮生成

原 Figure 3:训练联合预测与两阶段推理完整流程
原 Figure 3 · 训练联合预测与两阶段推理完整流程 · 原图来源

并集应先用前景符号说明

令 \(G_{\mathrm{old}}\) 是原衣服前景,\(G_{\mathrm{new}}\) 是预测目标衣服前景,1 表示衣服。要去掉原衣服并留出新衣服空间,编辑区域为:

\[G_{\mathrm{edit}}=G_{\mathrm{old}}\lor G_{\mathrm{new}} =1-(1-G_{\mathrm{old}})(1-G_{\mathrm{new}}).\]

代码使用保留 mask \(K_{\mathrm{old}}=1-G_{\mathrm{old}}\)、\(K_{\mathrm{new}}=1-G_{\mathrm{new}}\),于是:

\[K_{\mathrm{stage2}}=K_{\mathrm{old}}\odot K_{\mathrm{new}} =1-G_{\mathrm{edit}}.\tag{DMP 语义展开}\]

例如原长袖变成短袖,原长袖位置仍必须编辑以生成手臂,不能只遮新短袖;原短袖变长袖,则新增袖子覆盖处也需要编辑。因此取并集有合理性。不过保留皮肤纹理只发生在并集之外;旧衣服本来遮住的皮肤没有观测,模型只能生成。

训练是一轮联合预测

训练配对 \((S,C)\) 中,新衣服就是 S 原本所穿衣服,真实 mask 可从 parsing 获得。把 image latent 与缩放后的保留 mask 拼成五通道目标:

\[u_0=\operatorname{Concat}_{\mathrm{ch}} [\mathcal E(\operatorname{Concat}_{W}(S,C)),\operatorname{Resize}(K_{\mathrm{GT}})], \quad u_t=\sqrt{\bar\alpha_t}u_0+\sqrt{1-\bar\alpha_t}\epsilon.\]

辅助条件提供 masked combined image、mask、pose 与 densepose;U-Net 输出五通道噪声。前四通道去噪后由 VAE 解码,最后一通道直接还原/缩放为 mask。正文只给通用 Eq.1,以上是依据公开实现拆出的联合目标,不是论文额外编号公式。

推理是同一模型的两次完整调用

  1. Stage 1:以包含原衣服与手臂范围的粗矩形保留 mask 为条件,从高斯噪声联合生成粗试穿图和目标衣服 mask。目标衣服是新参考 \(C^{\ast}\)
  2. 区域处理:取第五通道,缩放到图像大小,用阈值0.5二值化;公开代码再做连通域筛选与形态学扩张。与旧衣服保留 mask 相乘得到 Stage2 条件
  3. Stage 2:用新的更精细 mask 重新遮原人物,重新编码 background condition,再从噪声执行第二轮去噪。不是在第一轮粗图 latent 上继续几个细化步;默认两轮各自产生初始随机噪声
  4. 最终呈现:解码并保留左半人物。公开保存结果还使用膨胀/平滑后的 alpha 将生成区域与原人物 RGB 混合

两轮使用同一组权重,不是两个分别训练的网络。Stage1 的粗 RGB 主要用于展示,Stage2 真正继承的是预测区域和同一原人物/衣服条件。mask 预测仍会出错,二阶段没有建立物理碰撞、服装尺度或真实身体轮廓约束。

mask augmentation:正文、补充与代码三层

来源给出的策略如何解释
正文在原衣服区域与其 bounding box 之间随机“插值”描述一族粗细不同的 mask,不应直接假定是像素线性混合
补充§1衣服外轮廓采样20–50个点,各点向外移动30–70像素生成多种精细 mask 形状,适应两阶段输入差异
当前代码最大轮廓 approxPolyDP,epsilon比例0.001–0.005;坐标随机偏移范围±80/90/100;闭运算kernel80/100/130/150不是补充的逐点固定向外30–70实现,随机偏移可以向内
代码混合比例训练60%随机轮廓 mask、40%粗框;测试始终粗框支持Stage1/2的输入域,但数字是当前代码设置
代码安全边界保留 mask 相乘确保遮盖原衣服,再限制在粗框内;3×3腐蚀扩张编辑区形态学处理影响真实编辑区域,不能把最终精度全归于扩散预测

解析标签方面,VITON-HD 实现用 upperclothes=5 与 coat=7 构造衣服,粗框额外纳入 arms=14/15;默认没有把 dress=6 当上装,这对应发布的上装训练路径,不是所有衣类通用解析规则。找不到衣服轮廓时有全零保留 mask 的兜底,可能扩大重绘范围。

正文 §3.4、Fig.3;补充§1;两阶段推理。

06 · 可复现的张量、训练与推理配置

18 个输入通道与 5 个输出通道

U-Net 输入组成通道数512×768 combined canvas 的 latent 形状
noisy image latent44×64×96
noisy mask state11×64×96
encoded masked combined RGB44×64×96
resized keep mask condition11×64×96
encoded combined pose condition44×64×96
encoded combined DensePose condition44×64×96
合计18输出五通道:图像与mask的噪声

这两种 concat 必须同时区分:人物/衣服沿空间宽度拼;noisy state 和辅助条件沿 channel 拼。论文否定的是“用通道拼接替代空间衣服上下文”的消融,不是禁止所有 channel concatenation。

官方初始化脚本从 PBE 9 通道权重开始,在原前4个通道之后插入一个全零 noisy-mask 通道,再在末尾加入8个全零 pose/DensePose 通道;输出卷积追加一个全零通道和 bias,保留旧4通道输出。移除 cond_stage_model 的 CLIP 权重。它没有把整个 U-Net 输入或输出清零。

学习范围和 backbone 配置

公开 configure_optimizers 明确将整个 U-Net 参数解冻,使用 AdamW;不是只训练 self-attention 或一个小 adapter。VAE 在 first-stage 初始化后冻结。共享 learnable vector 形状为1×1×768,作为 cross-attention context;不从文本或衣服 CLIP 提取可变 token。类中遗留1024→768投影参数被 optimizer 收录,但当前常量条件路径没有使用它,不应把它写成仍在运行的 CLIP garment encoder。

U-Net基础宽度320、channel multipliers [1,2,4,4]、每级2 residual blocks、8 attention heads、transformer depth1、context768;VAE四latent通道、基础宽度128、multipliers [1,2,4,4]、dropout0,scale_factor0.18215。时间步1000,噪声schedule起止0.00085/0.012。没有在正文公布精确 SD release编号,本页只断言官方代码的 PBE 初始化与该 LDM 架构。

项目论文/补充报告当前官方配置与范围
学习率/优化器Adam,10⁻⁵代码AdamW,base_lr10⁻⁵;命令scale_lr=False,不按GPU/batch乘大学习率
日程正文未给完整epoch/step240 epochs,warmup10000 steps,从倍率10⁻⁶升至1后长周期保持
batch/GPU训练设备和batch正文未披露batch_size10,训练命令GPU0,1,2,3;标准DDP下约40全局样本/步,仍应核实运行配置与累积
分辨率比较时每人物/衣服512×384数据集硬编码resize384×512,combined为512×768;yaml image_size224不是最终训练画布
采样器正文未给默认步数官方命令默认DDIM,每阶段100步,eta0;--plms可切换
噪声/种子未报告多种子协议命令seed321;默认不fixed_code,两阶段各自取样
CFG无自然语言promptscale默认1,c与uc都为同一learnable vector;同样辅助条件下不能靠提高该scale获得新的文本引导
推理batch未给逐样本显存发布命令batch15;CLI默认5,不能混写
mask膨胀正文未详列后处理paired命令显式0,unpaired命令保留默认10次3×3腐蚀keep mask,即扩张编辑区
最终输出左半试穿图保存second_stage/result中的RGB融合图,膨胀/模糊kernel均30,再裁左半384列

训练时两半画布均贡献重建信号,右半参考重建可帮助保留纹理,但它也占用学习容量。mask预测采用联合连续高斯去噪,不是独立的二分类 segmentation head;最终二值化阈值和形态学会影响其可用性。原文未给 mask IoU、边界F-score 或 mask loss权重扫描,不能把“精确”当成已测量的分割性能。

源码只给前五通道加噪,其余十三个条件通道保持干净;损失对五通道与两空间维取平均,没有单独的 BCE、Dice 或额外 mask 权重。忽略可选 VLB 项时,可写为:

\[\mathcal L_{\mathrm{joint}}=\frac{1}{5hw}\sum_{c=1}^{5}\sum_{i,j} \left(\epsilon_{cij}-\widehat\epsilon_{cij}\right)^2.\]

图像四通道与mask一通道在同一平均中按标量等权,并非图像任务和mask任务各占一半。不同数值尺度仍可改变优化难度。默认DDIM eta=0在每阶段对五通道状态使用:

\[\widehat u_0=\frac{u_t-\sqrt{1-\bar\alpha_t}\widehat\epsilon_{\theta}}{\sqrt{\bar\alpha_t}}, \qquad u_{t'}=\sqrt{\bar\alpha_{t'}}\widehat u_0+ \sqrt{1-\bar\alpha_{t'}}\widehat\epsilon_{\theta},\quad t'\lt t.\]

每阶段100个选定时间点,两阶段通常约200次主U-Net预测,另有VAE与后处理;这不是单步试穿。learnable context只有一个token时,cross-attention的单key softmax恒为1,不能执行衣服空间检索;衣服细节的信息通路确实来自拼接画布及其self-attention。

容易踩到的实现细节

训练配置 · 初始化转换 · 模型训练 · 发布推理命令。

07 · 数据与评估协议

VITON 原文报告14,221训练对、2,032测试对,原分辨率256×192;VITON-HD原始1024×768。本文把比较图像调整为512×384,不把两套数据或两个分辨率的分数直接合并。固定正文没有给VITON-HD具体样本数,官方VITON-HD来源为11,647训练/2,032测试;发布TPD实际取决于其pair-list,不从文件名推断已经逐项核验过训练数据。

DeepFashion用于person-to-person,正文未报告细分样本数、训练/测试构成或量化表。补充§2说明先从参考人物parse出衣服;右半不再只是商品照的姿态假设,还将参考人物pose图放在源人物pose图右侧,为大姿态变化提供信息。当前公开VITON-HD loader只演示商品图路径,不能据此宣称完整复现了DeepFashion设置。

评估条件指标及其边界
Paired人物原本就穿参考衣服,目标为原图重建SSIM↑、LPIPS↓;受未编辑区域、颜色与融合影响,不能完全等同商品细节正确率
Unpaired更换另一件衣服,没有相应人物真实换装图FID↓评估集合分布,不检验每张图是否忠于指定衣服
Person-to-person从另一人物提取衣服并转移DeepFashion图示;没有定量几何、身份或人体部位保留分数
效率补充中在A100测试SATT及两类对照参数量与samples/s;不等同双阶段TPD用户可见端到端FPS

公开evaluation调用PerceptualSimilarity、SSIM脚本与pytorch-fid,对比second_stage/result融合输出和resize后的GT。脚本注释记录LPIPS=0.07231199、SSIM=0.89628089、FID=8.53282485,与主表0.07/0.90/8.54近似但不是精确同一数值;8.5328通常四舍五入为8.53,因此不能把该注释当作主表每个数字的直接可复现日志。

原论文没有用户研究、多个seed的标准差、mask质量量化、逐类失败率或真实尺码试穿验证。SSIM/LPIPS只保留两位小数时,细微差距也不宜被解释为精确显著优势。

08 · 全部原表与消融

原 Table 1 · VITON 与 VITON-HD 完整方法行

Database Method SSIM\(\uparrow\) FID\(\downarrow\) LPIPS\(\downarrow\)
VITONCP-VTON [12] 0.78 24.43 -
VITONClothFlow [2] 0.84 14.43 -
VITONACGPN [3] 0.84 15.67 0.11
VITONSDAFN [9] 0.85 10.55 0.09
VITONPF-AFN [24] 0.87 10.09 0.08
VITONPaint-by-Example [21] 0.83 12.56 0.12
VITONOurs 0.89 9.58 0.07
VITON-HDCP-VTON [12] 0.79 30.25 0.14
VITON-HDPF-AFN [24] 0.85 11.30 0.08
VITON-HDVITON-HD [13] 0.84 11.65 0.11
VITON-HDHR-VITON [8] 0.87 10.91 0.10
VITON-HDLaDI-VTON [57] 0.87 9.41 0.09
VITON-HDDCI-VTON [46] 0.88 8.78 0.08
VITON-HDPaint-by-Example [21] 0.84 12.15 0.13
VITON-HDOurs 0.90 8.54 0.07

同版原表来源;完整方法行、指标列、缺失值保留。

VITON上最佳列出的FID基线PF-AFN为10.09,TPD9.58,下降0.51约5.05%;SSIM0.87→0.89,LPIPS0.08→0.07。VITON-HD最佳FID基线DCI-VTON8.78,TPD8.54,下降0.24约2.73%;SSIM0.88→0.90。作者表内TPD三项均最佳,但没有统计检验,且LPIPS等分数精度较低。

“优于SOTA”只限列出的基线和该实验协议。原表不含StableVITON,不应把另一篇论文的指标直接拼接排名。TryOnDiffusion由于非开源、私有大数据、person-to-person设定而未参加正文质量比较;补充中另做自实现模型的效率比较,不矛盾。

原 Table 2 · 所有关键组件

Method SSIM\(\uparrow\) FID\(\downarrow\) LPIPS\(\downarrow\)
w/o SATT 0.85 11.34 0.12
Channel-dim Transfer 0.85 10.95 0.11
w/o DMP 0.88 9.08 0.08
w/o Mask Augmentation 0.80 27.24 0.19
Ours 0.90 8.54 0.07

同版原表来源;完整方法行、指标列、缺失值保留。

去掉SATT改CLIP cross-attention,FID11.34对比8.54,恶化2.80;channel-dim transfer为10.95,表明在该体系中保留独立空间token更有效。去掉DMP为9.08,差0.54约6.32%相对于最终模型;mask augmentation缺失时27.24,较8.54显著恶化,说明两阶段mask域差异是重要训练问题。

这些不是完整因子设计:没有全组合、没有对mask预测后处理与RGB融合单独消融,也未匹配所有方法的token/FLOPs。SATT对比同时改变编码器、条件接口和画布结构,不能只归因于“self-attention天然强于cross-attention”。

原 Supplement Table 1 · 模型规模与吞吐

MethodParameters (Million)Throughput (samples/s)
TryOnDiffusion(作者基于SD重新实现)21761.78
LaDI-VTON19201.92
SATT9452.85

SATT945M参数比LaDI-VTON1920M少50.78%,比自实现TryOnDiffusion2176M少56.57%;吞吐2.85相对1.92约1.48倍,相对1.78约1.60倍。该表没有完整说明batch、采样步数、预处理和两阶段DMP是否计入;行名明确是SATT。因此可以说报告的模块级/模型比较更紧凑,不能据此给TPD承诺2.85张完整双阶段试穿/秒。

TryOnDiffusion一行是作者基于SD重新实现的代理,不是原闭源系统。参数边界是否含全部预处理模型也未明确。评估效率应包含OpenPose、human parsing、DensePose、VAE、多轮去噪、后处理和数据传输,而不仅主U-Net。

固定正文第6页;官方补充第1页。

09 · 所有原图的作用与局限

Fig. 4–5 · 商品到人物

原 Figure 4:VITON-HD全部定性对照
原 Figure 4 · VITON-HD全部定性对照 · 原图来源
原 Figure 5:VITON全部定性对照
原 Figure 5 · VITON全部定性对照 · 原图来源

Fig.4在VITON-HD对照VITON-HD、HR-VITON、LaDI-VTON、PBE与TPD;Fig.5在VITON对照ACGPN、PF-AFN、SDAFN。主要观察文字、logo、细条纹与手臂边界。好看的例子说明可行性,不能估计总体成功率,缺少逐字符OCR或特定花纹对应误差。

Fig. 6 · Person-to-person

原 Figure 6:DeepFashion person-to-person与PBE对照
原 Figure 6 · DeepFashion person-to-person与PBE对照 · 原图来源

DeepFashion上与PBE比较。参考衣服来自另一个人物,需parse分离衣服,姿态差异更大。该图没有与所有正文基线公平量化比较,也没有证明可恢复参考衣服背面或被遮纹理。

Fig. 7 · 四种删除/替换组件的结果

原 Figure 7:SATT、DMP、mask augmentation消融
原 Figure 7 · SATT、DMP、mask augmentation消融 · 原图来源

完整方法、无SATT、channel transfer、无DMP、无mask augmentation。视觉变化与Table2配套:模糊图案、改坏身体、mask边界伪影。正文中引用“第二列”描述mask augmentation效果与图中栏目位置不完全对应,本页按图上实际标签读,不据该文字重排图。

Fig. 8 · 编辑范围对人体细节的影响

原 Figure 8:传统mask与DMP对人体细节影响
原 Figure 8 · 传统mask与DMP对人体细节影响 · 原图来源

DeepFashion例子对比传统mask及结果、预测mask及结果,强调纹身/胳膊/手指保留。它说明“减少无关编辑”有价值,但仍没有mask IoU,也未单独排除最终RGB融合带来的保留效果。预测mask不意味着所有衣服相关的阴影或遮挡变化都已正确建模。

补充 Fig. 1–2 · 失败案例必须一起看

原 Figure S1:补充Fig.1,自然背景失败案例
原 Figure S1 · 补充Fig.1,自然背景失败案例 · 原图来源
原 Figure S2:补充Fig.2,微小文字与图案失败案例
原 Figure S2 · 补充Fig.2,微小文字与图案失败案例 · 原图来源

Supplement Fig.1展示自然复杂背景泛化不足;Fig.2展示微小字母与图案无法完美重现。作者明确认为VAE latent有损压缩限制SATT细节,不应把“texture-preserving”解释成逐像素无损复制。正文认为没有明显负面社会影响,这是作者立场;真实人像编辑仍有同意、误导与隐私风险。

补充 Fig. 3–5 · 全部附加对照

原 Figure S3:补充Fig.3,VITON-HD全部额外样例
原 Figure S3 · 补充Fig.3,VITON-HD全部额外样例 · 原图来源
原 Figure S4:补充Fig.4,VITON全部额外样例
原 Figure S4 · 补充Fig.4,VITON全部额外样例 · 原图来源
原 Figure S5:补充Fig.5,挑战姿态额外对照
原 Figure S5 · 补充Fig.5,挑战姿态额外对照 · 原图来源

依次为VITON-HD更多商品试穿、VITON更多结果、VITON-HD挑战姿态。各图完整保留原方法列和样本行。补充图内引用编号与其参考文献存在个别错位,方法名称与数据集内容优先依据caption和正文对应,不由编号猜测不同模型。

10 · 概念、证据与实现风险矩阵

容易混淆的说法核查后应如何表述
TPD不用encoder不增加专门衣服编码器;VAE依然存在并冻结,pose/parsing预处理也存在
只拼K/V人物与衣服先横向拼接,Q/K/V都来自combined feature map;人物到衣服通路是self-attention矩阵的一个子块
spatial concat做好对齐仅给定左右画布布局,没有商品到人体显式几何配准;对应由网络学习
mask乘法得到并集必须使用1为保留的补集约定;衣服前景乘法本身是交集
第二阶段继续修第一阶段latent复用预测mask后重新以原人物和目标衣服为条件采样;默认不是沿粗结果继续
第二阶段完全只改预测像素预测区域与旧衣服并集,还有腐蚀keep mask、30像素级融合处理,真实改动边界更宽
论文Adam等于发布代码Adam正文Adam,实际configure_optimizers为AdamW,有10k warmup配置
945M证明更快参数紧凑不直接证明FLOPs;双宽画布和两轮采样都增加代价,需看同预算实验
同一模型无需额外监督联合mask目标来自human parsing;mask监督虽无需人工标注,也有外部模型依赖
无文本所以删所有cross-attentionCLIP移除,原cross-attention仍接一个共享可学习向量;它不携带衣服细节条件
全部实验可由发布loader复现本轮公开路径主要VITON-HD;DeepFashion person-to-person细节有补充说明但未完整运行验证
比所有近作都好只支持原表基线范围;不能跨论文数据/预处理/后处理协议直接排名

本次没有运行下载的官方代码或大模型,不把静态发现当复现结果。代码证据以URL、获取内容hash、行号范围和原创分析保存,交付白名单不含官方源码、权重或环境包。像训练时间、峰值显存、完整独立validation协议、mask预测精度等缺项如实标明。

11 · Reviewer 评论与可验证的 PMG 延伸

技术价值

SATT展示了一种简单条件组织方式:改变输入空间布局,让预训练模型已有的相关性建模能力承担跨图信息转移,而不是默认增加第二个encoder。DMP则把编辑边界作为生成系统的一部分,指出高保真不只来自更强生成器,还来自少改动不该改的部分。这两点都能迁移到更一般的参考图编辑。

证据不足在哪里

正文只给两条公式,联合mask训练、输出尺度、采样与后处理细节主要需读代码。mask预测没有直接质量指标,最终图像指标同时混入RGB融合的贡献。mask augmentation消融很强,但代码与补充的具体算法不同,应做统一版本复现后再解释关键因果。

效率表比较的是SATT与两个结构不同的基线,其中TryOnDiffusion还是自实现。没有相同样本质量、相同去噪步数、完整两阶段预算下的延迟/显存曲线。合理的后续实验应报告每阶段时间、预处理成本、并行batch和画布attention开销,而不是只用一个samples/s数字。

高保真仍受VAE压缩、训练集背景单一和human parsing误差限制。DMP可能漏掉必要的光照/遮挡变化,也可能过度扩张掩码。无量化的多样体型、复杂穿搭、透明材质、反光衣服、宽松衣物及后背姿态测试,因此离电商可信试穿还有任务差距。

Research Extension 1:材质exemplar与目标表面共享画布

将待编辑渲染与参考材质图作为左右画布,借self-attention迁移纹理频率和局部结构,是可测试的条件组织方案。必须区分像素外观匹配与可重光照材质:目标可以扩为albedo、roughness、metallic、normal多通道,而不是只生成某一光照下的RGB。对照包括CLIP全局条件、额外空间encoder与共享画布,分别测参数/FLOPs/速度和纹理身份。

Research Extension 2:联合预测“需要改动的区域”

把DMP推广为材质编辑区域预测,例如替换一个图案而保留接缝、污渍与已有损伤。但编辑范围不一定只是旧/新前景并集;反射和阴影可能越过局部区域。可引入跨光照一致性与物理影响范围,验证局部编辑是否导致不应变化的材质通道漂移。

\[\mathcal L_{\mathrm{extension}} =\mathcal L_{\mathrm{denoise}} +\lambda_{\mathrm{keep}}\|(1-M_{\mathrm{edit}})\odot(\widehat P-P)\|_1 +\lambda_{\mathrm{render}}\mathcal L_{\mathrm{multilight}}.\]

上式P表示材质参数通道,明确是研究设想,不是TPD已经证明的目标。要防止mask收缩为零逃避编辑,也要防止扩大到全图抹掉保留约束,需有mask覆盖与编辑成功的联合验收。

Research Extension 3:mask预测与程序图结构分工

TPD并不输出可执行材质graph。若接到PMG,外层可用合法typed DAG生成器决定节点和连边,内层用渲染图像上的SATT条件优化连续参数;DMP只负责预期影响区域或节点责任归属。节点类型、无环性、端口兼容、执行错误与graph repair必须单独解决,不能用一张attention图替代程序语义。

Research Extension 4:高频残差与无损保护

补充失败案例提示可在latent生成后增设受约束的高频细节支路,或使用更高保真VAE。需要严控复制区域与形变,否则简单贴回参考高频会违背几何。评估采用字符准确率、局部频谱、接缝一致性与多视图/多光照重投影,不能只看FID。

Research Extension 5:更可靠的两阶段推理

对Stage1预测多份mask,测不确定度;不确定边界可选择保守重绘或人工提示。比较单阶段、两阶段、共享中间latent、固定/自适应步数,在同延迟预算下权衡质量。mask连通域规则改进应明确版本,检验遮挡造成多片衣服区域时是否误删有效组件。

使用风险:应取得人物影像与商品图使用许可,避免未经同意改动人物衣着或将合成作为真实穿着证据。当前仓库声明非商业使用,商业需明确授权;基础模型与数据集许可也需分别核实。试穿图不构成合身、尺码、布料触感或真实肤色表现保证。

12 · 来源与验收记录

  1. 固定正文PDF:10页,Eq.1–2、Tables1–2、Figures1–8,身份与通讯作者
  2. 同版HTML:辅助表格和图源,公式重新核对为标准TeX
  3. 官方补充材料:独立5页,mask增强、person-to-person、效率原表、5张补充图与限制
  4. 官方仓库:当前main的只读配置与算法审计;历史Gal4way链接已迁移
  5. 官方评估入口:paired LPIPS/SSIM、unpaired FID及发布注释数值

产物包含原创中文HTML、完整Markdown新增部分、原笔记前缀合并候选和证据/归档计划。原 note 和PDF++ anchors全部保护;只建议补充项目链接、精确方法名与mask解释,不写入共享vault。复制的官方模型源码与权重不在交付白名单。

内容与静态QA完成后记录真实字节数,HTML必须严格小于20,000,000字节;远程图源进行HTTP检查。浏览器MathJax、实际图片布局、响应式与导航交互按用户要求延期,本次不声称已完成浏览器验收。