ICLR 2024 Oral · 32 页合订本 · integral noise

把高斯噪声
沿运动可靠传输

论文把每个离散高斯像素解释为连续白噪声在像素面积上的积分,再以 Jacobian 平方根修正局部伸缩。得到的时间相关噪声保留逐帧标准高斯边际,能够减少随机噪声的闪烁和固定噪声的纹理粘连。

Pascal ChangJingwei TangMarkus GrossVinicius C. AzevedoETH ZürichSDEdit · I²SB · PIDM

研究问题与核心判断

逐帧图像扩散模型在视频上缺少运动相关的噪声先验。独立噪声造成高频细节逐帧变化,固定噪声把细节固定在图像坐标,普通插值会改变方差和空间独立性。论文研究的问题是:给定光流或形变,如何同时保存时间相关、单帧标准高斯分布和像素间独立性。

Random noise

时间无关

每帧重新采样,逐帧边际正确,跨帧关联被清除,结果容易闪烁。

Fixed noise

图像坐标固定

跨帧高度相关,噪声细节未随内容运动,容易出现 texture sticking。

Classical warp

分布被改变

bilinear 与 bicubic 降低方差,nearest 复制样本并引入空间相关。

Paper Verified。 论文贡献包括积分噪声表示、连续噪声传输方程和离散 rasterization 算法;四类任务采用同一噪声先验,已有图像模型大多直接复用作者 checkpoint。
Author Claim。 论文把方法描述为 distribution-preserving。严格结论覆盖可微双射形变和不相交集合;实际光流中的遮挡、重叠与孔洞经过启发式补全,理论范围因此收窄。

输入、输出与作用位置

输入

  • anchor frame 的离散噪声 \(G_0\in\mathbb{R}^{D\times D}\);
  • anchor 到目标帧或相邻帧之间的 deformation / optical flow \(T\);
  • 噪声细分层级 \(k\) 与像素轮廓分段数 \(s\);
  • 任务条件,例如低分辨率帧、JPEG 帧、人物图像与 pose。

输出

  • 每一目标帧的离散噪声 \(G_t\),单帧接近 i.i.d. \(\mathcal{N}(0,1)\);
  • 跨帧相关由输入形变决定,运动区域中的噪声随内容移动;
  • 该先验进入原 diffusion inference,不需要为 SDEdit、I²SB 或 PIDM 重新训练。
Our Interpretation。 方法修改 sampling prior,不优化生成模型参数,也没有学习光流。结果同时受 noise prior、光流准确度、扩散模型对初始噪声的敏感度和额外 cross-frame attention 影响。

从随机测度到条件细分

白高斯随机测度

在 \(E=[0,D]\times[0,D]\) 上取 Borel σ-algebra \(\mathcal{E}=\mathcal{B}(E)\) 和 Lebesgue 面积测度 \(\nu\)。白噪声 \(W\) 是随机集合函数,有限面积集合 \(A\) 对应:

\[W(A)\sim\mathcal{N}(0,\nu(A)).\]

互不相交集合满足独立性与可加性:

\[A\cap B=\varnothing\quad\Longrightarrow\quad W(A)\perp W(B),\qquad W(A\cup B)=W(A)+W(B).\]

任意两个集合的协方差由交叠面积决定:

\[\operatorname{Cov}(W(A),W(B))=\mathbb{E}[W(A)W(B)]=\nu(A\cap B).\]

第 \(k\) 层把每条边细分为 \(2^k\) 份。线性放大倍数为 \(N=2^k\),子像素总数为 \(N_k=4^k=N^2\),每个子像素面积与方差为 \(1/N_k\)。

\[W(A_0)=\sum_{i=1}^{N_k}W(A_i^k),\qquad \nu(A_i^k)=\frac{1}{N_k}.\]
符号边界。 \(N=2^k\) 表示每条边的放大倍数,\(N_k=4^k\) 表示一个粗像素内的子像素数量。两者在标准化系数中承担不同作用。

给定粗像素的条件高斯

把单位像素 \(A\) 分成 \(N\times N\) 个子块。令 \(X=W(A)=x\),\(\mathbf{Y}\in\mathbb{R}^{N^2}\) 收集子块积分,\(\mathbf{u}\) 为全一向量。联合高斯的条件公式为:

\[\mathbb{E}[\mathbf{Y}\mid X=x]=\frac{x}{N^2}\mathbf{u},\qquad \operatorname{Cov}(\mathbf{Y}\mid X=x)=\frac{1}{N^2}\mathbf{I}_{N^2}-\frac{1}{N^4}\mathbf{u}\mathbf{u}^{\mathsf T}.\]

条件协方差在全一方向上的特征值为零。取 \(\mathbf{Z}\sim\mathcal{N}(\mathbf{0},\mathbf{I}_{N^2})\),\(\bar Z=N^{-2}\mathbf{u}^{\mathsf T}\mathbf{Z}\):

\[\mathbf{Y}\mid X=x=\frac{x}{N^2}\mathbf{u}+\frac{1}{N}(\mathbf{Z}-\bar Z\mathbf{u}),\qquad \mathbf{u}^{\mathsf T}\mathbf{Y}=x.\]

将细分噪声乘以线性倍数 \(N\),Algorithm 1 的单位方差版本为:

\[\operatorname{Upsample}(X,N)=\frac{X}{N}+Z-Z_{\mathrm{mean}}.\]
条件相关与无条件独立。 给定粗像素 \(x\) 后,子像素共享“总和等于 \(x\)”的约束,条件协方差包含负的非对角项。将 \(X\sim\mathcal{N}(0,1)\) 一并积分后,子像素联合分布恢复为相互独立的 \(\mathcal{N}(0,1/N^2)\);单位方差版本恢复 i.i.d. \(\mathcal{N}(0,1)\)。

Table 2:符号定义

\(D,(i,j)\)
噪声边长与像素坐标。
\(G,G_n\)
离散高斯噪声样本,以及第 \(n\) 帧样本。
\(G(i,j),G(p)\)
在坐标或像素区域 \(p\) 上评估的随机变量。
\(X_{i,j},Z\)
高斯随机变量。
\(\mathcal{B}(E)\)
定义在 \(E\) 上的 Borel σ-algebra。
\(\nu\)
Lebesgue 测度,在二维中对应面积。
\((E,\mathcal{E},\nu)\)
σ-finite 测度空间。
\(W\)
作为随机集合函数的连续白高斯噪声。
\(W(A)\)
集合 \(A\in\mathcal{B}(E)\) 上的白噪声积分。
\(A_0,A_k,A_{\infty}\)
不同分辨率的规则网格分割。
\(N_k,\nu_k\)
第 \(k\) 层子像素数量与子像素方差。
\(x\)
a priori 粗分辨率噪声。
\(\bar{\boldsymbol\mu},\bar{\boldsymbol\Sigma}\)
离散多变量条件均值与协方差。
\(\langle\cdot\rangle\)
均值算子。
\(T\)
用于 warping 的 deformation field。
\(T(W)\)
通过噪声传输方程得到的 warped white noise。
\(\Omega_p\)
像素多边形 \(p\) rasterization 后覆盖的 \(A_k\) 子像素集合。
\(k,s\)
噪声细分层级与轮廓分段层级。

分布保持传输与离散算法

连续传输:Jacobian 平方根

假设 \(T:E\rightarrow E\) 是 diffeomorphism。论文在反向取样时乘以 Jacobian 行列式的负二分之一次方:

\[T(W)(A)=\int_A\frac{1}{\sqrt{\left|\det DT(T^{-1}(x))\right|}}\,W(T^{-1}(x))\,\mathrm{d}x.\]

这里的 \(W(T^{-1}(x))\,\mathrm{d}x\) 按白噪声分布作用于测试区域理解;附录以 Brownian sheet 的 Itô 积分 \(W(x)\mathrm{d}x=\mathrm{d}B(x)\) 赋予严格含义。令 \(y=T^{-1}(x)\),变量替换和 Itô isometry 给出:

\[\operatorname{Var}[T(W)(A)]=\int_{T^{-1}(A)}|\det DT(y)|\,\mathrm{d}y=\nu(A).\]
独立性条件。 连续证明使用 \(T\) 的双射性,不相交目标集合的 preimage 仍不相交。离散实现还要求相邻三角形的 rasterized 子像素集合互不重叠。非双射光流、遮挡和 disocclusion 会破坏该前提。

离散近似

对目标像素 \(p\),把轮廓按 \(s\) 细分并三角化,再以 reverse deformation 映射回 anchor。覆盖的第 \(k\) 层子像素集合为 \(\Omega_p\)。令 \(W_k(A_i^k)=\sqrt{N_k}W(A_i^k)\):

\[G(p)=\frac{1}{\sqrt{|\Omega_p|}}\sum_{A_i^k\in\Omega_p}W_k(A_i^k).\]

平方根归一化确保独立标准高斯之和仍有单位方差。多边形覆盖集合决定跨帧 covariance。

固定 anchor realization。 条件细分得到固定高分辨率噪声。
累计形变。 目标像素轮廓映射回 anchor,减少逐帧重新细分引入的不一致。
三角化与 rasterization。 用 \(s\) 控制轮廓采样,再覆盖 \(A_k\) 子像素。
重叠 ownership。 多个多边形覆盖同一子像素时,仅最后 rasterized polygon 保留该子像素。
处理孔洞。 anchor 传输未定义的像素从前一帧再次传输;剩余位置采样随机高斯。
聚合。 对覆盖子像素求和,再除以覆盖数量平方根。
Our Interpretation。 anchor 传输保持长程身份,前一帧补洞提高局部连续性,随机补全保证算法终止。孔洞边界的 joint distribution 由工程规则决定。

一维 Brownian bridge 解释

线性插值的方差为 \((1-\alpha)^2+\alpha^2\),在区间内部低于 1。积分噪声条件分布为:

\[z\mid x_0,x_1\sim\mathcal{N}\left((1-\alpha)x_0+\alpha x_1,\ 1-\bigl((1-\alpha)^2+\alpha^2\bigr)\right).\]

stochastic residual 补足缺少的方差;对 \(x_0,x_1\) 积分后得到 \(\operatorname{Var}(z)=1\)。

比较 prior 的实际定义

PYoCo 与 Control-A-Video

PYoCo mixed 将每帧独立噪声与全视频共享噪声线性组合;progressive 以逐帧扰动前一帧噪声的 autoregressive 方式采样。Control-A-Video 在 RGB 时间差超过预定义阈值的位置重新采样,其余位置复用噪声。本文没有公开 PYoCo mixing coefficient、progressive perturbation scale 或 residual threshold 的具体取值。

Root-bilinear

该 baseline 把 bilinear 权重替换为其平方根。若输入高斯样本相互独立,平方权重和恢复为普通 bilinear 权重和,因此能够保持单位方差;连续重复 warping 后输入已相关,该保证失效,Figure 7 显示误差会累积。

官方项目页的积分噪声离散表示
官方项目方法图。 像素被解释为面积积分,细分后仍聚合回原值。
官方项目页的噪声传输方程
官方项目公式图。 反向形变与 Jacobian 平方根共同决定连续传输。
官方项目视频。 Gaussian noise 在大形变下的传输比较。

实验设置与复现边界

Appearance transfer

SDEdit · LSUN Bedroom

  • 合成卧室 render 逐帧转为真实卧室外观。
  • 3 个 scene,每个 scene 的数值为 4 个 variation 均值。
  • 分别评估有无 cross-frame attention;主 Table 1 采用带 attention 设置。
  • FID 将同一视频全部帧与 LSUN Bedroom 比较,视频内部多样性很低。
Restoration

I²SB · DAVIS

  • 4× super-resolution:bear、blackswan、car turn。
  • JPEG restoration:cows、goat、train。
  • 从受损输入估计 RAFT optical flow。
  • 复用 I²SB checkpoint;完整 sampling 参数没有系统公开。
Conditional generation

PIDM · DeepFashion

  • 先运行少数 denoising steps 得到粗人物预测。
  • 抽取 DensePose,叠加到粗预测,再用 RAFT 估计 optical flow。
  • 3 个 quasi-static 输入,并构造 3 个水平 camera-shift 输入。
  • 全图 Warp MSE 受静止背景比例影响。
Surrogate rendering

2D fluid super-resolution

  • Tang et al. (2021) fluid solver 生成 simulation dataset。
  • 训练 pixel-space unconditional diffusion model。
  • 数据量、split、optimizer、learning rate、batch size、steps、GPU 与训练时间均未公开。
  • 结论主要来自项目视频和 x–t slice。
Checkpoint 与参数。 已有方法使用原作者 checkpoint。噪声 warping 常用 \(k=3,s=4\);运行时间在 RTX 3090、Intel i9-12900K、\(256\times256\) 分辨率上测量。
指标边界。 Warp MSE 同时受光流误差、静止背景和锐度影响。LPIPS 衡量感知差异,FID 同时受质量和多样性影响。有限场景规模无法支持宽泛泛化结论。

Table 1:四类任务主结果

Noise priorAppearanceVideo SR 4×JPEGPIDM
Warp ↓FID ↓Prec. ↑Warp ↓LPIPS ↓Warp ↓LPIPS ↓Warp ↓
Random10.0074.750.7198.910.1928.280.16334.22
Fixed4.3593.560.6447.970.1797.540.1632.26
PYoCo (mixed)7.2681.600.6748.480.1907.770.16620.92
PYoCo (prog.)4.9084.630.6678.100.1907.480.16311.97
Control-A-Video5.0990.820.6497.980.1927.730.1646.45
Bilinear3.15143.240.20121.470.5905.260.4312.13
Bicubic4.95149.850.21213.020.4905.740.3722.40
Nearest15.10154.730.34414.300.3297.910.2139.21
∫-noise (ours)2.5092.630.6616.490.1965.980.1652.92

Warp MSE 单位为 \(10^{-3}\)。Ours 在 appearance 与 SR temporal metric 上领先;JPEG Warp、PIDM Warp、FID、Precision 和 SR LPIPS 由其他 prior 更优。

主表解读。 Random 的 appearance FID 74.75 优于 ours 92.63,作者归因于随机噪声增加帧间多样性。PIDM 中 fixed 2.26 和 bilinear 2.13 也优于 ours 2.92,静止背景使全图 Warp MSE 偏向固定噪声。

Appendix Table 3:每帧运行时间

方法Wall msCPU ms
Random0.010.01
Fixed0.010.01
PYoCo (mixed)0.010.01
PYoCo (prog.)0.010.01
Control-A-Video6.0895.46
Bilinear5.2676.76
Bicubic6.0087.73
Nearest5.1775.73
Root-bilinear7.66103.78
DDIM Inv. 20853.422226.6
DDIM Inv. 502125.53608.3
∫-noise \(k=3,s=4\)629.012274.9

在指定设备与分辨率上,629.01 ms 对应约 1.59 帧每秒;该结果不能称为实时。

Appendix Table 4:24 帧开销

计时 / \(k\)\(s=1\)\(s=2\)\(s=3\)\(s=4\)
CPU \(k=0\)21.621.723.026.2
CPU \(k=1\)23.623.523.825.1
CPU \(k=2\)30.529.329.630.8
CPU \(k=3\)58.855.455.053.7
CPU \(k=4\)143.8137.5132.4128.2
Wall \(k=0\)10.510.611.312.9
Wall \(k=1\)10.510.610.811.3
Wall \(k=2\)11.211.311.511.9
Wall \(k=3\)15.515.315.515.6
Wall \(k=4\)29.129.228.628.7

CPU time 与 wall time 的单位均为秒;输入为 24 帧、每帧 \(256\times256\)。

Appendix Table 5:SDEdit Warp MSE

方法无 cross-frame attention有 cross-frame attention
S1S2S3meanS1S2S3mean
Random12.8511.8211.2111.9610.0210.239.7410.00
Fixed4.754.195.444.794.403.904.744.35
PYoCo mixed9.258.288.448.657.676.797.317.26
PYoCo prog.6.275.526.416.065.184.265.254.90
Control-A-Video5.135.486.085.564.654.715.915.09
Bilinear3.123.938.335.132.701.894.863.15
Bicubic3.245.9715.108.102.673.059.124.95
Nearest13.7728.7846.5929.715.1213.6926.4815.10
∫-noise3.472.093.683.082.971.702.832.50

Appendix Table 6:SDEdit FID / Precision

方法无 attention有 attention
FIDPrec.FIDPrec.
Random61.140.65974.750.719
Fixed79.320.62293.560.644
PYoCo mixed65.070.65681.600.674
PYoCo prog.66.430.63584.630.667
Control-A-Video75.210.61890.820.649
Bilinear185.280.101143.240.201
Bicubic168.860.118149.850.212
Nearest192.130.177154.730.344
∫-noise73.830.65592.630.661

Appendix Table 7:I²SB Warp MSE

方法4× SRJPEG
bearblack.carmeancowsgoattrainmean
Random3.989.5713.178.916.7111.366.788.28
Fixed2.188.6913.037.975.1511.216.257.54
PYoCo mixed3.099.2813.088.485.8411.126.357.77
PYoCo prog.2.329.0812.908.105.3311.056.067.48
Control-A-Video2.248.8812.827.985.7311.166.317.73
Bilinear9.9625.5228.9421.472.858.444.495.26
Bicubic4.6015.7918.6613.023.348.994.905.74
Nearest2.9517.3822.5614.305.0311.147.557.91
∫-noise1.196.7611.516.494.048.885.015.98

Appendix Table 8:I²SB LPIPS

方法4× SRJPEG
bearblack.carmeancowsgoattrainmean
Random0.2420.1790.1540.1920.1570.2010.1310.163
Fixed0.2240.1790.1540.1790.1510.2010.1310.163
PYoCo mixed0.2420.1800.1490.1900.1560.2070.1360.166
PYoCo prog.0.2430.1800.1340.1900.1530.2010.1360.163
Control-A-Video0.2400.1790.1490.1920.1560.2050.1320.164
Bilinear0.6680.5890.5150.5900.4470.5130.3320.431
Bicubic0.6270.5000.3430.4900.3580.4520.3050.372
Nearest0.2970.4140.2750.3290.1670.2530.2210.213
∫-noise0.2350.2020.1520.1960.1540.2020.1380.165

Appendix Table 9:PIDM Warp MSE

方法Quasi-staticHigh-variation
I1I2I3meanI1I2I3mean
Random26.4046.5023.7232.2127.0150.1325.5334.22
Fixed2.403.293.142.941.762.222.782.26
PYoCo mixed15.8122.4612.4316.9018.7828.7315.2520.92
PYoCo prog.9.7315.118.2811.0411.9215.068.9111.97
Control-A-Video6.3413.908.479.576.417.005.946.45
Bilinear1.773.002.872.551.832.302.282.13
Bicubic3.154.074.103.772.152.412.662.40
Nearest11.6917.8312.7314.087.2113.217.209.21
∫-noise2.544.583.523.552.423.033.292.92

Figure 1–17 阅读地图

官方项目页提供视频与方法图。论文静态 Figure 以编号占位说明,便于回到 PDF 核查。

Figure 1SDEdit 与 PIDM 的 random、fixed、warped 视觉症状。
Figure 2离散传输 pipeline 与 Brownian bridge 直觉。
Figure 34×4 噪声的跨帧 covariance 与单帧 covariance。
Figure 4I²SB 连续帧与 x–t slice。
Figure 5fluid 4× SR 的 random、fixed 与 ours。
Figure 6插值方法的 histogram 与 covariance ablation。
Figure 7长序列增量 warping 与 root-bilinear。
Figure 8cross-frame attention 配合 ∫-noise 的卧室 variation。
Figure 9random、fixed、warped 细节运动差异。
Figure 10床单褶皱的 fixed sticking artifact。
Figure 11大运动下传统插值的 denoised artifact。
Figure 12第二个卧室场景比较。
Figure 13两种 DDIM inversion 与 ∫-noise variation。
Figure 14I²SB SR x–t slice。
Figure 15I²SB JPEG restoration x–t slice。
Figure 16PIDM early prediction、DensePose overlay、RAFT。
Figure 17latent diffusion 三级约束。

Appendix E:latent diffusion 限制

作者报告 warped noise 在 latent diffusion 中的增益较小,并给出三个原因。

空间对应不保真

图像时间一致性无法保证 VAE latent 也时间一致,image-space flow 对 latent noise 的传输仅是近似。

细节由 decoder 生成

低分辨率 latent noise 主要控制构图与低频结构,高频细节由 VAE decoder 补充。

VAE reconstruction error

autoencoder 的重建误差会影响时间一致性,独立于 diffusion noise prior。

实验使用两个同心灰色圆盘,每帧向右移动 8 个 image pixels;Stable Diffusion 压缩倍数为 8,手工把 latent 噪声圆盘移动 1 个整数像素。输入作为 ControlNet scribble,并使用固定 pizza prompt。三组设置依次为 ControlNet、加入 cross-frame attention、再注入并 warp 第一帧 layers 4–11 feature maps。

证据范围。 人工整数平移恰好匹配 VAE 的离散 translation equivariance。实验未覆盖连续 flow、旋转、尺度变化、遮挡或真实视频,无法提供一般 latent warping 保证。
项目页额外实例。 DeepFloyd IF Stage II 从 64×64 升至 256×256;super-resolution 使用特定 prompt,stylization 每 10 帧设置 anchor 并使用 cross-frame attention。内容来自项目展示,未进入论文主表。

Reviewer Commentary

Strength

理论对象准确

把像素改写为随机测度的面积积分,使细分、可加性与 covariance 具有严格定义。

Strength

条件采样可实现

均值移除加粗像素注入,无需训练,严格保持 coarse sum。

Strength

任务覆盖广

统一覆盖 appearance、restoration、pose generation 与 fluid surrogate rendering。

Weakness

理想条件受限

光流非双射、重叠 ownership、两阶段补洞与随机填充缺少统一概率模型。

Weakness

评估规模有限

三段 DAVIS、三个人体输入与三个卧室场景无法覆盖复杂遮挡和长序列。

Weakness

复现信息缺失

fluid 训练细节、各应用完整 sampling 参数、随机种子和代码仓库未充分公开。

Paper Verified。 \(k=3\) 通常足以减少 undefined pixels;主表与附录表支持若干 temporal metric 改善,也记录多项未领先指标。
Author Claim。 作者认为 warped noise 是逐帧 diffusion 获得 temporal coherence 的必要处理。Appendix E 显示约束增强后 noise scheme 的相对影响下降,这一表述需要更多模型与真实运动实验。
Our Interpretation。 关键价值是把 spatial correspondence 编码到 stochastic prior,并保持每帧 marginal;joint distribution 在遮挡边界处由工程规则决定。未来评估应分别报告可见区域、遮挡区域与静止背景。
Research Extension。 把 flow uncertainty 与 occlusion probability 引入条件随机测度:高置信区域使用 anchor transport,遮挡区域使用带后验方差的 conditional resampling,并按区域校准 covariance。
Research Extension。 对 procedural material animation,可在 UV-space 或 surface parameterization 中定义白噪声随机测度,再通过 deformation Jacobian 传输,研究纹理细节在形变、拓扑变化与 renderer sampling 下的统计保持。

来源与身份核查

  1. ICLR 2024 OpenReview:会议论文标识 pzElnMrgSD。
  2. 官方项目页:作者、ICLR 2024 Oral、方法图、任务视频与 DeepFloyd IF 扩展。
  3. 官方补充页面:root-bilinear、DDIM inversion 与 latent 结果。
  4. arXiv:2504.03072:2025-04-03 上传,页面标注 Accepted at ICLR 2024 (Oral)。
  5. 本地论文 PDF:32 页;正文 1–10 页,References 延续至 14 页,Appendix A–E 位于 15–32 页。

论文 PDF 与官方页面均未发现明确通讯作者标记。归档继续把末位作者 Vinicius C. Azevedo 记录为候选,状态为 unverified。