DDPM 前向与反向扩散公式推导

前向加噪用重参数化一步直达，反向去噪用贝叶斯公式 + 神经网络近似——两者都是确定性推导，没有”玄学”。

是什么

扩散模型（Denoising Diffusion Probabilistic Models, DDPM）的两条核心公式：

前向加噪（任意 $t$ 一步直达）：

$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}\epsilon ,\epsilon \sim \mathcal{N}(0,I)$$

反向去噪（逐步从噪声恢复数据）：

$$x_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\epsilon }_{\theta }(x_t,t)\right)+{\sigma }_t\delta ,\delta \sim \mathcal{N}(0,I)$$

这两条公式分别是 DDPM 训练和推理的数学核心。下面从 Markov 链的物理直觉出发，逐步推导。

前向加噪公式推导

单步加噪：Markov 链假设

DDPM 将加噪定义为 Markov 扩散过程——每一步在前一步基础上加高斯噪声：

$$q(x_t\mid x_{t-1})=\mathcal{N}\left(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I\right)(1)$$

符号	含义
${\beta }_t\in (0,1)$	噪声调度（noise schedule），控制每步加多少噪声，通常 ${\beta }_1<{\beta }_2<\cdots <{\beta }_T$
$\sqrt{1-{\beta }_t}$	对先前状态的缩放因子：“保留信号”的比例
${\beta }_{t}I$	新添加噪声的方差

为什么是这个形式？ 这是**方差保持（variance-preserving, VP）**扩散过程。经过 $T$ 步后，$x_T$ 渐进收敛到 $\mathcal{N}(0,I)$——无论 $x_0$ 是什么分布。这是扩散模型能从任意噪声出发生成任意图像的数学根基。

重参数化：一步跳到任意 $t$

高斯分布的核心性质——两个独立高斯之和仍为高斯——意味着不需要迭代 $t$ 步才能得到 $x_t$。

先引入简写 ${\alpha }_t=1-{\beta }_t$，利用重参数化技巧把 $(1)$ 写成：

$$x_t=\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{\epsilon }_{t-1},{\epsilon }_{t-1}\sim \mathcal{N}(0,I)$$

递归展开：

$$\begin{array}{rl}{x}_t& =\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{\epsilon }_{t-1}\\ & =\sqrt{{\alpha }_t}\left(\sqrt{{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{\epsilon }_{t-2}\right)+\sqrt{1-{\alpha }_t}{\epsilon }_{t-1}\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\underset{\text{两个独立高斯噪声的加权和}}{\underbrace{\sqrt{{\alpha }_t(1-{\alpha }_{t-1})}{\epsilon }_{t-2}+\sqrt{1-{\alpha }_t}{\epsilon }_{t-1}}}\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_t{\alpha }_{t-1}}{\epsilon }^{\prime }\end{array}$$

继续递归到底，定义 ${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$，得到最终形式：

$$\boxed{x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}\epsilon ,\epsilon \sim \mathcal{N}(0,I)}(2)$$

关键洞察：${\bar{\alpha }}_t\in [0,1]$ 随时间递减——$t=0$ 时 ${\bar{\alpha }}_0\approx 1$（几乎原图），$t=T$ 时 ${\bar{\alpha }}_T\approx 0$（几乎纯噪声）。不需要逐步迭代，任意 $t$ 一步直达，训练效率大幅提升。

反向去噪公式推导

如果能算真实后验……

如果我们知道 $x_0$，反向条件分布 $q(x_{t-1}\mid x_t,x_0)$ 可以用贝叶斯公式精确推导：

$$q(x_{t-1}\mid x_t,x_0)=\frac{q(x_t\mid x_{t-1})q(x_{t-1}\mid x_0)}{q(x_t\mid x_0)}$$

把三个高斯分布概率密度函数代入、展开、整理，得到同样形式的高斯：

$$q(x_{t-1}\mid x_t,x_0)=\mathcal{N}\left(x_{t-1};{\tilde{\mu }}_t(x_t,x_0),{\tilde{\beta }}_{t}I\right)$$

其中精确均值 ${\tilde{\mu }}_t$ 为：

$${\tilde{\mu }}_t(x_t,x_0)=\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{x}_0+\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t(3)$$

问题：推理时根本没有 $x_0$。这个精确后验只是理论公式，没法直接用。

神经网络近似：从预测 $x_0$ 到预测噪声

用网络参数化的高斯近似真实后验：

$$p_{\theta }(x_{t-1}\mid x_t)=\mathcal{N}\left(x_{t-1};{\mu }_{\theta }(x_t,t),{\sigma }_t^{2}I\right)$$

然后用变分下界（ELBO）推导损失。Ho et al. (2020) 的关键实验发现：与其让网络预测 $x_0$ 再代入 $(3)$ 算均值，不如直接预测噪声 $\epsilon$，效果更好。

推导如下——由 $(2)$ 解出 $x_0$：

$$x_0=\frac{1}{\sqrt{{\bar{\alpha }}_t}}\left(x_t-\sqrt{1-{\bar{\alpha }}_t}\epsilon \right)(4)$$

将 $(4)$ 代入 $(3)$ 的 ${\tilde{\mu }}_t$ 公式，消去 $x_0$：

$$\begin{array}{rl}{\tilde{\mu }}_t& =\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}\cdot \frac{x_t-\sqrt{1-{\bar{\alpha }}_t}\epsilon }{\sqrt{{\bar{\alpha }}_t}}+\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t\\ & =\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}\epsilon \right)\end{array}$$

用网络预测 ${\epsilon }_{\theta }(x_t,t)$ 替代真实 $\epsilon$，就得到采样公式：

$$\boxed{x_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\epsilon }_{\theta }(x_t,t)\right)+{\sigma }_t\delta }(5)$$

最后一项 ${\sigma }_t\delta$（$\delta \sim \mathcal{N}(0,I)$）是随机采样时加回的微小噪声——也是生成多样性的来源。

Loss 为什么这么简洁

训练目标也简化成极简 MSE：

$$\mathcal{L}={\mathbb{E}}_{\epsilon ,t}\left[\Vert \epsilon -{\epsilon }_{\theta }(x_t,t){\Vert }^2\right]$$

DDPM 论文发现所有复杂的系数在消去 $x_0$ 后都成了常数因子，直接去掉反而训练更稳定。最终 Loss 就是预测噪声与真实噪声的 L2 距离。

如何嵌入自回归：MAR 的 Diffusion Loss

MAR 对标准 DDPM 做了一个关键改造——加入自回归产生的条件 $z$：

Loss：

$$\mathcal{L}(z,x)={\mathbb{E}}_{\epsilon ,t}\left[\Vert \epsilon -{\epsilon }_{\theta }(x_t\mid t,z){\Vert }^2\right]$$

其中 $z$ 是 Transformer 产生的条件向量，去噪 MLP ${\epsilon }_{\theta }$ 的输入多了一个 $z$。梯度从 Diffusion Loss 穿过 $z$ 流向整个 Transformer。

采样（加温度）：

$$x_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\epsilon }_{\theta }(x_t\mid t,z)\right)+\tau \cdot {\sigma }_t\delta$$

温度 $\tau$ 缩放噪声方差，控制生成多样性——等价于离散自回归中的 temperature 采样。

与流匹配的区别

维度	DDPM (Diffusion)	Flow Matching
前向路径形状	曲线（${\bar{\alpha }}_t$ 决定弯曲程度）	直线
预测目标	噪声 $\epsilon$	速度 $v=x_1-\epsilon$
推理步数	通常 50–1000	通常更少
温度方案	缩放 ${\sigma }_t\delta$	有别的方式

详见 条件流匹配（CFM）。

相关

• 资料摘要：An Introduction to Flow Matching and Diffusion Models（MIT 6.S184） — 去噪得分匹配视角：噪声预测器 ${ϵ}_{\theta }$ 是得分 $\nabla \log p_t$ 的重参数化
• 得分匹配（Score Matching） — DDPM 噪声预测损失的理论来源
• 资料摘要：MAR — Diffusion Loss 在自回归图像生成中的应用
• DiT（Diffusion Transformer） — 扩散建模全部 token 的联合分布（vs. MAR 建模 per-token）
• 条件流匹配（CFM） — 直线路径的替代方案
• Diffusion Autoregressive 架构 — 扩散与自回归结合的架构谱系
• Wiki 目录