离散扩散模型（CTMC）

把流/扩散模型从连续空间 ${\mathbb{R}}^d$ 搬到离散状态空间（文本、DNA）的方法：用连续时间马尔可夫链（CTMC）替代 ODE/SDE、用速率矩阵 $Q_t$ 替代向量场。训练退化为逐位置分类（交叉熵），掩码扩散语言模型（MDLM）是其代表。

是什么

文本、DNA 等数据天然是离散状态空间 $S={\mathcal{V}}^d$（$\mathcal{V}$ 为词表，$d$ 为序列长度）中的元素，无法用 SDE 建模——离散空间不存在布朗运动。离散扩散模型改用连续时间马尔可夫链（Continuous-Time Markov Chain, CTMC）作为”离散版 SDE”：状态之间以一定速率随机跳变，逐步把噪声分布搬运成数据分布。

它把 流匹配 的整套逻辑平移到离散设定，因此也叫离散流匹配（Discrete Flow Matching）。

为什么重要

1. 用扩散原理造语言模型：证明”迭代去噪生成”不是连续数据的专利——离散扩散能生成文本序列，是自回归 LM 之外的另一条生成范式（如 LLaDA、掩码扩散 LM）。
2. 并行/双向生成：与自回归逐 token 从左到右不同，离散扩散可并行更新所有位置、双向利用上下文，采样步数与序列长度解耦。
3. 框架统一之美：连续（ODE/SDE）与离散（CTMC）共享同一”条件路径→边缘化 trick→simulation-free 训练”结构，只是把向量场换成速率矩阵、连续性方程换成 Kolmogorov 前向方程。

工作原理

速率矩阵 —— 离散版向量场

CTMC 由速率矩阵 $Q_t(y\mid x)$ 描述：从状态 $x$ 跳到 $y$ 的瞬时速率，满足

$$Q_t(y\mid x)\ge 0(y\ne x),Q_t(x\mid x)=-\sum _{y\ne x}{Q}_t(y\mid x)$$

即对角非正、非对角非负、每列（行）和为零。转移概率的无穷小演化由 $\frac{d}{dh}{p}_{t+h\mid t}(y\mid x){|}_{h=0}=Q_t(y\mid x)$ 决定；对任意速率矩阵存在唯一 CTMC（存在唯一性定理）。模拟用 Euler 式一步：$X_{t+h}\sim (1_{y=x}+h{Q}_t(y\mid x){)}_y$。

因子化约束 —— 对抗指数爆炸

状态空间大小 $|S|=V^d$ 指数爆炸，整列速率 $\{Q_t(y\mid x){\}}_{y\in S}$ 无法存储。故几乎所有离散扩散模型都用因子化速率矩阵：只允许单 token 跳变（$Q_t(y\mid x)=0$ 若 $x,y$ 相差超过一个位置）。输出形状降为 $d\times V$，随维度线性增长，可用一个序列到序列的 Transformer 输出。

训练 —— 与流匹配完全平行

1. 条件概率路径：因子化混合路径（逐 token 独立加噪）。以调度器 ${\kappa }_t$（${\kappa }_0=0,{\kappa }_1=1$）定义 $p_t(x\mid z)={\prod }_{j=1}^d[(1-{\kappa }_t)p_{\text{init}}^{(j)}(x_j)+{\kappa }_t{\delta }_{z_j}(x_j)]$ 等价采样：掩码 $m_j\sim \text{Bernoulli}({\kappa }_t)$，$x_j=m_j{z}_j+(1-m_j){\xi }_j$。它不搬运概率质量（离散空间没有方向），而是”淡出噪声、淡入数据”。
2. 条件速率矩阵：可解析写出（只允许跳向目标 token $z_j$）。
3. 离散 marginalization trick（离散版 Theorem 9）：边缘速率矩阵 $Q_t(y\mid x)={\sum }_z{Q}_t^z(y\mid x)p_{1\mid t}(z\mid x)$，用 Kolmogorov 前向方程（离散版连续性方程）证明其生成边缘路径。
4. 重参数化为去噪概率网络：边缘速率矩阵本质是逐位置分类器 $p_{1\mid t}^{\theta }(z_j=v_i\mid x)$（给定含噪序列 $x$，预测第 $j$ 位干净 token 的分布）。训练损失退化为逐位置交叉熵： ${\mathcal{L}}_{\text{DFM}}(\theta )={\mathbb{E}}_{z\sim p_{\text{data}},t,x\sim p_t(\cdot \mid z)}[{\sum }_{j=1}^d-\log p_{1\mid t}^{\theta }(z_j\mid x)]$

惊人的简洁性：正如连续流匹配退化为回归，离散流匹配/离散扩散退化为分类训练——只需训练”每个位置猜原 token”的网络（Algorithm 8）。采样时用因子化的并行 Euler 步逐步去噪。

掩码扩散语言模型（MDLM）

把词表扩展一个特殊 token [MASK]（$\mathcal{V}=\{v_1,\dots ,v_V,\text{[MASK]}\}$），初始点设为全掩码序列 $p_{\text{init}}={\delta }_{[\text{MASK}{]}^d}$。生成过程即从全 [MASK] 出发，逐步把位置”解掩码”填入真实 token（如 [MASK][MASK][MASK]… → The cat sat on the mat .）。这是当前 SOTA 离散扩散语言模型的主流配方。

与相邻概念的区别

维度	连续流/扩散（ODE/SDE）	离散扩散（CTMC）
状态空间	${\mathbb{R}}^d$	${\mathcal{V}}^d$（离散）
动力学	向量场 $u_t$	速率矩阵 $Q_t$
生成方程	连续性 / Fokker-Planck	Kolmogorov 前向方程
加噪本质	搬运概率质量（有方向）	淡入淡出（无方向，“teleport”）
训练目标	回归（MSE）	分类（交叉熵）
典型应用	图像/视频/音频	语言模型（MDLM）、DNA

与自回归语言模型的区别：AR 逐 token 从左到右、单向；离散扩散并行更新、双向、可迭代 refine。

历史与演进

• 2021: Austin et al.（D3PM）提出离散状态空间扩散。
• 2022–2023: Campbell et al. 用 CTMC 形式化连续时间离散扩散；SEDD（score entropy）等推进。
• 2024: 掩码扩散语言模型（MDLM）、离散流匹配（Discrete Flow Matching）成为主线。
• 2025–: LLaDA 等大规模扩散语言模型验证其可与自回归 LM 竞争（本页据 MIT 6.S184 第 7 章整理）。

常见误解

• 「离散扩散就是把连续扩散离散化」：不是。离散空间没有 SDE/布朗运动，用的是 CTMC + 速率矩阵这套独立但结构平行的数学。
• 「加噪也是在搬运数据」：连续扩散搬运概率质量、有方向；离散混合路径只是概率地”淡出原 token、淡入噪声/掩码”，无方向。
• 「训练很复杂」：恰相反——因子化后训练就是逐位置交叉熵分类，比连续情形还直观。

相关

• 资料摘要：An Introduction to Flow Matching and Diffusion Models（MIT 6.S184） — 第 7 章离散扩散模型
• 条件流匹配（CFM） — 连续版对应，共享 marginalization trick
• 得分匹配（Score Matching） — 连续扩散的另一训练路径
• Wiki 目录