资料摘要：Plan-Critic
发现 AR 音频生成模型中前缀 token 隐式编码全局语义，用 GAE 训练的 Plan-Critic 在推理时引导并剪枝低质量轨迹，CLAP 分数提升最高 +10 分，EACL 2026。 Plan-Critic - Guided by the Plan
核心要点
- 前缀 token 隐式规划：AR 模型最早生成的 token（如前 32/288）已编码事件数、声音类别等全局属性
- Plan-Critic 模型：轻量辅助 Transformer，从 AR 生成器初始化，预测部分生成序列的指令遵循质量
- GAE 训练：受 Schulman et al. 2017 启发，用广义优势估计将最终 CLAP 分数沿时间反向传播
- 引导采样：推理时批量采样前缀 → Plan-Critic 评分 → 剪枝低分轨迹 → 仅从高分前缀继续生成
- +10 CLAP 分数，AR T2A 新 SOTA
详细笔记
关键发现
通过 MLP probing 实验发现：AR T2A 模型的前缀 token 已编码全局语义信息（事件数、声音对象类别），说明模型在生成早期就进行了”隐式规划”。
方法
- Plan-Critic：从预训练 AR 生成器层初始化的轻量 Transformer
- GAE 训练目标：将最终 CLAP 分数反向传播到前缀位置
- 推理时引导解码：采样大 batch → 早期评分 → 剪枝 → 从高分前缀继续
贡献
- 首次系统性证明 AR 音频生成的隐式规划现象
- 提出简洁有效的引导解码方案
- 计算开销与 best-of-N 解码持平
引用与数据
- 发表：EACL 2026 (Long Paper)
- arXiv: 2601.14304
- arXiv HTML: https://arxiv.org/html/2601.14304v1