资料摘要:DreamAudio

定制化文本到音频生成(CTTA),从少量参考样本学习个性化音频概念,同时保持通用 T2A 性能,IEEE/ACM TASLP 2026 已接收。 DreamAudio - Customized Text-to-Audio Generation

核心要点

  • 定制化音频生成(CTTA):从少量参考音频样本学习用户指定的音频概念(如特定声音风格、音效特征)
  • 保持通用能力:在学会新概念的同时不遗忘通用 T2A 能力
  • 少样本学习:仅需几段参考音频即可完成个性化
  • 首个 CTTA 方向系统工作:填补了音频生成从”通用”到”个性化”的空白

详细笔记

动机

文本到图像生成已有 DreamBooth 等定制化方法,但音频生成领域一直缺乏对应的个性化方案。DreamAudio 填补了这一空白。

方法

  • 基于扩散模型的定制化训练策略
  • 少量参考样本即可学习个性化音频概念
  • 同时保持通用 T2A 性能(避免灾难性遗忘)

意义

为音频生成领域开辟了”个性化”方向,类似 DreamBooth 对图像生成的影响。

引用与数据

  • 发表:IEEE/ACM TASLP(已接收),2026
  • arXiv: 2509.06027

相关