- SS: 有关基本算法或原理的文章,建议吃透
- S: 前沿顶刊文章,提出通用改进思路或算法创新
- A: 前沿顶刊文章,对某一问题提出针对性改进方法,但存在局限性或改进空间
- B: 非前沿顶刊文章,提出的方法已被新方法所取代,可以参考
- C: 非顶刊文章,参考价值一般
(SS)2015-Deep Unsupervised Learning using Nonequilibrium Thermodynamics
讲述使用平衡热力学原理指导无监督学习的思想,扩散模型的启蒙文献
(SS)2020-Denoising Diffusion Probabilistic Models
对扩散模型做出详细定义,提出了最初的去噪扩散概率模型DDPM,首次用于生成式模型中,在生成图像方面展现出了惊人的能力,DDPM被认为是扩散模型的鼻祖,另一篇文章有详细分析:DDPM原理分析
-
Denoising Diffusion Probabilistic Model
Diffusion Model 先从GAN网络开始 GAN网络,全称为生成对抗网络(Generative Ad […]
-
已标记的文章(2024.1~2024.5)
(SS)2015-Deep Unsupervised Learning using Nonequilibriu […]
(SS)Improved techniques for training score-based generative models
提出了基于分数的生成模型SGM的定型版本,相比于DDPM,其最大优点是训练和采样过程解耦,只要训练出得分函数,就有多种多样的采样方法,该论文里提出的采样方法是退火朗之万动力学ALD,另一篇文章有详细分析:
-
Score-Based Generative Model
一切的起源-Tweedie公式 分数函数可以用于去除噪声 SGM的一个核心特定就是它将训练过程和采样过程解耦, […]
-
已标记的文章(2024.1~2024.5)
(SS)2015-Deep Unsupervised Learning using Nonequilibriu […]
有趣的是,SGM当初提出时作者认为是独立于扩散模型之外的新模型,后续SDE的提出又将SGM和DDPM统一归类为扩散模型
(SS)Score-based generative modeling through stochastic differential equations
提出随机微分方程SDE作为扩散模型的一般形式定义,DDPM和SGM均可以视作SDE的特殊形式,为扩散模型指出了通用研究思路,即改进分数匹配模型或者自研逆向sde解法,同时提出了ode作为sde的简化版本,经测试计算效率比sde高但生成效果不如sde
(R)An Overview of Diffusion Models: Applications,Guided Generation, Statistical Rates and Optimization
一篇综述,可参考的内容在针对扩散模型的新兴应用(主要是强化学习)和条件扩散模型理论
(R)Diifusion Models: A Comprehensive Survey of Methods and
Applications
一篇综述,对目前大多数扩散模型原理进行了分析,内容大致和书本相同,但后面几章有新加的内容,可以重点参考一下应用部分
(B)202205-CONDITIONAL DIFFUSION PROBABILISTIC MODEL FOR SPEECH ENHANCEMENT (ICASSP)
提出CDiffuSE,首次(应该是?)将扩散模型用于语音增强任务,使用条件扩散模型,并对2020的文献中的模型优化函数做了改进
(A)202307-StoRM: A Diffusion-based Stochastic Regeneration Model for Speech Enhancement and Dereverberation (TASLP)
提出StoRM,使用扩散模型来改善预测模型(如NCSN++M)引起的信号失真现象,从而提高去噪质量