生成式視覺模型

原理與實踐9:18:57下午1第6章擴散模型

（2）DDPM原理9:18:57下午2復(fù)習(xí)：正向/逆向擴散過程9:18:57下午3真實圖像加噪圖像白噪聲轉(zhuǎn)移分布轉(zhuǎn)移分布轉(zhuǎn)移分布轉(zhuǎn)移分布真實圖像（馬爾科夫鏈）（馬爾科夫鏈）復(fù)習(xí)：損失函數(shù)（無推導(dǎo)）

9:18:57下午4源噪聲神經(jīng)網(wǎng)絡(luò)

主要內(nèi)容正向與逆向過程的數(shù)學(xué)描述對數(shù)似然與證據(jù)下界證據(jù)下界的分解最終損失函數(shù)的推導(dǎo)用神經(jīng)網(wǎng)絡(luò)對什么建模？采樣過程等價的損失函數(shù)9:18:57下午5正向過程9:18:57下午6正向過程

9:18:57下午7正向過程

9:18:57下午8正向過程

9:18:57下午9正向過程

9:18:57下午10DDPM的正向擴散過程無可學(xué)習(xí)參數(shù)！正向過程

9:18:57下午11將在后續(xù)推導(dǎo)中被應(yīng)用證明應(yīng)用了馬爾科夫性質(zhì)（如何用的？）正向過程9:18:57下午12

如何證明？（提示見下一頁）正向過程

9:18:57下午13

正向過程

9:18:57下午14正向過程

9:18:57下午15逆向過程9:18:57下午16

逆向過程一個直接的想法：根據(jù)貝葉斯法則，有9:18:57下午17正向過程的轉(zhuǎn)移分布解析形式未知！逆向過程

9:18:57下午18真實去噪轉(zhuǎn)移分布逆向過程可以證明，9:18:57下午19逆向過程

9:18:57下午20逆向過程逆向過程的狀態(tài)轉(zhuǎn)移分布被定義為9:18:57下午21神經(jīng)網(wǎng)絡(luò)逆向過程

9:18:57下午22如何利用馬爾科夫性質(zhì)來推導(dǎo)？習(xí)題2：逆向擴散9:18:57下午23對數(shù)似然與證據(jù)下界與VAE類似，DDPM模型的訓(xùn)練，實際上也是在最大化對數(shù)似然函數(shù)的證據(jù)下界（ELBO），即9:18:57下午24

用了什么不等式？證據(jù)下界的分解然而，ELBO無解析形式，無法被直接優(yōu)化。我們需要對ELBO進行分解和化簡！9:18:57下午259:18:57下午26推導(dǎo)過程見講義證據(jù)下界的分解9:18:57下午27【結(jié)論】ELBO可以被分解為以下三項：見VAE無可學(xué)習(xí)參數(shù)DDPM只優(yōu)化該項證據(jù)下界的分解

9:18:57下午28關(guān)注：最小化去噪匹配項具有解析形式！最終損失函數(shù)的推導(dǎo)根據(jù)上文，我們知道9:18:57下午29真實去噪轉(zhuǎn)移分布逆向過程的轉(zhuǎn)移分布最終損失函數(shù)的推導(dǎo)

9:18:57下午30最終損失函數(shù)的推導(dǎo)因此，可以推導(dǎo)出去噪匹配項的表達式9:18:57下午31最終損失函數(shù)的推導(dǎo)

9:18:57下午32

最終損失函數(shù)的推導(dǎo)最終的訓(xùn)練損失函數(shù)為9:18:57下午33

為什么與DDPM的損失不一樣？

9:18:57下午34采樣過程（推理）根據(jù)逆向過程的狀態(tài)轉(zhuǎn)移分布我們通過如下公式，構(gòu)造馬爾科夫鏈進行采樣9:18:57下午35小結(jié)一下9:18:57下午36等價損失：噪聲預(yù)測損失

9:18:57下午37等價損失：噪聲預(yù)測損失可得9:18:57下午38高斯噪聲9:18:57下午39等價損失：噪聲預(yù)測損失

9:18:57下午40神經(jīng)網(wǎng)絡(luò)等價損失：噪聲預(yù)測損失

9:18:57下午41等價損失：噪聲預(yù)測