第6章生成對抗網(wǎng)絡(luò)《多媒體信息安全》目錄三一

背景知識二

GAN的基本原理及衍生模型

GAN的應(yīng)用人工智能、機器學(xué)習(xí)和深度學(xué)習(xí)1956年，幾個計算機科學(xué)家相聚在達特茅斯會議，提出了“人工智能”的概念。2012年以后，得益于數(shù)據(jù)量的上漲、運算力的提升和機器學(xué)習(xí)新算法（深度學(xué)習(xí)）的出現(xiàn)，人工智能開始大爆發(fā)。通常將人工智能分為弱人工智能和強人工智能。機器學(xué)習(xí)是用大量的數(shù)據(jù)來“訓(xùn)練”，通過各種算法從數(shù)據(jù)中學(xué)習(xí)如何完成任務(wù)。機器學(xué)習(xí)直接來源于早期的人工智能領(lǐng)域，傳統(tǒng)的算法包括決策樹、支持向量機等等。從學(xué)習(xí)方法上來分，機器學(xué)習(xí)算法可以分為監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)等。最初的深度學(xué)習(xí)是利用深度神經(jīng)網(wǎng)絡(luò)來解決特征表達的一種學(xué)習(xí)過程。它本身并不是一個全新的概念，可大致理解為包含多個隱含層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。為了提高深層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效果，對神經(jīng)元的連接方法和激活函數(shù)等方面做出相應(yīng)的調(diào)整。人工智能：ArtificialIntelligence機器學(xué)習(xí)：MachineLearning深度學(xué)習(xí)：DeepLearning人工智能：從概念提出到走向繁榮機器學(xué)習(xí)：一種實現(xiàn)人工智能的方法深度學(xué)習(xí)：一種實現(xiàn)機器學(xué)習(xí)的技術(shù)人工智能研究的各個分支人工智能，機器學(xué)習(xí)和深度學(xué)習(xí)的關(guān)系人工智能、機器學(xué)習(xí)和深度學(xué)習(xí)DeepNeuralNetworks從感知機（1958）到神經(jīng)網(wǎng)絡(luò)感知機的模型感知機的模型是一個有若干輸入和一個輸出的模型輸出和輸入之間學(xué)習(xí)到一個線性關(guān)系，得到中間輸出結(jié)果

接著是一個神經(jīng)元激活函數(shù)

神經(jīng)網(wǎng)絡(luò)的擴展：（1）加入了隱藏層（2）輸出多個神經(jīng)元（3）擴展了激活函數(shù)Sigmoid函數(shù)

SoftMax函數(shù)tanh

Relu

DeepNeuralNetworksDeepResidualNetwork-ResNet一般印象當(dāng)中，深度學(xué)習(xí)愈是深（復(fù)雜，參數(shù)多）愈是有著更強的表達能力。憑著這一基本準(zhǔn)則CNN分類網(wǎng)絡(luò)自Alexnet的7層發(fā)展到了VGG的16乃至19層，后來更有了Googlenet的22層。層數(shù)越多越好嗎？顯然并不是。CNN網(wǎng)絡(luò)達到一定深度后，再一味地增加層數(shù)并不能帶來進一步地分類性能提高，反而會招致網(wǎng)絡(luò)收斂變得更慢，測試集的分類準(zhǔn)確率也變得更差。排除數(shù)據(jù)集過小帶來的模型過擬合等問題后，發(fā)現(xiàn)過深的網(wǎng)絡(luò)仍然還會使分類準(zhǔn)確度下降。深度網(wǎng)絡(luò)的退化問題至少說明深度網(wǎng)絡(luò)不容易訓(xùn)練。但是我們考慮這樣一個事實：現(xiàn)在你有一個淺層網(wǎng)絡(luò)，你想通過向上堆積新層來建立深層網(wǎng)絡(luò)，一個極端情況是這些增加的層什么也不學(xué)習(xí)，僅僅復(fù)制淺層網(wǎng)絡(luò)的特征，即這樣新層是恒等映射（Identitymapping）。在這種情況下，深層網(wǎng)絡(luò)應(yīng)該至少和淺層網(wǎng)絡(luò)性能一樣，也不應(yīng)該出現(xiàn)退化現(xiàn)象。所以是目前的訓(xùn)練方法有問題，才使得深層網(wǎng)絡(luò)很難去找到一個好的參數(shù)。HeK,ZhangX,RenS,etal.DeepResidualLearningforImageRecognition[J].IEEE,2016.DeepResidualNetwork-ResNet殘差學(xué)習(xí)

Input:Residual:特征：

特征：

殘差學(xué)習(xí)相比原始特征直接學(xué)習(xí)更容易。當(dāng)殘差為0時，此時堆積層僅僅做了恒等映射，至少網(wǎng)絡(luò)性能不會下降。實際上殘差不會為0，這也會使得堆積層在輸入特征基礎(chǔ)上學(xué)習(xí)到新的特征，從而擁有更好的性能?！岸搪愤B接”（shortcuts，skipconnection）DenseNet更激進的密集連接機制：互相連接所有的層，即每個層都會接受其前面所有層作為其額外的輸入。HuangG,LiuZ,LaurensV,etal.DenselyConnectedConvolutionalNetworks[J].IEEEComputerSociety,2016.目錄三一

背景知識二

GAN的基本原理及衍生模型

GAN的應(yīng)用GAN的工作原理黑線：真實樣本綠線：生成樣本G藍(lán)線：判別模型D

對判別模型D的優(yōu)化：D(x)--大，D(G(z))--小對生成模型G的優(yōu)化：D(G(z))--大GoodfellowIJ,Pouget-AbadieJ,MirzaM,etal.GenerativeAdversarialNetworks[J].AdvancesinNeuralInformationProcessingSystems,2014,3:2672-2680.：真實圖像的分布

：生成圖像的分布GAN的變體王正龍,張保穩(wěn).生成對抗網(wǎng)絡(luò)研究綜述[J].網(wǎng)絡(luò)與信息安全學(xué)報,7(4):18.GAN的應(yīng)用場景DCGAN深度卷積生成對抗網(wǎng)絡(luò)（DeepConvolutionalGenerativeAdversarialNetwork）。參考論文：《UnsupervisedRepresentationLearningwithDeepConvolutionalGenerativeAdversarialNetworks》代碼地址：/eriklindernoren/Keras-GAN/blob/master/dcgan/dcgan.pyGAN的應(yīng)用場景YangLC,ChouSY,YangYH.MidiNet:AConvolutionalGenerativeAdversarialNetworkforSymbolic-domainMusicGeneration[J].2017.GAN的應(yīng)用場景標(biāo)簽-街景，標(biāo)簽-建筑物，黑白圖像-彩色圖像，俯拍圖-地圖，白天-晚上，輪廓-圖像GAN的應(yīng)用場景ZhuJY,ParkT,IsolaP,etal.UnpairedImage-to-ImageTranslationusingCycle-ConsistentAdversarialNetworks[J].IEEE,2017.https://junyanz.github.io/CycleGAN/學(xué)習(xí)GAN的基礎(chǔ)了解導(dǎo)數(shù)、概率、矩陣及其運算等基本數(shù)學(xué)知識熟悉不同算法，掌握調(diào)參的技巧，務(wù)實代碼功底提高自己的編程能力（比如刷LeetCode,/，codeforces,/）條件生成對抗網(wǎng)絡(luò)-CGAN

GAN和CGAN的生成器G的目標(biāo)函數(shù)超分辨率圖像復(fù)原生成對抗網(wǎng)絡(luò)-SRGAN從低分辨率(LowResolution)圖像中提取高分辨率(HighResolution)圖像稱為超分辨率(SuperResolution)。LedigC,TheisL,FHuszar,etal.Photo-RealisticSingleImageSuper-ResolutionUsingaGenerativeAdversarialNetwork[C]//IEEEComputerSociety.IEEEComputerSociety,2016.超分辨率圖像復(fù)原生成對抗網(wǎng)絡(luò)-