深度學習技術(shù)分析綜述目錄TOC\o"1-3"\h\u281深度學習技術(shù)分析綜述 125641.1深度學習概念 19561.2卷積神經(jīng)網(wǎng)絡(luò) 2226821.3Tensorflow框架 31.1深度學習概念深度學習是機器學習的一種，其中人工神經(jīng)網(wǎng)絡(luò)應(yīng)用的更多。深度學習模型一般是一個5層以上的結(jié)構(gòu)，在這個統(tǒng)計模型中，低層概念決定高層，不同的層有不同等級的概念。它的本質(zhì)是使用多個層次逐步從原始的輸入信息中獲取更高層次的特征，再將輸出信息傳遞給更高層次。在圖像處理領(lǐng)域中，原始輸入信息可以是像素矩陣，第一代表層可以獲取像素接著編碼邊緣信息；第二層較低層可以識別邊緣輪廓信息，較高層可以識別數(shù)字或面部等信息。與傳統(tǒng)圖像相比，深度學習的應(yīng)用需要在訓練方面投入大量時間，但可以通過這些時間，增強算法的可靠性，提高了處理速度。深度學習的源頭是人工神經(jīng)網(wǎng)絡(luò)（ANN）。它由神經(jīng)元激活函數(shù)、不同的神經(jīng)元相互連接的方式和網(wǎng)絡(luò)的學習方式這三要素組成，下圖表示了經(jīng)典的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包括輸入層（即網(wǎng)絡(luò)的第一層）、隱藏層（是處理信號的第二層，對輸入的數(shù)據(jù)進行處理，傳遞到下一層）、輸出層（即網(wǎng)絡(luò)的最后一層）。圖2-4是人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)圖。圖2-4人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖和我們的大腦一樣，非線性神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)結(jié)構(gòu)，每層都有許多神經(jīng)元，上層的神經(jīng)元與下層的神經(jīng)元的連接方式是激活函數(shù)，每個神經(jīng)元都有其重要的程度值，最后輸出分類結(jié)果。一個神經(jīng)元把信號當做神經(jīng)元的輸入，通過運算，輸出結(jié)果，得到的結(jié)果會成為下一個神經(jīng)元的輸入，或者成為最終的輸出。神經(jīng)元的激活函數(shù)可以表示為：（2-13）根據(jù)不同的情況，有sigmoid、Relu—用于隱藏層神經(jīng)元的輸出函數(shù)，還有Tanh等。人工神經(jīng)網(wǎng)絡(luò)會更改每一層神經(jīng)元經(jīng)過優(yōu)化處理得到的結(jié)果。1.2卷積神經(jīng)網(wǎng)絡(luò)近年來，卷積神經(jīng)網(wǎng)絡(luò)（CNN）是頻繁應(yīng)用于圖像的分類和查找、人臉識別、定位等領(lǐng)域的方法。它的核心內(nèi)容是對圖像像素分塊處理，這種處理方式增強了圖像信息的連貫程度。在卷積神經(jīng)網(wǎng)絡(luò)中，卷積層的神經(jīng)元只有一部分連接到上一層，這說明各神經(jīng)元之間不是完全連接，而且，同一層中的一些神經(jīng)元之間的連接的權(quán)重和偏移量是相同的，這大大減少了訓練參數(shù)的需要。卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)勢是訓練參數(shù)少、結(jié)構(gòu)簡單。卷積神經(jīng)網(wǎng)絡(luò)的層次結(jié)構(gòu)該卷積神經(jīng)網(wǎng)絡(luò)中有一個輸入輸出層和好幾個隱藏層，可分為卷積層，池化層、回歸層和完全連通層REF_Ref1065\r\h[9]，如圖2-5所示：圖2-5卷積神經(jīng)網(wǎng)絡(luò)層次結(jié)構(gòu)輸入層：CNN的輸入為原始圖像。卷積層：CNN的關(guān)鍵，卷積層里有一組濾波器或內(nèi)核。它們的感受野數(shù)值小，每個卷積核都有大量參數(shù)。從圖像的左上方連續(xù)做內(nèi)積處理，以獲取圖片的高維特征。池化層：輸出后的conv特征映射到下一個采樣操作，如減少參數(shù)數(shù)目的好處，防止過度擬合等。激活層：選擇relu激活函數(shù)，它帶來非線性概念。最后得到的結(jié)果會傳送給relu函數(shù)。全連接層：輸入為一維向量，然后將池化層的輸出結(jié)果展平成一維向量，然后傳遞到全連接層中，最后在輸出層進行分類。輸出層：用于輸出結(jié)果。（2）卷積神經(jīng)網(wǎng)絡(luò)的特點局部感知：即卷積核所擁有的像素空間，因為每個卷積核所籠罩的面積只有一小部分，是一個局部特征，所以是局部感知。權(quán)重共享：即卷積神經(jīng)網(wǎng)絡(luò)的卷積層，神經(jīng)元的權(quán)重值可以共同享用，所以減少了神經(jīng)網(wǎng)絡(luò)的參數(shù)數(shù)量，訓練的性能也大大的改善了。降采樣：也被叫做池化。在訓練過程中，不需要處理圖像的每一個細節(jié)，所以池化的作用就是提取，減小訓練數(shù)據(jù)的數(shù)量。池化的意義是降低分辨率，避免過度擬合的情況出現(xiàn)。1.3Tensorflow框架Tensorflow是Geogle在2015年發(fā)布的機器學習平臺，是一個使用數(shù)據(jù)流圖，用于大規(guī)模分布式數(shù)值計算的深度學習框架REF_Ref2812\r\hREF_Ref2812\r\h[10]，主要用于機器學習和神經(jīng)網(wǎng)絡(luò)方面的研究，因其運用靈活、計算速度快且擴展性好的特點，在圖像識別和神經(jīng)網(wǎng)絡(luò)等領(lǐng)域收到了廣泛關(guān)注。Tensorflow支持各種平臺，多處理器、移動設(shè)備，可以進行跨平臺處理；Tensorflow結(jié)構(gòu)通用，能支持很多網(wǎng)絡(luò)模型工作，性能很好，此外，Tensorflow結(jié)構(gòu)可以高度擴展?；赥ensorflow的神經(jīng)網(wǎng)絡(luò)：用張量來表示數(shù)據(jù)，用計算機圖來完成構(gòu)建，用會話運行計算圖，然后優(yōu)化權(quán)重值，最后得到模型，也就是先構(gòu)建一個計算圖，然后根據(jù)計算圖運行會話，在會話中對變量賦值，然后計算，最