深度學(xué)習(xí)案例教程 教案3.2神經(jīng)網(wǎng)絡(luò)搭建_第1頁(yè)
深度學(xué)習(xí)案例教程 教案3.2神經(jīng)網(wǎng)絡(luò)搭建_第2頁(yè)
深度學(xué)習(xí)案例教程 教案3.2神經(jīng)網(wǎng)絡(luò)搭建_第3頁(yè)
全文預(yù)覽已結(jié)束

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

(p1)同學(xué)們大家好,我們來(lái)學(xué)習(xí)第二節(jié)神經(jīng)網(wǎng)絡(luò)搭建在神經(jīng)網(wǎng)絡(luò)搭建過(guò)程最核心的知識(shí)點(diǎn)就是前向傳播算法。(p2)那什么是前向傳播算法呢?它是forwardpropagation。它是指神經(jīng)網(wǎng)絡(luò)向前計(jì)算的過(guò)程。前向傳播算法會(huì)涉及到神經(jīng)網(wǎng)絡(luò)的輸入,神經(jīng)網(wǎng)絡(luò)的連接結(jié)構(gòu),以及每個(gè)神經(jīng)元的參數(shù),如圖,就是一個(gè)兩層的神經(jīng)網(wǎng)絡(luò)。比如說(shuō)像這個(gè)X1和X2,我們可以把它當(dāng)做成績(jī)分類(lèi)的兩個(gè)指標(biāo),經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)計(jì)算后。從Y1Y2是輸出成績(jī)的類(lèi)別。那么。在這個(gè)圖中,權(quán)重和隱藏層的神經(jīng)元的,它是右上角的1,它表示權(quán)重和神經(jīng)元的層號(hào)。也就是第一層的權(quán)重,以及第一層的神經(jīng)元。此外,權(quán)重的右下角有兩個(gè)數(shù)字,它們是后一層神經(jīng)元和前一層神經(jīng)元的索引號(hào),比如說(shuō)W12。表示前一層的第二個(gè)神經(jīng)元X2到后一層的第一個(gè)神經(jīng)元的權(quán)重。所以權(quán)重右下角是按照后一層的索引號(hào)、前一層的索引號(hào)的順序排列。(p3)那么為了確定前面的內(nèi)容。現(xiàn)在用這個(gè)數(shù)學(xué)公式A1的一次方啊,通過(guò)加權(quán)信號(hào)和偏置。按公式進(jìn)行計(jì)算,比如說(shuō)我們的A1的一次方等于啊,W11的一次方乘以X1,加上W12的一次方乘以X2加上be的一次方。那此外如果用矩陣的乘法進(jìn)行計(jì)算的話,用這個(gè)公式來(lái)進(jìn)行操作啊,比如A的一次方等于XW的1次方,加B的一次方。隱藏層的加權(quán)信號(hào)和偏值的總和用A表示,被激活函數(shù)轉(zhuǎn)換后的信號(hào)一般用Z表示。我們使用的sigmoid函數(shù)來(lái)進(jìn)行激活函數(shù)的轉(zhuǎn)換的信號(hào)。Z1等于sigmoid(A1)所用的激活函數(shù),要根據(jù)求解問(wèn)題的性質(zhì)去決定,比如一般回歸問(wèn)題可以使用恒等函數(shù)。二元分類(lèi)問(wèn)題可以用sigmod的函數(shù)啊,多元分類(lèi)問(wèn)題呢,我們可以使用softmax函數(shù)。關(guān)于激活函數(shù)的更多知識(shí)我們將在后續(xù)內(nèi)容中詳細(xì)講解(p4)在實(shí)際建模解成績(jī)及格分類(lèi)預(yù)測(cè)問(wèn)題時(shí),首先隨機(jī)初始化網(wǎng)絡(luò)模型的權(quán)重和偏置參數(shù),然后每次用訓(xùn)練數(shù)據(jù)計(jì)算得到一個(gè)預(yù)測(cè)值,接下來(lái)將預(yù)測(cè)值步與真實(shí)值y比較,如果相差較大,則通過(guò)反向傳播算法調(diào)整參數(shù)的取

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論