1、Extreme Learning Machine,極限學(xué)習(xí)機(jī),目錄,背景介紹 ELM理論基礎(chǔ) ELM數(shù)學(xué)模型 ELM學(xué)習(xí)算法 AUV避障原理 基于ELM自主導(dǎo)算法航的基本構(gòu)想,背景介紹,2006年由南洋理工大學(xué)黃廣斌副教授提出。 極限學(xué)習(xí)機(jī)是一種基于單隱層前向饋神經(jīng)網(wǎng)絡(luò)(single-hidden layer feed forward neural network)簡(jiǎn)單易用、有效的學(xué)習(xí)算法。 傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法需要人為設(shè)置大量的網(wǎng)絡(luò)訓(xùn)練參數(shù)，并且很容易產(chǎn)生局部最優(yōu)解。 極限學(xué)習(xí)機(jī)只需要設(shè)置網(wǎng)絡(luò)的隱層節(jié)點(diǎn)個(gè)數(shù)，在算法執(zhí)行過(guò)程中不需要調(diào)整網(wǎng)絡(luò)的輸入權(quán)值以及隱元的偏置，并且產(chǎn)生唯一的最優(yōu)解，因此

2、具有學(xué)習(xí)速度快且泛化性能好的優(yōu)點(diǎn)。,目錄,背景介紹 ELM理論基礎(chǔ) ELM數(shù)學(xué)模型 ELM學(xué)習(xí)算法 AUV避障原理 基于ELM自主導(dǎo)算法航的基本構(gòu)想,單隱含層前饋神經(jīng)網(wǎng)絡(luò)（SLFN）,ELM理論基礎(chǔ),單隱含層前饋神經(jīng)網(wǎng)絡(luò)(SLFM)具有良好的學(xué)習(xí)能力，因此應(yīng)用廣泛。 但是，傳統(tǒng)的學(xué)習(xí)算法有自身的缺陷，這些缺陷限制了SLFN的發(fā)展。 傳統(tǒng)學(xué)習(xí)算法的缺點(diǎn)：（1）訓(xùn)練速度慢；（2）不容易得到全局最優(yōu)解；（3）學(xué)習(xí)率選擇敏感； 基于此，極限學(xué)習(xí)機(jī)(ELM)應(yīng)運(yùn)而生。,ELM理論基礎(chǔ),ELM理論基礎(chǔ),ELM學(xué)習(xí)算法的優(yōu)點(diǎn)： (1)訓(xùn)練速度快 (2)能獲得全局最優(yōu)解 (3)具有良好的泛化性能 解釋?zhuān)核^泛

3、化能力（generalization ability）是指機(jī)器學(xué)習(xí)算法對(duì)新鮮樣本的適應(yīng)能力。,目錄,背景介紹 ELM理論基礎(chǔ) ELM數(shù)學(xué)模型 ELM學(xué)習(xí)算法 AUV避障原理 基于ELM自主導(dǎo)算法航的基本構(gòu)想,ELM數(shù)學(xué)模型,ELM數(shù)學(xué)模型,給定N個(gè)學(xué)習(xí)樣本矩陣,給定構(gòu)造網(wǎng)絡(luò)的L個(gè)單隱層節(jié)點(diǎn)和單隱層節(jié)點(diǎn)勵(lì),函數(shù),一般情況下：,因此ELM數(shù)學(xué)模型可表示為：,ELM數(shù)學(xué)模型,其中：j=1,2,3.N;,所有輸入與第 i 個(gè)節(jié)點(diǎn)連接權(quán)重,所有輸出與第 i 個(gè)節(jié)點(diǎn)連接權(quán)重,寫(xiě)成矩陣的表示方式就是：,ELM數(shù)學(xué)模型,ELM數(shù)學(xué)模型,寫(xiě)成矩陣的表示方式就是：,H為網(wǎng)絡(luò)隱層輸出矩陣。當(dāng)給任意定w 和b時(shí)則：,

4、ELM數(shù)學(xué)模型,總結(jié)，由上面所述，我們可以看出： 只要一次設(shè)定隱含層參數(shù)L、激勵(lì)函數(shù)、權(quán)值w和偏移量b，無(wú)須調(diào)整。因此，網(wǎng)絡(luò)的訓(xùn)練速度得到極大提高。,目錄,背景介紹 ELM理論基礎(chǔ) ELM數(shù)學(xué)模型 ELM學(xué)習(xí)算法 AUV避障原理 基于ELM自主導(dǎo)算法航的基本構(gòu)想,由前面的分析我們可知，ELM訓(xùn)練之前，可以隨機(jī)產(chǎn)生 ，只需要確定隱含層神經(jīng)元個(gè)數(shù)和激勵(lì)函數(shù) ，即可計(jì)算出 確定隱含層神經(jīng)元個(gè)數(shù) 隨機(jī)設(shè)定輸入層和隱含層連接權(quán)值 與隱含層神經(jīng)元偏置 選擇一個(gè)無(wú)限可微的函數(shù) 作為激勵(lì)函數(shù)，計(jì)算隱含層輸出矩陣 計(jì)算輸出層權(quán)值：,ELM學(xué)習(xí)算法,ELM學(xué)習(xí)算法,ELM學(xué)習(xí)算法的一般步驟：,目錄,背景介紹 ELM理論基礎(chǔ) ELM數(shù)學(xué)模型 ELM學(xué)習(xí)算法 AUV避障原理 基于ELM自主導(dǎo)算法航的基本構(gòu)想,AUV避障原理,AUV硬件架構(gòu),工業(yè)控制機(jī),PC104,協(xié)議轉(zhuǎn)換板,串口卡,DVL 聲納 陀螺儀 HARS,推進(jìn)器 系統(tǒng),參數(shù)采 集系統(tǒng),CAN總線(xiàn),感知器官,行動(dòng)器官,大腦,AUV避障原理,AUV模塊流程圖,AUV避障原理,基于人工勢(shì)場(chǎng)法避障行為設(shè)計(jì),AUV避障原理,AUV避障原理,基于