16基于機(jī)器學(xué)習(xí)的車標(biāo)的識(shí)別系統(tǒng)的數(shù)據(jù)庫(kù)和信號(hào)采集設(shè)計(jì)案例目錄TOC\o"1-3"\h\u7831基于機(jī)器學(xué)習(xí)的車標(biāo)的識(shí)別系統(tǒng)的數(shù)據(jù)庫(kù)和信號(hào)采集設(shè)計(jì)案例 1202071.1引言 1111221.2系統(tǒng)的需求分析 146601.3信號(hào)采集的設(shè)計(jì) 7231011.4數(shù)據(jù)庫(kù)的生成和訓(xùn)練 9311391.5采集后的處理分析 111.1引言本章主要車標(biāo)識(shí)別系統(tǒng)進(jìn)行需求分析以及使用可行性分析，并探討在Matlab中使用SVM算法來(lái)獲取優(yōu)質(zhì)信號(hào)標(biāo)本，再將優(yōu)化處理的圖像標(biāo)本放入python的OpenCV中，用cv2.show函數(shù)展示出來(lái)，從而在VGG模型下的訓(xùn)練庫(kù)中進(jìn)行更好的測(cè)試和識(shí)別，提高準(zhǔn)確率。1.2系統(tǒng)的需求分析 假設(shè)有效容量有限鍛煉集D=QUOTE，QUOTE，為現(xiàn)有標(biāo)記的實(shí)驗(yàn)?zāi)Ｐ湾憻捈?，方式辨別的最簡(jiǎn)單的要求是根據(jù)鍛煉集D在多維分布空間內(nèi)計(jì)算得知一個(gè)分類超分布平面，使各種特征屬性的鍛煉試驗(yàn)樣品有一定依次。如下示意圖3-1所示，數(shù)個(gè)分類超分布平面里，兩大類鍛煉數(shù)據(jù)信息試驗(yàn)樣品“正中間”的分類超分布平面也就是為最優(yōu)化超分布平面，也就是圖1.1里黑色實(shí)線。由于這個(gè)分類超分布平面對(duì)全新的數(shù)據(jù)信息所形成的微觀轉(zhuǎn)變的“容忍”性最好。如果有已經(jīng)知道試驗(yàn)樣品其他的數(shù)據(jù)信息更接近兩大類試驗(yàn)樣品的分隔界，則其他它分類超分布平面把形成異常不同，而藍(lán)實(shí)線分類超分布平面所受干擾影響的最低。因此這個(gè)分類超分布平面所形成的辨別作用效果最好，對(duì)全新的數(shù)據(jù)信息的辨別作用效果更優(yōu)。圖3-1兩類訓(xùn)練樣本的多個(gè)劃分超平面在對(duì)車標(biāo)信號(hào)支持向量機(jī)的研究中，我們假設(shè)有一個(gè)?可以準(zhǔn)確識(shí)別信號(hào)。但在現(xiàn)實(shí)中，原始的信號(hào)空間內(nèi)可能無(wú)法得到一個(gè)好的車標(biāo)分類樣本的?。圖3-2從數(shù)學(xué)線性不可分到線性可分為了處理和解決及其以上問(wèn)題矛盾，可適當(dāng)提高信號(hào)的維度，分布空間從低調(diào)至稍微高一點(diǎn)，這樣方便車標(biāo)數(shù)據(jù)信號(hào)在全新的分布空間內(nèi)數(shù)學(xué)線性可分。如下示意圖3-2所示，如果把初始的分布平面分布空間交換至一個(gè)恰當(dāng)?shù)牧㈩}分布空間，就可以計(jì)算求解出一個(gè)恰當(dāng)?shù)?。如果車標(biāo)數(shù)據(jù)信號(hào)的初始分布維度有限，則能夠計(jì)算得知全新的高維分布空間使車標(biāo)數(shù)據(jù)信號(hào)數(shù)學(xué)線性可分。以下是一些常用的核函數(shù)，如表1.1所示。表1.1常用核函數(shù)一次SVM僅能夠?qū)崿F(xiàn)對(duì)數(shù)據(jù)的二分類，由此可見，若而面對(duì)多分類問(wèn)題的時(shí)候，則可能需組合數(shù)個(gè)模型進(jìn)行組合來(lái)對(duì)車標(biāo)信號(hào)進(jìn)行識(shí)別。當(dāng)然，線性化分有一定局限性。在實(shí)際中通常很難確定線性結(jié)果是否會(huì)影響特征的過(guò)度擬合。因而在這種情況中引入“軟間隔”，如圖3-3所示。圖3-3軟間隔核運(yùn)算函數(shù)、車標(biāo)數(shù)據(jù)信號(hào)映射以及車標(biāo)分布空間是依次匹配的。核運(yùn)算函數(shù)有關(guān)參參數(shù)的調(diào)整變化真實(shí)就是隱形地對(duì)核運(yùn)算函數(shù)展開調(diào)整變化，從而對(duì)特點(diǎn)映射展開改變。此同時(shí)，調(diào)節(jié)控制車標(biāo)數(shù)據(jù)信號(hào)特點(diǎn)分布空間的龐雜作用程度。車標(biāo)數(shù)據(jù)信號(hào)分布空間的分布維數(shù)確定了數(shù)學(xué)線性?的最高VC維，如果車標(biāo)數(shù)據(jù)信號(hào)分布空間分布維數(shù)非常高，最優(yōu)化?龐雜度就會(huì)比較大，針對(duì)鍛煉集辨別作用效果好但是兼容性能差；相反一樣建立。這兩大類實(shí)際狀況下獲取的SVM都不會(huì)對(duì)車標(biāo)數(shù)據(jù)信號(hào)有優(yōu)良的分類作用效果。從而要求明確恰當(dāng)?shù)暮诉\(yùn)算函數(shù)參數(shù)從而方便獲取合適的車標(biāo)數(shù)據(jù)信號(hào)分類分布空間，這樣一來(lái)才能夠獲取車標(biāo)分類作用功能好的SVM.懲戒系數(shù)C為判斷SVM分類作用效果的又一個(gè)干擾影響系數(shù)。其最高作用是在明確的車標(biāo)數(shù)據(jù)信號(hào)分布空間里轉(zhuǎn)變SVM的置信分布區(qū)間與實(shí)踐經(jīng)驗(yàn)風(fēng)險(xiǎn)的相對(duì)大小，以進(jìn)--步提升SVM的泛化作用功能。不相同車標(biāo)數(shù)據(jù)信號(hào)分布空間的最優(yōu)化系數(shù)數(shù)值有一定轉(zhuǎn)變，在某一個(gè)的車標(biāo)數(shù)據(jù)信號(hào)分布空間里，系數(shù)C的數(shù)值愈小可規(guī)避過(guò)模擬，但是辨別工作效率低；相反一樣.建立。因此，針對(duì)本次研究課題所成立的車標(biāo)數(shù)據(jù)信號(hào)數(shù)據(jù)信息集，為了獲取辨別最終結(jié)果良好的SVM，明確恰當(dāng)?shù)倪x用-一個(gè)恰當(dāng)?shù)膽徒湎禂?shù)C非常重要。為使SVM的分類辨別及系數(shù)尋優(yōu)更為快捷，出自中國(guó)臺(tái)灣區(qū)域的林智仁等分析研究工作人員綜合系統(tǒng)設(shè)計(jì)并且撰寫了LBSVM操作應(yīng)用軟件數(shù)據(jù)庫(kù)。Matlab應(yīng)用平臺(tái)支持LIBSVM操作應(yīng)用軟件數(shù)據(jù)庫(kù)的研發(fā)和使用，svmtrain編輯語(yǔ)句可實(shí)現(xiàn)了對(duì)SVM的鍛煉及其系數(shù)尋優(yōu)。懲戒影響因子C的實(shí)際大小由svntrain編輯語(yǔ)句的“-c”項(xiàng)判斷，默認(rèn)數(shù)值為1。其它調(diào)參項(xiàng)如下表1.2所示。表1.2普遍常用核函數(shù)的系數(shù)項(xiàng)伴隨著分析研究的深入、全面與建筑工程投資項(xiàng)目實(shí)踐經(jīng)驗(yàn)的累計(jì)，有關(guān)工作管理人員試圖運(yùn)用少數(shù)運(yùn)算方法對(duì)SVM的系數(shù)展開轉(zhuǎn)變與尋優(yōu)。遺傳運(yùn)算方法及分布網(wǎng)格搜查法是比較典型的兩大類模式。受自然選用理論思想的激發(fā)，科學(xué)研究行業(yè)領(lǐng)域逐漸探究出了全局優(yōu)化提高運(yùn)算方法，也就是遺傳運(yùn)算方法。GA隨機(jī)形成富含一定量個(gè)體的車標(biāo)數(shù)據(jù)信號(hào)SVM系數(shù)生物種群，對(duì)生物種群依作業(yè)環(huán)境(優(yōu)化提高作用效果)展開自然選用、并且針對(duì)生物種群展開生物學(xué)轉(zhuǎn)化，最后形成字代系數(shù)群體，持續(xù)往復(fù)，一直到實(shí)現(xiàn)了迭代更新，找到發(fā)現(xiàn)最為合理系數(shù)排列組合。流程圖如3-4所示。圖3-4基于GA的SVM系數(shù)優(yōu)化提高工作流程分布網(wǎng)格搜查法是機(jī)器設(shè)備學(xué)習(xí)里最初始的優(yōu)化提高運(yùn)算方法，使用這類應(yīng)用模式計(jì)算求解SVM的最優(yōu)化系數(shù)點(diǎn)是一類作用效果優(yōu)良的尋優(yōu)模式，能夠從數(shù)個(gè)系數(shù)分布維度對(duì)SVM展開優(yōu)化提高。分布網(wǎng)格搜查運(yùn)算方法的概念是把待尋優(yōu)系數(shù)于限定的系數(shù)分布空間內(nèi)區(qū)別為大小相同的分布網(wǎng)格，以后1次計(jì)算求解每一個(gè)分布網(wǎng)格相對(duì)應(yīng)系數(shù)數(shù)值的實(shí)驗(yàn)?zāi)Ｐ湾憻捵饔眯Ч＿@個(gè)系數(shù)優(yōu)化提高運(yùn)算方法理論簡(jiǎn)易、容易編輯翻譯。分布網(wǎng)格搜查法可應(yīng)用在優(yōu)化提高本次研究課題的實(shí)時(shí)動(dòng)態(tài)車標(biāo)支持SVM，其主要優(yōu)勢(shì)具體如下所示：(1)可以與此同時(shí)，對(duì)懲戒系數(shù)C、核系數(shù)2個(gè)系數(shù)數(shù)值展開遍歷尋優(yōu)，并且使兩組系數(shù)互不干預(yù)，可完成并行連接搜查。(2)在SVM系數(shù)搜查作用范圍相對(duì)明確的時(shí)候，互聯(lián)網(wǎng)搜查損耗的有效時(shí)間比較少。(3)計(jì)算得知的最優(yōu)化系數(shù)數(shù)值為系數(shù)分布空間的全局最優(yōu)合理解，不容易導(dǎo)致SVM停駐于某一地區(qū)的系數(shù)解。但是分布網(wǎng)格搜查法缺點(diǎn)不足亦然非常顯著，主要具體如下所示：(1)如果設(shè)立系數(shù)作用范圍比較多的時(shí)候，尋優(yōu)作用時(shí)間比較長(zhǎng)。(2)假如實(shí)踐經(jīng)驗(yàn)問(wèn)題不足，未限定恰當(dāng)?shù)南禂?shù)尋優(yōu)地區(qū)，相對(duì)其它系數(shù)尋優(yōu)模式，不容易計(jì)算得知二拓?fù)浣M成結(jié)構(gòu)SVM的最優(yōu)化系數(shù)數(shù)值。不難得知，分布網(wǎng)格搜查運(yùn)算方法事實(shí)上是一類窮舉的模式。本次研究課題使用這個(gè)運(yùn)算方法展開SVM尋優(yōu)的基本工作流程為：(1)跟據(jù)實(shí)踐經(jīng)驗(yàn)明確懲戒系數(shù)C、核系數(shù)待搜查的作用范圍。(2)固定各懲戒系數(shù)C、核系數(shù)檢測(cè)步長(zhǎng)，把懲戒系數(shù)C、核系數(shù)依步長(zhǎng)離散分布化，沿著懲戒系數(shù)C、核系數(shù)的步長(zhǎng)分別檢測(cè)，分布網(wǎng)格里的離散的點(diǎn)與之對(duì)應(yīng)不相同的系數(shù)數(shù)值。(3)在檢測(cè)最終結(jié)果里，選用最為合理系數(shù)點(diǎn)作為SVM最為合理系數(shù)。其流程圖如3-5所示。圖3-5根據(jù)分布網(wǎng)格搜查運(yùn)算方法的SVM尋優(yōu)工作流程針對(duì)以數(shù)學(xué)線性核為核運(yùn)算函數(shù)的SVM單系數(shù)優(yōu)化提高矛盾問(wèn)題，能夠應(yīng)用GA尋優(yōu)，經(jīng)一定數(shù)目的迭代更新之后，找到發(fā)現(xiàn)滿足適合度最優(yōu)等的懲戒影響因子C；而就多系數(shù)優(yōu)化提高矛盾問(wèn)題，GA和分布網(wǎng)格搜查法展開系數(shù)尋優(yōu)各有優(yōu)劣。分布網(wǎng)格搜查法常常固定了步長(zhǎng)，在規(guī)定要求的控制范圍里分別論證SVM的鍛煉準(zhǔn)確比例。對(duì)比于遺傳運(yùn)算方法，其論證了全局系數(shù)的SVM鍛煉準(zhǔn)確比例，不會(huì)落入局部最優(yōu)勢(shì)，并且SVM核運(yùn)算函數(shù)普遍常用的系數(shù)作用范圍不是尤其廣，并且常常把系數(shù)取對(duì)數(shù)并且增長(zhǎng)相對(duì)應(yīng)步長(zhǎng)分別論證，減少降低了鍛煉作用時(shí)間，提升了論證工作效率。但是分布網(wǎng)格搜查法步長(zhǎng)固定，在系數(shù)比較多的時(shí)候，其對(duì)數(shù)衰減作用的更加迅速，在不斷前行一致的步長(zhǎng)下系數(shù)增長(zhǎng)幅度太大，在相鄰的論證分布網(wǎng)格里，會(huì)發(fā)現(xiàn)不了2個(gè)分布網(wǎng)格間鍛煉作用效果更為的系數(shù)點(diǎn)。分布網(wǎng)格搜查法的功能優(yōu)勢(shì)是能夠宏觀鎖定“高原系數(shù)區(qū)”，如下3-6示意圖所示黃色地區(qū)所示，但是在微觀尋求局部“工作高峰系數(shù)點(diǎn)”上，也就是局部最優(yōu)勢(shì)上不具優(yōu)勢(shì)。圖3-6分布網(wǎng)格搜查法對(duì)“高原系數(shù)區(qū)”的宏觀鎖定1.3信號(hào)采集的設(shè)計(jì)為了提高訓(xùn)練效果，加強(qiáng)準(zhǔn)確率，收集的數(shù)據(jù)樣本要盡可能多一些。本研究擬對(duì)100條車標(biāo)圖像實(shí)況采集和處理。（100個(gè)樣本，80訓(xùn)練集，20測(cè)試集，4種車標(biāo)）。自Matlab6.0應(yīng)用版本起，MatlabGUI應(yīng)用平臺(tái)增添了機(jī)器設(shè)備操作控制箱(instrumentcontroltoolbox)，主要目的在于為RS-232/RS-485通訊基本準(zhǔn)則賦予有關(guān)的保障和支持，減少操作應(yīng)用軟件研發(fā)難度。經(jīng)過(guò)在這其中，的serial有關(guān)命令指示、使用串行接口專屬instrcallback()間斷，可完成串行連接通訊，并且具備具體如下所示優(yōu)勢(shì)：(1)兼容支持很多種不同串行連接機(jī)器設(shè)備(RS-232，RS-422，RS-485)的鏈接和通訊；(2)二進(jìn)制數(shù)據(jù)信息及信息文本(ASCII)數(shù)據(jù)信息兩大類通訊模式都受支持；(3)支持異步通訊及實(shí)時(shí)同步通訊；(4)支持根據(jù)意外突發(fā)事件聯(lián)動(dòng)的通訊(亦稱間斷模式)。GUI應(yīng)用平臺(tái)的串行接口通訊僅將數(shù)據(jù)信號(hào)自動(dòng)傳輸?shù)絇C處理終端，而其它作用功能都使用操作應(yīng)用軟件完成，所以使用GUI應(yīng)用平臺(tái)完成數(shù)據(jù)信息預(yù)先處理等作用功能較經(jīng)濟(jì)實(shí)用舊有傳統(tǒng)類型的串行接口通訊操作應(yīng)用軟件要簡(jiǎn)約，如果需要增添某一項(xiàng)作用功能，僅僅需要增添一個(gè)程序代碼功能模塊就可以完成，而不需要轉(zhuǎn)變通訊機(jī)器設(shè)備的鏈接與操作應(yīng)用軟件結(jié)構(gòu)。Matlab對(duì)車標(biāo)數(shù)據(jù)信號(hào)的收集整體上是使用serialU命令指示實(shí)現(xiàn)了，通常包括：4個(gè)操作應(yīng)用步驟：(1)創(chuàng)立串行接口或者通訊機(jī)器設(shè)備并且設(shè)立其特征屬性；(2)開啟串行接口或者通訊機(jī)器設(shè)備；(3)獲取串行接口或者通訊機(jī)器設(shè)備數(shù)據(jù)信息；(4)關(guān)停串行接口或者通訊機(jī)器設(shè)備。MatlabGUI頁(yè)面繪制設(shè)計(jì)好之后，會(huì)按照數(shù)據(jù)信息收集頁(yè)面里繪制設(shè)計(jì)的構(gòu)件把程序代碼劃分成為不相同的function功能模塊，產(chǎn)生初步基本上的程序代碼結(jié)構(gòu)，不相同的function相互之間波及影響到系數(shù)實(shí)時(shí)共享矛盾問(wèn)題，也就是全局變化量，本次研究課題數(shù)據(jù)信息收集體系涉及到的全局變化量如下圖3-7所示。圖3-7數(shù)據(jù)信息收集體系全局變化量部分本研究運(yùn)用的功能模塊，其名稱及功能如圖3-8所示。圖3-8GUI頁(yè)面圖的區(qū)域名稱及表現(xiàn)主要內(nèi)容在MATLAB按鈕的Callback函數(shù)下進(jìn)行編譯。但在這個(gè)過(guò)程中可能出現(xiàn)數(shù)據(jù)異?；蚴且绯?。所以在信號(hào)采集時(shí)需注意信號(hào)是否會(huì)發(fā)生過(guò)度飽和，若有數(shù)據(jù)溢出，則該數(shù)據(jù)無(wú)效，如果未出現(xiàn)這種情況，則可以繼續(xù)下一步。1.4數(shù)據(jù)庫(kù)的生成和訓(xùn)練本研究運(yùn)用Python中的Kears安裝TensorFlow進(jìn)行深度學(xué)習(xí)，再利用已有的VGG模型加以修改，如圖3-9所示，data為數(shù)據(jù)集，model是要學(xué)習(xí)得到的車標(biāo)模型。Vgg-16總共有16層，其中13個(gè)卷積層和3個(gè)全連接層，要經(jīng)過(guò)一次64個(gè)卷積核卷積，1次128個(gè)的卷積，2次3個(gè)512個(gè)的卷積，多次池化，要經(jīng)過(guò)三次全連接，整合所有的目標(biāo)特征，得到模型。VGG網(wǎng)絡(luò)圖形如圖3-10所示。以下是關(guān)于利用神經(jīng)網(wǎng)絡(luò)訓(xùn)練和調(diào)用函數(shù)的分析。圖3-9引入VGG模型圖3-10VGG16模型神經(jīng)網(wǎng)絡(luò)訓(xùn)練的本是底層采用了正向傳播和反向傳播來(lái)不斷地更新每一層的權(quán)重，試其輸出的結(jié)果更加接近樣本標(biāo)簽的值。而整個(gè)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的就是從輸入到輸出的映射，給出輸入，通過(guò)學(xué)習(xí)能夠以最小誤差去計(jì)算出輸出。無(wú)論是在回歸還是分類的模型中，有監(jiān)督的學(xué)習(xí)就是這個(gè)過(guò)程。神經(jīng)網(wǎng)絡(luò)的激活函數(shù)的選擇，在不同的神經(jīng)網(wǎng)絡(luò)層之中采用不同的激活函數(shù)的原因是因?yàn)椋荷窠?jīng)網(wǎng)絡(luò)的本質(zhì)就是找到輸入和輸出的關(guān)系，因此僅僅靠權(quán)重的線性組合并不能真正的幫助機(jī)器去學(xué)習(xí)到這個(gè)過(guò)程，并且在絕大多數(shù)的情況下神經(jīng)網(wǎng)絡(luò)的輸入和輸出是呈現(xiàn)非線性的關(guān)系，因此如果一個(gè)神經(jīng)網(wǎng)絡(luò)只有線性的部分，那么其神經(jīng)網(wǎng)絡(luò)的功能僅僅是學(xué)習(xí)簡(jiǎn)單的線性組合的關(guān)系，而不能學(xué)習(xí)到非線性的關(guān)系，因此為了保證神經(jīng)網(wǎng)絡(luò)在學(xué)習(xí)的過(guò)程中能夠?qū)W習(xí)到非線性的過(guò)程，因此在每一層的輸出后加上響應(yīng)的激活函數(shù)為了保證非線性。而激活函數(shù)的種類常見的有sigmoid,relu,tans，softmax等等。首先是Sigmoid函數(shù)，定義如圖3-11所示。它的值的區(qū)域是在（0，1）之間，因此在做一些分類的任務(wù)的時(shí)候常常在最后一層加上sigmoid函數(shù)來(lái)將結(jié)果均勻的分布到0-1之間因?yàn)榉诸惾蝿?wù)的輸出都是在0-1之間的。但是sigmoid函數(shù)的梯度變化在趨近于0或者1的時(shí)候是接近0的，因此在反向傳輸更新系數(shù)的時(shí)候在這種情況下容易發(fā)生梯度消失的現(xiàn)象從而無(wú)法反向更新權(quán)重。其次是Relu函數(shù)在x<0的時(shí)候Relu函數(shù)的值為0，在x>0的時(shí)候Relu函數(shù)的值是線性增長(zhǎng)的，因此和sigmoid激活函數(shù)相比,Relu函數(shù)不會(huì)發(fā)生梯度消失的現(xiàn)象并且其梯度的值要遠(yuǎn)遠(yuǎn)大于sigmoid和tan激活函數(shù)因此Relu函數(shù)常常用在中間層作為激活函數(shù)，在本次畢業(yè)設(shè)計(jì)所用到的VGG網(wǎng)絡(luò)中，除了最后一層用到的是softmax作為激活函數(shù)之外，中間層用到的都是relu函數(shù)。最后是tan激活函數(shù)，其形狀和sigmoid函數(shù)一樣，但是該函數(shù)是關(guān)于原點(diǎn)對(duì)稱的，因此和sigmoid函數(shù)相比其更能夠加快梯度的更新，而不會(huì)發(fā)生一上一下的現(xiàn)象，因?yàn)閳D片的數(shù)據(jù)是-128~128之間更加符合tan函數(shù)的要求。圖3-11sigmoid函數(shù)用卷積神經(jīng)網(wǎng)絡(luò)對(duì)收集的訓(xùn)練集進(jìn)行車標(biāo)的特征提取，在池化層中精確提取特征。池化層的作用是進(jìn)行數(shù)據(jù)的降維操作。我們?cè)谶M(jìn)行特征提取的誤差主要來(lái)自兩個(gè)方面：（1）是鄰域大小受限造成的估計(jì)值方差增大；（2）是卷積層參數(shù)誤差造成估計(jì)均值的偏移。此時(shí)我們通常是選取某個(gè)區(qū)域的最大值或均值來(lái)代替整個(gè)區(qū)域。本次設(shè)計(jì)采用的是max-pooling，也就是最大值池化，它減小上述所說(shuō)的第二種誤差，從而更多的保留了紋理信息。最后全連接層將各個(gè)數(shù)據(jù)和特征進(jìn)行整合，最終產(chǎn)生幾種分類，形成數(shù)據(jù)庫(kù)，也就是車標(biāo)庫(kù)。圖3-12為池化操作。圖3-12-1初次池化圖3-12-2再池化1.5采集后的處理分析由于實(shí)驗(yàn)的一些局限性，本次數(shù)據(jù)