基于正交設(shè)計下SVM滑坡變形時序回歸預(yù)測的超參數(shù)選擇第31卷第2期2010年2月巖土力學(xué)ROCKANDSOILMECHANICSVB1_3LNO2FEB20L0文章編號LLOO07598201002050307基于正交設(shè)計下SVM滑坡變形時序回歸預(yù)測的超參數(shù)選擇萬智1,2,董1沖南大學(xué)土木建筑學(xué)院,長沙4100752湖南省交通科學(xué)研究院,輝3劉寶琛長沙4100153湘潭大學(xué)土木工程與力學(xué)學(xué)院,湖南湘潭411105摘要超參數(shù)的選擇直接影響著支持向量機SVM的泛化性能和回歸效驗,是確保SVM優(yōu)秀性能的關(guān)鍵針對超參數(shù)窮舉搜索方法的難點,從試驗設(shè)計的角度,提出了正交設(shè)計超參選擇方法,并分析了基于混合核函數(shù)比單一核函數(shù)具有更好的收斂性和模型適應(yīng)性SVM各個超參數(shù)的取值范圍,選定了每個參數(shù)的試驗水平通過考慮參數(shù)問的正交性和交互性,選取最優(yōu)超參數(shù)組合下的SVM模型應(yīng)用該方法,對兩種典型滑坡位移時序的SVM建模進行了超參數(shù)組合正交優(yōu)化設(shè)計,獲得了精度高且泛化性能良好的滑坡預(yù)測模型,其試驗結(jié)果驗證了方法的可靠性正交設(shè)計超參選擇方法較之其他超參選擇法簡單實用,其高時效的特點更有助于SVM在實踐工程中的良好應(yīng)用關(guān)鍵詞正交設(shè)計支持向量機超參數(shù)時序回歸滑坡中圖分類號TU457文獻標(biāo)識碼AONCHOICEOFHYPERPARAMETERSOFSUPPORTVECTORMACHINESFORTIMESERIESREGRESSIONANDPREDICTIONWITHORTHOGONALDESIGNWANZHI一,DONGHUI,LIUBAOCHEN1SCHOOLOFCIVILANDARCHITECTURALENGINEENNG,CENTRALSOUTHUNIVERSITY,CHANGSHA410075,CHINA2HUNANCOMMUNICATIONSRESEARCHINSTITUTE,CHANGSHA410015,CHINA3COLLEGEOFCIVILENGINEERINGANDMECHANICS,XIANGTANUNIVEITY,XIANGTAN411105,CHINAABSTRACTSELECTIONOFTHEHYPERPARAMETERSISCRITICALTOTHEPERFORMANCEOFSUPPORTVECTORMACHINESSVM,DIRECTLYIMPACTINGTHEGENERALIZATIONANDREGRESSIONEFFICACYOFTHESVMANORTHOGONALEXPERIMENTALDESIGNPROCEDUREFORHYPERPARAMETERSELECTIONODPSISCLEARLYDESIRABLEGIVENTHEINTRACTABLEPROBLEMOFEXHAUSTIVESEARCHMETHODSTHEAUTHORSPREVIOUSWORKINTHISAREAINVOLVEDANALYZINGTHERANGEVALUEOFHYPERPARAMETERSFORSVMOFMIXEDKERNELWHICHHASBEENPROVEDANDSHOWEDAHIGHERCONVERGENCERATEANDAGREATERFLEXIBILITYINLEARNINGAPROBLEMSPACETHANSINGLEKERNELFUNCTIONS,ANDDETERMININGEXPERIMENTALLEVELSFORDIFFERENTPARAMETERSINORDERTOGUIDETHEHYPERPARAMETERSELECTIONPROCESSTHEMETHODSELECTSHYPERPARAMETERSOPTIMALCOMPOSITIONINTERMSOFORTHOGONALANDINTERACTIONEFFECTOFHYPERPARAMETERSTHERESULTSOFTHEPERFORMEDENGINEERINGEXPERIMENTSFORTHEPREDICTIONOFTWOTYPICALLANDSLIDEDEFORMATIONTIMESERIESCONFIRMEDTHERELIABILITYANDADVANTAGEOFTHEPROPOSEDAPPROACHKEYWORDSORTHOGONALDESIGNSUPPOVECTORMACHINESHYPERPARAMETERSTIMESERIESREGRESSIONLANDSLIDE1引言近年來,由于支持向量機SUPPORTVECTORMACHINES,SVM具有獨特的建模特征及優(yōu)秀的泛化性能,在解決回歸和分類問題方面得到了廣泛的應(yīng)用【卜然而,由于SVM模型的學(xué)習(xí)品質(zhì)取決于應(yīng)用者在具體應(yīng)用中的超參數(shù)設(shè)置或選擇包括懲罰參數(shù)C,核參數(shù)以及在回歸模型中損失函數(shù)的可調(diào)參數(shù),因此,對一給定的學(xué)習(xí)數(shù)據(jù)樣本,如何設(shè)置或調(diào)整SVM算法中超參數(shù)以確保模型的優(yōu)秀學(xué)習(xí)性能是應(yīng)用SVM在實踐工程的主要問題盡管一些方法給出了超參數(shù)優(yōu)化選擇的技巧615】,但迄今未有一個統(tǒng)一的方案,超參數(shù)選擇仍是SVM研究領(lǐng)域的一個開放性問題本文主要從試驗設(shè)計的角度為基于混合核函數(shù)MIXEDKERNELFUNCTIONSVM的時間序列回歸建模給出一種參數(shù)優(yōu)化選擇方案這種參數(shù)選擇方法可為工程實際應(yīng)用提供參考,以提高SVM建模效收稿日期200807一I1基金項目部交通建設(shè)科技項JNO200331880201第作者簡介萬智,男,1976年生,博士研究生,主要從事巖土工程領(lǐng)域的研究和設(shè)計T作EMAILZWANSOHUTOM504巖土力學(xué)2010在率,從而避免不良參數(shù)選擇下SVM性能降低的缺陷2支持向量機模型選擇支持向量機的模型選擇主要包括核函數(shù)的選擇以及超參數(shù)的設(shè)置選擇一個具有適當(dāng)復(fù)雜度的模型是非常重要的,它需要確保模型在計算上的需求和學(xué)習(xí)性能之間的平衡21核函數(shù)核函數(shù)方法是將研究的數(shù)據(jù)嵌入到一個合適的被稱為特征空間的向量空間,然后使用基于線性代數(shù),幾何學(xué)和統(tǒng)計學(xué)的算法,以尋找嵌入數(shù)據(jù)中的線性關(guān)系支持向量機是基于核函數(shù)學(xué)習(xí)的典型算法,其模型的一般性能很大程度上取決于核函數(shù)的選擇核函數(shù)在特征空間上必須表達成內(nèi)積的形式,這意味著核必須滿足MERCER條件SVM的常用核包括線性核,多項式核以及徑向基核等,由于不同的核函數(shù)對應(yīng)著不同的特征空間,核函數(shù)又可以被分為靜態(tài)核局部核和非靜態(tài)核全局核高斯徑向基核作為一種普適性較好的核函數(shù)被應(yīng)用在不同的研究領(lǐng)域,但也正因為普適性,使其針對具體應(yīng)用難以進一步提高模型的精度為此,一些復(fù)雜核被構(gòu)造出來以適應(yīng)不同應(yīng)用背景的SVM學(xué)習(xí)問題】,其中,混合核是一種不錯的選擇,混合核是將不同性質(zhì)的核函數(shù)通過某些封閉運算構(gòu)造出的復(fù)雜核它集合了不同性質(zhì)核函數(shù)的優(yōu)點,通過調(diào)節(jié)不同核的比例權(quán)重以適合不同研究背景的具體問題基于此,本文以多項式核和高斯徑向基核的混合核MPR作為SVM的核函數(shù)進行超參數(shù)選擇方法的研究MPR的具體表達式如下MPR11一PEXP一LLXY1I/2O1式中P為混合系數(shù)常量D為多項式核指數(shù)O為高斯核參數(shù)22超參數(shù)選擇方法在實際應(yīng)用中,兩種超參數(shù)選擇方法應(yīng)用較多,一種是通過試取不同參數(shù)組合,并使用驗證集的方式比較模型獲得較優(yōu)的超參值,由于在試取超參時帶有盲目性,方法的效率較低另一種是格網(wǎng)搜索方法GDDSEARCH,格網(wǎng)搜索是在確定參數(shù)取值范圍情況下,以一固定步距并行搜索超參值這種方法的關(guān)鍵是參數(shù)的搜索范圍與步距的確定當(dāng)搜索步距較小時,計算量大,且并行搜索方式?jīng)Q定了只能對較少的參數(shù)進行調(diào)整最近,一些其他超參選擇方法被提出并獲得了成功的應(yīng)用,這里主要介紹兩種實踐參數(shù)選擇CHERKASSKY和MA2002年J提出了直接根據(jù)訓(xùn)練樣本數(shù)據(jù)獲得支持向量回歸機SVR的超參數(shù)選擇方法他們通過分析相互關(guān)聯(lián)的超參數(shù),以經(jīng)驗的調(diào)整參數(shù)來獲得實踐參數(shù)選擇的一般指導(dǎo)原則,主要考慮基于高斯徑向基核下的SVM回歸模型超參選擇他們認(rèn)為,核寬度根據(jù)訓(xùn)練樣本數(shù)據(jù)中的輸入X的取值分布能夠較容易的得到,即單變量輸入時序為0105倍輸入X取值范圍多變量D維時序則在歸一化輸入XNO,L1范圍后,直接取0105內(nèi)的范圍值而超參選擇的重點主要為懲罰參數(shù)C和損失函數(shù)的值的確定兩種參數(shù)的推薦經(jīng)驗公式如下CMAXI一3ORI,L3OYI2/,Z3E38Y/4式中和,分別為輸出的平均值和標(biāo)準(zhǔn)差N為樣本數(shù),Z較小時,用式3確定當(dāng)N較大時,以式4計算值式3,4的使用需要預(yù)先確定訓(xùn)練數(shù)據(jù)中未知噪聲的水平盡管一些方法給出了解決的辦法,但在實踐應(yīng)用中,對未知噪聲水平的估計不可避免地會出現(xiàn)一定的偏差這就可能使不良的超參數(shù)被選擇,從而降低了SVM模型的一般性能參數(shù)自適應(yīng)選擇CHAPPELLE2000年【9】提出使用自動迭代調(diào)整超參以適應(yīng)多超參數(shù)選擇問題,方法的核心思想是通過梯度搜索方法遍尋超參以使模型具有最大分隔平面和最小估計誤差同樣,FRAUKE2005年10L利用進化方法確定多個超參值這種方法對多個超參的選擇具有較好的效果,但其計算時耗大3超參數(shù)試驗設(shè)計31正交設(shè)計SVM超參選擇的I7的實際上是尋找由超參組合下模型誤差曲面或超曲面的最小極值點極值點搜索的計算量較大,且隨著超參數(shù)數(shù)目增多,其時耗變得難以容忍然而,在實際應(yīng)用中,其實并不需要真正找到誤差曲面最小極值點,只需在滿足工程精度的前提下尋找到與誤差曲面極小值接近的模型超參組合即可這種超參數(shù)組合的搜索可看作是一種多因素多水平的試驗設(shè)計,為此,本文使用試驗設(shè)計中應(yīng)用較好的正交設(shè)計方法,優(yōu)化組合多個超參數(shù),以獲得一較優(yōu)的SVM模型第2劃萬智等基于正交設(shè)計下SVM滑坡變形時序回歸預(yù)測的超參數(shù)選擇505試驗設(shè)計是數(shù)理統(tǒng)計學(xué)的一個重要分支,主要討論如何合理地安排試驗以及對試驗所得的數(shù)據(jù)如何分析等試驗設(shè)計中的析因設(shè)計FACTORIALDESIGN用于分析兩個或多個因素的主效應(yīng)和交互效應(yīng)當(dāng)試驗只有兩個因素時,K個變量的兩水平全析因設(shè)計需要進行2次試驗因素或水平數(shù)的增多會增加析因設(shè)計的試驗次數(shù)為減少試驗次數(shù),一個非常自然的想法是,從析因設(shè)計的水平組合中選擇一喑分有代表性的水平組合進行試驗因此,就出現(xiàn)了分式析設(shè)計FRACTIONALFACTORIALDESIGNS正交試驗設(shè)計OHOGONALEXPERIMENTALDESIGN作為分式析因設(shè)汁的主要方法,它根據(jù)正交性從全面試驗中挑選出部分“均勻分散,齊整可比“的有代表性的點進行試驗,其作片J是只用較少的試驗次數(shù)就可以找出因素水平問的最優(yōu)搭配或由試驗結(jié)果通過計算推斷出最優(yōu)搭配正交設(shè)計由于試驗次數(shù)少,數(shù)據(jù)點分布均勻的特點,在實踐中獲得了廣泛的應(yīng)用32超參數(shù)取值范圍SVM模型的選擇包括核函數(shù)選擇和超參數(shù)設(shè)置由于性質(zhì)可調(diào)的MPR核函數(shù)具有全局性和局部性的優(yōu)點,能夠應(yīng)用到不同研究領(lǐng)域因此,本文的超參數(shù)選擇,主要是針對這一核函數(shù)而言從式1可知,基于MPR核的SVM有5個待定參數(shù)由于試驗設(shè)計需要確定每個參數(shù)的水平,為此,有必要先對各參數(shù)的取值范圍進行研究1高斯核參數(shù)高斯核寬度參數(shù)與輸入樣本數(shù)據(jù)集的維數(shù)相關(guān)J歸一化后的M維輸入數(shù)據(jù)在空間上形成一個M維的超立方體,任何處于超立方體內(nèi)的兩點距離不大于M,即高斯核中心點在超立方體內(nèi)的最大核函數(shù)寬度為,也就是的上界值對于的下界值,考慮到太小時,函數(shù)對中心點周圍的樣本點影響降低,無法從這些樣本點進行學(xué)習(xí),其下界值本文設(shè)定為M/IO在這一范圍內(nèi)能夠保證參數(shù)取值下SVM模型良好的一般性能2懲罰參數(shù)C參數(shù)C平衡SVM模型的精度和泛化性能C取較大值時,模型精度高,學(xué)習(xí)誤差較小反之,模型的支持向量數(shù)目減小,模型復(fù)雜度降低關(guān)于參數(shù)C和高斯核寬度的取值變化對模型的影響,有下面的試驗結(jié)論【J引模型趨于欠擬合情況固定參數(shù),而C0C取較小值且不變,而0C不變,2OO當(dāng)C取較大值且不變,而0時模型趨于過擬合從圖1可知,參數(shù)C和取值在滿足下式情況下可取得一般性能較好的SVM模型LGOLGCLGC5式中為線性建模C的取值,實際應(yīng)用中LGC的取值一般不是很大,本文直接取05,25范圍,由于參數(shù)的取值已知,C的取值范圍可由式5推算得到CMXLO一,MXLO3損失函數(shù)可調(diào)損失函數(shù)的參數(shù)設(shè)置需要與訓(xùn)練樣本的噪聲相匹配,而由于樣本中的噪聲是未知的,只能估計得出,本文基于實踐參數(shù)選擇方法中的式4,選擇/INN/N,5/1NN/N作為的取值范圍4權(quán)重P參數(shù)P是一個取值在0,1間的常數(shù),通過改變P值,調(diào)節(jié)多項式核與高斯核的權(quán)重分配,改變核的性質(zhì)以適應(yīng)不同的工程應(yīng)用背景研究5多項式核指數(shù)D多項式核指數(shù)D直接影響SVM的模型精度,隨著其階數(shù)的增加,模型容易出現(xiàn)過擬合情況本文選擇文獻1,5】內(nèi)的整數(shù)作為參數(shù)D的取值范圍C圖1參數(shù)C和取值變化時欠,過擬合的粗分界線FIG1THEBOUNDARYOFOVERANDILLFITTINGONCHANGEPARAMETERSCANDO33超參數(shù)選擇試驗設(shè)計為了觀察建模誤差效果,在正交設(shè)計試驗中,各個超參數(shù)的試驗水平不應(yīng)相隔太近或太遠,這里為每個超參數(shù)在其取值范圍內(nèi)適當(dāng)?shù)厝?個試驗水平,如表1所示表中M為輸入樣本維數(shù),以為訓(xùn)練樣本總數(shù),為輸出樣本標(biāo)準(zhǔn)差對全析因設(shè)計,5因素5水平需要進行53125次試驗而應(yīng)用正交設(shè)計,選擇L255正交表,只需要進行25次試驗顯然,大大減少了計算工作量506巖土力學(xué)2010表1超參數(shù)試驗水平取值TABLE1THEVALUESOFDIFFERENTLEVELSEXPERIMENTOFHWERDARAMETERS4試驗近年來,隨著社會經(jīng)濟的發(fā)展,我國大型工程建設(shè)項目日漸增多,在水電工程,高速公路,鐵路建設(shè)等領(lǐng)域,滑坡災(zāi)害發(fā)生頻繁,強度增大,每年都要造成重大的經(jīng)濟損失和人員傷亡,其危害性已嚴(yán)重影響到工程的安全建設(shè)和經(jīng)濟效益滑坡的變形或位移是滑坡破壞的重要反饋信息從某種意義上講,這種關(guān)聯(lián)著其他難以測定影響滑坡因素的位移時序,可以直接用來判斷滑坡的穩(wěn)定狀態(tài)或者進行滑坡的時間預(yù)報然而,滑坡作為一個受多種因素影響而發(fā)展演化的非線性動力系統(tǒng),由于不同背景下其誘發(fā)因素的隨機性和不可控制性,使現(xiàn)有的一些時序預(yù)測方法難以滿足工程實踐的需要本文基于SVNI算法,以正交試驗設(shè)計方法優(yōu)化選擇模型的超參數(shù)組合,對滑坡變形監(jiān)測時序進行回歸建模與外推預(yù)測41數(shù)據(jù)來源孫玉科將滑坡的變形時序分為4種類型LL制,本文選擇其中預(yù)測較復(fù)雜的勻速增速型和復(fù)合型兩種典型變形時序作為研究對象勻速增速型滑坡的滑移特征使得滑坡發(fā)生前采集加速突變后的位移數(shù)據(jù)較少,由于對近期位移變化的信息量反映不夠,其訓(xùn)練樣本分布信息的不完整使模型外推預(yù)測能力不強,尤其是當(dāng)預(yù)測時間尺度較大時,其預(yù)測精度難以滿足工程需要復(fù)合型滑坡位移時序具有周期性時滑時移的特征,在滑坡變形過程中隨著外界條件和因素的變化,逐步發(fā)展成一個完整的破壞過程由于變形過程復(fù)雜,滑坡對外界的擾動敏感,其建模預(yù)測具有一定的難度兩種滑坡位移時序的工程代表為臥龍寺新滑坡5裂縫變形和新灘滑坡A3點位移變形L1,見表242SVM超參數(shù)選擇正交試驗設(shè)計對兩組典型的滑坡變形時序,可以根據(jù)表1獲得5個超參數(shù)的取值范圍,并確定各個參數(shù)的試驗水平利用正交表L255進行SVM建模的參數(shù)試驗設(shè)置,對每組試驗的參數(shù)組合,使用SVM模型表2兩種典型的滑坡變形時間序列TABLE2THETWOLTLESERIESOFTYPICALLANDSLIDESDISPLACEMENTS時序名稱時序數(shù)據(jù)二維圖形臥龍寺勻速增速型變形時序滑坡5數(shù)據(jù)總數(shù)為42裂縫變訓(xùn)練樣本數(shù)為36形時序測試樣本數(shù)為6新灘復(fù)合型變形時序L滑坡A3數(shù)據(jù)總數(shù)為243監(jiān)測點訓(xùn)練樣本數(shù)為20裳時序測試樣本數(shù)為4的訓(xùn)練相對誤差和測試相對誤差作為預(yù)測模型的評估指標(biāo)考慮到超參數(shù)間的交互作用,正交表的表頭設(shè)計按照P,D,C安排正交試驗結(jié)果如表3所示為了便于試驗結(jié)果的比較,對兩組滑坡變形時序SVM建模的超參設(shè)置,本文也使用了另外3種超參選擇方法,分別為格網(wǎng)搜索試取法,在使用格網(wǎng)搜索,C三個參數(shù)的基礎(chǔ)上,對P,D進行試取建模實踐參數(shù)選擇法,利用單變量輸入時序及式2和式4推算出,C,通過調(diào)整P,D獲得SVM模型多種方法混合試取法,觀察多種參數(shù)選擇方法結(jié)果,有指導(dǎo)的試取超參值43試驗結(jié)果分析通過對表3中超參數(shù)正交設(shè)計結(jié)果分析,綜合考察各個超參數(shù)組合下的SVM模型的訓(xùn)練與測試誤差以及控制SVM容量的支持向量數(shù)目一些研究表明支持向量個數(shù)占總樣本數(shù)的5060時,模型的回歸精度與泛化性能得到較好的平衡,對兩組滑坡位移時序分別選擇出一組最好的超參組合,同時也應(yīng)用其他3種超參選擇方法得到的最優(yōu)超參進行SVM建模,結(jié)果列入表4本文的SVM建模沒有使用較好的動態(tài)在線預(yù)測方式,而是一步預(yù)測多個外推位移值,這主要是便于考察每種超參組合下模型的外推預(yù)測尺度表4的數(shù)據(jù)顯示,4種超參選擇方法中混合試取法由于是在多種參數(shù)選擇方法的基礎(chǔ)上,有目的地試取參數(shù),且對的控制較為嚴(yán)格,獲得的模型性能最好但這種方法實際上是有指導(dǎo)的試取,計算負(fù)擔(dān)較大實踐參數(shù)選擇下SVM建模的SV較少,不能完全表征樣本集的規(guī)律特征,這主要還是的參數(shù)取值問第2期萬智等基于正交設(shè)計下SVM滑坡變形時序回歸預(yù)測的超參數(shù)選擇題,也即對輸出數(shù)據(jù)中噪聲的估計仍有偏差的緣故在兩組滑坡變形時序的SVM建模試驗中,格網(wǎng)搜索試取法的參數(shù)搜索范圍選擇本文中已確定的超參值域,其搜索步距為2相比其他3種超參選擇法,盡管格網(wǎng)搜索試取法獲得的模型誤差較大,但由于參數(shù)搜索范圍以及步距選擇較為合理,其精度仍控制在9O左右正交設(shè)計將每一超參數(shù)試驗水平與其他超參的各個水平組合一次,這種“均勻分布,整齊可比“的試驗點設(shè)計,便于選擇出個參數(shù)不同水平的最優(yōu)組合設(shè)計中對5個超參數(shù)的5個試驗水平以正交的方式進行最優(yōu)搭配試驗,以較少的試驗次數(shù)25次,獲得了精度僅次于混合試取法的SVM模型,方法時效性較好從建模的支持向量個數(shù),也可看出正交設(shè)計參數(shù)選擇一FSVM模型的泛化性要強于其他3種方法,見圖2其中臥龍寺新滑坡位移時序6步外推,最大相對誤差為1176,而4步外推新灘滑坡的最大相對誤差為815需要注意的是,盡管混合方法試取超參的SVM模型最優(yōu),但由于建模的支持向量個數(shù)較多,模型的泛化性能受到了限制從圖2中可以看出,隨著外推預(yù)測尺度增大,SVM模型精度迅速降低這表現(xiàn)在新灘滑坡的4步外推預(yù)測,模型的預(yù)測誤差僅為正交設(shè)計方法的一半弱,而在臥龍寺新滑坡的6步外推預(yù)測,混合試取法與正交設(shè)計的外推預(yù)測平均誤差已相差不大,分別為649和756,且前者的最大相對誤差為1328,高于后者的L176總的來看,在本文確定的超參數(shù)取值范圍以及試驗水平的基礎(chǔ)上,正交設(shè)計超參選擇法以較小的計算代價獲得了滿足工程精度的SVM模型兩組滑坡位移時序外推精度分別為9244和9432,解決了窮舉搜索,格網(wǎng)搜索以及試取法選擇超參數(shù)中模型學(xué)習(xí)性能不穩(wěn)定與計算量大的問題方法的高時效特點有助于SVM在實踐工程中的良好應(yīng)用表3兩組滑坡位移時序SVM建模超參數(shù)組合選擇的正交試驗設(shè)計TABLE3THERESULTSOFORTHOGONALDESIGNONSVMHYPERPARAMETERSFORTWOGROUPSTIMESERIESOFLANDSLIDEDISPLACEMENTS注為支持向量數(shù)研M為訓(xùn)練或回歸擬合相對誤差E為測試或外推預(yù)測相對誤差508巖土力學(xué)2010住格網(wǎng)搜索試取法實踐參數(shù)選擇法正交試驗設(shè)計法多種方法混合試取0703535010341505O56230607070OO313OO937OO31200100325600L70015101054051000000625435130900399009870503304018693316231600L7600756070562301245340000290014800649070353500100364000449LOO53162341850016007797O08581200859L7002160O6190057500568002010_3OO_25020015O10OO5O5結(jié)語新灘滑坡A3監(jiān)測點變形時序臥龍寺新滑坡5裂縫變形時序圃網(wǎng)麗回歸ARE外推最小誤差外推最大誤差外推ARE回歸ARE外推最小誤差外推最大誤差外推ARE圖24種超參數(shù)選擇方法對兩組滑坡變形時序的SVM建模結(jié)果比較FIG2THECOMPARISONOFSVMMODELINGUSEFOURHYPERPARAMETERSSELECTIONMETHODSFORTWOGROUPSDEFORMATIONTIMESERIESOFLANDSLIDES超參數(shù)選擇是支持向量機研究領(lǐng)域的一個開放性問題不同核函數(shù)和損失函數(shù)的應(yīng)用使超參選擇更加復(fù)雜實踐工程SVM應(yīng)用中,不良參數(shù)的選擇極大地降低了模型的一般性能本文針對核函數(shù)MPR背景下的SVM超參數(shù)選擇問題,從正交試驗設(shè)計的角度,對不同超參的多個取值水平進行組合試驗,與其他超參搜索方法相比,正交設(shè)計方法以較少的試驗次數(shù)獲得了精度較高,泛化性能良好的SVM模型通過對兩組典型滑坡位移時序的回歸預(yù)測試驗中,很好地驗證了這種超參選擇方法的可靠性,在很大程度上避免SVM建模中超參選擇的盲目性,確保方法實際運用的成功率【234】參考文獻VAPNIKVSTATISTICALLEARNINGTHEORYMNEWYORKWILEY,1998JOHNSHAWETAYLOR,NELLOCRISTIAN1NIKERNELMETHODSFORPATTERNANALYSISMCAMBRIDGECAMBRIDGEUNIVERSITYPRESS,2004SCHOLKOPFB,SMOLAALEARNINGWITHKERNELSMCAMBRIDGEMITPRESS,2002SMITSGF,JORDAANEMIMPROVEDSVMREGRESSIONUSINGMIXTURESOFKERNELSC/PROCOFIJCNN02ONNEURALNETWORKSHAWAIIIEEEPRESS,2002,327852790【5ZHENGSHENG,LIUJIAN,TIANJINWENANEFFICIENTSTARACQUISITIONMETHODBASEDONSVMWITHMIXTURESOFKERNELSJPATTERNRECOGNITIONLETTERS,2005,261471656】USTISNB,MELSSENWJ,OUDENHUIJZENM,ETA1DETERMINATIONOFOPTIMALSUPPOVECTORREGRESSIONPARAMETERSBYGENETICALGORITHMSANDSIMPLEXOPTIMIZATIONJANA1CHIMACTA,2005,5441/22923057】CHERKASSKYVLADIMIR,MAYANQIANPRACTICALSELECTIONOFSVMPARAMETERSANDNOISEESTIMATIONFORSVMREGRESSIONJNEURALNETWORKS,2004,1711131268】ATHANASSIACHALIMOURDA,SCHOLKOPFB,SMOLAALEXJEXPERIMENTALLYOPTIMAVINSUPPOVECTORREGRESSIONFORDIFFERENTNOISEMODELSANDPARAMETERSETTINGSJNEURALNETWORKS,2004,171127141【9】CHAPELLEO,VAPNIKBOUSQUETO,ETA1CHOOSEMULTIPLEPARAMETERSFORSUPPOVECTORMACHINESJMACHLEARN,2002,461131159下轉(zhuǎn)第515頁第2期高廣運等分層土中群樁水平動力阻抗的改進計算5L5【2】【3】【4】【5】【6【7】8】參考文獻POULOSHGANALYSISOFTHESETTLEMENTOFPILEGROUPSJGEOTECHNIQUE,1988,384449471KAYNIAM,KAUSELEDYNAMICSTIFFNESSANDSEISMICRESPONSEOFPILEGROUPSRCAMBRIDGEMASSACHUSETTSINSTITUTEOFTECHNOLOGY,1982DOBRYRGAZETASGSIMPLEMETHODFORDYNAMICSTIFFNESSANDDAMPINGOFFLOATINGPILEGROUPSJGEOTECHNIQUE,L988,384557574MAKRISNGAZETASGDYNAMICPILESOILPILEINTERACTION,PARTIILATERALANDSEISMICRESPONSEJEARTHQUAKEENGINEERINGANDSTRUCTUREDYNAMICS,1992,2L2145162GAZETASGFANK,KAYNIAADYNAMICRESPONSEOFPILEGROUPSWITHDIFFERENTCONFIGURATIONJSOILDYNAMICSANDEARTHQUAKEENGRG,1993,12239257蒯行成,沈蒲生層狀介質(zhì)中群樁水平動力阻抗的簡化計算方法【J】振動_T程,1998,113258264KUAIXINGCHENG,SHENPUSHENGSIMPLIFIEDMETHODFORCALCULATINGHORIZONTALDYNAMICIMPEDANCESOFPILEGROUPSINLAYEREDMEDIAJJOURNALOFVIBRATIONENGINEERING,1998,1L3258264湯斌,陳曉平群樁效應(yīng)有限元分析J巖土力學(xué),2005,262299302TANGBIN,CHENXIAOPINGFINITEELEMENTANALYSISOFEFFECTOFPILEGROUPJROCKANDSOILMECHANICS,2005,262299302林皋,欒茂田,陳懷海土結(jié)構(gòu)相互作用對高層建筑非線性地震反應(yīng)的影響J土木工程,1993,2641一】3上接第508頁10】FRAUKEFRIEDCHS,CHRISTIANIGELEVOLUTIONARYTUNINGOFMULTIPLESVMPARAMETERSJNEUROCOMPUTING,2005,641107117【11SHINMDESIGNANDEVALUATIONOFRADIALBASISFUNCTIONMODELSFORFUNCTIONAPPROXIMATIONDNEWYORKSYRACUSEUNIVERSI199812】DUANK,KEERTHISS,POOANEVALUATIONOFSIMPLEPERFORMANCEMEASURESFORTUNINGSVMHYPERPARAMETERSJNEUROCOMPUTING,2003,514159【13】KEERTHISS,LINCJASYMPTOTICBEHAVIORSOFSVMWITHGAUSSIANKERNELJNEURALCOMPUTATION,2003,LINGAO,LUANMAOTIAN,CHENHUAIHAIS