17.1無約束優(yōu)化的一維搜索方法

在上一章中已經(jīng)提出數(shù)學(xué)規(guī)劃法的迭代公式：這個(gè)過程就稱為一維搜索。下一頁返回17.1無約束優(yōu)化的一維搜索方法

上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

a

(k)為一維搜索最佳步長(zhǎng)因子，應(yīng)滿足：上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

對(duì)于函數(shù)關(guān)系復(fù)雜、求導(dǎo)困難或得不到

顯式表達(dá)式的情況，用解析法求解將非常困難，因此一維搜索主要還是采用數(shù)值解法。數(shù)值解法的主要思路是：先確定極小點(diǎn)所在的搜索區(qū)間，該區(qū)間應(yīng)為單峰區(qū)間，即在該區(qū)間內(nèi)目標(biāo)函數(shù)只有一個(gè)極小值；然后求出該區(qū)間內(nèi)的，求解的方法可采用區(qū)間消去原理不斷縮小搜索區(qū)間，從而獲得*的數(shù)值近似解。1.搜索區(qū)間的確定與區(qū)間消去原理（1）確定搜索區(qū)間的外推法一維搜索時(shí)，為了確定極小點(diǎn)所在的單峰區(qū)間[a,b]，應(yīng)使函數(shù)f(

)在[a,b]區(qū)間里形成“高—低—高”的趨勢(shì)，如圖17

1所示，即區(qū)間始點(diǎn)、中間點(diǎn)和終點(diǎn)123＜，所對(duì)應(yīng)的函數(shù)值123f(

)＞f(

)＜。確定搜索區(qū)間可以采用外推法，其程序框圖如圖17

2所示。上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

此時(shí)y3＞y2，故即所求初始單峰區(qū)間：上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

（2）區(qū)間消去法原理在搜索區(qū)間[a,b]內(nèi)任取兩點(diǎn)計(jì)算函數(shù)值于是將有下列三種可能情形：上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

2.黃金分割法確定了單峰區(qū)間[a,b]后，一維搜索的任務(wù)就是求函數(shù)在該區(qū)間上的極小值。黃金分割法適用于[a,b]區(qū)間上任何單谷函數(shù)求極小值的問題，又稱0.618法。它通過對(duì)黃金分割點(diǎn)函數(shù)值的計(jì)算和比較，將初始區(qū)間逐次進(jìn)行縮短，當(dāng)區(qū)間縮短到規(guī)定的足夠小的程度時(shí)，就得到區(qū)間上極小點(diǎn)的近似黃金分割法要求插入點(diǎn)1的位置相對(duì)于區(qū)間[a,b]兩端點(diǎn)具有對(duì)稱性，即解。上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

式中，λ為待定常數(shù)。黃金分割法還要求每次區(qū)間縮短都有相同的縮短率，即在保留下來的區(qū)間內(nèi)再插入一點(diǎn)所形成的區(qū)間新三段，與原來區(qū)間的三段具有相同的比例分布，如圖17

3所示。故有所謂黃金分割，就是指將一條線段分成兩段后，整段與較長(zhǎng)段的長(zhǎng)度比值等于較長(zhǎng)段與較短段的長(zhǎng)度比值，即上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

按照這樣的取點(diǎn)規(guī)則，黃金分割法的縮短率也為0.618。為了使最終區(qū)間收縮到預(yù)定的迭代精度ε以內(nèi)，區(qū)間縮短的次數(shù)N必須滿足：黃金分割法的搜索過程是：①給出初始搜索區(qū)間[a,b]及收斂精度ε，將λ賦以0.618。②按坐標(biāo)點(diǎn)計(jì)算公式（17

2）中的1和2，并計(jì)算其對(duì)應(yīng)的函數(shù)值1f(

)、2f(

)。③根據(jù)區(qū)間消去法原理縮短搜索區(qū)間。④檢查區(qū)間是否縮短到足夠小和函數(shù)值收斂到足夠近，如果條件不滿足，則返回到步驟②。⑤如果條件滿足，則取最后兩試驗(yàn)點(diǎn)的平均值作為極小點(diǎn)的數(shù)值近似解。上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

【例17

3】對(duì)于函數(shù)，給定初始搜索區(qū)間為[1,7]，迭代精度試用黃金分割法求其極小點(diǎn)解：①計(jì)算插入點(diǎn)。條件不滿足，需進(jìn)一步縮短區(qū)間。依次迭代下去，計(jì)算過程見表17

1。上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

迭代到第6次，區(qū)間長(zhǎng)度：迭代終止。3.二次插值法在某一確定區(qū)間內(nèi)尋求函數(shù)的極小點(diǎn)，可以根據(jù)已有的若干點(diǎn)處的函數(shù)信息（包括函數(shù)值、導(dǎo)數(shù)值等），利用插值方法建立與目標(biāo)函數(shù)近似的插值多項(xiàng)式，然后用多項(xiàng)式函數(shù)的極小點(diǎn)作為原函數(shù)極小點(diǎn)的近似值。經(jīng)過一系列的迭代，多項(xiàng)式函數(shù)的極小點(diǎn)與原來函數(shù)極小點(diǎn)之間的距離逐漸縮小，直到滿足一定的精度要求時(shí)迭代終止。這種方法就稱作插值方法，又稱作函數(shù)逼近法。上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

圖17

4上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

【例17

4】試用二次插值法求函數(shù)f(

)

(的極小點(diǎn)，給定初始區(qū)間為[1,7]，迭代精度ε=0.01。上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

解：①計(jì)算初始插值點(diǎn)及其函數(shù)值。②計(jì)算二次插值函數(shù)的極小點(diǎn)及極小值。上一頁下一頁返回17.1無約束優(yōu)化的一維搜索方法

③縮短區(qū)間。上一頁返回17.2多維無約束優(yōu)化方法多維無約束優(yōu)化問題是：求n維設(shè)計(jì)變量使目標(biāo)函數(shù)f(x)→min，而對(duì)x沒有任何限制條件。盡管實(shí)際中幾乎所有的設(shè)計(jì)問題都是有約束的，但無約束優(yōu)化方法仍然是優(yōu)化技術(shù)中最重要和最基本的內(nèi)容之一。原因是它不僅可以直接用來求解無約束優(yōu)化問題，而且約束優(yōu)化問題也常?？梢酝ㄟ^某種途徑轉(zhuǎn)化為無約束優(yōu)化問題來求解。此外，有些約束優(yōu)化方法，還可以借助無約束優(yōu)化方法的思想來進(jìn)行構(gòu)造。下一頁返回17.2多維無約束優(yōu)化方法1.最速下降法優(yōu)化設(shè)計(jì)是追求目標(biāo)函數(shù)f(x)最小，因此，一個(gè)很自然的想法是從某點(diǎn)x(k)出發(fā)，沿著該點(diǎn)的負(fù)梯度方向f(x搜索，使目標(biāo)函數(shù)在該點(diǎn)附近下降最快，因此稱這種方法為最速下降法，又稱為梯度法。其迭代的算法是：上一頁下一頁返回17.2多維無約束優(yōu)化方法根據(jù)一元函數(shù)極值的必要條件和多元復(fù)合函數(shù)求導(dǎo)公式，得由此可知，在最速下降法中，相鄰兩個(gè)迭代點(diǎn)上的函數(shù)梯度相互垂直，也就是相鄰兩個(gè)搜索方向是互相垂直的，如圖17

5所示。從圖中可以直觀地看出，在遠(yuǎn)離極小點(diǎn)的地方，每次迭代可使函數(shù)值有較多的下降；在接近極小點(diǎn)的位置，迭代行進(jìn)的距離縮短，收斂速度也就減慢，因而最速下降法的收斂速度并不快。這是因?yàn)樘荻仁呛瘮?shù)的局部性質(zhì)，函數(shù)在迭代點(diǎn)x(k)的負(fù)梯度方向僅僅是在x(k)點(diǎn)處為最速下降方向，一旦離開了該點(diǎn)，原先的方向就不再是最速下降方向了。上一頁下一頁返回17.2多維無約束優(yōu)化方法【例17

5】求目標(biāo)函數(shù)解：函數(shù)的梯度為上一頁下一頁返回17.2多維無約束優(yōu)化方法沿負(fù)梯度方向進(jìn)行一維搜索，有上一頁下一頁返回17.2多維無約束優(yōu)化方法根據(jù)極值存在的必要條件：繼續(xù)搜索下去，計(jì)算過程見表17

2。上一頁下一頁返回17.2多維無約束優(yōu)化方法搜索到第8次：2.共軛梯度法（1）共軛方向的概念上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法（2）共軛方向的性質(zhì)上一頁下一頁返回17.2多維無約束優(yōu)化方法共軛方向法就是建立在性質(zhì)3基礎(chǔ)上的。如果一種迭代方法能使二次函數(shù)在有限次迭代內(nèi)達(dá)到極小點(diǎn)，則稱這種迭代方法是二次收斂的，因此共軛方向法具有二次收斂性。提供共軛向量系的方法有許多種，比如共軛梯度法就是每個(gè)共軛向量都是依賴于迭代點(diǎn)處的負(fù)梯度構(gòu)造出來的，而鮑威爾法則是直接利用函數(shù)值來構(gòu)造共軛方向的。（3）共軛梯度法考慮二次函數(shù)：上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法再沿d(2)方向繼續(xù)進(jìn)行一維搜索，如此繼續(xù)下去，可得共軛方向的遞推公式。沿著這些共軛方向一直搜索下去，直到最后迭代點(diǎn)處梯度的模小于給定允許值為止。若目標(biāo)函數(shù)為非二次函數(shù)，經(jīng)n次搜索還未達(dá)到最優(yōu)點(diǎn)時(shí)，則以最后得到的點(diǎn)作為初始點(diǎn)，重新計(jì)算共軛方向，一直到滿足精度要求為止。上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法3.牛頓型方法在最速下降法中，只用到了目標(biāo)函數(shù)的一階導(dǎo)數(shù)信息來確定搜索方向，如果能用函數(shù)的二階導(dǎo)數(shù)信息，就可以對(duì)函數(shù)進(jìn)行更精確的表達(dá)，也就可能找到更好的搜索路徑，獲得更快的收斂速度。牛頓型方法就用到了海賽矩陣來構(gòu)造搜索方向。上一頁下一頁返回17.2多維無約束優(yōu)化方法稱為牛頓方向，其步長(zhǎng)為恒定值(k對(duì)于正定的二次函數(shù)，f(x)的上述泰勒展開式不是近似的，而是精確的。因此，無論從任何點(diǎn)出發(fā)，只需一步就可找到極值點(diǎn)，因此牛頓法也是二次收斂的。上一頁下一頁返回17.2多維無約束優(yōu)化方法代入牛頓法迭代公式，得從而經(jīng)過一次迭代即求得極小點(diǎn)x*=[00]及函數(shù)極小值f(x*)=0。由此可見，當(dāng)初始點(diǎn)選得合適且f(x)為二次函數(shù)時(shí)，牛頓法收斂很快。但是如果初始點(diǎn)選擇不當(dāng)，離極小點(diǎn)遠(yuǎn)而離極大點(diǎn)近時(shí)，就可能收斂于極大點(diǎn)，有時(shí)還會(huì)收斂到鞍點(diǎn)或不收斂。這是由于迭代時(shí)沒有優(yōu)化步長(zhǎng)，不能保證每次迭代目標(biāo)函數(shù)值都是下降的，即因此，需要對(duì)上述牛頓法做些修改。修改的方法可以是每次從x(k)點(diǎn)沿牛頓方向進(jìn)行一維搜索時(shí)，將該方向上的最優(yōu)點(diǎn)作為x(k+1)，其迭代公式為：上一頁下一頁返回17.2多維無約束優(yōu)化方法式中，為沿牛頓方向進(jìn)行一維搜索的最佳步長(zhǎng)，稱為阻尼因子。上述方法也稱為阻尼牛頓法，或稱修正牛頓法。阻尼牛頓法的計(jì)算步驟如下：上一頁下一頁返回17.2多維無約束優(yōu)化方法4.變尺度法牛頓型方法對(duì)于目標(biāo)函數(shù)性態(tài)較好或初始點(diǎn)取在極小點(diǎn)附近時(shí)，有收斂速度較快的優(yōu)點(diǎn)，但它存在構(gòu)造牛頓方向比較困難（需要求海賽矩陣的逆矩陣）甚至無法構(gòu)造的缺點(diǎn)。變尺度法就是人們基于牛頓法的思想做了一些重要改進(jìn)的一類方法，它通過采用變尺度矩陣來近似海賽矩陣的逆矩陣，簡(jiǎn)化了牛頓型方法的計(jì)算，又保持了牛頓型方法收斂快的優(yōu)點(diǎn)，這類方法又稱為擬牛頓法。（1）變尺度矩陣的建立對(duì)于一般函數(shù)f(x)，其牛頓迭代公式為：上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法（2）DFP變尺度法在變尺度法中，校正矩陣E(k)取不同的形式，就形成不同的變尺度法。DFP變尺度法是由W.C.Davidon于1959年首先提出，后又于1963年經(jīng)R.Fletcher和N.H.D.Powell加以發(fā)展完善的一種變尺度法，其校正矩陣E(k)取下列形式：上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法上一頁下一頁返回17.2多維無約束優(yōu)化方法代入校正公式：上一頁下一頁返回17.2多維無約束優(yōu)化方法則第二次搜尋方向?yàn)樯弦豁摲祷?7.3約束優(yōu)化方法大多數(shù)優(yōu)化設(shè)計(jì)問題屬于約束優(yōu)化設(shè)計(jì)問題，其數(shù)學(xué)模型為：求解上式的方法稱為約束優(yōu)化方法。約束優(yōu)化方法可分為直接法和間接法兩類。直接法通常用于僅含不等式約束的優(yōu)化問題，其基本思想是在可行域內(nèi)按照一定的原則直接探索出最優(yōu)點(diǎn)。當(dāng)可行域?yàn)榉峭辜蚰繕?biāo)函數(shù)是非凸函數(shù)時(shí)，往往還需要更換幾次初始點(diǎn)，進(jìn)行多路線探索。屬于直接法的約束優(yōu)化方法有隨機(jī)方向法、復(fù)合形法、可行方向法、簡(jiǎn)約梯度法等。下一頁返回17.3約束優(yōu)化方法間接法對(duì)于等式約束和不等式約束優(yōu)化問題均有效，它有不同的求解策略，其中一種解法的基本思路是按照一定的原則構(gòu)造一個(gè)包含原目標(biāo)函數(shù)和約束條件的新目標(biāo)函數(shù)，將約束優(yōu)化問題轉(zhuǎn)化為一個(gè)或一系列的無約束優(yōu)化問題進(jìn)行求解。屬于間接解法的方法有懲罰函數(shù)法和增廣拉格朗日乘子法等。1.復(fù)合形法復(fù)合形法是求解約束優(yōu)化問題的一種重要的直接方法，其基本方法是：首先在設(shè)計(jì)空間內(nèi)選擇位于可行域內(nèi)的k個(gè)初始點(diǎn)，構(gòu)造一個(gè)初始復(fù)合形；接著利用復(fù)合形各頂點(diǎn)處目標(biāo)函數(shù)值的大小關(guān)系，判斷目標(biāo)函數(shù)的下降方向，找到目標(biāo)函數(shù)值最大的最壞點(diǎn)，代之以既使目標(biāo)函數(shù)值有所下降又能滿足約束條件的新點(diǎn)，從而構(gòu)成新的復(fù)合形（如圖17

7所示）。如此重復(fù)進(jìn)行下去，使新的復(fù)合形不斷地向最優(yōu)點(diǎn)移動(dòng)和收縮，直至滿足收斂條件為止。上一頁下一頁返回17.3約束優(yōu)化方法（1）初始復(fù)合形的產(chǎn)生方法初始復(fù)合形是在可行域內(nèi)選擇k（n

1≤k≤2n）個(gè)可行點(diǎn)作為頂點(diǎn)構(gòu)造而成的，而這k個(gè)頂點(diǎn)可以采用以下的方法產(chǎn)生。①由設(shè)計(jì)者試選全部k個(gè)頂點(diǎn)；②由設(shè)計(jì)者先選定一個(gè)頂點(diǎn)，其余k

1個(gè)頂點(diǎn)用隨機(jī)方法計(jì)算產(chǎn)生，計(jì)算的方法是：式中，xj為復(fù)合形中的第j個(gè)頂點(diǎn)；a、b為設(shè)計(jì)變量的下限和上限；rj為在（0，1）區(qū)間內(nèi)的偽隨機(jī)數(shù)。這樣得到的隨機(jī)點(diǎn)不一定在可行域內(nèi)，需設(shè)法將非可行點(diǎn)移到可行域內(nèi)。通常采用的方法是，求出已經(jīng)在可行域內(nèi)的L個(gè)頂點(diǎn)的中心點(diǎn)xC。上一頁下一頁返回17.3約束優(yōu)化方法然后將非可行點(diǎn)向中心點(diǎn)移動(dòng)，即若L

還不滿足約束條件，則重復(fù)利用上式使其繼續(xù)向中心點(diǎn)移動(dòng)。只要中心點(diǎn)是可行點(diǎn)，總可以將這些非可行點(diǎn)移到可行域內(nèi)。如果中心點(diǎn)是非可行點(diǎn)，就應(yīng)該縮小隨機(jī)選點(diǎn)的邊界，重新產(chǎn)生各個(gè)頂點(diǎn)。③全部頂點(diǎn)均用隨機(jī)方法產(chǎn)生。（2）復(fù)合形法的搜索方法生成初始復(fù)合形后，就要通過一定的搜索方法不斷改變其形狀，使復(fù)合形逐步向最優(yōu)點(diǎn)逼近。下面介紹復(fù)合形法中最常用的反射搜索方法。反射是改變復(fù)合形形狀的一種主要策略，其步驟為：上一頁下一頁返回17.3約束優(yōu)化方法①計(jì)算復(fù)合形各頂點(diǎn)的目標(biāo)函數(shù)值，并比較其大小，求出最好點(diǎn)xL、最壞點(diǎn)xH及次壞點(diǎn)xG；②計(jì)算除去最壞點(diǎn)xH外的其他（k

1）個(gè)頂點(diǎn)的形心xC；上一頁下一頁返回17.3約束優(yōu)化方法③通常由xH

指向xC的方向是目標(biāo)函數(shù)值下降的方向，因此沿（xC

xH）方向求反射點(diǎn)，如圖17

8所示。此外，還有擴(kuò)張、收縮、使復(fù)合形各頂點(diǎn)向最好點(diǎn)壓縮及繞最好點(diǎn)旋轉(zhuǎn)一個(gè)角度等搜索方法。上一頁下一頁返回17.3約束優(yōu)化方法【例17

9】已知約束優(yōu)化問題：上一頁下一頁返回17.3約束優(yōu)化方法上一頁下一頁返回17.3約束優(yōu)化方法上一頁下一頁返回17.3約束優(yōu)化方法2.懲罰函數(shù)法懲罰函數(shù)法是一種使用廣泛的重要的間接解法，其基本原理是將約束優(yōu)化問題：通過引入幾個(gè)可調(diào)整的懲罰參數(shù)（因子）構(gòu)造一個(gè)新的目標(biāo)函數(shù)——懲罰函數(shù)。式中，r1、r2

為懲罰因子。通過不斷調(diào)整懲罰因子的值，求解一系列新目標(biāo)函數(shù)的無約束極小值，使其不斷逼近原約束問題的最優(yōu)解。這是一個(gè)序列求優(yōu)過程，因此該方法又稱序列無約束極小化方法（SequentialUnconstrainedMinimizationTechnique，簡(jiǎn)稱SUMT法）上一頁下一頁返回17.3約束優(yōu)化方法根據(jù)迭代過程是否在可行域內(nèi)進(jìn)行，懲罰函數(shù)法又可分為內(nèi)點(diǎn)懲罰函數(shù)法、外點(diǎn)懲罰函數(shù)法和混合懲罰函數(shù)法三種方法。（1）內(nèi)點(diǎn)懲罰函數(shù)法內(nèi)點(diǎn)懲罰函數(shù)法簡(jiǎn)稱內(nèi)點(diǎn)法，它將新的目標(biāo)函數(shù)——懲罰函數(shù)定義于可行域內(nèi)，搜索過程也在可行域內(nèi)進(jìn)行，因此初始點(diǎn)及迭代點(diǎn)序列都在可行域內(nèi)。內(nèi)點(diǎn)懲罰函數(shù)法是求解不等式約束優(yōu)化問題的有效方法。對(duì)于不等式約束優(yōu)化問題：上一頁下一頁返回17.3約束優(yōu)化方法【例17

10】用內(nèi)點(diǎn)法求上一頁下一頁返回17.3約束優(yōu)化方法由此可知，當(dāng)逐步減小r(k)值直至趨于0時(shí)，x*(r(k))逼近原問題的約束最優(yōu)點(diǎn)，如圖17

9所示。下面是幾個(gè)使用內(nèi)點(diǎn)法時(shí)需要注意的問題：①初始點(diǎn)x(0)的選取。初始點(diǎn)x(0)應(yīng)嚴(yán)格滿足所有約束條件，避免位于邊界上。②懲罰因子初值r(0)的選取。r(0)的選取是否恰當(dāng)，對(duì)收斂的速度和求解是否成功影響較大。若r(0)取得太小，懲罰函數(shù)的性態(tài)會(huì)變差，甚至難以收斂到極小點(diǎn)；若r(0)取得太大，則開始幾次構(gòu)造的懲罰函數(shù)的無約束極值點(diǎn)就會(huì)離邊界較遠(yuǎn)，計(jì)算效率較低。一般可以先選一個(gè)r(0)（比如r(0)=1）進(jìn)行試算，根據(jù)試算的結(jié)果再進(jìn)行調(diào)整。上一頁下一頁返回17.3約束優(yōu)化方法③懲罰因子的縮減。相鄰兩次迭代的懲罰因子的關(guān)系為：式中，c稱為懲罰因子的縮減系數(shù)，通常的取值范圍為0.1～0.7。（2）外點(diǎn)懲罰函數(shù)法外點(diǎn)懲罰函數(shù)法簡(jiǎn)稱為外點(diǎn)法，它將懲罰函數(shù)定義于可行域之外，求解過程中迭代點(diǎn)是從可行域外側(cè)逐步逼近原約束優(yōu)化問題最優(yōu)解的。對(duì)于約束優(yōu)化問題：上一頁下一頁返回17.3約束優(yōu)化方法【例17

11】用外點(diǎn)法求的約束最優(yōu)解。解：構(gòu)造外點(diǎn)懲罰函數(shù)：上一頁下一頁返回17.3約束優(yōu)化方法由此可知，當(dāng)逐步增大s(k)值直至趨于∞時(shí)，x*(s(k))逼近原問題的約束最優(yōu)點(diǎn)，如圖17

10所示。上一頁下一頁返回17.3約束優(yōu)化方法外點(diǎn)法的初始點(diǎn)可任意選擇，應(yīng)用比較方便。其懲罰因子按公式s(k)遞增，式中t為遞增系數(shù)，通常取t=5～10。（3）混合懲罰函數(shù)法混合懲罰函數(shù)法簡(jiǎn)稱混合法，對(duì)于約束優(yōu)化問題：上一頁返回17.4現(xiàn)代優(yōu)化算法現(xiàn)代優(yōu)化算法是20世紀(jì)80年代初興起的啟發(fā)式算法，主要包括遺傳算法、禁忌搜索、模擬退火和人工神經(jīng)網(wǎng)絡(luò)算法等。主要應(yīng)用于解決大量實(shí)際問題，并在理論和實(shí)際應(yīng)用方面得到了較大的發(fā)展。下面簡(jiǎn)介現(xiàn)代優(yōu)化算法中比較常用的遺傳算法，這種優(yōu)化方法算法思想比較簡(jiǎn)單，程序?qū)崿F(xiàn)方便。遺傳算法（GeneticAlgorithm，GA）是美國Michigan大學(xué)的J.H.Holland教授于1975年提出的一種模擬生物進(jìn)化過程、自然選擇和遺傳的隨機(jī)搜索方法。遺傳算法的術(shù)語借鑒于生物遺傳學(xué)，一個(gè)解稱為一個(gè)個(gè)體（Individual），解的編碼稱為染色體（Chromosome），染色體由決定其特性的基因（Gene）組成。目標(biāo)函數(shù)被轉(zhuǎn)換為對(duì)應(yīng)各個(gè)個(gè)體的適應(yīng)性（Fitness），而一組染色體組成一個(gè)群體（Population），根據(jù)適應(yīng)函數(shù)值選取的一組染色體稱為種群（Reproduction）。下一頁返回17.4現(xiàn)代優(yōu)化算法典型的遺傳算法步驟有：①隨機(jī)生成一個(gè)群體；②計(jì)算每個(gè)染