車(chē)輛優(yōu)化設(shè)計(jì)理論與實(shí)踐無(wú)約束優(yōu)化方法3.1概述3.2坐標(biāo)輪換法3.3鮑威爾方法3.4最速下降法3.5牛頓型方法3.6共軛梯度法3.7變尺度法3.8無(wú)約束優(yōu)化方法的選用3.1

概述當(dāng)機(jī)械優(yōu)化設(shè)計(jì)的很多問(wèn)題，都是在一定的限制條件下追求某一指標(biāo)為最小，所以它們都屬于約束優(yōu)化問(wèn)題。但是，也有些實(shí)際問(wèn)題，其數(shù)學(xué)模型本身就是一個(gè)無(wú)約束優(yōu)化問(wèn)題，或者除了在非常接近最終極小點(diǎn)的情況下，都可以按無(wú)約束問(wèn)題來(lái)處理。另外研究無(wú)約束優(yōu)化問(wèn)題的另一個(gè)原因是，通過(guò)熟悉它的解法可以為研究約束優(yōu)化問(wèn)題打下良好的基礎(chǔ)。除此以外，約束優(yōu)化問(wèn)題的求解可以通過(guò)一系列無(wú)約束優(yōu)化方法來(lái)達(dá)到。所以無(wú)約束優(yōu)化問(wèn)題的解法是優(yōu)化設(shè)計(jì)方法的基本組成部分，也是優(yōu)化方法的基礎(chǔ)。3.1

概述按下述公式不斷進(jìn)行，形成迭代的下降算法。各種無(wú)約束優(yōu)化方法的區(qū)別就在于確定其搜索方向的方法不同。所以，搜索方向的構(gòu)成問(wèn)題乃是無(wú)約束優(yōu)化方法的關(guān)鍵。根據(jù)構(gòu)成搜索方向所使用的信息性質(zhì)的不同，無(wú)約束優(yōu)化方法可以分為兩類(lèi)。一類(lèi)是只利用目標(biāo)函數(shù)值的無(wú)約束優(yōu)化方法，如坐標(biāo)輪換法，鮑威爾（Powell）法等。另一類(lèi)是利用目標(biāo)函數(shù)的一階或二階導(dǎo)數(shù)的無(wú)約束優(yōu)化方法，如最速下降法、共軛梯度法、牛頓法及變尺度法等。3.1

概述對(duì)于無(wú)約束優(yōu)化問(wèn)題的求解，可以直接應(yīng)用第2章講述的極值條件來(lái)確定極值點(diǎn)位置。除了一些特殊情況外，一般說(shuō)來(lái)非線性方程組的求解與求無(wú)約束極值一樣也是一個(gè)困難問(wèn)題，甚至前者比后者更困難。一般用數(shù)值計(jì)算方法直接求解無(wú)約束極值問(wèn)題。數(shù)值計(jì)算方法最常用的是搜索方法，其基本思想是從給定的初始點(diǎn)出發(fā)，沿某一搜索方向進(jìn)行搜索，確定最佳步長(zhǎng)使函數(shù)值沿方向下降最大。3.2坐標(biāo)輪換法3.2.1坐標(biāo)輪換法的算法原理1．基本思想將一個(gè)n維問(wèn)題轉(zhuǎn)化為一系列的一維優(yōu)化問(wèn)題來(lái)求解，是一個(gè)降維的思想，具體來(lái)說(shuō)，就是沿著坐標(biāo)方向輪流搜索，每次n－1個(gè)變量固定，只對(duì)一個(gè)變量作一維搜索，首先沿第一個(gè)坐標(biāo)軸方向進(jìn)行一維搜索，求出該方向上目標(biāo)函數(shù)最小的點(diǎn)或函數(shù)值有所下降的點(diǎn)，再以為起點(diǎn)，沿第二坐標(biāo)軸方向進(jìn)行一維搜索，找到點(diǎn)，依次進(jìn)行至，得到迭代點(diǎn)，到此完成一輪迭代。3.2坐標(biāo)輪換法圖3-1坐標(biāo)輪換法的迭代過(guò)程3.2坐標(biāo)輪換法2．步長(zhǎng)的確定步長(zhǎng)的選擇可有下面三種方法。

1）隨即選擇法隨機(jī)選擇步長(zhǎng)，只要保證函數(shù)值下降。

2）最優(yōu)步長(zhǎng)法利用一維搜索來(lái)完成該方向上的最優(yōu)步長(zhǎng)，該方法的每一步均可最大限度地減小目標(biāo)函數(shù)值，故可期望收斂得更快些，但程序稍微復(fù)雜。

3）加速步長(zhǎng)法這方法是開(kāi)始選一個(gè)不大的初始步長(zhǎng)，在每一次搜索中，都是以開(kāi)始，隨后在函數(shù)值下降的情況下以，，……倍增的速度加大步長(zhǎng)，直至函數(shù)值不再下降，取其前步長(zhǎng)為最終步長(zhǎng)，這種辦法較簡(jiǎn)單，程序易編制。3.2坐標(biāo)輪換法例3-1求min，初始點(diǎn)為解：從出發(fā)，沿方向搜索，得點(diǎn)：由得3.2坐標(biāo)輪換法得：從出發(fā)，沿方向搜索，求得由得3.2坐標(biāo)輪換法將，進(jìn)行第二輪迭代，按此法迭代下去，經(jīng)7步（14次）迭代，可得到點(diǎn)，目標(biāo)函數(shù)值為0.002，此問(wèn)題的最優(yōu)解應(yīng)為，3.2坐標(biāo)輪換法3．迭代步驟①取初始點(diǎn)，判別收斂精度，維數(shù)n。②求單變量極值問(wèn)題的最優(yōu)解，以求出。

min③判別是否滿足，若，則轉(zhuǎn)④；若i＜n，則令，轉(zhuǎn)到②。④檢驗(yàn)是否滿足精度要求若滿足判別準(zhǔn)則，則迭代停止，即所求；否則轉(zhuǎn)②。3.2坐標(biāo)輪換法4．坐標(biāo)輪換法討論坐標(biāo)輪換法具有程序簡(jiǎn)單，易于掌握的優(yōu)點(diǎn)，但它的計(jì)算效率較低，因此它雖然步步在登高，但相當(dāng)于沿兩個(gè)垂直方向在爬山，路途迂回曲折，收斂很慢，因此它適用于維數(shù)較低（一般＜10）的目標(biāo)函數(shù)求優(yōu)。另外對(duì)于如圖3-2所示的有“脊線”的目標(biāo)函數(shù)等值線的情形，如果迭代點(diǎn)出現(xiàn)在脊線上點(diǎn)時(shí)，沿兩個(gè)坐標(biāo)軸方向均不能使函數(shù)值下降，而只有在一定范圍內(nèi)的方向才能使函數(shù)值下降，這就出現(xiàn)了病態(tài)而導(dǎo)致迭代失效。3.2坐標(biāo)輪換法3.2.2算法的MATLAB實(shí)現(xiàn)在MATLAB中編程實(shí)現(xiàn)的坐標(biāo)輪換法函數(shù)為：minZB。功用：用坐標(biāo)輪換法求解函數(shù)的極值。調(diào)用格式：[x,minf]=minZB(f,x0,delta,gama,sita,var,eps)

其中，f:目標(biāo)函數(shù);x0:初始點(diǎn)；

delta:初始步長(zhǎng)；gama:加速系數(shù)；sita:收縮系數(shù)；var：自變量向量；

eps:精度；3.2坐標(biāo)輪換法3.2.3算法舉例例3-2用坐標(biāo)輪換法求下列函數(shù)的極小值。

3.3鮑威爾法3.3.1鮑威爾法的基本原理鮑威爾法是直接利用函數(shù)值來(lái)構(gòu)造共軛方向的一種共軛方向法。其基本思想是在不用導(dǎo)數(shù)的前提下，在迭代中逐次構(gòu)造共軛方向。鮑威爾的基本算法是：在每一輪迭代中總有一個(gè)始點(diǎn)（第一輪的始點(diǎn)是任選的初始點(diǎn)）和個(gè)線性獨(dú)立的搜索方向。從始點(diǎn)出發(fā)順次沿個(gè)方向作一維搜索得一終點(diǎn)，由始點(diǎn)和終點(diǎn)決定了一個(gè)新的搜索方向。用這個(gè)方向替換原來(lái)個(gè)方向中的一個(gè)，于是形成新的搜索方向組。替換的原則是去掉原方向組的第一個(gè)方向而將新方向排在原方向的最后。此外規(guī)定，從這一輪的搜索終點(diǎn)出發(fā)沿新的搜索方向作一維搜索而得到的極小點(diǎn)，作為下一輪迭代的始點(diǎn)。這樣就形成算法的循環(huán)。因?yàn)檫@種方法在迭代中逐次生成共軛方向，而共軛方向是較好的搜索方向，所以鮑威爾法又稱作方向加速法。3.3鮑威爾法鮑威爾法的尋優(yōu)過(guò)程如圖所示。

3.3鮑威爾法例3-3用Powell法求解。解：由得由3.3鮑威爾法得得3.3鮑威爾法第一輪迭代結(jié)束。以作為新的起始點(diǎn)，作為新的起始方向進(jìn)行下一輪迭代。由得由得3.3鮑威爾法由得本例中3.3鮑威爾法把二維情況的基本算法擴(kuò)展到維，則鮑威爾基本算法的要點(diǎn)是：在每一輪迭代中總有一個(gè)始點(diǎn)（第一輪的始點(diǎn)是任選的初始點(diǎn)）和個(gè)線性獨(dú)立的搜索方向。從始點(diǎn)出發(fā)順次沿個(gè)方向作一維搜索得一終點(diǎn)，由始點(diǎn)和終點(diǎn)決定了一個(gè)新的搜索方向。用這個(gè)方向替換原來(lái)個(gè)方向中的一個(gè)，于是形成新的搜索方向組。替換的原則是去掉原方向組的第一個(gè)方向而將新方向排在原方向的最后。在鮑威爾基本算法中，每一輪迭代都用連結(jié)始點(diǎn)和終點(diǎn)所產(chǎn)生出得搜索方向去替換原向量組中得第一個(gè)向量，而不管它的“好壞”，這是產(chǎn)生向量組線性相關(guān)的原因所在。因此在改進(jìn)的算法中首先判斷原向量組是否需要替換。如果需要替換，還要進(jìn)一步判斷原向量組中哪個(gè)向量最壞，然后再用新產(chǎn)生的向量替換這個(gè)最壞的向量，以保證逐次生成共軛方向。3.3鮑威爾法3.3.2算法的MATLAB實(shí)現(xiàn)在MATLAB中編程實(shí)現(xiàn)的Powell法函數(shù)為：minPowell。功用：用Powell法求解函數(shù)的極值。調(diào)用格式：[x,minf]=minPowell(f,x0,P,var,eps)

其中，f:目標(biāo)函數(shù);x0:初始點(diǎn)；

P:線性無(wú)關(guān)的初始向量組；

var：自變量向量；

eps:精度；

x:目標(biāo)函數(shù)最小值時(shí)的自變量值；

minf：目標(biāo)函數(shù)的最小值。3.3鮑威爾法3.3.3算法舉例例3-5用坐標(biāo)輪換法求下列函數(shù)的極小值。

3.4最速下降法

3.4.1最速下降法的算法原理如前所述，函數(shù)的梯度方向是函數(shù)上升最快的方向，也就是說(shuō)，函數(shù)的負(fù)梯度方向是函數(shù)下降最快的方向。因此，將搜索方向取該點(diǎn)的負(fù)梯度方向（最速下降方向），就能使函數(shù)值在該點(diǎn)附近的范圍內(nèi)下降最快。按此規(guī)律不斷走步，就形成了最速下降法迭代公式：3.4最速下降法

3.4.1最速下降法的算法原理由于最速下降法是以負(fù)梯度方向作為搜索方向，所以最速下降法又稱梯度法。為了使目標(biāo)函數(shù)值沿搜索方向能獲得最大的下降值，其步長(zhǎng)因子應(yīng)取一維搜索的最佳步長(zhǎng)。在最速下降法中，相鄰兩個(gè)迭代點(diǎn)上的函數(shù)梯度相互垂直。而搜索方向就是負(fù)梯度方向，因此相鄰兩個(gè)搜索方向互相垂直。這就是說(shuō)在最速下降法中，迭代點(diǎn)向函數(shù)極小點(diǎn)靠近的過(guò)程，走的是曲折的路線。這一次的搜索方向與前一次的搜索方向互相垂直，形成“之”字形的鋸齒現(xiàn)象。從直觀上可以看到，在遠(yuǎn)離極小點(diǎn)的位置，每次迭代可使函數(shù)值有較多的下降。3.4最速下降法

最速下降法的搜索過(guò)程3.4最速下降法例3-6

用最速下降法求目標(biāo)函數(shù)的極小點(diǎn)。解：取初始點(diǎn)則初始點(diǎn)處函數(shù)值及梯度分別為3.4最速下降法沿負(fù)梯度方向進(jìn)行一維搜索，有為一維搜索最佳步長(zhǎng)第一次迭代設(shè)計(jì)點(diǎn)位置和函數(shù)值3.4最速下降法從而完成了最速下降法的第一次迭代。繼續(xù)作下去，經(jīng)10次迭代后，得到最優(yōu)解3.4最速下降法

3.4.2算法的MATLAB實(shí)現(xiàn)在MATLAB中編程實(shí)現(xiàn)的最速下降法函數(shù)為：minZSXJ。功用：用最速下降法法求解函數(shù)的極值。調(diào)用格式：[x,minf]=minZSXJ(f,x0,var,eps)

其中，f:目標(biāo)函數(shù);x0:初始點(diǎn)；

var：自變量向量；

eps:精度；

x:目標(biāo)函數(shù)最小值時(shí)的自變量值；

minf：目標(biāo)函數(shù)的最小值。3.4最速下降法

3.4.3算法舉例例3-7用最速下降法求下列函數(shù)的極小值。3.5牛頓型方法3.5.1牛頓法的算法原理牛頓方法和最速下降法一樣，也是求解極值問(wèn)題古老的算法之一。在第2章中我們已討論過(guò)一維搜索的牛頓方法。對(duì)于一元函數(shù)，假定已給出極小點(diǎn)的一個(gè)較好的近似點(diǎn)，則在處將函數(shù)進(jìn)行泰勒展開(kāi)到二次項(xiàng)，得二次函數(shù)。按極值條件得的極小點(diǎn)，用它作為的第一個(gè)近似點(diǎn)。然后再在處進(jìn)行泰勒展開(kāi)，并求得第二個(gè)近似點(diǎn)。如此迭代下去，得到一維情況下的牛頓迭代公式3.5牛頓型方法3.5.1牛頓法的算法原理對(duì)于多元函數(shù)多元函數(shù)求極值的牛頓法迭代公式3.5牛頓型方法例3-8用牛頓法求的極小值。解：

取初始點(diǎn)，則初始點(diǎn)處的函數(shù)梯度、海賽矩陣及其逆陣分別是3.5牛頓型方法代入牛頓法迭代公式，得從而經(jīng)過(guò)一次迭代即求得極小點(diǎn)及函數(shù)極小值。3.5牛頓型方法3.5.1牛頓法的算法原理對(duì)于多元函數(shù)多元函數(shù)求極值的牛頓法迭代公式3.5牛頓型方法3.5.2算法的MATLAB實(shí)現(xiàn)在MATLAB中編程實(shí)現(xiàn)的修正牛頓法函數(shù)為：minXNT。功用：用最速下降法法求解函數(shù)的極值。調(diào)用格式：[x,minf]=minXNT(f,x0,var,eps)

其中，f:目標(biāo)函數(shù);x0:初始點(diǎn)；

var：自變量向量；

eps:精度；

x:目標(biāo)函數(shù)最小值時(shí)的自變量值；

minf：目標(biāo)函數(shù)的最小值。3.5牛頓型方法3.5.3算法舉例例3-8用修正牛頓法求函數(shù)的極小值。3.6共軛梯度法3.6.1共軛梯度法的算法原理共軛梯度法是共軛方向法中的一種，因?yàn)樵谠摲椒ㄖ忻恳粋€(gè)共軛向量都是依賴于迭代點(diǎn)處的負(fù)梯度而構(gòu)造出來(lái)的，所以稱作共軛梯度法。3.6共軛梯度法3.6.1共軛梯度法的算法原理為了利用梯度求共軛方向，我們首先來(lái)研究共軛方向與梯度之間的關(guān)系。考慮二次函數(shù)從點(diǎn)出發(fā)，沿G的某一共軛方向作一維搜索，到達(dá)點(diǎn)，即3.6共軛梯度法有：而在點(diǎn)處的梯度、分別為

3.6共軛梯度法若和對(duì)G是共軛的，則有即得這就是共軛方向與梯度之間的關(guān)系。此式表明沿方向進(jìn)行一維搜索，其終點(diǎn)與始點(diǎn)的梯度之差與的共軛方向正交。共軛梯度法就是利用這個(gè)性質(zhì)做到不必計(jì)算矩陣就能求得共軛方向的。3.6共軛梯度法共軛梯度法的幾何說(shuō)明共軛梯度法的計(jì)算過(guò)程如下：1）設(shè)初始點(diǎn)，第一個(gè)搜索方向取點(diǎn)的負(fù)梯度。即沿進(jìn)行一維搜索，，并算出點(diǎn)處的梯度。是以為切線和某等值曲線的切點(diǎn)。根據(jù)梯度和該點(diǎn)等值面的切面相垂直的性質(zhì)，因此和正交，從而和正交，即和組成平面正交系。3.6共軛梯度法2）在、所構(gòu)成的平面正交系中求的共軛方向，作為下一步的搜索方向。3.6共軛梯度法沿方向進(jìn)行一維搜索，得，并算出該點(diǎn)梯度，有即根據(jù)共軛方向與梯度的關(guān)系式可知：構(gòu)成一個(gè)正交系。3.6共軛梯度法3）在所構(gòu)成的正交系中，求與及均共軛的方向。根據(jù)共軛方向與梯度的關(guān)系，可求出：3.6共軛梯度法如此繼續(xù)下去可求得共軛方向的遞推公式為沿著這些共軛方向一直搜索下去，直到最后迭代點(diǎn)處梯度的模小于給定允許值為止。若目標(biāo)函數(shù)為非二次函數(shù)，經(jīng)次搜索還未達(dá)到最優(yōu)點(diǎn)時(shí)，則以最后得到的點(diǎn)作為初始點(diǎn)，重新計(jì)算共軛方向，一直到滿足精度要求為止。3.6共軛梯度法例3-9

用共軛梯度法求二次函數(shù)的極小點(diǎn)及極小值。解：

取初始點(diǎn)則取3.6共軛梯度法沿方向進(jìn)行一維搜索，得其中的為最佳步長(zhǎng)求得：3.6共軛梯度法為建立第二個(gè)共軛方向，需計(jì)算點(diǎn)處的梯度及系數(shù)值，得從而求得第二個(gè)共軛方向3.6共軛梯度法再沿進(jìn)行一維搜索，得其中的為最佳步長(zhǎng)，求得則3.6共軛梯度法計(jì)算點(diǎn)處的梯度說(shuō)明點(diǎn)滿足極值必要條件，再根據(jù)點(diǎn)的海賽矩陣

是正定的，可知滿足極值充分必要條件。故為極小點(diǎn)，即而函數(shù)極小值為3.6共軛梯度法3.6.2算法的MATLAB實(shí)現(xiàn)在MATLAB中編程實(shí)現(xiàn)的共軛梯度法函數(shù)為：minGETD。功用：用共軛梯度法求解函數(shù)的極值。調(diào)用格式：[x,minf]=minGETD(f,x0,var,eps)

其中，f:目標(biāo)函數(shù);x0:初始點(diǎn)；

var：自變量向量；

eps:精度；

x:目標(biāo)函數(shù)最小值時(shí)的自變量值；

minf：目標(biāo)函數(shù)的最小值。3.6共軛梯度法3.6.3算法舉例例3-10用共軛梯度法求函數(shù)的最小值

3.7變尺度法3.7.1變尺度法的算法原理1．變尺度法的基本概念對(duì)于一般二次函數(shù)

如果進(jìn)行尺度變換

則在新的坐標(biāo)系中，函數(shù)的二次項(xiàng)變?yōu)?/p>

選擇這樣變換的目的，是為了減低二次項(xiàng)的偏心程度。若矩陣是正定的，則總存在矩陣使（單位矩陣）3.7變尺度法3.7.1變尺度法的算法原理1．變尺度法的基本概念所以這說(shuō)明二次函數(shù)矩陣的逆陣，可以通過(guò)尺度變換矩陣來(lái)求得。這樣，牛頓法迭代過(guò)程中得牛頓方向便可寫(xiě)成

牛頓迭代公式變?yōu)?/p>

3.7變尺度法比較牛頓法迭代公式和梯度法迭代公式可以看出，差別在于牛頓法中多了部分。實(shí)際上是在空間內(nèi)測(cè)量距離大小的一種度量，稱作尺度矩陣3.7變尺度法既然牛頓法迭代公式可用尺度變換矩陣表示出來(lái)，即它和梯度法迭代公式只差一個(gè)尺度矩陣，那么牛頓法就可看成是經(jīng)過(guò)尺度變換后的梯度法。經(jīng)過(guò)尺度變換，使函數(shù)偏心率減小到零，函數(shù)的等值面變?yōu)榍蛎妫ɑ虺蛎妫?，使設(shè)計(jì)空間中任意點(diǎn)處函數(shù)的梯度都通過(guò)極小點(diǎn)，用最速下降法只需一次迭代就可達(dá)到極小點(diǎn)。3.7變尺度法為了避免在迭代公式中計(jì)算海賽矩陣的逆陣，可用在迭代中逐步建立的變尺度矩陣來(lái)替換，即構(gòu)造一個(gè)矩陣序列來(lái)逼近海賽逆矩陣序列。每迭代一次，尺度就改變一次，這正是“變尺度”的含義。這樣，上式變?yōu)槠渲凶饕痪S搜索而得到的最佳步長(zhǎng)。3.7變尺度法這個(gè)迭代公式代表面很廣，例如當(dāng)（單位矩陣）時(shí)，它就變成最速下降法。以上就是變尺度法的基本思想。為了使變尺度矩陣確實(shí)與近似，并具有容易計(jì)算的特點(diǎn)，必須對(duì)附加某些條件。

1）為保證迭代公式具有下降性質(zhì)，要求中得每一個(gè)矩陣都是對(duì)稱正定的。

2）要求之間的迭代具有簡(jiǎn)單的形式。3.7變尺度法為最簡(jiǎn)單的形式，其中為校正矩陣。上式稱作校正公式。3）要求必須滿足擬牛頓條件。3.7變尺度法3.7變尺度法對(duì)于校正矩陣，可由具體的公式來(lái)計(jì)算，不同的公式對(duì)應(yīng)不同的變尺度法，在下面進(jìn)行討論。但不論哪種變尺度法，必須滿足擬牛頓條件，即：或滿足上式的有無(wú)窮多個(gè)，因此上述變尺度法（屬于擬牛頓法）構(gòu)成一族算法。3.7變尺度法3．DEP算法和BFGS算法

DEP算法中的尺度矩陣取下列形式：3.7變尺度法DEP算法由舍入誤差和一維搜索不精確，有可能導(dǎo)致奇異，而使數(shù)值穩(wěn)定性方面不夠理想。BFGS算法的校正公式為3.7變尺度法例3-11

用DEP算法求下列函數(shù)的極值解。解：1）取初始點(diǎn)，計(jì)算初始點(diǎn)處的梯度3.7變尺度法并取初始變尺度矩陣為單位矩陣，則第一次搜尋方向?yàn)檠胤较蜻M(jìn)行一維搜索3.7變尺度法其中為一維搜索最佳步長(zhǎng)得2）再按DEP法構(gòu)造點(diǎn)處的搜尋方向，需計(jì)算3.7變尺度法代入校正公式3.7變尺度法則第二次搜尋方向?yàn)樵傺胤较蜻M(jìn)行一維搜索，得3.7變尺度法其中為一維搜索最佳步長(zhǎng)，應(yīng)滿足得：3）為了判斷點(diǎn)是否為極值點(diǎn)，需計(jì)算點(diǎn)處的梯度及海賽矩陣3.7變尺度法梯度為零向量，海賽矩陣正定?？梢?jiàn)點(diǎn)滿足極值充要條件，因此為極小點(diǎn)。此函數(shù)的極值解為3.7變尺度法3.7.2算法的MATLAB實(shí)現(xiàn)在MATLAB中編程實(shí)現(xiàn)的變尺度法函數(shù)為：minDFP。功用：用變尺度法求解函數(shù)的極值。調(diào)用格式：[x,minf]=minDFP(f,x0,var,eps)

其中，f:目標(biāo)函數(shù);x0:初始點(diǎn)；

var：自變量向量；

eps:精度；

x:目標(biāo)函數(shù)最小值時(shí)的自變量值；

minf：目標(biāo)函數(shù)的最小值。3.8無(wú)約束優(yōu)化方法的選用3.8.1算法的評(píng)價(jià)準(zhǔn)則1.可靠性所謂可靠性是指算法在合理精度要求下，在一定的計(jì)算時(shí)間和一定的迭代次數(shù)內(nèi)，求解最優(yōu)化問(wèn)題的計(jì)算成功率，能解出的問(wèn)題越多，則算法的可靠性越好。所以有的文獻(xiàn)也稱它為通用性。往往一種算法在一定計(jì)算時(shí)間，一定迭代次數(shù)，一定精度范圍內(nèi)不能求出最優(yōu)解，而延長(zhǎng)計(jì)算時(shí)間，增加迭代次數(shù)或降低精度要求則可能收斂，因此，可以根據(jù)情況，規(guī)定當(dāng)產(chǎn)生下列情況之一時(shí)為計(jì)算失敗，這些情況是：①在一定計(jì)算時(shí)間內(nèi)不能求出最優(yōu)解；②在給定最大迭代次數(shù)內(nèi)不能求出最優(yōu)解；③解的精度達(dá)不到要求；④在非最優(yōu)點(diǎn)停機(jī)。3.8無(wú)約束優(yōu)化方法的選用3.8.1算法的評(píng)價(jià)準(zhǔn)則2.有效性有效性指某種算法解題的效率。常有衡量標(biāo)準(zhǔn)：其一是在同一題目、同一精度要求和同一初始點(diǎn)的情況下所用計(jì)算機(jī)的機(jī)時(shí)數(shù)；其二是在同樣條件下的函數(shù)求值次數(shù)，包括目標(biāo)函數(shù)的求值和導(dǎo)數(shù)求值的總次數(shù)。3.準(zhǔn)備工作的難易程度這條是考慮使用者準(zhǔn)備工作的難易程度，如求函數(shù)的導(dǎo)數(shù)和編寫(xiě)計(jì)算程序的難易程度等。顯然準(zhǔn)備工作越簡(jiǎn)易越好。至于一個(gè)低效而易于準(zhǔn)備的程序同一個(gè)高效卻難于準(zhǔn)備的程序，究竟哪一個(gè)好，這要在人力和擁有計(jì)算機(jī)存儲(chǔ)量之間權(quán)衡才能確定。

3.8無(wú)約束優(yōu)化方法的選用3.8.1算法的評(píng)價(jià)準(zhǔn)則

4.收斂性每種算法必須具有收斂性，否則，該算法在理論上就不能成立，當(dāng)然也就根本不能用于解題。比較不同算法時(shí)，常用的一種收斂性判據(jù)是它們有效地