無約束最優(yōu)化數(shù)學(xué)建模與數(shù)學(xué)實驗實驗?zāi)康膶嶒瀮?nèi)容2.掌握用數(shù)學(xué)軟件包求解無約束最優(yōu)化問題.1.無約束最優(yōu)化基本算法.1.無約束優(yōu)化基本思想及基本算法.4.實驗作業(yè).3.用MATLAB求解無約束優(yōu)化問題.2.MATLAB優(yōu)化工具箱簡介.

無約束最優(yōu)化問題求解無約束最優(yōu)化問題的基本思想*無約束最優(yōu)化問題的基本算法返回標(biāo)準(zhǔn)形式：求解無約束最優(yōu)化問題的基本思想求解的基本思想(以二元函數(shù)為例)531連續(xù)可微多局部極小

唯一極小(全局極小)搜索過程最優(yōu)點(11)初始點(-11)-114.00-0.790.583.39-0.530.232.60-0.180.001.500.09-0.030.980.370.110.470.590.330.200.800.630.050.950.900.0030.990.991E-40.9990.9981E-50.99970.99981E-8返回?zé)o約束優(yōu)化方法歸納起來可以分成兩大類：一類是僅用計算函數(shù)值所得到的信息來確定搜索方向，通常稱它為直接搜索法，簡稱為直接法，另一類需要計算函數(shù)的一階或二階導(dǎo)數(shù)值所得到的信息來確定搜索方向，這一類方法稱為間接法（或解析法）．直接法不涉及導(dǎo)數(shù)和Hesse矩陣，適應(yīng)性強，但收斂速度一般較慢；間接法收斂速度一般較快，但需計算梯度，甚至需要計算Hesse矩陣。一般的經(jīng)驗是，在可能求得目標(biāo)函數(shù)導(dǎo)數(shù)的情況下還是盡可能使用間接方法；相反，在不可能求得目標(biāo)函數(shù)的導(dǎo)數(shù)或根本不存在導(dǎo)數(shù)的情況下，當(dāng)然就應(yīng)該使用直接法。無約束優(yōu)化問題的基本算法

1．最速下降法（共軛梯度法）算法步驟：最速下降法是一種最基本的算法，它在最優(yōu)化方法中占有重要地位。最速下降法的優(yōu)點是工作量小，存儲變量較少,初始點要求不高；缺點是收斂慢，最速下降法適用于尋優(yōu)過程的前期迭代或作為間插步驟，當(dāng)接近極值點時，宜選用別種收斂快的算法。有關(guān)說明

最速下降法的優(yōu)點是算法簡單，每次迭代計算量小，占用內(nèi)存量小，即使從一個不好的初始點出發(fā)，往往也能收斂到局部極小點，但它有一個嚴(yán)重缺點就是收斂速度慢。沿負梯度方向函數(shù)值下降很快的說法，容易使人們產(chǎn)生一種錯覺，認為這一定是最理想的搜索方向，沿該方向搜索時收斂速度應(yīng)該很快，然而事實證明，梯度法的收斂速度并不快。特別是對于等值線（面）具有狹長深谷形狀的函數(shù)，收斂速度更慢。其原因是由于每次迭代后下一次搜索方向總是與前一次搜索方向相互垂直，如此繼續(xù)下去就產(chǎn)生所謂的鋸齒現(xiàn)象。即從直觀上看，在遠離極小點的地方每次迭代可能使目標(biāo)函數(shù)有較大的下降，但是在接近極小點的地方，由于鋸齒現(xiàn)象，從而導(dǎo)致每次迭代行進距離縮短，因而收斂速度不快。

2．牛頓法算法步驟：

如果f是對稱正定矩陣A的二次函數(shù)，則用牛頓法，經(jīng)過一次迭代就可達到最優(yōu)點,如不是二次函數(shù)，則牛頓法不能一步達到極值點，但由于這種函數(shù)在極值點附近和二次函數(shù)很近似,因此牛頓法的收斂速度還是很快的.

牛頓法的收斂速度雖然較快，但要求黑塞矩陣可逆，要計算二階導(dǎo)數(shù)和逆矩陣，就加大了計算機的計算量和存儲量.3．?dāng)M牛頓法返回MATLAB優(yōu)化工具箱簡介1.MATLAB求解優(yōu)化問題的主要函數(shù)2.優(yōu)化函數(shù)的輸入變量

使用優(yōu)化函數(shù)或優(yōu)化工具箱中其他優(yōu)化函數(shù)時,輸入變量見下表:3.優(yōu)化函數(shù)的輸出變量見下表:4．控制參數(shù)選項的設(shè)置(3)MaxIter:允許進行迭代的最大次數(shù),取值為正整數(shù).選項中常用的幾個參數(shù)的名稱、含義、取值如下:(1)陳列:顯示水平.取值為'off'時,不顯示輸出;取值為'iter'時,顯示每次迭代的信息;取值為'final'時,顯示最終結(jié)果.默認值為'final'.(2)MaxFunEvals:允許進行函數(shù)評價的最大次數(shù),取值為正整數(shù).例：opts=optimset('Display','iter','TolFun',1e-8)

該語句創(chuàng)建一個稱為選擇的優(yōu)化選項結(jié)構(gòu),其中顯示參數(shù)設(shè)為'iter',TolFun參數(shù)設(shè)為1e-8.

控制參數(shù)選項可以通過函數(shù)optimset創(chuàng)建或修改.命令的格式如下：(1)options=optimset('optimfun')

創(chuàng)建一個含有所有參數(shù)名,并與優(yōu)化函數(shù)optimfun相關(guān)的默認值的選項結(jié)構(gòu).（2）options=optimset('param1',value1,'param2',value2,...)

創(chuàng)建一個名稱為選項的優(yōu)化選項參數(shù),其中指定的參數(shù)具有指定值,所有未指定的參數(shù)取默認值.(3)options=optimset(oldops,'param1',value1,'param2',value2,...)

創(chuàng)建名稱為oldops的參數(shù)的拷貝,用指定的參數(shù)值修改oldops中相應(yīng)的參數(shù).返回用MATLAB解無約束優(yōu)化問題

其中等式（3）、（4）、（5）的右邊可選用（1）或（2）的等式右邊.

函數(shù)fminbnd的算法基于黃金分割法和二次插值法，它要求目標(biāo)函數(shù)必須是連續(xù)函數(shù)，并可能只給出局部最優(yōu)解.

常用格式如下：（1）x=fminbnd(fun,x1,x2)（2）x=fminbnd(fun,x1,x2，options)（3）[x，fval]=fminbnd（…）（4）[x，fval，exitflag]=fminbnd（…）（5）[x，fval，exitflag，output]=fminbnd（…）MATLAB(wliti1)

主程序為wliti1.m:

f='2*exp(-x).*sin(x)';fplot(f,[0,8]);%作圖語句

[xmin,ymin]=fminbnd(f,0,8)f1='-2*exp(-x).*sin

(x)';[xmax,ymax]=fminbnd(f1,0,8)例2有邊長為3m的正方形鐵板，在四個角剪去相等的正方形以制成方形無蓋水槽，問如何剪法使水槽的容積最大？解先編寫M文件fun0.m如下:

function

f=fun0(x)f=-(3-2*x).^2.*x;主程序為wliti2.m:

[x,fval]=fminbnd('fun0',0,1.5);xmax=xfmax=-fval運算結(jié)果為:xmax=0.5000,fmax=2.0000.即剪掉的正方形的邊長為0.5m時水槽的容積最大,最大容積為2m3.MATLAB(wliti2)

命令格式為:（1）x=fminunc（fun,X0）；或x=fminsearch（fun,X0）（2）x=fminunc（fun,X0，options）；或x=fminsearch（fun,X0，options）（3）[x，fval]=fminunc（...）；或[x，fval]=fminsearch（...）（4）[x，fval，exitflag]=fminunc（...）；或[x，fval，exitflag]=fminsearch（5）[x，fval，exitflag，output]=fminunc（...）；或[x，fval，exitflag，output]=fminsearch（...）2.多元函數(shù)無約束優(yōu)化問題標(biāo)準(zhǔn)型為：min[3]fminunc為中型優(yōu)化算法的步長一維搜索提供了兩種算法，由選項中參數(shù)LineSearchType控制：

LineSearchType=‘quadcubic’(缺省值)，混合的二次和三次多項式插值；

LineSearchType='cubicpoly'，三次多項式插使用fminunc和fminsearch可能會得到局部最優(yōu)解.說明:fminsearch是用單純形法尋優(yōu).fminunc算法見以下幾點說明：[1]fminunc為無約束優(yōu)化提供了大型優(yōu)化和中型優(yōu)化算法.由選項中的參數(shù)LargeScale控制：LargeScale=‘on'(默認值),使用大型算法LargeScale=‘off'(默認值),使用中型算法[2]fminunc為中型優(yōu)化算法的搜索方向提供了4種算法，由

選項中的參數(shù)HessUpdate控制：

HessUpdate=‘bfgs’（默認值），擬牛頓法的BFGS公式；HessUpdate=‘dfp’，擬牛頓法的DFP公式；HessUpdate='steepdesc'，最速下降法例3minMATLAB(wliti3)1.編寫M文件

fun1.m:function

f=fun1(x)f=exp(x(1))*(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1);

2.輸入M文件wliti3.m如下:

x0=[-1,1];x=fminunc('fun1',x0);y=fun1(x)

3.運行結(jié)果:

x=0.5000-1.0000y=1.3029e-10MATLAB(wliti31)MATLAB(wliti32)3.用fminsearch函數(shù)求解MATLAB(wliti41)輸入命令:

f='100*(x(2)-x(1)^2)^2+(1-x(1))^2';[x,fval,exitflag,output]=fminsearch(f,[-1.22])運行結(jié)果:

x=1.00001.0000fval=1.9151e-010exitflag=1output=iterations:108funcCount:202algorthm:'Nelder-Meadsimplexdirectsearch

'4.用fminunc

函數(shù)MATLAB(wliti44)(1)建立M文件fun2.m

function

f=fun2(x)

f=100*(x(2)-x(1)^2)^2+(1-x(1))^2(2)主程序wliti44.m

Rosenbrock函數(shù)不同算法的計算結(jié)果可以看出，最速下降法的結(jié)果最差.因為最速下降法特別不適合于從一狹長通道到達最優(yōu)解的情況.例5產(chǎn)銷量的最佳安排

某廠生產(chǎn)一種產(chǎn)品有甲、乙兩個牌號，討論在產(chǎn)銷平衡的情況下如何確定各自的產(chǎn)量，使總利潤最大.所謂產(chǎn)銷平衡指工廠的產(chǎn)量等于市場上的銷量.基本假設(shè)1．價格與銷量成線性關(guān)系2．成本與產(chǎn)量成負指數(shù)關(guān)系

模型建立

若根據(jù)大量的統(tǒng)計數(shù)據(jù),求出系數(shù)b1=100,a11=1,a12=0.1,b2=280,a21=0.2,a22=2,r1=30,λ1=0.015,c1=20,r2=100,λ2=0.02,c2=30,則問題轉(zhuǎn)化為無約束優(yōu)化問題：求甲,乙兩個牌號的產(chǎn)量x1，x2，使總利潤z最大.

為簡化模型,先忽略成本,并令a12=0,a21=0,問題轉(zhuǎn)化求z1=(b1-a11x1)x1+(b2-a22x2)x2的極值.顯然其解為x1=b1/2a11=50,x2=b2/2a22=70,我們把它作為原問題的初始值.總利潤為：z(x1,x2)=(p1-q1)x1+(p2-q2)x2

模型求解1.建立M文件fun.m:

function

f=fun

(x)

y1=((100-x(1)-0.1*x(2))-(30*exp(-0.015*x