2022/12/111第3章優(yōu)化設(shè)計(jì)3.1優(yōu)化設(shè)計(jì)概述3.2優(yōu)化方法的數(shù)學(xué)基礎(chǔ)3.3一維優(yōu)化問題3.4多維無約束問題3.5多維有約束問題3.6機(jī)械最優(yōu)化設(shè)計(jì)中的其他相關(guān)問題3.7優(yōu)化設(shè)計(jì)工具軟件2022/12/101第3章優(yōu)化設(shè)計(jì)3.1優(yōu)化設(shè)計(jì)概述2022/12/1123.1

優(yōu)化問題概述一、優(yōu)化問題的基本概念二、優(yōu)化問題的數(shù)學(xué)模型三、優(yōu)化問題的幾何描述2022/12/1023.1優(yōu)化問題概述一、優(yōu)化問題的基本2022/12/113一、優(yōu)化問題的基本概念概述：優(yōu)化設(shè)計(jì)是一種用數(shù)學(xué)方法解決設(shè)計(jì)問題的設(shè)計(jì)方法，借助計(jì)算機(jī)技術(shù)實(shí)現(xiàn)復(fù)雜的計(jì)算工作。在多個(gè)可行方案中選擇最好的一個(gè)。（1）建立數(shù)學(xué)模型——選取變量，建立優(yōu)化問題的目標(biāo)函數(shù)和約束條件；（2）求解數(shù)學(xué)模型——在給定的條件下求目標(biāo)函數(shù)的極值或最優(yōu)值問題。機(jī)械優(yōu)化設(shè)計(jì)就是在給定的載荷或環(huán)境條件下，在機(jī)械產(chǎn)品的性態(tài)、幾何尺寸等因素的限制范圍內(nèi)，以其性能、強(qiáng)度和經(jīng)濟(jì)性等為優(yōu)化現(xiàn)象，選取變量，建立目標(biāo)函數(shù)和優(yōu)化條件并求解最優(yōu)值的一種現(xiàn)代設(shè)計(jì)方法。

2022/12/103一、優(yōu)化問題的基本概念概述：2022/12/114某車間生產(chǎn)甲、乙兩種產(chǎn)品。生產(chǎn)甲種產(chǎn)品每件需要材料9Kg、3個(gè)工時(shí)、4KW電，可獲利60元。生產(chǎn)乙種產(chǎn)品每件需要材料4Kg、10個(gè)工時(shí)、5KW電，可獲利120元。若每天能供應(yīng)材料360Kg，有300個(gè)工時(shí)，能供200KW電，問每天生產(chǎn)甲、乙兩種產(chǎn)品各多少件，才能獲得最大的利潤(rùn)。例12022/12/104某車間生產(chǎn)甲、乙兩種產(chǎn)品。生產(chǎn)甲種產(chǎn)品2022/12/115目標(biāo)：利潤(rùn)F變量：甲數(shù)量x1，乙數(shù)量x2約束例12022/12/105目標(biāo)：利潤(rùn)F變量：甲數(shù)量x1，乙數(shù)量x2022/12/116

某化工廠生產(chǎn)A,B,C,D四種化工品，生產(chǎn)每種產(chǎn)品一噸所消耗的工時(shí)和產(chǎn)值如下表：要求全廠年產(chǎn)量在1000萬元以上，求當(dāng)消耗的總工時(shí)最少時(shí)，該廠生產(chǎn)各種產(chǎn)品的數(shù)量。解：設(shè)該廠全年生產(chǎn)A、B、C、D四種產(chǎn)品的數(shù)量分別為x1、x2、x3、x4（單位為噸），消耗的總工時(shí)為y，則y=100x1+300x2+400x3+75x4=f(x1,x2,x3,x4)

例22022/12/106某化工廠生產(chǎn)A,B,C,D四種化2022/12/117滿足的限制條件：x1+5x2+10x3+0.5x4≥10000(1)

xi

≥0i=1,2,3,4(2)則以上問題可以簡(jiǎn)化為在（1）、（2）條件下，求min(y)時(shí)x1,x2,x3,x4的值。2022/12/107滿足的限制條件：2022/12/118例32022/12/108例32022/12/119例32022/12/109例32022/12/1110例32022/12/1010例32022/12/1111例32022/12/1011例32022/12/1112總結(jié)：優(yōu)化問題主要是建立數(shù)學(xué)模型，求極值。

一個(gè)最優(yōu)化設(shè)計(jì)問題應(yīng)包含：

設(shè)計(jì)變量、目標(biāo)函數(shù)、約束條件。

設(shè)計(jì)變量：在設(shè)計(jì)過程中進(jìn)行選擇并最終必須確定的各項(xiàng)獨(dú)立參數(shù)。目標(biāo)函數(shù)：設(shè)計(jì)中預(yù)期要達(dá)到的目標(biāo)。約束條件：設(shè)計(jì)變量取值時(shí)的限制條件。2022/12/1012總結(jié)：優(yōu)化問題主要是建立數(shù)學(xué)模型，求2022/12/1113二、優(yōu)化問題的數(shù)學(xué)模型優(yōu)化數(shù)學(xué)模型

根據(jù)研究的問題，建立設(shè)計(jì)變量與目標(biāo)函數(shù)之間的關(guān)系，以及設(shè)計(jì)變量之間應(yīng)遵守的約束條件。2022/12/1013二、優(yōu)化問題的數(shù)學(xué)模型優(yōu)化數(shù)學(xué)模型2022/12/11141、設(shè)計(jì)變量：獨(dú)立影響目標(biāo)函數(shù)的變量

設(shè)計(jì)常量、優(yōu)化設(shè)計(jì)的維數(shù)在一般情況下，若有n個(gè)設(shè)計(jì)變量，把第i個(gè)設(shè)計(jì)變量記為xi，則其全部設(shè)計(jì)變量可用n維向量的形式表示成：二、優(yōu)化問題的數(shù)學(xué)模型2022/12/10141、設(shè)計(jì)變量：獨(dú)立影響目標(biāo)函數(shù)的變量2022/12/11152022/12/10152022/12/1116n維歐氏空間：以n個(gè)獨(dú)立變量為坐標(biāo)軸組成的n維向量空間是一個(gè)n維實(shí)空間，用Rn表示，如果其中任意兩向量又有內(nèi)積運(yùn)算，則稱為n維歐氏空間，用En表示。此就為優(yōu)化設(shè)計(jì)中所謂的“設(shè)計(jì)空間”。

n維空間又稱為超越空間。設(shè)計(jì)空間中的一個(gè)點(diǎn)就是一種設(shè)計(jì)方案。2022/12/1016n維歐氏空間：2022/12/11172022/12/10172022/12/11182、目標(biāo)函數(shù)目標(biāo)函數(shù)是設(shè)計(jì)中預(yù)期要達(dá)到的目標(biāo)，可表示為各設(shè)計(jì)變量的函數(shù)表達(dá)式：

f(X)=f(x1,x2,…,xn)單目標(biāo)函數(shù)多目標(biāo)函數(shù)目標(biāo)函數(shù)越多，設(shè)計(jì)的綜合效果越好，求解難度越大2022/12/10182、目標(biāo)函數(shù)2022/12/11192022/12/10192022/12/1120等值線：對(duì)于具有相同目標(biāo)函數(shù)值的設(shè)計(jì)點(diǎn)所構(gòu)成的平面曲線或曲面稱為等值線（等高線）或等值面。當(dāng)給定目標(biāo)函數(shù)以不同值時(shí)，可得到一系列的等值線，它們構(gòu)成目標(biāo)函數(shù)的等值線族。2022/12/1020等值線：對(duì)于具有相同目標(biāo)函數(shù)值的設(shè)計(jì)2022/12/1121

等值線或等值面的用途：

在極值處函數(shù)的等值線聚成一點(diǎn)，并位于等值線族的中心。當(dāng)目標(biāo)函數(shù)值的變化范圍一定時(shí)，等值線的疏密說明目標(biāo)函數(shù)值的變化緩急。在許多優(yōu)化問題中，最優(yōu)點(diǎn)周圍往往是一族近似的同心橢圓族，每一個(gè)近似橢圓就是一條目標(biāo)函數(shù)的等值線，求目標(biāo)函數(shù)極值問題可歸結(jié)為求其等值線同心橢圓族的中心。2022/12/1021等值線或等值面的用途：2022/12/11223、約束條件設(shè)計(jì)變量取值的限制條件約束條件可以用數(shù)學(xué)不等式或等式表示?？尚杏?、不可行域如果設(shè)計(jì)點(diǎn)落到某個(gè)約束邊界線（邊界面）上，則稱邊界點(diǎn)。邊界點(diǎn)是允許的極限設(shè)計(jì)方案。設(shè)計(jì)約束條件可分為邊界約束和性態(tài)約束：

邊界約束：用于限制設(shè)計(jì)變量的變化范圍。性態(tài)約束（性能約束）：由結(jié)構(gòu)的某種性能或設(shè)計(jì)要求推導(dǎo)出來的一種約束條件。2022/12/10223、約束條件設(shè)計(jì)變量取值的限制條2022/12/11234.優(yōu)化問題的數(shù)學(xué)模型：S.t.Subjectto2022/12/10234.優(yōu)化問題的數(shù)學(xué)模型：2022/12/11242022/12/10242022/12/1125三、優(yōu)化問題的幾何描述例42022/12/1025三、優(yōu)化問題的幾何描述例42022/12/1126例42022/12/1026例42022/12/11272022/12/10272022/12/11282022/12/10282022/12/1129例52022/12/1029例52022/12/11302022/12/10302022/12/11312022/12/10312022/12/11322022/12/10322022/12/1133小結(jié)2022/12/1033小結(jié)2022/12/11343.2優(yōu)化方法的數(shù)學(xué)基礎(chǔ)一、函數(shù)的方向?qū)?shù)與梯度二、多元函數(shù)的泰勒公式及海森(Hessian)矩陣三、目標(biāo)函數(shù)的無約束極值條件四、函數(shù)的凸性與凸函數(shù)、凹函數(shù)五、目標(biāo)函數(shù)的約束極值問題六、迭代算法2022/12/10343.2優(yōu)化方法的數(shù)學(xué)基礎(chǔ)一、函數(shù)的2022/12/11351、方向?qū)?shù)多元函數(shù)的微分學(xué)中我們已經(jīng)知道，函數(shù)f(X)在某點(diǎn)的偏導(dǎo)數(shù)是函數(shù)在該點(diǎn)沿各坐標(biāo)方向的變化率。依此類推，對(duì)于n維函數(shù)，沿方向S的方向?qū)?shù)則為：一、函數(shù)的方向?qū)?shù)與梯度2022/12/10351、方向?qū)?shù)一、函數(shù)的方向?qū)?shù)與梯度2022/12/1136方向?qū)?shù)表明了函數(shù)在該點(diǎn)沿給定方向S的變化率，是一個(gè)標(biāo)量。2022/12/1036方向?qū)?shù)表明了函數(shù)在該點(diǎn)沿給定方向2022/12/11372、函數(shù)的梯度在同一點(diǎn)處，函數(shù)沿不同方向的變化率一般是不同的。我們關(guān)心的是函數(shù)變化率最大的方向。以二元函數(shù)f(x1,x2)為例說明梯度的概念函數(shù)在某點(diǎn)沿任意方向S的方向?qū)?shù)為：

2022/12/10372、函數(shù)的梯度2022/12/1138

當(dāng)梯度▽f與S方向夾角為零，方向?qū)?shù)的最大值為‖▽f

‖，即梯度的模就是函數(shù)的最大變化率。此方向稱之為梯度方向。2022/12/1038當(dāng)梯度▽f與S方2022/12/1139（1）函數(shù)在給定點(diǎn)的梯度方向是函數(shù)等值線或等值面在該點(diǎn)的法線方向。（2）某點(diǎn)梯度方向是函數(shù)在該點(diǎn)具有最大變化率的方向。如圖：2022/12/1039（1）函數(shù)在給定點(diǎn)的梯度方向是函數(shù)等2022/12/1140推廣到n維函數(shù)，函數(shù)在某點(diǎn)的梯度定義為如下向量，其模為如下表達(dá)式：2022/12/1040推廣到n維函數(shù)，函數(shù)在某點(diǎn)的梯度定義2022/12/1141例：2022/12/1041例：2022/12/11422022/12/10422022/12/11432022/12/10432022/12/1144二、多元函數(shù)的泰勒公式及海森(Hessian)矩陣

設(shè)n元函數(shù)f(X)在X(k)點(diǎn)至少有二階連續(xù)的偏導(dǎo)，則在這一點(diǎn)臨近的泰勒展開式取二次項(xiàng)時(shí)為2022/12/1044二、多元函數(shù)的泰勒公式及海森(H2022/12/11452022/12/10452022/12/1146三、無約束問題的最優(yōu)化條件1、由微積分學(xué)知，連續(xù)可微的一元函數(shù)f(X)在某點(diǎn)x*處有極值的必要條件是

f/(x*)=0滿足上式的點(diǎn)為駐點(diǎn)，但駐點(diǎn)并非都是極值點(diǎn)。若x*點(diǎn)除滿足上式外，還同時(shí)滿足f//(x*)≠0,

則為f(x)在該點(diǎn)取得極值的充分條件。當(dāng)f//(x*)>0有極小值；若f//(x*)<0有極大值。2022/12/1046三、無約束問題的最優(yōu)化條件2022/12/11472、多元函數(shù)有極值的條件1）必要條件

n元函數(shù)在Rn中極值點(diǎn)X*存在的必要條件為

▽f(X*)=0即在極值點(diǎn)處

f(X*)

的梯度為n維零向量。與一元函數(shù)相似，條件▽f(X*)=0僅是必要條件，而不是充分的。即X*點(diǎn)僅是駐點(diǎn)（穩(wěn)定點(diǎn)），它可能是拐點(diǎn)、鞍點(diǎn)。2022/12/10472、多元函數(shù)有極值的條件2022/12/11482）充分條件當(dāng)X*為駐點(diǎn)（梯度為零）時(shí)，X*為極小點(diǎn)的充分條件是

在X*點(diǎn)海森矩陣H(X*)應(yīng)是正定的

X*為極大點(diǎn)的充分條件是：

在X*點(diǎn)海森矩陣H(X*)應(yīng)是負(fù)定的當(dāng)在X*點(diǎn)海森矩陣H(X*)是不定的，則X*點(diǎn)為鞍點(diǎn)。注意：上述充分條件并不是必要的。即有這樣的情況，盡管X*為f(X)的極小點(diǎn)，但不滿足海森矩陣H(X*)應(yīng)是正定的。2022/12/10482）充分條件2022/12/11493）下述條件可用來判斷海森矩陣是否為正定或負(fù)定。

一個(gè)n階對(duì)稱矩陣為正定的充要條件是其各階順序主子式均大于零。一個(gè)n階對(duì)稱矩陣為負(fù)定的充要條件是其各階順序主子式負(fù)正相間。2022/12/10493）下述條件可用來判斷海森矩陣是否為2022/12/11502022/12/10502022/12/1151局部極值、全局極值對(duì)于非線性規(guī)劃問題,有時(shí)求出的某個(gè)解雖是一部分可行域的極值點(diǎn),但并不一定是整個(gè)可行域D的全局最優(yōu)解.對(duì)可能存在的幾個(gè)極值點(diǎn),擇其函數(shù)值最小的稱為全局最優(yōu)點(diǎn),相應(yīng)的函數(shù)值稱為全局最優(yōu)值.定義:X*∈D，若對(duì)于適合‖X-X*‖<δ(δ>0)的一切X∈D，有f(X)≥f(X*),則稱X*為局部極小點(diǎn)，稱f(X*)為局部極小值。類似地可以定義局部極大點(diǎn)和局部極大值。四、凸集、凸函數(shù)與凸規(guī)劃2022/12/1051局部極值、全局極值四、凸集、凸2022/12/1152定義：X*∈D，若對(duì)于一切X∈D，均有f(X)≥f(X*),則稱X*為全局極小點(diǎn)，稱f(X*)為全局極小值。類似地可以定義全局極大點(diǎn)和全局極大值。如圖：x1為全局最大點(diǎn),x2是局部最小，x3是局部最大，x4是全局最小，而x5既是局部極小，又是局部極大點(diǎn)。2022/12/1052定義：X*∈D，若對(duì)于一切X∈D，均2022/12/1153四、凸集、凸函數(shù)與凸規(guī)劃

凸集:

設(shè)D是n維歐氏空間Rn的一個(gè)點(diǎn)集，即D∈Rn,若任意兩點(diǎn)X(1)∈D,X(2)∈D的連線上的一切點(diǎn)滿足

αX(1)+(1-α)X(2)∈D

式中(0<α<1),則稱D為凸集。

凸函數(shù)：對(duì)于任意兩點(diǎn)X(1)和X(2)及任意α∈[0,1],滿足

f[αX(1)+(1-α)X(2)]≤α

f(X(1))+(1-α)f(X(2))

則f(X)為凸函數(shù)。當(dāng)上式的“≤”改為“

<”時(shí)，f(X)為嚴(yán)格凸函數(shù)。2022/12/1053四、凸集、凸函數(shù)與凸規(guī)劃2022/12/1154很明顯，凸函數(shù)的局部極小亦為全局極小。凸函數(shù)的判別：(1)函數(shù)是凸的，則對(duì)任意兩點(diǎn)X(1)和X(2)，有

f(X(2))≥f(X(1))+(X(2)-X(1))T[▽f(X(1))](2)若函數(shù)f(X)的Hessian陣H(X)是半正定的，則f(X)是凸的;若H(X)是正定的，則f(X)是嚴(yán)格凸函數(shù)的。當(dāng)函數(shù)上凸，即函數(shù)有極大值時(shí)，通常稱為凹函數(shù)。類似的也有嚴(yán)格凹函數(shù)。2022/12/1054很明顯，凸函數(shù)的局部極小亦為全局極小2022/12/1155凸函數(shù)凹函數(shù)2022/12/1055凸函數(shù)凹函數(shù)2022/12/1156

優(yōu)化設(shè)計(jì)需要求的是全局最優(yōu)解。求解優(yōu)化問題有許多方法，但各種方法都只是尋求局部最優(yōu)解。在優(yōu)化理論中，如果能確認(rèn)某個(gè)優(yōu)化問題是凸規(guī)劃問題，則所求的局部最優(yōu)解就是全局最優(yōu)解。由于一般的工程優(yōu)化問題的目標(biāo)函數(shù)和約束條件往往較復(fù)雜，所以根本不可能采用數(shù)學(xué)中的微分學(xué)求極值的方法來求解。2022/12/1056優(yōu)化設(shè)計(jì)需要求的是全局最優(yōu)2022/12/1157五、約束問題的最優(yōu)性條件庫恩—塔克(Kuhn-Tucker)條件：如果X*是一個(gè)局部最優(yōu)點(diǎn)，且各函數(shù)梯度組成線性關(guān)系，那么，必存在非負(fù)乘子λi和另一組乘子λj,使得(i+j=1,2,…,q)

成立。2022/12/1057五、約束問題的最優(yōu)性條件2022/12/1158K-T條件是判別約束最優(yōu)點(diǎn)的必要條件，而不是充分條件。只有當(dāng)優(yōu)化問題屬于凸規(guī)劃問題，即目標(biāo)函數(shù)為凸函數(shù)，可行域?yàn)橥辜瘯r(shí)，K-T條件才是有約束優(yōu)化問題最優(yōu)解的充要條件，這種情況下的局部最優(yōu)解必為問題的全局最優(yōu)解。2022/12/1058K-T條件是判別約束最優(yōu)點(diǎn)的必要條件2022/12/1159K-T條件有明顯的幾何意義：

若點(diǎn)X*是函數(shù)f(X)的極值點(diǎn)，則要么▽f(X*)=0，X*點(diǎn)位于可行域；要么X*

點(diǎn)位于某些約束的邊界上，而在點(diǎn)X*

，目標(biāo)函數(shù)的負(fù)梯度落在各起作用的約束梯度所成的夾角錐體之內(nèi)，也就是說，目標(biāo)函數(shù)的負(fù)梯度等于起作用的約束函數(shù)的梯度線性組合。換句話說，一個(gè)局部極值點(diǎn)的必要條件是目標(biāo)函數(shù)負(fù)梯度—▽f(X)可以表示成起作用約束梯度▽gi

(X)的線性組合，即

—▽f(X*)=∑λi▽gi(X*)(i=1,2,…,q)

2022/12/1059K-T條件有明顯的幾何意義：

2022/12/11602022/12/10602022/12/11612022/12/10612022/12/11622022/12/10622022/12/11632022/12/10632022/12/1164六、優(yōu)化設(shè)計(jì)的數(shù)值計(jì)算方法1、解析法根據(jù)目標(biāo)函數(shù)的導(dǎo)數(shù)的變化規(guī)律與函數(shù)極值的關(guān)系，求得極值點(diǎn)。2、數(shù)值迭代法（下降迭代算法）基本思路：每迭代一次應(yīng)該使函數(shù)的目標(biāo)值有所改善，得到一個(gè)可行的計(jì)算點(diǎn)，也就是下降算法的步步下降，點(diǎn)點(diǎn)可行，即“步步逼近”最優(yōu)點(diǎn)。同時(shí)還要為下一步迭代的移動(dòng)提供有用的信息。直到最后獲得足夠精度的近似解，而終止計(jì)算。2022/12/1064六、優(yōu)化設(shè)計(jì)的數(shù)值計(jì)算方法2022/12/1165迭代過程可歸納如下：

（1）

初選一個(gè)盡可能接近最優(yōu)點(diǎn)的初始點(diǎn)X(0)。（2）在X(0)點(diǎn)，選擇一個(gè)搜索方向S(0)。從X(0)出發(fā)，沿S(0)方向作射線，在此射線上找到一個(gè)把f(X(0)+λ(0)S(0)下降最多的步長(zhǎng)因子λ(0)，于是獲得新點(diǎn)

X(1)=X(0)+λ(0)S(0)

它應(yīng)滿足f(X(1）)<f(X(0))

（3）第k次迭代點(diǎn)按下式產(chǎn)生X(k+1)=X(k)+λ(k)S(k),直至滿足終止準(zhǔn)則，即得極小點(diǎn)X*。2022/12/1065迭代過程可歸納如下：2022/12/1166在迭代算法中，合理地選擇搜索方向S(k)和步長(zhǎng)因子λ(k)是優(yōu)化方法的主要問題。選擇的方法不同就構(gòu)成了種種的優(yōu)化方法。但有一點(diǎn)是共同的：它們易于通過數(shù)值計(jì)算獲得，并能使目標(biāo)函數(shù)穩(wěn)步地下降。當(dāng)搜索S(k)確定后，步長(zhǎng)因子λ(k)應(yīng)使目標(biāo)函數(shù)值下降最多，這樣的步長(zhǎng)因子稱為最優(yōu)步長(zhǎng)因子。求解最優(yōu)步長(zhǎng)因子——單變量λ(k)的問題是一個(gè)一元函數(shù)的極值問題，即

f(X(k)+λ(k)S(k))=minf(X(k)+λ(k)S(k))

這樣求得的λ(k)即為最優(yōu)步長(zhǎng)因子。2022/12/1066在迭代算法中，合理地選擇搜索方向S(優(yōu)化設(shè)計(jì)1建模及數(shù)學(xué)基礎(chǔ)課件672022/12/1168第3章優(yōu)化設(shè)計(jì)3.1優(yōu)化設(shè)計(jì)概述3.2優(yōu)化方法的數(shù)學(xué)基礎(chǔ)3.3一維優(yōu)化問題3.4多維無約束問題3.5多維有約束問題3.6機(jī)械最優(yōu)化設(shè)計(jì)中的其他相關(guān)問題3.7優(yōu)化設(shè)計(jì)工具軟件2022/12/101第3章優(yōu)化設(shè)計(jì)3.1優(yōu)化設(shè)計(jì)概述2022/12/11693.1

優(yōu)化問題概述一、優(yōu)化問題的基本概念二、優(yōu)化問題的數(shù)學(xué)模型三、優(yōu)化問題的幾何描述2022/12/1023.1優(yōu)化問題概述一、優(yōu)化問題的基本2022/12/1170一、優(yōu)化問題的基本概念概述：優(yōu)化設(shè)計(jì)是一種用數(shù)學(xué)方法解決設(shè)計(jì)問題的設(shè)計(jì)方法，借助計(jì)算機(jī)技術(shù)實(shí)現(xiàn)復(fù)雜的計(jì)算工作。在多個(gè)可行方案中選擇最好的一個(gè)。（1）建立數(shù)學(xué)模型——選取變量，建立優(yōu)化問題的目標(biāo)函數(shù)和約束條件；（2）求解數(shù)學(xué)模型——在給定的條件下求目標(biāo)函數(shù)的極值或最優(yōu)值問題。機(jī)械優(yōu)化設(shè)計(jì)就是在給定的載荷或環(huán)境條件下，在機(jī)械產(chǎn)品的性態(tài)、幾何尺寸等因素的限制范圍內(nèi)，以其性能、強(qiáng)度和經(jīng)濟(jì)性等為優(yōu)化現(xiàn)象，選取變量，建立目標(biāo)函數(shù)和優(yōu)化條件并求解最優(yōu)值的一種現(xiàn)代設(shè)計(jì)方法。

2022/12/103一、優(yōu)化問題的基本概念概述：2022/12/1171某車間生產(chǎn)甲、乙兩種產(chǎn)品。生產(chǎn)甲種產(chǎn)品每件需要材料9Kg、3個(gè)工時(shí)、4KW電，可獲利60元。生產(chǎn)乙種產(chǎn)品每件需要材料4Kg、10個(gè)工時(shí)、5KW電，可獲利120元。若每天能供應(yīng)材料360Kg，有300個(gè)工時(shí)，能供200KW電，問每天生產(chǎn)甲、乙兩種產(chǎn)品各多少件，才能獲得最大的利潤(rùn)。例12022/12/104某車間生產(chǎn)甲、乙兩種產(chǎn)品。生產(chǎn)甲種產(chǎn)品2022/12/1172目標(biāo)：利潤(rùn)F變量：甲數(shù)量x1，乙數(shù)量x2約束例12022/12/105目標(biāo)：利潤(rùn)F變量：甲數(shù)量x1，乙數(shù)量x2022/12/1173

某化工廠生產(chǎn)A,B,C,D四種化工品，生產(chǎn)每種產(chǎn)品一噸所消耗的工時(shí)和產(chǎn)值如下表：要求全廠年產(chǎn)量在1000萬元以上，求當(dāng)消耗的總工時(shí)最少時(shí)，該廠生產(chǎn)各種產(chǎn)品的數(shù)量。解：設(shè)該廠全年生產(chǎn)A、B、C、D四種產(chǎn)品的數(shù)量分別為x1、x2、x3、x4（單位為噸），消耗的總工時(shí)為y，則y=100x1+300x2+400x3+75x4=f(x1,x2,x3,x4)

例22022/12/106某化工廠生產(chǎn)A,B,C,D四種化2022/12/1174滿足的限制條件：x1+5x2+10x3+0.5x4≥10000(1)

xi

≥0i=1,2,3,4(2)則以上問題可以簡(jiǎn)化為在（1）、（2）條件下，求min(y)時(shí)x1,x2,x3,x4的值。2022/12/107滿足的限制條件：2022/12/1175例32022/12/108例32022/12/1176例32022/12/109例32022/12/1177例32022/12/1010例32022/12/1178例32022/12/1011例32022/12/1179總結(jié)：優(yōu)化問題主要是建立數(shù)學(xué)模型，求極值。

一個(gè)最優(yōu)化設(shè)計(jì)問題應(yīng)包含：

設(shè)計(jì)變量、目標(biāo)函數(shù)、約束條件。

設(shè)計(jì)變量：在設(shè)計(jì)過程中進(jìn)行選擇并最終必須確定的各項(xiàng)獨(dú)立參數(shù)。目標(biāo)函數(shù)：設(shè)計(jì)中預(yù)期要達(dá)到的目標(biāo)。約束條件：設(shè)計(jì)變量取值時(shí)的限制條件。2022/12/1012總結(jié)：優(yōu)化問題主要是建立數(shù)學(xué)模型，求2022/12/1180二、優(yōu)化問題的數(shù)學(xué)模型優(yōu)化數(shù)學(xué)模型

根據(jù)研究的問題，建立設(shè)計(jì)變量與目標(biāo)函數(shù)之間的關(guān)系，以及設(shè)計(jì)變量之間應(yīng)遵守的約束條件。2022/12/1013二、優(yōu)化問題的數(shù)學(xué)模型優(yōu)化數(shù)學(xué)模型2022/12/11811、設(shè)計(jì)變量：獨(dú)立影響目標(biāo)函數(shù)的變量

設(shè)計(jì)常量、優(yōu)化設(shè)計(jì)的維數(shù)在一般情況下，若有n個(gè)設(shè)計(jì)變量，把第i個(gè)設(shè)計(jì)變量記為xi，則其全部設(shè)計(jì)變量可用n維向量的形式表示成：二、優(yōu)化問題的數(shù)學(xué)模型2022/12/10141、設(shè)計(jì)變量：獨(dú)立影響目標(biāo)函數(shù)的變量2022/12/11822022/12/10152022/12/1183n維歐氏空間：以n個(gè)獨(dú)立變量為坐標(biāo)軸組成的n維向量空間是一個(gè)n維實(shí)空間，用Rn表示，如果其中任意兩向量又有內(nèi)積運(yùn)算，則稱為n維歐氏空間，用En表示。此就為優(yōu)化設(shè)計(jì)中所謂的“設(shè)計(jì)空間”。

n維空間又稱為超越空間。設(shè)計(jì)空間中的一個(gè)點(diǎn)就是一種設(shè)計(jì)方案。2022/12/1016n維歐氏空間：2022/12/11842022/12/10172022/12/11852、目標(biāo)函數(shù)目標(biāo)函數(shù)是設(shè)計(jì)中預(yù)期要達(dá)到的目標(biāo)，可表示為各設(shè)計(jì)變量的函數(shù)表達(dá)式：

f(X)=f(x1,x2,…,xn)單目標(biāo)函數(shù)多目標(biāo)函數(shù)目標(biāo)函數(shù)越多，設(shè)計(jì)的綜合效果越好，求解難度越大2022/12/10182、目標(biāo)函數(shù)2022/12/11862022/12/10192022/12/1187等值線：對(duì)于具有相同目標(biāo)函數(shù)值的設(shè)計(jì)點(diǎn)所構(gòu)成的平面曲線或曲面稱為等值線（等高線）或等值面。當(dāng)給定目標(biāo)函數(shù)以不同值時(shí)，可得到一系列的等值線，它們構(gòu)成目標(biāo)函數(shù)的等值線族。2022/12/1020等值線：對(duì)于具有相同目標(biāo)函數(shù)值的設(shè)計(jì)2022/12/1188

等值線或等值面的用途：

在極值處函數(shù)的等值線聚成一點(diǎn)，并位于等值線族的中心。當(dāng)目標(biāo)函數(shù)值的變化范圍一定時(shí)，等值線的疏密說明目標(biāo)函數(shù)值的變化緩急。在許多優(yōu)化問題中，最優(yōu)點(diǎn)周圍往往是一族近似的同心橢圓族，每一個(gè)近似橢圓就是一條目標(biāo)函數(shù)的等值線，求目標(biāo)函數(shù)極值問題可歸結(jié)為求其等值線同心橢圓族的中心。2022/12/1021等值線或等值面的用途：2022/12/11893、約束條件設(shè)計(jì)變量取值的限制條件約束條件可以用數(shù)學(xué)不等式或等式表示?？尚杏颉⒉豢尚杏蛉绻O(shè)計(jì)點(diǎn)落到某個(gè)約束邊界線（邊界面）上，則稱邊界點(diǎn)。邊界點(diǎn)是允許的極限設(shè)計(jì)方案。設(shè)計(jì)約束條件可分為邊界約束和性態(tài)約束：

邊界約束：用于限制設(shè)計(jì)變量的變化范圍。性態(tài)約束（性能約束）：由結(jié)構(gòu)的某種性能或設(shè)計(jì)要求推導(dǎo)出來的一種約束條件。2022/12/10223、約束條件設(shè)計(jì)變量取值的限制條2022/12/11904.優(yōu)化問題的數(shù)學(xué)模型：S.t.Subjectto2022/12/10234.優(yōu)化問題的數(shù)學(xué)模型：2022/12/11912022/12/10242022/12/1192三、優(yōu)化問題的幾何描述例42022/12/1025三、優(yōu)化問題的幾何描述例42022/12/1193例42022/12/1026例42022/12/11942022/12/10272022/12/11952022/12/10282022/12/1196例52022/12/1029例52022/12/11972022/12/10302022/12/11982022/12/10312022/12/11992022/12/10322022/12/11100小結(jié)2022/12/1033小結(jié)2022/12/111013.2優(yōu)化方法的數(shù)學(xué)基礎(chǔ)一、函數(shù)的方向?qū)?shù)與梯度二、多元函數(shù)的泰勒公式及海森(Hessian)矩陣三、目標(biāo)函數(shù)的無約束極值條件四、函數(shù)的凸性與凸函數(shù)、凹函數(shù)五、目標(biāo)函數(shù)的約束極值問題六、迭代算法2022/12/10343.2優(yōu)化方法的數(shù)學(xué)基礎(chǔ)一、函數(shù)的2022/12/111021、方向?qū)?shù)多元函數(shù)的微分學(xué)中我們已經(jīng)知道，函數(shù)f(X)在某點(diǎn)的偏導(dǎo)數(shù)是函數(shù)在該點(diǎn)沿各坐標(biāo)方向的變化率。依此類推，對(duì)于n維函數(shù)，沿方向S的方向?qū)?shù)則為：一、函數(shù)的方向?qū)?shù)與梯度2022/12/10351、方向?qū)?shù)一、函數(shù)的方向?qū)?shù)與梯度2022/12/11103方向?qū)?shù)表明了函數(shù)在該點(diǎn)沿給定方向S的變化率，是一個(gè)標(biāo)量。2022/12/1036方向?qū)?shù)表明了函數(shù)在該點(diǎn)沿給定方向2022/12/111042、函數(shù)的梯度在同一點(diǎn)處，函數(shù)沿不同方向的變化率一般是不同的。我們關(guān)心的是函數(shù)變化率最大的方向。以二元函數(shù)f(x1,x2)為例說明梯度的概念函數(shù)在某點(diǎn)沿任意方向S的方向?qū)?shù)為：

2022/12/10372、函數(shù)的梯度2022/12/11105

當(dāng)梯度▽f與S方向夾角為零，方向?qū)?shù)的最大值為‖▽f

‖，即梯度的模就是函數(shù)的最大變化率。此方向稱之為梯度方向。2022/12/1038當(dāng)梯度▽f與S方2022/12/11106（1）函數(shù)在給定點(diǎn)的梯度方向是函數(shù)等值線或等值面在該點(diǎn)的法線方向。（2）某點(diǎn)梯度方向是函數(shù)在該點(diǎn)具有最大變化率的方向。如圖：2022/12/1039（1）函數(shù)在給定點(diǎn)的梯度方向是函數(shù)等2022/12/11107推廣到n維函數(shù)，函數(shù)在某點(diǎn)的梯度定義為如下向量，其模為如下表達(dá)式：2022/12/1040推廣到n維函數(shù)，函數(shù)在某點(diǎn)的梯度定義2022/12/11108例：2022/12/1041例：2022/12/111092022/12/10422022/12/111102022/12/10432022/12/11111二、多元函數(shù)的泰勒公式及海森(Hessian)矩陣

設(shè)n元函數(shù)f(X)在X(k)點(diǎn)至少有二階連續(xù)的偏導(dǎo)，則在這一點(diǎn)臨近的泰勒展開式取二次項(xiàng)時(shí)為2022/12/1044二、多元函數(shù)的泰勒公式及海森(H2022/12/111122022/12/10452022/12/11113三、無約束問題的最優(yōu)化條件1、由微積分學(xué)知，連續(xù)可微的一元函數(shù)f(X)在某點(diǎn)x*處有極值的必要條件是

f/(x*)=0滿足上式的點(diǎn)為駐點(diǎn)，但駐點(diǎn)并非都是極值點(diǎn)。若x*點(diǎn)除滿足上式外，還同時(shí)滿足f//(x*)≠0,

則為f(x)在該點(diǎn)取得極值的充分條件。當(dāng)f//(x*)>0有極小值；若f//(x*)<0有極大值。2022/12/1046三、無約束問題的最優(yōu)化條件2022/12/111142、多元函數(shù)有極值的條件1）必要條件

n元函數(shù)在Rn中極值點(diǎn)X*存在的必要條件為

▽f(X*)=0即在極值點(diǎn)處

f(X*)

的梯度為n維零向量。與一元函數(shù)相似，條件▽f(X*)=0僅是必要條件，而不是充分的。即X*點(diǎn)僅是駐點(diǎn)（穩(wěn)定點(diǎn)），它可能是拐點(diǎn)、鞍點(diǎn)。2022/12/10472、多元函數(shù)有極值的條件2022/12/111152）充分條件當(dāng)X*為駐點(diǎn)（梯度為零）時(shí)，X*為極小點(diǎn)的充分條件是

在X*點(diǎn)海森矩陣H(X*)應(yīng)是正定的

X*為極大點(diǎn)的充分條件是：

在X*點(diǎn)海森矩陣H(X*)應(yīng)是負(fù)定的當(dāng)在X*點(diǎn)海森矩陣H(X*)是不定的，則X*點(diǎn)為鞍點(diǎn)。注意：上述充分條件并不是必要的。即有這樣的情況，盡管X*為f(X)的極小點(diǎn)，但不滿足海森矩陣H(X*)應(yīng)是正定的。2022/12/10482）充分條件2022/12/111163）下述條件可用來判斷海森矩陣是否為正定或負(fù)定。

一個(gè)n階對(duì)稱矩陣為正定的充要條件是其各階順序主子式均大于零。一個(gè)n階對(duì)稱矩陣為負(fù)定的充要條件是其各階順序主子式負(fù)正相間。2022/12/10493）下述條件可用來判斷海森矩陣是否為2022/12/111172022/12/10502022/12/11118局部極值、全局極值對(duì)于非線性規(guī)劃問題,有時(shí)求出的某個(gè)解雖是一部分可行域的極值點(diǎn),但并不一定是整個(gè)可行域D的全局最優(yōu)解.對(duì)可能存在的幾個(gè)極值點(diǎn),擇其函數(shù)值最小的稱為全局最優(yōu)點(diǎn),相應(yīng)的函數(shù)值稱為全局最優(yōu)值.定義:X*∈D，若對(duì)于適合‖X-X*‖<δ(δ>0)的一切X∈D，有f(X)≥f(X*),則稱X*為局部極小點(diǎn)，稱f(X*)為局部極小值。類似地可以定義局部極大點(diǎn)和局部極大值。四、凸集、凸函數(shù)與凸規(guī)劃2022/12/1051局部極值、全局極值四、凸集、凸2022/12/11119定義：X*∈D，若對(duì)于一切X∈D，均有f(X)≥f(X*),則稱X*為全局極小點(diǎn)，稱f(X*)為全局極小值。類似地可以定義全局極大點(diǎn)和全局極大值。如圖：x1為全局最大點(diǎn),x2是局部最小，x3是局部最大，x4是全局最小，而x5既是局部極小，又是局部極大點(diǎn)。2022/12/1052定義：X*∈D，若對(duì)于一切X∈D，均2022/12/11120四、凸集、凸函數(shù)與凸規(guī)劃

凸集:

設(shè)D是n維歐氏空間Rn的一個(gè)點(diǎn)集，即D∈Rn,若任意兩點(diǎn)X(1)∈D,X(2)∈D的連線上的一切點(diǎn)滿足

αX(1)+(1-α)X(2)∈D

式中(0<α<1),則稱D為凸集。

凸函數(shù)：對(duì)于任意兩點(diǎn)X(1)和X(2)及任意α∈[0,1],滿足

f[αX(1)+(1-α)X(2)]≤α

f(X(1))+(1-α)f(X(2))

則f(X)為凸函數(shù)。當(dāng)上式的“≤”改為“

<”時(shí)，f(X)為嚴(yán)格凸函數(shù)。2022/12/1053四、凸集、凸函數(shù)與凸規(guī)劃2022/12/11121很明顯，凸函數(shù)的局部極小亦為全局極小。凸函數(shù)的判別：(1)函數(shù)是凸的，則對(duì)任意兩點(diǎn)X(1)和X(2)，有

f(X(2))≥f(X(1))+(X(2)-X(1))T[▽f(X(1))](2)若函數(shù)f(X)的Hessian陣H(X)是半正定的，則f(X)是凸的;若H(X)是正定的，則f(X)是嚴(yán)格凸函數(shù)的。當(dāng)函數(shù)上凸，即函數(shù)有極大值時(shí)，通常稱為凹函數(shù)。類似的也有嚴(yán)格凹函數(shù)。2022/12/1054很明顯，凸函數(shù)的局部極小亦為全局極小2022/12/11122凸函數(shù)凹函數(shù)2022/12/1055凸函數(shù)凹函數(shù)2022/12/11123

優(yōu)化設(shè)計(jì)需要求的是全局最優(yōu)解。求解優(yōu)化問題有許多方法，但各種方法都只是尋求局部最優(yōu)解。在優(yōu)化理論中，如果能確認(rèn)某個(gè)優(yōu)化問題是凸規(guī)劃問題，則所求的局部最優(yōu)解就是全局最優(yōu)解。由于一般的工程優(yōu)化問題的目標(biāo)函數(shù)和約束條件往往較復(fù)雜，所以根本不可能采用數(shù)學(xué)中的微分學(xué)求極值的方法來求解。2022/12/1056優(yōu)化設(shè)計(jì)需要求的是全局最優(yōu)2022/12/11124五、約束問題的最優(yōu)性條件庫恩—塔克(Kuhn-Tuck