1、第二章 優(yōu)化設(shè)計的數(shù)學(xué)基礎(chǔ),機械優(yōu)化設(shè)計是建立在多元函數(shù)的極值理論基礎(chǔ)上 無約束優(yōu)化問題就是數(shù)學(xué)上的無條件極值問題 約束優(yōu)化問題則是數(shù)學(xué)上的條件極值問題,一.多元函數(shù)的方向?qū)?shù)與梯度,1)函數(shù)的偏導(dǎo)數(shù)就是這個函數(shù)對自變量的變化率。,1. 方向?qū)?shù),2) 二元函數(shù)的方向?qū)?shù)即沿某一方向d 的變化率，定義為 3.方向?qū)?shù)與偏導(dǎo)數(shù)的關(guān)系,n元函數(shù)的方向?qū)?shù),2. 二元函數(shù)的梯度,2)二元函數(shù)梯度的幾何解釋,2)二元函數(shù)梯度的幾何解釋,2)二元函數(shù)梯度的幾何解釋,2)二元函數(shù)梯度的幾何解釋,2)二元函數(shù)梯度的幾何解釋,2)二元函數(shù)梯度的幾何解釋,3.多元函數(shù)的梯度,將二元函數(shù)推廣到多元函數(shù)，對于多元函

2、數(shù)f(x)在X0處的梯度，可表示為,梯度的模,二.多元函數(shù)的泰勒展開,例題（一）,例題（二）,課堂作業(yè),計算 在 沿 的方向?qū)?shù)、梯度，用圖表示梯度方向。 用矩陣形式表示以上函數(shù)，并寫出海賽陣。,2020/10/11,18,三.優(yōu)化的極值條件,1. 無約束優(yōu)化的極值條件 2. 等式約束優(yōu)化的極值條件 3. 不等式約束優(yōu)化的極值條件,1. 無約束優(yōu)化問題的極值條件,極值條件就是指目標函數(shù)取得極小值時極值點所應(yīng)滿足的條件 任何一個單值、連續(xù)、可微分的不受任何約束的一元函數(shù)f(x)在點(x0)處有極值的充分必要條件是 對于二元函數(shù)，若在點(x0)處取得極值其必要條件是,二元函數(shù)取得極值的充分條件,(

3、1) 二元函數(shù)在點(x0)處的泰勒展開式，考慮上述極值必要條件，有 (2) 若f(x1,x2)在(x10,x20)處取得極小值，則要求其附近的一切點均須滿足,(3) 此條件反映了在點(x10,x20)處的海賽矩陣G(x0)的各階主子式均大于零，即 (4) 二元函數(shù)在某點處取得極值的充分條件是要求在該點處的海賽矩陣為正定,多元函數(shù)取得極值的充要條件,2. 等式約束優(yōu)化問題的極值條件,(1) 求解等式約束優(yōu)化問題 (2) 思路：將其轉(zhuǎn)化為無約束優(yōu)化問題，有兩種常用的方法: (1) 消元法（降維法） (2) 拉格朗日乘子法（升維法）,消元法（降維法）,對于n維問題，可由l個約束方程將n個變量中的前l(fā)

4、個變量用其余nl個變量表示，即有 將這些函數(shù)關(guān)系代入到目標函數(shù)中，從而得到只含 的共nl個變量的函數(shù) 就可以利用無約束優(yōu)化問題的極值條件求解。, 拉格朗日乘子法,通過增加變量將等式約束優(yōu)化問題變成無約束優(yōu)化問題。所以又稱作升維法 對于具有l(wèi)個約束的N維問題,通過增加變量將等式約束優(yōu)化問題變成無約束優(yōu)化問題。所以又稱作升維法 對于具有l(wèi)個約束的N維問題 引入拉格郎日乘子 構(gòu)成一個新的目標函數(shù) 將其作為一個新的無約束條件的目標函數(shù)來求解它的極值點，所得結(jié)果就是原等式約束問題的極值點。,新的目標函數(shù)具有極值點的必要條件為 一共可得n+l個方程，從而可解得(x,)共n+l個未知變量的值。由上述方程組求

5、得的x*即為原等式約束優(yōu)化問題的極值點。,等效證明：二維問題,三維問題,極值點在f等值面與面 的切點處 ，有,3. 不等式約束優(yōu)化的極值條件,(1) 對于多元函數(shù)不等式的約束優(yōu)化問題 (2) 求解思路,不等式約束,等式約束,無約束優(yōu)化,引入松馳變量,拉格朗日乘子,拉格朗日乘子法,新的目標函數(shù),無約束極值條件，在極值點處有,在邊界上,在邊界內(nèi),無約束極值條件，在極值點處有,庫恩塔克條件,庫恩塔克條件,上式表明庫恩塔克條件的幾何意義是，在約束極小值點x*處，函數(shù)f(x)的負梯度一定能表示成所有起作用約束在該點梯度的非負線性組合,庫恩塔克條件擴展,對于同時具有等式和不等式的約束的優(yōu)化問題 庫恩塔克條

6、件可表述為,例題：無約束優(yōu)化問題,求函數(shù)的極值 首先，根據(jù)極值的必要條件求駐點 再根據(jù)極值的充分條件，判斷其海賽矩陣是否正定,例題：等式約束優(yōu)化問題,用拉格朗日乘子法改造目標函數(shù),例題：庫恩塔克條件,此問題在設(shè)計空間平面上的圖形如圖所示，它的K-T條件表示為,例題：庫恩塔克條件(1)若g1,g2,g3在x*處都起作用,K-T條件中的第一個方程可寫為,三個方程兩個未知數(shù)屬矛盾方程組,例題：庫恩塔克條件(2)若g1,g3在x*處都起作用,K-T條件中的第一個方程可寫為,不滿足非負要求,例題：庫恩塔克條件(3)若g1,g2在x*處都起作用,K-T條件中的第一個方程可寫為,X1=1不滿足g3,滿足非負

7、要求,小結(jié),多元函數(shù)的方向?qū)?shù)與梯度 多元函數(shù)的泰勒展開 無約束優(yōu)化的極值條件 等式約束優(yōu)化的極值條件 拉格朗日乘子法 不等式約束優(yōu)化的極值條件 庫恩塔克條件,習(xí)題,四 凸集與凸函數(shù),凸集,非凸集,凹集,*若X是X1和X2連線上的點，則有,一.凸集- 若任意兩點 ，對于 ， 恒有 ， 則 D 為凸集。,整理后即得,二.凸函數(shù),設(shè)f(X)為定義在 Rn 內(nèi)一個凸集D上的函數(shù)，若對于 及D上的任意兩點X1,X2,恒有 則f(X)為定義在D上的一個凸函數(shù)。,1.定義,2.凸函數(shù)的基本性質(zhì),兩邊乘上,證: 由定義,（1）設(shè) 為定義在凸集D上的凸函數(shù)， 為任意正實數(shù),則 也是定義在 D上的凸函數(shù)。,證: 由定義,（2）設(shè) 、 均為定義在凸集D上的凸函數(shù)，則 + 也是定義在 D上的凸函數(shù)。,兩式相加,整理后可得證.,（3）