1、粒子群優(yōu)化算法 索靜峰？給一副圖我加了一個剛性變化，怎么求解我加的位移量，旋轉(zhuǎn)量？算法簡介程序例子應(yīng)用擴展存在問題發(fā)展趨勢粒子群優(yōu)化算法（Particle Swarm Optimization, PSO）l由James Kenney（社會心理學(xué)（社會心理學(xué)博士）博士）肯尼迪和Russ Eberhart（電子工程學(xué)博士（電子工程學(xué)博士）艾伯哈特，1995年提出肯尼迪定義粒子群優(yōu)化算法(Particle Swarm optimization,PSO)又翻譯為粒子群算法、微粒群算法、或微粒群優(yōu)化算法。該算法模擬鳥群群體覓食的行為，通過個體之間的相互協(xié)作使群體達到最優(yōu)目的，是一種基于群體協(xié)作的隨機搜索

2、算法。通常認為它是群集智能 (Swarm intelligence, SI) 的一種。問題什么是群集智能？舉例子 典型的群集智能系統(tǒng)由一群簡單的主體構(gòu)成，每個主體和其它主體以及它們的環(huán)境作局部的交互。盡管通常沒有集中控制機制來指示這些主體如何協(xié)作，但這些簡單的局部交互行為通常能涌現(xiàn)出復(fù)雜的全局行為。鳥群覓食是一個怎樣的過程？優(yōu)點（1） 易于描述，易于理解；（2） 對優(yōu)化問題定義的連續(xù)性無特殊要求；（3） 只有非常少的參數(shù)需要調(diào)整；（4） 算法實現(xiàn)簡單，速度快；（5） 相對其它演化算法而言，只需要較小的演化群體；（6） 算法易于收斂，相比其它演化算法，只需要較少的評價函數(shù)計算次數(shù)就可達到收斂；（

3、7） 無集中控制約束,不會因個體的故障影響整個問題的求解,確保了系統(tǒng)具備很強的魯棒性。PSO其基本思想是:將所優(yōu)化問題的每一個解稱為一個微粒,每個微粒在n維搜索空間中以一定的速度飛行,通過適應(yīng)度函數(shù)來衡量微粒的優(yōu)劣,微粒根據(jù)自己的飛行經(jīng)驗以及其他微粒的飛行經(jīng)驗,來動態(tài)調(diào)整飛行速度,以期向群體中最好微粒位置飛行,從而使所優(yōu)化問題得到最優(yōu)解。公式（1-1）（1-2）)()()()()() 1(21txPrandCtxbrandCtVtVisgbsisisisis) 1()() 1(tVtxtxisisis每一個粒子對自身當前運動狀態(tài)的信任粒子自身的思考社會部分影響流程圖第一步:參數(shù)初始化,對常數(shù)C

4、1和C2進行參數(shù)設(shè)定,然后設(shè)定最大進化迭代次數(shù)Tmax,并且將當前的進化迭代次數(shù)t設(shè)為0,假設(shè)S維空間作為整個的搜索空間,其中粒子群規(guī)模為M,在定義域內(nèi),隨機給定每一個粒子的初始位置和初始速度,對Pbest以及也要進行初始化。第二步:根據(jù)既定的目標函數(shù),對每一個粒子進行計算,計算其適應(yīng)值f(t)。第三步:就每一個粒子,將第二步計算出的每一個粒子的適應(yīng)值f(t)與粒子經(jīng)歷的最優(yōu)位置Pbest比較,如果經(jīng)歷的位置優(yōu)于Pbest我們就將這個位置定義為其當前的最優(yōu)解。第四步:就每一個粒子而言,我們將其經(jīng)歷的最優(yōu)位置Pbest與群體歷史上己經(jīng)經(jīng)歷的最優(yōu)的位置Pgb予以對照,如果優(yōu)于群體最優(yōu)位置Pgb,我

5、們則用該粒子此時己經(jīng)具有的某一個適應(yīng)值f(t)取代群體原有的最優(yōu)位置Pgb。第五步:根據(jù)公式(1-1)和公式(1-2)對每一個粒子的位置和速度進行更新,并且實時對每一個粒子的速度進行越界檢測,目的是確保每一個粒子的速度在定義域-Vsmax,Vsmax之內(nèi),除此之外,還要保證對每一個粒子的位置進行越界檢查,確保粒子的位置在定義域-Xsmax,Xsmax之內(nèi)。第六步:在算法己經(jīng)接近尾聲的時候,我們要做的最為重要的一步便是如何對算法是否已經(jīng)終止進行判斷,這樣做的目的是防止算法陷入一個死循環(huán)。在這里,學(xué)者們選取了最大迭代次數(shù)作為算法是否要終止的判斷的標準,如果滿足,則計算之后輸出結(jié)果。反之,則返回第二

6、步繼續(xù)運算。程序演示歸一化互信息：引入梯度矢量流GVFGVF應(yīng)用擴展1） 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練2）連續(xù)問題參數(shù)優(yōu)化3）組合優(yōu)化4）其他應(yīng)用 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練PSO 用于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練中，主要包含三個方面：連接權(quán)重、網(wǎng)絡(luò)結(jié)構(gòu)（網(wǎng)絡(luò)拓撲結(jié)構(gòu)以及傳遞函數(shù)）和學(xué)習(xí)算法。用 PSO 算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)，一個粒子包含神經(jīng)網(wǎng)絡(luò)的所有參數(shù)，通過迭代來優(yōu)化這些參數(shù)，從而達到訓(xùn)練的目的。與 BP 算法相比，使用 PSO 訓(xùn)練神經(jīng)網(wǎng)絡(luò)的優(yōu)點在于不使用梯度信息，可使用一些不可微的傳遞函數(shù)。多數(shù)情況下其訓(xùn)練結(jié)果優(yōu)于 BP 算法，而且其訓(xùn)練速度更快。連續(xù)問題參數(shù)優(yōu)化作為一個優(yōu)化方法，PSO 算法已廣泛應(yīng)用于各類連續(xù)問題的參數(shù)優(yōu)化。

7、例如，PID控制器參數(shù)優(yōu)化、模糊控制器的設(shè)計、機器人路徑規(guī)劃、VLSI 布圖布線和電路優(yōu)化設(shè)計、信號處理、無功功率優(yōu)化、數(shù)控加工參數(shù)優(yōu)化、約束布局優(yōu)化等。并在以上問題上均取得了不錯的效果。組合優(yōu)化盡管有離散二進制版 PSO，但其并不能完全適用各種不同類型的組合優(yōu)化問題。因為其中存在著序結(jié)構(gòu)如何表達以及約束條件如何處理等問題。根據(jù)問題的不同，有些研究者提出了相應(yīng)問題的粒子表達方式，也有研究者通過重新定義迭代公式中的加法和乘法來解決問題。目前，已提出了多種解決整數(shù)規(guī)劃、TSP、VRP以及車間調(diào)度63等問題的方案。間歇過程(Batch Process)具有小批量、多品種、系列化、合成步驟復(fù)雜、技術(shù)密

8、集等特點，能夠滿足現(xiàn)代過程工業(yè)的要求。為了獲得最大產(chǎn)品產(chǎn)率或最好的產(chǎn)品質(zhì)量，間歇過程中存在著大量的優(yōu)化控制問題。通常間歇過程的動態(tài)優(yōu)化是基于過程已知的確定性模型進行求解，但實際工業(yè)中卻面臨著模型參數(shù)不確定性問題。并且，傳統(tǒng)的基于梯度的優(yōu)化控制技術(shù)在處理具有多個局部極值的目標函數(shù)時，往往會陷入局部極值點，不能高效的求解目標問題。近幾年，隨著計算機和人工智能等技術(shù)的發(fā)展，不斷涌現(xiàn)出新的智能優(yōu)化方法。這些算法能夠克服上述傳統(tǒng)方法需要目標函數(shù)是連續(xù)、可導(dǎo)的限制。結(jié)合間歇過程產(chǎn)品質(zhì)量控制問題的特點和各種約束條件，利用粒子群優(yōu)化算法對間歇過程產(chǎn)品質(zhì)量進行優(yōu)化，來改變間歇過程的魯棒優(yōu)化收縮控制變量的搜索域，

9、使優(yōu)化性能指標漸次達到最優(yōu)。其他應(yīng)用除了以上領(lǐng)域外，PSO 在多目標優(yōu)化、動態(tài)目標檢測、生物信號檢測識別、數(shù)據(jù)挖掘、聚類分析、系統(tǒng)辨識以及無人駕駛車輛的導(dǎo)航、游戲?qū)W習(xí)訓(xùn)練等方面也取得了一定的成果。粒子群優(yōu)化算法的應(yīng)用廣泛應(yīng)用于各類優(yōu)化問題上在軍事領(lǐng)域中的應(yīng)用對巡航導(dǎo)彈的飛行高度進行優(yōu)化不同的飛行高度對巡航導(dǎo)彈的創(chuàng)地概率和突破防空系統(tǒng)的成功概率有較大影響，通過優(yōu)化可以得到在防空階段損失最小的最佳飛行高度美國“戰(zhàn)斧”Block IV型攻陸巡航導(dǎo)彈粒子群優(yōu)化算法的應(yīng)用車輛路徑問題的應(yīng)用郵政投遞火車及汽車的調(diào)度港口裝卸集裝箱不足數(shù)學(xué)理論基礎(chǔ)不完善，參數(shù)的選擇等大部分研究成果是建立在大量的實驗基礎(chǔ)之上的，目前沒有統(tǒng)一的數(shù)學(xué)方法能提供有效的證明帶有隨機性，每次的求解不一定一樣，當處理突發(fā)事件時，系統(tǒng)的反映可能是不可預(yù)測的，這在一定程度上增加了其應(yīng)用風(fēng)險。發(fā)展趨勢 第一，尋找新的理論分析手段。目前，能對 PSO算法進行理論分析的有效數(shù)學(xué)手段較少，基于物理學(xué)理論的分析將是今后發(fā)展的一個方向，如基于量子理論、熱力學(xué)和動力學(xué)理論等。 第二，PSO 與新的優(yōu)化算