第十二章模擬退火算法與人工免疫算法簡介

本章對目前常用的幾種智能優(yōu)化計算算法作簡單介紹，以使讀者對它們有個根本認(rèn)識。內(nèi)容包括神經(jīng)網(wǎng)絡(luò)、遺傳算法、模擬退火算法和神經(jīng)網(wǎng)絡(luò)混合優(yōu)化學(xué)習(xí)策略。12.1模擬退火算法

模擬退火算法(simulatedannealing,簡稱SA)的思想最早是由Metropolis等(1953)提出的，1983年Kirkpatrick等將其用于組合優(yōu)化。SA算法是基于MonteCarlo迭代求解策略的一種隨機尋優(yōu)算法，其出發(fā)點是基于物理中固體物質(zhì)的退火過程與一般組合優(yōu)化問題之間的相似性。模擬退火算法模擬退火算法在某一初溫下，伴隨溫度參數(shù)的不斷下降，結(jié)合概率突跳特性在解空間中隨機尋找目標(biāo)函數(shù)的全局最優(yōu)解，即在局部優(yōu)解能概率性地跳出并最終趨于全局最優(yōu)解。模擬退火算法是一種通用的優(yōu)化算法，目前已在工程中得到了廣泛應(yīng)用。模擬退火算法12.1.1物理退火過程和Metropolis準(zhǔn)那么簡單而言，物理退火過程由以下三局部組成：⑴加溫過程。其目的是增強粒子的熱運動，使其偏離平衡位置。當(dāng)溫度足夠高時，固體將溶解為液體，從而消除系統(tǒng)原先可能存在的非均勻態(tài)，使隨后進(jìn)行的冷卻過程以某一平衡態(tài)為起點。溶解過程與系統(tǒng)的熵增過程聯(lián)系，系統(tǒng)能量也隨溫度的升高而增大。模擬退火算法⑵等溫過程。物理學(xué)的知識告訴我們，對于與周圍環(huán)境交換熱量而溫度不變的封閉系統(tǒng)，系統(tǒng)狀態(tài)的自發(fā)變化總是朝自由能減少的方向進(jìn)行，當(dāng)自由能到達(dá)最小時，系統(tǒng)到達(dá)平衡態(tài)。⑶冷卻過程。目的是使粒子的熱運動減弱并漸趨有序，系統(tǒng)能量逐漸下降，從而得到低能的晶體結(jié)構(gòu)。模擬退火算法Metropolis等在1953年提出了重要性采樣法，即以概率接受新狀態(tài)。具體而言，在溫度t,由當(dāng)前狀態(tài)i產(chǎn)生新狀態(tài)j，兩者的能量分別為，假設(shè)那么接受新狀態(tài)j為當(dāng)前狀態(tài)；否那么，假設(shè)概率大于區(qū)間內(nèi)的隨機數(shù)那么仍舊接受新狀態(tài)j為當(dāng)前狀態(tài)，假設(shè)不成立那么保存i為當(dāng)前狀態(tài)，其中k為Boltzmann常數(shù)。模擬退火算法這種重要性采樣過程在高溫下可接受與當(dāng)前狀態(tài)能量差較大的新狀態(tài)，而在低溫下根本只接受與當(dāng)前能量差較小的新狀態(tài)，而且當(dāng)溫度趨于零時，就不能接受比當(dāng)前狀態(tài)能量高的新狀態(tài)。這種接受準(zhǔn)那么通常稱為Metropolis準(zhǔn)那么。模擬退火算法12.1.2模擬退火算法的根本思想和步驟1983年Kirkpatrick等意識到組合優(yōu)化與物理退火的相似性，并受到Metropolis準(zhǔn)那么的啟迪，提出了模擬退火算法。模擬退火算法是基于MonteCarlo迭代求解策略的一種隨機尋優(yōu)算法，其出發(fā)點是基于物理退火過程與組合優(yōu)化之間的相似性，SA由某一較高初溫開始，利用具有概率突跳特性的Metropolis抽樣策略在解空間中進(jìn)行隨機搜索，伴隨溫度的不斷下降重復(fù)抽樣過程，最終得到問題的全局最優(yōu)解。模擬退火算法標(biāo)準(zhǔn)模擬退火算法的一般步驟可描述如下：⑴給定初溫，隨機產(chǎn)生初始狀態(tài)，令；⑵Repeat:①Repeat產(chǎn)生新狀態(tài)；模擬退火算法Until抽樣穩(wěn)定準(zhǔn)那么滿足；②退溫，并令；Until算法終止準(zhǔn)那么滿足；⑶輸出算法搜索結(jié)果。模擬退火算法12.1.3模擬退火算法關(guān)鍵參數(shù)和操作的設(shè)定從算法流程上看，模擬退火算法包括三函數(shù)兩準(zhǔn)那么，即狀態(tài)產(chǎn)生函數(shù)、狀態(tài)接受函數(shù)、溫度更新函數(shù)、內(nèi)循環(huán)終止準(zhǔn)那么和外循環(huán)終止準(zhǔn)那么，這些環(huán)節(jié)的設(shè)計將決定SA算法的優(yōu)化性能。此外，初溫的選擇對SA算法性能也有很大影響。模擬退火算法⑴狀態(tài)產(chǎn)生函數(shù)設(shè)計狀態(tài)產(chǎn)生函數(shù)〔鄰域函數(shù)〕的出發(fā)點應(yīng)該是盡可能保證產(chǎn)生的候選解遍布全部的解空間。通常，狀態(tài)產(chǎn)生函數(shù)由兩局部組成，即產(chǎn)生候選解的方式和候選解產(chǎn)生的概率分布。模擬退火算法⑵狀態(tài)接受函數(shù)狀態(tài)接受函數(shù)一般以概率的方式給出，不同接受函數(shù)的差異主要在于接受概率的形式不同。設(shè)計狀態(tài)接受概率，應(yīng)該遵循以下原那么：①在固定溫度下，接受使目標(biāo)函數(shù)值下降的候選解的概率要大于使目標(biāo)值上升的候選解的概率；模擬退火算法②隨溫度的下降，接受使目標(biāo)函數(shù)值上升的解的概率要逐漸減??；③當(dāng)溫度趨于零時，只能接受目標(biāo)函數(shù)值下降的解。狀態(tài)接受函數(shù)的引入是SA算法實現(xiàn)全局搜索的最關(guān)鍵的因素，SA算法中通常采用min[1,exp(-△C/t)]作為狀態(tài)接受函數(shù)。

模擬退火算法⑶初溫初始溫度、溫度更新函數(shù)、內(nèi)循環(huán)終止準(zhǔn)那么和外循環(huán)終止準(zhǔn)那么通常被稱為退火歷程(annealingschedule)。實驗說明，初溫越大，獲得高質(zhì)量解的幾率越大，但花費的計算時間將增加。因此，初溫確實定應(yīng)折衷考慮優(yōu)化質(zhì)量和優(yōu)化效率，常用方法包括：模擬退火算法①均勻抽樣一組狀態(tài)，以各狀態(tài)目標(biāo)值的方差為初溫。②隨機產(chǎn)生一組狀態(tài)，確定兩兩狀態(tài)間的最大目標(biāo)值差，然后依據(jù)差值，利用一定的函數(shù)確定初溫。譬如,其中

為初始接受概率③利用經(jīng)驗公式給出。模擬退火算法⑷溫度更新函數(shù)溫度更新函數(shù)，即溫度的下降方式，用于在外循環(huán)中修改溫度值。目前，最常用的溫度更新函數(shù)為指數(shù)退溫函數(shù)，即，其中且其大小可以不斷變化。模擬退火算法⑸內(nèi)循環(huán)終止準(zhǔn)那么內(nèi)循環(huán)終止準(zhǔn)那么，或稱Metropolis抽樣穩(wěn)定準(zhǔn)那么，用于決定在各溫度下產(chǎn)生候選解的數(shù)目。在非時齊SA算法理論中，由于在每個溫度下只產(chǎn)生一個或少量候選解，所以不存在選擇內(nèi)循環(huán)終止準(zhǔn)那么的問題。模擬退火算法而在時齊SA算法理論中，收斂條件要求在每個溫度下產(chǎn)生候選解的數(shù)目趨于無窮大，以使相應(yīng)的馬氏鏈到達(dá)平穩(wěn)概率分布，顯然在實際應(yīng)用算法時這是無法實現(xiàn)的。常用的抽樣準(zhǔn)那么包括：①檢驗?zāi)繕?biāo)函數(shù)的均值是否穩(wěn)定；②連續(xù)假設(shè)干步的目標(biāo)值變化較小；③按一定的步數(shù)抽樣。模擬退火算法⑹外循環(huán)終止準(zhǔn)那么外循環(huán)終止準(zhǔn)那么，即算法終止準(zhǔn)那么，用于決定算法何時結(jié)束。設(shè)置溫度終值是一種簡單的方法。SA算法的收斂性理論中要求溫度終值趨于零，這顯然不合實際。通常的做法是：模擬退火算法①設(shè)置終止溫度的閾值；②設(shè)置外循環(huán)迭代次數(shù)；③算法收斂到的最優(yōu)值連續(xù)假設(shè)干步保持不變；④檢驗系統(tǒng)熵是否穩(wěn)定。12.1.4神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略

鑒于GA、SA的全局優(yōu)化特性和通用性，即優(yōu)化過程無需導(dǎo)數(shù)信息，我們可以基于實數(shù)編碼構(gòu)造BPSA、BPGA混合優(yōu)化學(xué)習(xí)策略，以提高前向網(wǎng)絡(luò)學(xué)習(xí)的速度、精度，特別是防止陷入局部極小的能力。12.1.4神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略4.1BPSA混合學(xué)習(xí)策略在BPSA混合學(xué)習(xí)策略中，采用以BP為主框架，并在學(xué)習(xí)過程中引入SA策略。這樣做，既利用了基于梯度下降的有指導(dǎo)學(xué)習(xí)來提高局部搜索性能，也利用了SA的概率突跳性來實現(xiàn)最終的全局收斂，從而可提高學(xué)習(xí)速度和精度。

BP-SA混合學(xué)習(xí)策略的算法步驟如下：

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑴

隨機產(chǎn)生初始權(quán)值，確定初溫，令⑵

利用BP計算。利用SA進(jìn)行搜索：

①

利用SA狀態(tài)產(chǎn)生函數(shù)產(chǎn)生新權(quán)值，，其中為隨機擾動。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略②計算的目標(biāo)函數(shù)值與的目標(biāo)函數(shù)值之差。③計算接受概率。④假設(shè)，那么取；否那么保持不變。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(4)利用退溫函數(shù)進(jìn)行退溫，其中為退溫速率。假設(shè)對應(yīng)的目標(biāo)函數(shù)滿足要求精度，那么終止算法并輸出結(jié)果；否那么，令，轉(zhuǎn)步驟⑵。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略4.2BPGA混合學(xué)習(xí)策略神經(jīng)網(wǎng)絡(luò)的連接權(quán)包含著神經(jīng)網(wǎng)絡(luò)系統(tǒng)的全部知識。反向傳播的BP神經(jīng)網(wǎng)絡(luò)(backpropagationnetwork)的學(xué)習(xí)算法是基于梯度下降的，因而具有以下缺點：網(wǎng)絡(luò)訓(xùn)練速度慢、容易陷入局部極小值、全局搜索能力差等。而遺傳算法的搜索普及整個解空間，因此容易得到全局最優(yōu)解，而且遺傳算法不要求目標(biāo)函數(shù)連續(xù)、可微，甚至不要求目標(biāo)函數(shù)有顯函數(shù)的形式，只要求問題可計算。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略因此，將擅長全局搜索的遺傳算法和局部尋優(yōu)能力較強的BP算法結(jié)合起來，可以防止陷入局部極小值，提高算法收斂速度，很快找到問題的全局最優(yōu)解。BP算法和遺傳算法結(jié)合訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)重的主要步驟為：神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(1)以神經(jīng)網(wǎng)絡(luò)節(jié)點之間的連接權(quán)重和節(jié)點的閾值為參數(shù)，采用實數(shù)編碼。采用三層神經(jīng)網(wǎng)絡(luò)，設(shè)輸入節(jié)點數(shù)為p，輸出節(jié)點數(shù)為q，隱層節(jié)點數(shù)為r，那么編碼長度n為：

〔10-4-1〕神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(2)設(shè)定神經(jīng)網(wǎng)絡(luò)節(jié)點連接權(quán)重的取值范圍,產(chǎn)生相應(yīng)范圍的均勻分布隨機數(shù)賦給基因值，產(chǎn)生初始群體；(3)對群體中個體進(jìn)行評價。將個體解碼賦值給相應(yīng)的連接權(quán)(包括節(jié)點閾值)，引入學(xué)習(xí)樣本計算出學(xué)習(xí)誤差E，個體的適應(yīng)度定義為：.〔10-4-2〕神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略(4)對群體中的個體執(zhí)行遺傳操作：①選擇操作。采用比例選擇算子，假設(shè)群體規(guī)模為M，那么適應(yīng)度為的個體被選中進(jìn)入下一代的概率為：.〔10-4-3〕神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略②交叉操作。由于采用實數(shù)編碼，應(yīng)選擇算術(shù)交叉算子。父代中的個體和以交叉概率進(jìn)行交叉操作，可產(chǎn)生的子代個體為：〔10-4-4〕和〔10-4-5〕其中a為參數(shù)。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略③變異操作。采用均勻變異算子。個體的各個基因位以變異概率發(fā)生變異，即按概率用區(qū)間中的均勻分布隨機數(shù)代替原有值。 ⑸引入最優(yōu)保存策略。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑹判斷滿足遺傳算法操作終止條件否？不滿足那么轉(zhuǎn)步驟⑶。否那么轉(zhuǎn)步驟⑺。⑺將遺傳算法搜索的最優(yōu)個體解碼，賦值給神經(jīng)網(wǎng)絡(luò)權(quán)重(包括節(jié)點閾值)，繼續(xù)采用BP算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的權(quán)重和閾值。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略4.3GASA混合學(xué)習(xí)策略采用三層前饋網(wǎng)絡(luò)，GA和SA結(jié)合訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)重的步驟如下：⑴給定模擬退火初溫，令；⑵以神經(jīng)網(wǎng)絡(luò)節(jié)點之間的連接權(quán)重和節(jié)點的閾值為參數(shù)，采用實數(shù)編碼。采用三層神經(jīng)網(wǎng)絡(luò)，設(shè)輸入節(jié)點數(shù)為p，輸出節(jié)點數(shù)為q，隱層節(jié)點數(shù)為r，那么編碼長度n為：神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略〔10-4-6〕⑶設(shè)定神經(jīng)網(wǎng)絡(luò)節(jié)點連接權(quán)重的取值范圍，產(chǎn)生相應(yīng)范圍的均勻分布隨機數(shù)賦給基因值，產(chǎn)生初始群體；⑷對群體中個體進(jìn)行評價。將個體解碼賦值給相應(yīng)的連接權(quán)(包括節(jié)點閾值)，引入學(xué)習(xí)樣本計算出學(xué)習(xí)誤差E，個體的適應(yīng)度定義為：.〔10-4-7〕神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑸對群體中的個體執(zhí)行遺傳操作：①選擇操作。采用比例選擇算子，假設(shè)群體規(guī)模為M，那么適應(yīng)度為的個體被選中進(jìn)入下一代的概率為：.〔10-4-8〕神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略②交叉操作。由于采用實數(shù)編碼，應(yīng)選擇算術(shù)交叉算子。父代中的個體和以交叉概率進(jìn)行交叉操作，可產(chǎn)生的子代個體為：〔10-4-9〕和〔10-4-10〕其中a為參數(shù)。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略③變異操作。采用均勻變異算子。個體的各個基因位以變異概率發(fā)生變異，即按概率用區(qū)間中的均勻分布隨機數(shù)代替原有值。⑹引入最優(yōu)保存策略。⑺對群體中每一個個體引入模擬退火操作：神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略①

利用SA狀態(tài)產(chǎn)生函數(shù)產(chǎn)生新基因值，，其中為隨機擾動。②

計算的目標(biāo)函數(shù)值與的目標(biāo)函數(shù)值之差。③

計算接受概率。

神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略④假設(shè)，那么?。环衲敲幢３植蛔?。⑤引入最優(yōu)保存策略。⑥利用退溫函數(shù)進(jìn)行退溫，其中為退溫速率。神經(jīng)網(wǎng)絡(luò)權(quán)值的混合優(yōu)化學(xué)習(xí)策略⑻判斷滿足遺傳算法操作終止條件否？不滿足那么轉(zhuǎn)步驟⑷。否那么轉(zhuǎn)步驟⑼。⑼將遺傳算法搜索的最優(yōu)個體解碼，賦值給神經(jīng)網(wǎng)絡(luò)權(quán)重(包括節(jié)點閾值)。二、人工免疫系統(tǒng)引言12免疫算法3典型的人工免疫系統(tǒng)——ARTIS4根本免疫方法引言人工免疫系統(tǒng)作為人工智能領(lǐng)域的重要分支，同神經(jīng)網(wǎng)絡(luò)及遺傳算法一樣也是智能信息處理的重要手段，已經(jīng)受到越來越多的關(guān)注。它通過類似于生物免疫系統(tǒng)的機能，構(gòu)造具有動態(tài)性和自適應(yīng)性的信息防御體系，以此來抵抗外部無用、有害信息的侵入，從而保證接受信息的有效性與無害性。背景在生物科學(xué)領(lǐng)域，人們對進(jìn)化、遺傳和免疫等自然現(xiàn)象已經(jīng)進(jìn)行了廣泛而深入的研究；進(jìn)化算法是建立在模仿生物遺傳與自然選擇根底上的一種并行優(yōu)化算法，其性能優(yōu)異、應(yīng)用廣泛；進(jìn)化算子在為每個個體提供了進(jìn)化時機的同時，也無可防止地產(chǎn)生了退化的可能；大多數(shù)待求問題有可以利用的先驗知識或特征信息，故可以利用這些信息來抑制進(jìn)化過程中的退化現(xiàn)象；生物免疫理論為改進(jìn)原有算法的性能，建立集進(jìn)化與免疫機制于一體的新型全局并行算法奠定了根底。一門新興的研究領(lǐng)域Farmer等人在1986年首先在工程領(lǐng)域提出免疫概念；Varela等人受免疫網(wǎng)絡(luò)學(xué)說的啟發(fā)，提出并進(jìn)而完善免疫網(wǎng)絡(luò)模型。人工免疫網(wǎng)絡(luò)模型獨特型免疫網(wǎng)絡(luò)〔Jerne〕；互聯(lián)耦合免疫網(wǎng)絡(luò)〔Ishiguro〕；免疫反響網(wǎng)絡(luò)〔Mitsumoto〕；對稱網(wǎng)絡(luò)〔Hoffmann〕；多值免疫網(wǎng)絡(luò)〔Tang〕.免疫學(xué)習(xí)算法反面選擇算法〔Forrest〕；免疫學(xué)習(xí)算法〔Hunt&Cooke〕；免疫遺傳算法〔Chun〕；免疫Agent算法〔Ishida〕；免疫網(wǎng)絡(luò)調(diào)節(jié)算法〔Wang&Cao〕；免疫進(jìn)化算法〔Jiao&Wang〕國際研究1996年，日本，基于免疫性系統(tǒng)的國際專題討論會，提出并確認(rèn)人工免疫系統(tǒng)〔AIS〕的概念；1997年，IEEE的SMC組織專門成立了人工免疫系統(tǒng)及應(yīng)用的分會組織；目前，幾乎所有有關(guān)人工智能領(lǐng)域的學(xué)術(shù)會議都收錄AIS方面的論文。應(yīng)用自動控制故障診斷模式識別圖象識別優(yōu)化設(shè)計機器學(xué)習(xí)網(wǎng)絡(luò)平安AIS在控制領(lǐng)域中的應(yīng)用PID型免疫反響控制器〔Takahashi〕；機器人控制〔Mitsumoto,Ishiguro,Lee〕；控制系統(tǒng)的設(shè)計〔Ishida〕；復(fù)雜動態(tài)行為建模和自適應(yīng)控制〔Kumak〕；倒擺的控制〔Bersini〕。AIS在故障診斷中的應(yīng)用基于相關(guān)識別特性的免疫網(wǎng)絡(luò)模型用于故障診斷的方法〔Ishida〕；通過構(gòu)造大規(guī)模獨特型免疫網(wǎng)絡(luò)來建立用于在線效勞的故障診斷系統(tǒng)〔Ishiguru〕。AIS在模式識別中的應(yīng)用Hunt等人開發(fā)了一種具有學(xué)習(xí)能力的人工免疫系統(tǒng)并用于模式識別。AIS在聯(lián)想記憶中的應(yīng)用Gilbert等人采用免疫網(wǎng)絡(luò)模型設(shè)計了一種內(nèi)容可訪的自動聯(lián)想記憶系統(tǒng)并用于圖像識別。AIS在優(yōu)化設(shè)計中的應(yīng)用永磁同步電動機的參數(shù)修正的優(yōu)化設(shè)計；電磁設(shè)備的外形優(yōu)化；VLSI印刷線路板的布線優(yōu)化設(shè)計；函數(shù)測試；旅行商問題的求解；約束搜索優(yōu)化問題和多判據(jù)設(shè)計問題；AIS在網(wǎng)絡(luò)平安的應(yīng)用數(shù)據(jù)檢測〔Forrest〕；病毒檢測〔Kephart〕；UNIX過程監(jiān)控〔Forrest〕。國際研究新動向之一以開發(fā)新型的智能系統(tǒng)方法為背景，研究基于生物免疫系統(tǒng)機理的智能系統(tǒng)理論和技術(shù)，同時將AIS與模糊系統(tǒng)、神經(jīng)網(wǎng)絡(luò)和遺傳算法等軟計算技術(shù)進(jìn)行集成，并給出其應(yīng)用方法。國際研究新動向之二基于最新開展的免疫網(wǎng)絡(luò)學(xué)說進(jìn)一步建立并完善模糊、神經(jīng)和其它一些專有類型的人工免疫網(wǎng)絡(luò)模型及其應(yīng)用方法。國際研究新動向之三將人工免疫系統(tǒng)與遺傳系統(tǒng)的機理相互結(jié)合，并歸納出各種免疫學(xué)習(xí)算法。比方：免疫系統(tǒng)的多樣性遺傳機理和細(xì)胞選擇機理可用于改善原遺傳算法中對局部搜索問題不是很有效的情況；獨特型網(wǎng)絡(luò)機理可用于免疫系統(tǒng)中的遺傳局部以防止系統(tǒng)出現(xiàn)早熟現(xiàn)象；開展用于處理受約束的遺傳搜索和多準(zhǔn)那么問題的免疫學(xué)習(xí)算法等。國際研究新動向之四基于免疫反響和學(xué)習(xí)機理，設(shè)計自調(diào)整、自組織和自學(xué)習(xí)的免疫反響控制器。展開對基于免疫反響機理的控制系統(tǒng)的設(shè)計方法和應(yīng)用研究，這有可能成為工程領(lǐng)域中種新型的智能控制系統(tǒng)，具有重要的理論意義與廣泛的應(yīng)用前景。國際研究新動向之五進(jìn)一步研究基于免疫系統(tǒng)機理的分布式自治系統(tǒng)。分布式免疫自治系統(tǒng)在智能計算、系統(tǒng)科學(xué)和經(jīng)濟(jì)領(lǐng)域?qū)袕V闊的應(yīng)用前景。國際研究新動向之六開展基于DNA編碼的人工免疫系統(tǒng)以及基于DNA計算的免疫算法。嘗試將DNA計算模型引入人工免疫系統(tǒng)中，研究一種基于DNA計算與AIS相結(jié)合的，有較強抗干擾能力和穩(wěn)定性能的智能系統(tǒng)國際研究新動向之七近年來有學(xué)者已開始研究B細(xì)胞—抗體網(wǎng)絡(luò)的振蕩、混濁和穩(wěn)態(tài)等非線性特性，不過其工作才剛剛開始。人們應(yīng)進(jìn)一步借助非線性的研究方法來研究免疫系統(tǒng)的非線性行為，拓寬非線性科學(xué)的研究范圍。國際研究新動向之八進(jìn)一步開展AIS在科學(xué)和工程上的應(yīng)用，并研制實際產(chǎn)品，如研制在復(fù)雜系統(tǒng)的協(xié)調(diào)控制、故障檢測和診斷、機器監(jiān)控、簽名確認(rèn)、噪聲檢測、計算機與網(wǎng)絡(luò)數(shù)據(jù)的平安性、圖像與模式識別等方面的實際產(chǎn)品。生物免疫的啟示在生物自然界中，免疫現(xiàn)象普遍存在，并對物種的生存與繁衍發(fā)揮著重要的作用；生物的免疫功能主要是由參與免疫反響的細(xì)胞或由其構(gòu)成的器官來完成的；生物免疫主要有兩種類型：特異性免疫〔SpecificImmunity〕， 非特異性免疫反響〔NonspecificImmunity〕；生物免疫系統(tǒng)是通過自我識別、相互刺激與制約而構(gòu)成了一個動態(tài)平衡的網(wǎng)絡(luò)結(jié)構(gòu)。免疫生物學(xué)的根本概念抗原是指能夠刺激和誘導(dǎo)機體的免疫系統(tǒng)使其產(chǎn)生免疫應(yīng)答，并能與相應(yīng)的免疫應(yīng)答產(chǎn)物在體內(nèi)或體外發(fā)生特異性反響的物質(zhì)?？贵w是指免疫系統(tǒng)受抗原刺激后，免疫細(xì)胞轉(zhuǎn)化為漿細(xì)胞并產(chǎn)生能與抗原發(fā)生特異性結(jié)合的免疫球蛋白，該免疫球蛋白即為抗體。免疫系統(tǒng)的主要功能免疫防御即機體防御病原微生物的感染；免疫〔自身〕穩(wěn)定即機體通過免疫功能經(jīng)常消除那些損傷和衰老的細(xì)胞以維持機體的生理平衡；免疫監(jiān)視即機體通過免疫功能防止或消除體內(nèi)細(xì)胞在新陳代謝過程中發(fā)生突變的和異常的細(xì)胞大于閾值spam記憶細(xì)胞檢測器親和力計算不大于閾值大于閾值不大于閾值親和力計算正文特征提取用戶反饋未成熟細(xì)胞檢測器hamspam特征庫隨機特征項檢測到spam？刪除該未成熟檢測器克隆記憶YN用戶反饋更新檢測器、spam特征庫根本免疫方法1.免疫識別2.免疫學(xué)習(xí)3.免疫記憶4.克隆選擇免疫識別免疫識別是免疫系統(tǒng)的主要功能，同時也是AIS的核心之一，而識別的本質(zhì)是區(qū)分“自我〞和“非我〞。核心機制是根據(jù)識別的對象特征進(jìn)行編碼，定義一個自我集合并隨機產(chǎn)生一系列檢測器，用于檢測自我集合的變化。根據(jù)陰性選擇原理，假設(shè)檢測集合與自我集合匹配，那么完成匹配任務(wù)，機體發(fā)現(xiàn)病變。根本免疫方法(1)定義自己(self)為一個字符串集合S，每個字符串由n個字母組成，字符串可以是一個網(wǎng)絡(luò)數(shù)據(jù)包，電子郵件特征向量或程序的一般行為模式。(2)產(chǎn)生一個初始監(jiān)測器集合R。(3)監(jiān)測器集合中每個監(jiān)測器經(jīng)歷陰性選擇過程。其中每一個監(jiān)測器都不能與集合S中的任何一個字符串相匹配，否那么就從監(jiān)測器集合中刪去對應(yīng)的檢測器。(4)通過與R集合的匹配不斷監(jiān)測S的變化，一旦發(fā)生任何匹配，那么說明S集發(fā)生了變化，即有外來抗原侵入。根本免疫方法在最初的算法描述中，候選的監(jiān)測器是隨機產(chǎn)生的，然后測試以刪除與自身字串相匹配的監(jiān)測器，算法中采用的匹配規(guī)那么是r-連續(xù)位匹配，即當(dāng)兩個字符串至少存在連續(xù)r位相同是才發(fā)生匹配。該過程重復(fù)進(jìn)行，直到所需數(shù)量的監(jiān)測器被產(chǎn)生出來。通常用概率分析方法來估算為了滿足一定的可靠性所應(yīng)有的監(jiān)測器的數(shù)目。根本免疫方法免疫學(xué)習(xí)免疫識別過程同時也是一個學(xué)習(xí)的過程，學(xué)習(xí)的結(jié)果是免疫細(xì)胞的個體親和度提高、群體規(guī)模擴(kuò)大，并且最優(yōu)個體以免疫記憶的形式得到保存。當(dāng)機體重復(fù)遇到同一抗原時，由于免疫記憶機制的作用，免疫系統(tǒng)對該抗原的應(yīng)答速度大大提高，并且產(chǎn)生高親和度的抗體去除病原，這個過程是一個增強式學(xué)習(xí)過程。而且可以對結(jié)構(gòu)類似的抗原進(jìn)行識別。根本免疫方法免疫學(xué)習(xí)一般有以下幾種途徑:(a)對同一抗原進(jìn)行重復(fù)學(xué)習(xí)，屬于增強式學(xué)習(xí)。(b)親合度成熟，對應(yīng)于AIS中的個體經(jīng)遺傳操作后其親合度逐步提高的過程，屬于遺傳學(xué)習(xí)。(c)低度的重復(fù)感染，對應(yīng)于AIS的重復(fù)訓(xùn)練過程。(d)對內(nèi)生和外生抗原的交叉應(yīng)答，屬于聯(lián)想式學(xué)習(xí)，對應(yīng)于聯(lián)想記憶機制。根本免疫方法免疫記憶當(dāng)免疫系統(tǒng)初次遇到一種抗原時，淋巴細(xì)胞需要一定的時間進(jìn)行調(diào)整以更好地識別抗原，并在識別結(jié)束后以最優(yōu)抗體的形式保存對該抗原的記憶信息。而當(dāng)免疫系統(tǒng)再次遇到相同或者結(jié)構(gòu)相似的抗原時，在聯(lián)想記憶的作用下，其應(yīng)答速度將大大提高。免疫記憶主要表達(dá)在再次免疫應(yīng)答和交叉免疫應(yīng)答時，可以大大加速優(yōu)化搜索過程，加快學(xué)習(xí)進(jìn)程并提高學(xué)習(xí)質(zhì)量。。根本免疫方法克隆選擇克隆選擇原理最先由Jerne提出，后由Burnet給予完整闡述。其大致內(nèi)容為:當(dāng)淋巴細(xì)胞實現(xiàn)對抗原的識別(即抗體和抗原的親和度超過一定閾值)后，B細(xì)胞被激活并增殖復(fù)制產(chǎn)生B細(xì)胞克隆，隨后克隆細(xì)胞經(jīng)歷變異過程，產(chǎn)生對抗原具有特異性的抗體?？寺∵x擇理論描述了獲得性免疫的根本特性，并且聲明只有成功識別抗原的免疫細(xì)胞才得以增殖。經(jīng)歷變異后的免疫細(xì)胞分化為效應(yīng)細(xì)胞(抗體)和記憶細(xì)胞兩種。根本免疫方法克隆選擇的主要特征是免疫細(xì)胞在抗原刺激下產(chǎn)生克隆增殖，隨后通過遺傳變異分化為多樣性抗體細(xì)胞和記憶細(xì)胞?？寺∵x擇對應(yīng)著一個親和度成熟的過程，即對抗原親和度較低的個體在克隆選擇機制的作用下，經(jīng)歷增殖復(fù)制和變異操作后，其親和度逐步提高而“成熟〞的過程。因此親和度成熟本質(zhì)上是一個達(dá)爾文式的選擇和變異的過程，克隆選擇原理通過采用交叉、變異等遺傳算子和相應(yīng)的群體控制機制實現(xiàn)。根本免疫方法免疫算法一般的免疫算法可分為三種情況:模仿免疫系統(tǒng)抗體與抗原識別，結(jié)合抗體產(chǎn)生過程而抽象出來的免疫算法;基于免疫系統(tǒng)中的其他特殊機制抽象出的算法，例如克隆選擇算法;與遺傳算法等其他計算智能融合產(chǎn)生的新算法，例如免疫遺傳算法。免疫算法的一般步驟初始抗體生成抗原識別抗體促進(jìn)和抑制滿足終止條件？群體更新結(jié)束親和力計算記憶細(xì)胞分化YN免疫算法(1)識別抗原：免疫系統(tǒng)確認(rèn)抗原入侵。(2)產(chǎn)生初始抗體群體：激活記憶細(xì)胞產(chǎn)生抗體，去除以前出現(xiàn)過的抗原，從包含最優(yōu)抗體(最優(yōu)解)的數(shù)據(jù)庫中選擇出來一些抗體。(3)計算親和力：計算抗體和抗原之間的親和力。(4)記憶細(xì)胞分化：與抗原有最大親和力的抗體加給記憶細(xì)胞。由于記憶細(xì)胞數(shù)目有限，新產(chǎn)生的與抗原具有更高親和力的抗體替換較低親和力的抗體。(5)抗體促進(jìn)和抑制：高親和力抗體受到促進(jìn)，高密度抗體受到抑制。通常通過計算抗體存活的期望值來實施。(6)抗體產(chǎn)生:對未知抗原的響應(yīng)，產(chǎn)生新淋巴細(xì)胞免疫算法陰性選擇算法ProcedureBegin隨機生成大量的候選檢測器(即免疫細(xì)胞)/*初始化*/While一個給定大小的檢測器集合還沒有被產(chǎn)生do/*耐受*/Begin計算出每一個自體元素和一個候選檢測器之間的親和力;If這個候選的檢測器識別出了自體集合中的任何一個元素Then這個檢測器就要被消除掉;Else把這個檢測器放入檢測器集合里面;/*該檢測器