地球物理反演理論地球物理反演理論課題組武漢大學(xué)測(cè)繪學(xué)院地球物理反演理論地球物理反演理論課題組武漢大學(xué)測(cè)繪學(xué)院1、梯度法2、牛頓法3、共軛梯度法（ConjugateGradientMethod）4、變尺度法5、蒙特卡洛法6、模擬退火法7、遺傳算法（simulateannealing）8、人工神經(jīng)網(wǎng)絡(luò)（ANN）法9、多尺度反演（Multi-ScaleInversion）10、R.Parker法非線性反演方法1、梯度法非線性反演方法非線性反演方法所謂非線性問題，是指觀測(cè)數(shù)據(jù)和模型參數(shù)之間不存在線性關(guān)系。這種非線性關(guān)系既可能呈顯式，也可能呈隱式。本章要講的是目前地球物理資料反演中常用的一些非線性反演方法。它不涉及線性化，而是直接解非線性問題，實(shí)現(xiàn)從數(shù)據(jù)空間到模型空間的直接映射。不管是哪一類的反演問題，歸根結(jié)底，反演過程都是一個(gè)對(duì)目標(biāo)函數(shù)(或概率、概率密度)的最優(yōu)化過程，只是實(shí)現(xiàn)最優(yōu)的途徑和方法不同罷了。非線性反演方法所謂非線性問題，是指觀測(cè)數(shù)據(jù)梯度法

梯度法又稱最速下降法（thesteepestdescentmethod）、最速上升法（thesteepestascentmethod）或爬山法。梯度法是一種古老的反演方法，在地球物理的發(fā)展過程中曾起過重要的作用，而且，直到目前仍有一些地球物理資料的反演問題仍采用梯度法求解。梯度法梯度法又稱最速下降法（thesteepes梯度法

在模型參數(shù)和觀測(cè)數(shù)據(jù)呈隱式的情況下，有：（5.1）設(shè)：（5.2）令：梯度法在模型參數(shù)和觀測(cè)數(shù)據(jù)呈隱式的情況梯度法

如將這些非線性函數(shù)過程下式，并稱之為目標(biāo)函數(shù)：（5.3）顯然，的零極值點(diǎn)，就是方程（5.1）式的解。當(dāng)觀測(cè)數(shù)據(jù)和模型參數(shù)呈顯函數(shù)的情況下，在范數(shù)意義下，目標(biāo)函數(shù)寫為：式中：為觀測(cè)值；為在第

r次迭代時(shí)之理論值。梯度法如將這些非線性函數(shù)過程下式，并稱之為目標(biāo)函數(shù)梯度法

同樣，的極小值所對(duì)應(yīng)的模型參數(shù)，就應(yīng)該是待求模型的解。在多維空間中，一般來說，函數(shù)是一個(gè)高次曲面。以二維空間為例，此時(shí)所形成的曲面與平行的平面之切點(diǎn)就是它的極小值點(diǎn)（圖5-1）。極小值點(diǎn)對(duì)應(yīng)，，就是觀測(cè)數(shù)據(jù)對(duì)應(yīng)模型之值。如果用（是常數(shù)，相當(dāng)于一系列平行于的平面），與空間曲面相截，可以得到一族平面曲線，將它們投影到平面上，如圖5-2所示，稱為曲面的等高線族。由外向內(nèi)，值不斷下降，當(dāng)達(dá)到極小點(diǎn)時(shí)，即為函數(shù)的極值。梯度法同樣，的極小值所對(duì)應(yīng)的模型參數(shù)，圖5-1目標(biāo)函數(shù)空間曲面的示意圖圖5-1目標(biāo)函數(shù)空間曲面的示意圖圖5-2用等高線表示的目標(biāo)函數(shù)圖5-2用等高線表示的目標(biāo)函數(shù)梯度法

在任意一個(gè)初始模型處等高線的法向方向，就是函數(shù)在該點(diǎn)的梯度方向，即有：梯度法在任意一個(gè)初始模型處等高線的法向方向梯度法

沿的方向是值上升最快的方向。因此，其反方向?yàn)椋海?.4）就是值下降最快的方向。梯度法，就是從一個(gè)初始模型出發(fā)，沿負(fù)梯度方向搜索函數(shù)極小點(diǎn)的一種最優(yōu)化方法。不難理解，沿目標(biāo)函數(shù)的負(fù)梯度方向搜索，只要步長(zhǎng)適當(dāng)，經(jīng)過反復(fù)迭代，最終總可以達(dá)到目標(biāo)函數(shù)的極小點(diǎn)。用梯度法反演求取目標(biāo)函數(shù)的極小點(diǎn)時(shí)，一要有一個(gè)初始模型，二是要沿負(fù)梯度方向，三是要有一個(gè)合適的步長(zhǎng)。下面研究步長(zhǎng)因子的求法：梯度法沿的方向是值上升最快的方向。因此梯度法

設(shè)第i次搜索迭代時(shí)函數(shù)的負(fù)梯度方向的單位矢量為：（5.5）則模型參數(shù)的改正量為：式中：稱為搜索（或校正）步長(zhǎng)。將目標(biāo)函數(shù)進(jìn)行臺(tái)勞級(jí)數(shù)展開有：（5.6）梯度法設(shè)第i次搜索迭代時(shí)函數(shù)的負(fù)梯度方向的梯度法

將（5.5）式代入（5.6）式，則得步長(zhǎng)計(jì)算式：第二種計(jì)算步長(zhǎng)的方法是內(nèi)插法。如對(duì)目標(biāo)函數(shù)計(jì)算幾個(gè)不同的步長(zhǎng)值，然后用拋物線方程對(duì)之進(jìn)行擬合，拋物線之極小點(diǎn)就是最佳步長(zhǎng)值。第三種方法為固定步長(zhǎng)法。即在整個(gè)搜索的過程中，步長(zhǎng)保持不變，只要每次迭代時(shí)滿足即可接受。（5.7）梯度法將（5.5）式代入（5.6）式，則得步長(zhǎng)計(jì)算牛頓法

設(shè)目標(biāo)函數(shù)在點(diǎn)附近按臺(tái)勞級(jí)數(shù)展開，并忽略二次以上高階項(xiàng)以后得：（5.8）式中：（梯度向量）（模型參數(shù)的改正向量）牛頓法設(shè)目標(biāo)函數(shù)在點(diǎn)附近按臺(tái)勞牛頓法

（Hessian矩陣）牛頓法（Hessian矩陣）牛頓法

對(duì)（5.8）式再求一次導(dǎo)數(shù)，并設(shè)：（5.9）則得：寫成遞推公式，得：牛頓法對(duì)（5.8）式再求一次導(dǎo)數(shù)，并設(shè)：（5.9）牛頓法

牛頓法的不足之處在于Hessian短陣的計(jì)算工作量很大，而且其逆往往會(huì)出現(xiàn)病態(tài)和奇異的情況。梯度法和牛頓法利用了目標(biāo)函數(shù)的不同性質(zhì)，前者利用了目標(biāo)函數(shù)在初始模型處之梯度，即一階偏導(dǎo)數(shù)，后者不僅利用了梯度，而且利用了目標(biāo)函數(shù)的曲率，即二階偏導(dǎo)數(shù)。因此它們具有不同的特性。前者在遠(yuǎn)離極小點(diǎn)的地方收斂較快，而后者在極小點(diǎn)附近收斂比梯度法要快。圖5-3是牛頓法搜索目標(biāo)函數(shù)極小點(diǎn)的示意圖。牛頓法牛頓法的不足之處在于Hessian短陣的計(jì)算圖5-3牛頓法搜索極小點(diǎn)示意圖圖5-3牛頓法搜索極小點(diǎn)示意圖共軛梯度法

1、共軛向量的定義設(shè)目標(biāo)函數(shù)為二次函數(shù)，即：（5.10）式中和都是N維的向量，為N*N階對(duì)稱、正定矩陣，為常數(shù)。定義：若存在：（5.11）則稱，相對(duì)是共軛的。共軛梯度法1、共軛向量的定義（5.10）式中和共軛梯度法

1、共軛向量的定義與本節(jié)內(nèi)容有關(guān)的共軛向量的性質(zhì)及其求法：1）設(shè)有一組M個(gè)N為向量彼此相對(duì)H共軛，即：則一定是線性無關(guān)的。2）關(guān)于H共軛的一組向量的求法設(shè)是一組線性無關(guān)的向量，通過線性組合，可得到一組M個(gè)彼此成H共軛的向量。共軛梯度法1、共軛向量的定義則一定是共軛梯度法

1、共軛向量的定義設(shè)，取，求與共軛的向量取由于與對(duì)H共軛，故所以：（5.12）共軛梯度法1、共軛向量的定義由于與對(duì)H共軛，故共軛梯度法

1、共軛向量的定義故與是共軛的。設(shè)已求出，它們是彼此H共軛，求一個(gè)向量與都H共軛。即：（5.13）使與成H共軛，即有：共軛梯度法1、共軛向量的定義與是共軛的。（5.13）共軛梯度法

將（5.13）式代入上式，得：（5.14）與成H共軛。若取，便得到M個(gè)彼此H共軛的向量。將（5.14）式代入（5.13）式，得：（5.15）共軛梯度法將（5.13）式代入上式，得：（5.14）與共軛梯度法

2、共軛梯度法的原理第一步，設(shè)第二步，求，其中第三步，求，按上述方法求得的向量彼此是H的共軛向量共軛梯度法2、共軛梯度法的原理第二步，求共軛梯度法

2、共軛梯度法的原理第四步，沿共軛梯度方向上式目標(biāo)函數(shù)的極小點(diǎn)。設(shè)沿方向進(jìn)行第K次搜索時(shí)，應(yīng)滿足：設(shè)目標(biāo)函數(shù)在處是二次函數(shù)，即：或（5.16）共軛梯度法2、共軛梯度法的原理沿方向進(jìn)行第K次搜索共軛梯度法

2、共軛梯度法的原理根據(jù)復(fù)合函數(shù)的極值理論設(shè)，則：可得：（5.17）共軛梯度法2、共軛梯度法的原理設(shè)，則：可共軛梯度法

2、共軛梯度法的原理設(shè)K=0，即在第一次迭代時(shí)，不難看出，如果目標(biāo)函數(shù)是二次型，則沿共軛方向最多各進(jìn)行一次搜索，就可以找到目標(biāo)函數(shù)的極小點(diǎn)的位置。若非準(zhǔn)確的二次函數(shù)，則上述搜索過程必須進(jìn)行反復(fù)迭代，直到搜索到目標(biāo)函數(shù)的極小點(diǎn)為止。在共軛梯度法中，每次迭代都必須重新計(jì)算初始模型所對(duì)應(yīng)和，及相應(yīng)的共軛方向，因此，計(jì)算量仍然很大。（5.18）共軛梯度法2、共軛梯度法的原理不難看出，如果目標(biāo)函數(shù)是二次變尺度法

以Huang的變尺度法為例說明變尺度法的原理和實(shí)施步驟由共軛向量求與之成H共軛的方向，存在如下通式：（5.19）其中：（5.20）設(shè)想從點(diǎn)的負(fù)梯度方向左乘一個(gè)矩陣，就得出與共軛的方向。能否對(duì)建立起一個(gè)迭代關(guān)系，由產(chǎn)生，使：變尺度法以Huang的變尺度法為例說明變尺度法的原理和實(shí)施變尺度法

（5.21）能和共軛。假定已知，求出了，并記（5.22）此時(shí)，有了便可以求出；同樣，有了也可以求出。于是，我們的任務(wù)就是如何選取，使從（5.23）求出的具有上述性質(zhì)。變尺度法（5.21）能和共軛。假變尺度法

為使與關(guān)于H共軛，應(yīng)有：所以令：若對(duì)也有：已知：就有：變尺度法為使與關(guān)于H共軛，變尺度法

則由得出：所以，將上式中的j換為K，則：（5.24）式和（5.25）式又可改寫為：（5.24）（5.25）變尺度法則由得出：所以，將變尺度法

設(shè)目標(biāo)函數(shù)為二次型，即：如以左乘，并利用：則（5.24）式可改寫為：（5.26）（5.27）變尺度法設(shè)目標(biāo)函數(shù)為二次型，即：如以左乘變尺度法

如果能求出滿足（5.26）式和（5.27）式的，則利用（5.23）式便能求出滿足以上要求的，也就建立起了迭代關(guān)系。由上述迭代關(guān)系可以看出，變尺度法是從尺度（可以是單位矩陣）開始，由求得。求時(shí)，是通過改變尺度為而不是改變系數(shù)為，使得和為共軛方向。然后，再改變尺度為，而不是求取系數(shù)，使求得的與，成共軛。如此反復(fù)，直至求出位置。變尺度法如果能求出滿足（5.26）式和（5.27）式的變尺度法

Huang給出了如下關(guān)系，并令：（5.28）式中：，為兩個(gè)需要加以選擇的量。Huang選擇中的，滿足：變尺度法Huang給出了如下關(guān)系，并令：（5.28）式中：變尺度法

下面是Huang提出的求取，的公式，因?yàn)椋核裕鹤兂叨确ㄏ旅媸荋uang提出的求取，的公式變尺度法

所以只要取：（5.29）參數(shù)，，，滿足：便滿足和。將（5.29）式代入上兩式，于是五個(gè)參數(shù)，，，，應(yīng)滿足兩個(gè)關(guān)系式，所以獨(dú)立參數(shù)只有三個(gè)。變尺度法所以只要?。海?.29）參數(shù)，，變尺度法

選定了，，，，滿足的條件，便可根據(jù)（5.29）求出，。從而算出，將代入（5.26）式就可求得，將代入：即可得與成H共軛的向量。（5.30）變尺度法選定了，，，，蒙特卡洛法

最簡(jiǎn)單、最直接、最完全的非線性反演法，是徹底搜索法或稱窮舉法。即在一定約束條件下的對(duì)模型參數(shù)進(jìn)行一切可能的組合，從而得到大量不同的模型，然后對(duì)所有這些模型進(jìn)行正演計(jì)算，得到相應(yīng)的理論數(shù)據(jù)。將這些理論數(shù)據(jù)與實(shí)際觀測(cè)數(shù)據(jù)進(jìn)行比較。如果符合某種可以接受的標(biāo)準(zhǔn)，則模型被接受；否則被排斥，并重新進(jìn)行計(jì)算。如此反復(fù)，直至所有可能的模型均被檢測(cè)為止。因此稱為徹底搜索法或窮舉法。它的優(yōu)點(diǎn)是，只要在模型空間存在滿足條件的解，一定可以搜索到這些解。其致命的缺點(diǎn)是徹底搜索在計(jì)算機(jī)上是不現(xiàn)實(shí)的。因此，窮舉法只有理論上的價(jià)值，而沒有絲毫實(shí)用的意義。蒙特卡洛法最簡(jiǎn)單、最直接、最完全的非線性反演法，是蒙特卡洛法

和窮舉法不同，蒙特卡格法在模型空間中不進(jìn)行徹底搜索，而是隨機(jī)搜索。實(shí)踐表明，如果我們?cè)谀Ｐ涂臻g中隨機(jī)選擇模型、求取目標(biāo)函數(shù)的總體極小，比規(guī)則地劃分模型空間，求取模型的總體極小所需的計(jì)算時(shí)間和耗費(fèi)的經(jīng)費(fèi)都要少。為紀(jì)念有名的睹城——蒙特卡洛，人們將反演過程中任何一個(gè)階段，用隨機(jī)(或似隨機(jī))發(fā)生器產(chǎn)生模型的方法統(tǒng)稱為蒙特卡洛法。它可以用于解決高次非線性、多參數(shù)、具有多個(gè)局部極小值的非線性反演問題。蒙特卡洛法和窮舉法不同，蒙特卡格法在模型空間中不進(jìn)蒙特卡洛法

蒙特卡洛法又分為傳統(tǒng)的蒙特卡洛法和現(xiàn)代的啟發(fā)式蒙特卡洛法。傳統(tǒng)的榮持卡洛法又橡為“嘗試法”。這種方法是在計(jì)算中按一定的先驗(yàn)信息給出的先驗(yàn)約束隨機(jī)地生成大量可選擇的模型，計(jì)算其理論值，并將這些理論值與實(shí)際觀測(cè)值進(jìn)行比較，并用一些先驗(yàn)約束條件進(jìn)行比較；如比較和檢驗(yàn)符合某些可接受的標(biāo)準(zhǔn)，則模型被接受，否則被排斥。傳統(tǒng)的蒙特卡洛法在模型空間進(jìn)行搜索時(shí)，需要產(chǎn)生具有各種概率分布的隨機(jī)變量。最簡(jiǎn)單和最基本的隨機(jī)變量是[0,1]區(qū)間上均有分布的隨機(jī)變量。這些隨機(jī)變量的抽樣值就稱為隨機(jī)數(shù)。蒙特卡洛法蒙特卡洛法又分為傳統(tǒng)的蒙特卡洛法和現(xiàn)代的蒙特卡洛法

Press反演方法，是一種完全隨機(jī)的蒙特卡洛法。其作法是：在一定先驗(yàn)信息基礎(chǔ)上，給定地球物性參數(shù)的變化范圍，然后在這一范圍內(nèi)隨機(jī)生成模型，并計(jì)算其理論值以及該理論與實(shí)際觀測(cè)值之間的誤差，再按原來設(shè)計(jì)好的判斷標(biāo)準(zhǔn)，決定該模型是否接受或排斥。值得提出的是，Press反演法不是求目標(biāo)函數(shù)小于某一給定值的滿意解，而是看求得的模型是否滿足先驗(yàn)的約束條件；不是求某種意義下的確定解，而是在承認(rèn)它們的非唯一性的前提下，求得滿足先驗(yàn)約束條件的解集。蒙特卡洛法Press反演方法，是一種完全隨機(jī)的蒙特蒙特卡洛法

蒙特卡洛法的適應(yīng)性很強(qiáng)，受反演問題的條件限制少。不管多么復(fù)雜的非線性問題，不管其維數(shù)多高，非線性程度多大，蒙特卡洛法都可以使用，都可以獲得滿足約束條件的模型解集；由于蒙特卡洛法的收斂速度與問題的維數(shù)（及反演參數(shù)的個(gè)數(shù)）無關(guān)，因此，特別適宜于大規(guī)模、多參數(shù)問題的反演；蒙特卡洛反演法易于編程，便于理解，占用內(nèi)存少，容易實(shí)現(xiàn)。但是。蒙特卡洛法仍不能保持搜索徹底性，不能充分暴露模型空間。因此，誰也不能保證所獲得的結(jié)果已經(jīng)“完全”滿意了。蒙特卡洛法的致命弱點(diǎn)是計(jì)算工作量太大，收斂速度太慢，且擬合誤差不確定，僅具概率性。蒙特卡洛法蒙特卡洛法的適應(yīng)性很強(qiáng)，受反演問題的條件蒙特卡洛法

然而，隨著地球物理觀測(cè)資料的精度不斷提高，反演方法不斷改進(jìn)，傳統(tǒng)的蒙特卡洛法越來越不適應(yīng)發(fā)展的需要。改進(jìn)傳統(tǒng)的蒙特卡洛法勢(shì)在必行，改進(jìn)的主要方向是摒棄完全的隨機(jī)搜索，實(shí)現(xiàn)在一定先驗(yàn)知識(shí)引導(dǎo)下有“方向”的隨機(jī)搜索，即啟發(fā)式蒙特卡洛法。這就是下面要講的模擬退火法和遺傳算法。蒙特卡洛法然而，隨著地球物理觀測(cè)資料的精度不斷提高模擬退火法（SimulatedAnnealing）

模擬退火是模擬物質(zhì)退火的物理過程，即統(tǒng)計(jì)實(shí)驗(yàn)的組合優(yōu)化過程。Rothman（1985,1986）將退火原理引入地球物理資料的反演，并稱之為模擬退火法。模擬退火法用于反演的基本思路是將待反演的模型參數(shù)看作是融化物體的一個(gè)分子。將目標(biāo)函數(shù)看作融化物體的能量函數(shù)。通過緩慢的減小模擬溫度T，進(jìn)行迭代反演，使目標(biāo)函數(shù)最終達(dá)到極小。模擬退火法（SimulatedAnnealing）模擬退火法（SimulatedAnnealing）

模擬退火法有兩種算法，即Metropolis算法（簡(jiǎn)稱MSA）和HeatBath算法（簡(jiǎn)稱HBSA）。兩種的區(qū)別在于搜索模型空間的方法和模型參數(shù)的修改方法不同。MSA算法可在全空間自動(dòng)搜索，模型修改量是隨機(jī)的；而HBSA算法則是把模型參數(shù)限制在一定的范圍內(nèi)，模型修改量是一固定值。兩種算法本質(zhì)上是一致的。研究表明，HBSA的計(jì)算速度比MSA快，特別是在已知某些模型參數(shù)的情況下，由于模型空間的縮小，計(jì)算速度就進(jìn)一步加快了。模擬退火法（SimulatedAnnealing）模擬退火法（SimulatedAnnealing）

在模擬退火中，退火溫度的選取最為重要，選擇不當(dāng)，將導(dǎo)致反演失敗。根據(jù)前人研究，T取指數(shù)變化的模式，比較切合退火的實(shí)質(zhì)。用模擬退火法反演地球物理資料仍然存在收斂于局部極小的問題，但幾率比其他非線性反演方法要小。與其他非線性反演相比，模擬退火法不依賴于初始模型的選擇，同時(shí)在反演過程中不需要計(jì)算雅可比矩陣。模擬退火法（SimulatedAnnealing）遺傳算法（GeneticAlgorithm）

遺傳算法則是模擬生物進(jìn)化的自然選擇和遺傳過程，最早是由JohnHolland與1975年提出來的一種非線性反演方法。它既不是依賴于目標(biāo)函數(shù)梯度的一類非啟發(fā)式反演法；又不是在模擬空間進(jìn)行完全、徹底的隨機(jī)搜索的傳統(tǒng)的蒙特卡洛法。和模擬退火法一樣，它是一種自模型空間進(jìn)行啟發(fā)式搜索的非線性反演方法。選擇、交換、變異三個(gè)步驟構(gòu)成了遺傳算法的基本框架。為了實(shí)現(xiàn)這三個(gè)步驟，還必須有其他一些考慮：遺傳算法（GeneticAlgorithm）遺傳算遺傳算法（GeneticAlgorithm）1．模型編碼在遺傳算法中，不直接處理模型參數(shù)，而是對(duì)模型參數(shù)的二進(jìn)制（或十進(jìn)制）碼進(jìn)行操作。將待反演的模型之每一個(gè)參數(shù)的十進(jìn)制表達(dá)式，變成二進(jìn)制編碼（或仍采用十進(jìn)制碼），并將此二進(jìn)制（或十進(jìn)制）編碼（或編碼的組合）稱為“染色體”。每一個(gè)（或幾個(gè)）模型參數(shù)對(duì)應(yīng)一條染色體。而在染色體上的每一個(gè)代碼代表一個(gè)“基因”。各二進(jìn)制代碼只能取0或1。遺傳算法（GeneticAlgorithm）1．模型編碼遺傳算法（GeneticAlgorithm）2．初始模型群體的產(chǎn)生初始模型群體是隨機(jī)產(chǎn)生的。3．選擇、繁殖就是在模型群體中，挑選模型配對(duì)以進(jìn)行交換。4.交換其原則，既可以完全隨機(jī)，也可以根據(jù)交換概率的大小來進(jìn)行。依據(jù)的原則不同，交換的結(jié)果就不同。交換的實(shí)質(zhì)是在模型空間進(jìn)行大范圍的搜索，充分暴露模型空間。遺傳算法搜索出的模型空間，可能與預(yù)先約定的空間完全不同，甚至相差和那大。因此遺傳算法是一種非鄰近區(qū)域搜索算法。遺傳算法（GeneticAlgorithm）2．初始模型群遺傳算法（GeneticAlgorithm）5．變異在遺傳工程中，變異是物質(zhì)進(jìn)化的必然規(guī)律和要求。在非線性反演中，變異是對(duì)模型空間進(jìn)行更徹底搜索的重要手段。在遺傳算法中，選擇、交換和變異三個(gè)步驟各具其特殊功能。選擇決定哪些父代模型能繁殖，其依據(jù)是目標(biāo)函數(shù)的擬合度；交換決定了模型中包含的基因遺傳或重組；變異可以產(chǎn)生父代不具備的基因，形成父代沒有的特征，使反演迭代更優(yōu)化，其依據(jù)是變異概率。遺傳算法（GeneticAlgorithm）5．變異人工神經(jīng)網(wǎng)絡(luò)（ANN）法1．神經(jīng)網(wǎng)絡(luò)的基本特征（1）巨量并行性（2）信息存儲(chǔ)和信息處理時(shí)合在一起（3）自組織、自學(xué)習(xí)的功能人工神經(jīng)網(wǎng)絡(luò)（ANN）法1．神經(jīng)網(wǎng)絡(luò)的基本特征人工神經(jīng)網(wǎng)絡(luò)（ANN）法2．簡(jiǎn)單人工神經(jīng)元模型（1）M-P神經(jīng)元模型特點(diǎn)：1）多輸入，但輸出；2）閾值作用；3）輸入與輸出均為兩態(tài)（抑制、興奮）；4）每個(gè)輸入通過權(quán)值來表征它對(duì)神經(jīng)元之耦合程度（若無耦合可取wj=0）。人工神經(jīng)網(wǎng)絡(luò)（ANN）法2．簡(jiǎn)單人工神經(jīng)元模型圖5-4M-P神經(jīng)元模型圖5-4M-P神經(jīng)元模型人工神經(jīng)網(wǎng)絡(luò)（ANN）法2．簡(jiǎn)單人工神經(jīng)元模型（2）連續(xù)神經(jīng)元模型為反映神經(jīng)元狀態(tài)參數(shù)連續(xù)變化的情況，常用一階非線性微分方程來模擬生物神經(jīng)元膜電位隨時(shí)間變化的規(guī)律人工神經(jīng)網(wǎng)絡(luò)（ANN）法2．簡(jiǎn)單人工神經(jīng)元模型圖5-5連續(xù)神經(jīng)元模型圖5-5連續(xù)神經(jīng)元模型人工神經(jīng)網(wǎng)絡(luò)（ANN）法4．Hopfield網(wǎng)絡(luò)及其在地球物理資料反演中的應(yīng)用

Hopfield網(wǎng)絡(luò)的最重要的應(yīng)用之一是最優(yōu)化問題。這樣應(yīng)用的關(guān)鍵在于：將Hopfield網(wǎng)絡(luò)的能量函數(shù)和地球物理最優(yōu)化問題的目標(biāo)函數(shù)聯(lián)系起來，找到地球物理反演問題中的模型（mi,i=1,2,…,M）、核函數(shù)Gij（i,j=1,2,…,M）在神經(jīng)元穩(wěn)定輸出狀態(tài)下，和神經(jīng)元諸要素（如神經(jīng)元的輸入、輸出和它們之間的連接權(quán)等）之關(guān)系。

Hopfield網(wǎng)絡(luò)在地球物理反演中應(yīng)用的另一重要內(nèi)容問題是如何將地球物理的模型參數(shù)用二進(jìn)制的形式表示人工神經(jīng)網(wǎng)絡(luò)（ANN）法4．Hopfield網(wǎng)絡(luò)及其在地球人工神經(jīng)網(wǎng)絡(luò)（ANN）法4．Hopfield網(wǎng)絡(luò)及其在地球物理資料反演中的應(yīng)用用Hopfield網(wǎng)絡(luò)進(jìn)行地球物理資料反演時(shí)，也同樣存在有收斂到局部極小的可能性。初始模型的選擇對(duì)反演結(jié)果關(guān)系很大，應(yīng)盡量使初始模型逼近待求的真實(shí)的模型，這樣既可以減少計(jì)算時(shí)間，又可避免陷入局部極小。人工神經(jīng)網(wǎng)絡(luò)（ANN）法4．Hopfield網(wǎng)絡(luò)及其在地球人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropagation）理論及其在地球物理資料反演中的應(yīng)用

BP回傳學(xué)習(xí)的原理是：把希望輸出與實(shí)際輸出之偏差歸結(jié)為連接權(quán)的“過錯(cuò)”，通過把輸入層單元的誤差，逐層向輸入層逆向回傳，分?jǐn)偨o各層單元，從而獲得各層單元的參考誤差，以調(diào)整相應(yīng)的連接權(quán)。最基本的BP網(wǎng)絡(luò)是三層前饋網(wǎng)絡(luò)。即輸入層LA，隱含層LB和輸入層LC之間前向連接。通常BP網(wǎng)絡(luò)可以有多個(gè)隱含層，可以跨層連接，可以有單元自身的反饋連接，也可以有層內(nèi)單元橫向連接。如圖5-6所示人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropaga圖5-6最基本的BP網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)圖5-6最基本的BP網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropagation）理論及其在地球物理資料反演中的應(yīng)用

BP學(xué)習(xí)有兩個(gè)階段。在第一個(gè)學(xué)習(xí)階段中，對(duì)于給定的網(wǎng)絡(luò)輸入，通過現(xiàn)有連接權(quán)沿其正向傳播，獲得各個(gè)元素的實(shí)際輸出。如實(shí)際輸出和理論輸出一致，則學(xué)習(xí)終止；否則進(jìn)入第二階段，將輸出層各單元的誤差，逐層向輸入層方向逆向傳播，并調(diào)整各中間層的連接權(quán)，直至輸出層的輸出誤差達(dá)到最小為止。人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropaga人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropagation）理論及其在地球物理資料反演中的應(yīng)用利用BP回傳原理進(jìn)行地球物理資料反演的基本步驟和必須注意的幾個(gè)問題：（1）結(jié)構(gòu)設(shè)計(jì)。確定輸入層、輸出層中神經(jīng)元（節(jié)點(diǎn)）的數(shù)目和類型；隱層的層數(shù)、類型、內(nèi)部連接方式；與輸入、輸出層的連接方式。一般采用三層模式：即輸入、隱層和輸出三層。（2）訓(xùn)練。就是根據(jù)期望輸出和實(shí)際輸出之誤差去調(diào)整輸入層和輸出層之間的各個(gè)連接權(quán)，以使期望輸出和實(shí)際輸出之間的差異達(dá)到最小。人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropaga人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropagation）理論及其在地球物理資料反演中的應(yīng)用利用BP回傳原理進(jìn)行地球物理資料反演的基本步驟和必須注意的幾個(gè)問題：（3）檢查網(wǎng)絡(luò)的可信度。用含有誤差的數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，檢查網(wǎng)絡(luò)的實(shí)際輸出和期望輸出之間的偏離，以估計(jì)可信度。（4）在專家的監(jiān)督下用大量數(shù)據(jù)作輸入，估算神經(jīng)網(wǎng)絡(luò)的成功率。（5）推廣應(yīng)用。人工神經(jīng)網(wǎng)絡(luò)（ANN）法5．回傳（BackPropaga多尺度反演（Multi-ScaleInversion）

1．尺度的概念尺度是指當(dāng)我們以離散方式描述某一空間（或時(shí)間）函數(shù)時(shí)，均勻離散點(diǎn)之間的距離。尺度是分辨率的倒數(shù)。分辨率被定義為單位距離內(nèi)離散點(diǎn)的個(gè)數(shù)。多尺度反演時(shí)把目標(biāo)函數(shù)分解成不同尺度的分量，根據(jù)不同尺度上目標(biāo)函數(shù)的特征逐步搜索全局極小。一般情況下，在大尺度（或低波數(shù)）上，目標(biāo)函數(shù)極值點(diǎn)少，且分得很開，且顯示大尺度上的極小。用通常的方法很容易直接搜索出大尺度（總體背景）上的“全局極小點(diǎn)”。多尺度反演（Multi-ScaleInversion）1多尺度反演（Multi-ScaleInversion）

1．尺度的概念在相對(duì)較小尺度（稍大波數(shù)）上，目標(biāo)函數(shù)極值點(diǎn)較多，如無大尺度搜索結(jié)果之指導(dǎo)，直接尋找全局極值點(diǎn)，雖比作尺度分解之前容易，但仍然比較困難。但是，只要我們以大尺度搜索到的背景“全局極小點(diǎn)”為起點(diǎn)，在其附近繼續(xù)搜索，也較容易的搜索到中等尺度上到的“全局極小點(diǎn)”。如此，不斷的縮小尺度，提高分辨力，目標(biāo)函數(shù)的尺度降至原始尺度（即最下尺度）時(shí)，對(duì)應(yīng)搜索出的全局極小點(diǎn)，就是真正的總體極小點(diǎn)。多尺度反演（Multi-ScaleInversion）1多尺度反演（Multi-ScaleInversion）

1．尺度的概念優(yōu)點(diǎn)是，在大尺度（或低波數(shù)）上，反演穩(wěn)定，反演結(jié)果不受初始模型的影響，在一定程度上，能避免其后的反演受局部極小所困擾，使收斂速速加快。多尺度反演（Multi-ScaleInversion）1多尺度反演（Multi-ScaleInversion）

2．小波與多尺度分析

Goupillaud，Grossmanne和Morlet（1984）引進(jìn)了小波的概念。根據(jù)定義，我們稱滿足條件：（5.31）的函數(shù)為小波函數(shù)或母小波，式中是的傅氏變換。多尺度反演（Multi-ScaleInversion）2多尺度反演（Multi-ScaleInversion）

2．小波與多尺度分析

若（5.32）式中：為由母小波生成的依賴于參數(shù)a,b的連續(xù)小波；a稱為尺度變量；b為位置變量。尺度變量a的改變，標(biāo)志著相對(duì)于母小波發(fā)生了伸縮改變；而位置變量b發(fā)生變化時(shí)，標(biāo)志著相對(duì)于母小波發(fā)生了平移。多尺度反演（Multi-ScaleInversion）2多尺度反演（Multi-ScaleInversion）

2．小波與多尺度分析

若（5.32）式中：是歸一化因子，它使所有的小波具有相同的模。因此，所有的連續(xù)小波都具有相同的能量。多尺度反演（Multi-ScaleInversion）2多尺度反演（Multi-ScaleInversion）

2．小波與多尺度分析對(duì)于任一的函數(shù)而言，其小波變換定義為：（5.33）式中：為內(nèi)積；而與是共軛。其逆變換公式為：（5.34）多尺度反演（Mu