1、學(xué)習(xí),學(xué)習(xí)就是對(duì)信息進(jìn)行編碼,其目的就是通過(guò)向 有限個(gè)例子（訓(xùn)練樣本）的學(xué)習(xí)來(lái)找到隱藏在例子背后（即產(chǎn)生這些例子）的規(guī)律（如函數(shù)形式）。,編碼,我們使用狀態(tài)級(jí)（behavioristic）編碼準(zhǔn)則。如果輸入激勵(lì)為 ，而響應(yīng)為 ，則認(rèn)為系統(tǒng)學(xué)會(huì)了激勵(lì)響應(yīng)對(duì) 。 輸入輸出對(duì) 表示函數(shù) 的一 個(gè)采樣。函數(shù)將n維矢量X映射到p維矢量Y,學(xué)習(xí)過(guò)程,由所有的輸入 得到響應(yīng) 那么系統(tǒng)就學(xué)習(xí)了函數(shù)。,學(xué)習(xí)過(guò)程,若輸入 系統(tǒng)就會(huì)得到響應(yīng) ，則表明系統(tǒng)近似或部分的學(xué)習(xí)了函數(shù)，即系統(tǒng)把相似的輸入映射為相似的輸出，由此估計(jì)出一個(gè)連續(xù)的函數(shù)。,學(xué)習(xí)與改變,當(dāng)樣本數(shù)據(jù)改變系統(tǒng)參數(shù)時(shí)，系統(tǒng)學(xué)習(xí)、自適應(yīng)或自組織這些改變。在神

2、經(jīng)網(wǎng)絡(luò)中表現(xiàn)為突觸的改變，而不是神經(jīng)元的改變（盡管有時(shí)神經(jīng)元也學(xué)習(xí)新的狀態(tài)）。 注：突觸的改變就是權(quán)值的學(xué)習(xí)過(guò)程，而神經(jīng)元的改變只是網(wǎng)絡(luò)的演化 。,結(jié)論,當(dāng)激勵(lì)改變了記憶介質(zhì)并使改變維持相當(dāng)長(zhǎng)一段時(shí)間后，系統(tǒng)才學(xué)會(huì)了 。這也說(shuō)明了傳統(tǒng)的解釋學(xué)習(xí)是半永久的變化。如果我們通過(guò)了微積分的考試，那么可以說(shuō)我們學(xué)會(huì)了微積分，并且可以持續(xù)這種“會(huì)“的狀態(tài)一段時(shí)間。,舉例,畫(huà)家畫(huà)畫(huà) 除草機(jī)除草,學(xué)習(xí)與量化,學(xué)習(xí)模式與樣本模式之間存在嚴(yán)重的不匹配。 通常系統(tǒng)只能學(xué)會(huì)樣本模式環(huán)境中一小部分樣本模式，而可能的樣本數(shù)量使無(wú)窮的。,學(xué)習(xí)與量化,量化的必要性 系統(tǒng)的存儲(chǔ)量是有限的，這就要求系統(tǒng)要通過(guò)學(xué)習(xí)學(xué)會(huì)用新的樣本模

3、式替換舊的樣本模式，從而形成樣本模式的內(nèi)部表達(dá)或采樣模式的樣機(jī)。 學(xué)會(huì)了的樣機(jī)定義量化模式 。,學(xué)習(xí)與量化,量子化 量子化，把樣本模式空間 分成k個(gè)區(qū)域：量子化區(qū)域決策組。被學(xué)習(xí)的原型矢量在一個(gè)足夠大的模式空間 中定義了個(gè) 突觸點(diǎn)。當(dāng)且僅當(dāng)某個(gè) 在 中移動(dòng)時(shí)，系統(tǒng)才進(jìn)行學(xué)習(xí)。,學(xué)習(xí)與量化,矢量量子化規(guī)則 矢量量子化可以按照不同的規(guī)則進(jìn)行優(yōu)化。原型可以擴(kuò)展以使矢量量子化均方誤差最小或使某些數(shù)字性能規(guī)則最優(yōu)。更一般的，量子化矢量可以估計(jì)樣本模式的未知的概率分布，即，原型矢量的分布可以統(tǒng)計(jì)的代表樣本模式的未知分布。,非監(jiān)督學(xué)習(xí),描述樣本模式x在樣本空間 中的連續(xù)分布的概率密度函數(shù) 未知，通過(guò)學(xué)習(xí)來(lái)更

4、精確的估計(jì) 。 非監(jiān)督學(xué)習(xí)不作 的假設(shè)，只是利用最少限度的信息 。 利用“無(wú)標(biāo)志”的模式樣本，“盲目”處理模式樣本 ，其計(jì)算復(fù)雜度小，精確度小，但是速度快，適用于高速環(huán)境。,監(jiān)督學(xué)習(xí),監(jiān)督器假設(shè)了一種樣本模式分組結(jié)構(gòu)或 性能 。 監(jiān)督學(xué)習(xí)算法依賴于每個(gè)學(xué)習(xí)樣本的分組隸屬度信息，即，假設(shè) 分成： 所以算法可以檢查出錯(cuò)誤分組或計(jì)算出“錯(cuò)誤”信息或矢量。,監(jiān)督學(xué)習(xí),計(jì)算較復(fù)雜，精確度較高，但是速度較慢。,在神經(jīng)網(wǎng)絡(luò)中的區(qū)別,監(jiān)督學(xué)習(xí)利用在所有可能的突觸值的聯(lián)系空間中估計(jì)出的梯度下降，來(lái)估計(jì)依賴于的未知均方性能的測(cè)度梯度。監(jiān)督器利用分組隸屬度信息來(lái)確定數(shù)字誤差信號(hào)或矢量，以引導(dǎo)估計(jì)出的梯度下降。,在神

5、經(jīng)網(wǎng)絡(luò)中的區(qū)別,非監(jiān)督學(xué)習(xí)類似與生物突觸，利用神經(jīng)信號(hào)的局部信息來(lái)改變參數(shù)，而不利用分組隸屬度信息，處理未標(biāo)志的原始數(shù)據(jù)。它自適應(yīng)的把樣本模式分成模式簇 ，突觸扇入矢量估計(jì)樣本模式的分組軌跡，這個(gè)過(guò)程依賴于未知概率密度函數(shù) ，其它非監(jiān)督神經(jīng)系統(tǒng)具有模式狀態(tài)空間（pss）的吸引子低谷AB,AB對(duì)應(yīng)于模式分組。,在神經(jīng)網(wǎng)絡(luò)中的區(qū)別,一階差分或一階微分方程可以用來(lái)定義非監(jiān)督學(xué)習(xí)定律。一般來(lái)說(shuō)，隨機(jī)微分方程定義了非監(jiān)督學(xué)習(xí)定律，并且描述了突觸如何處理局部信息。,局部信息,局部信息：突觸可以簡(jiǎn)單獲得的，經(jīng)常是表示突觸性質(zhì)和神經(jīng)信號(hào)性質(zhì)的信息 。 局部化使突觸可以實(shí)時(shí)、異步地學(xué)習(xí)，不需要全局的誤差信息，也

6、使非監(jiān)督學(xué)習(xí)定律的函數(shù)空間縮小，即，突觸只能獲得局部非常有限的信息。,局部信息,局部的非監(jiān)督突觸把信號(hào)和信號(hào)聯(lián)系起來(lái)，形成由局部化限定的共軛或相關(guān)學(xué)習(xí)定律。 學(xué)習(xí)定律中只包含神經(jīng)元、突觸和噪聲三項(xiàng)。 借助于聯(lián)想可以進(jìn)一步縮小函數(shù)空間，它把模式聯(lián)系起來(lái)。通過(guò) 把 、 聯(lián)系起來(lái)，神經(jīng)網(wǎng)絡(luò)估計(jì)函數(shù) 和未知的聯(lián)合概率密度函數(shù) 。,四個(gè)非監(jiān)督學(xué)習(xí)定律,主要介紹了信號(hào)Hebbian學(xué)習(xí)、 微分Hebbian學(xué)習(xí)、 競(jìng)爭(zhēng)學(xué)習(xí)、 微分競(jìng)爭(zhēng)學(xué)習(xí) 這四種非監(jiān)督學(xué)習(xí)定律。,四個(gè)非監(jiān)督學(xué)習(xí)定律,首先介紹這四種非監(jiān)督學(xué)習(xí)定律的確定性形式； 為了在實(shí)際中嚴(yán)密論述學(xué)習(xí)定律的隨機(jī)形式，再簡(jiǎn)單回顧一下概率論、隨機(jī)過(guò)程、布朗運(yùn)動(dòng)

7、和白噪聲； 最后，對(duì)這四種非監(jiān)督學(xué)習(xí)的學(xué)習(xí)定律的性質(zhì)分別加以簡(jiǎn)單介紹。,確定信號(hào)的Hebbian學(xué)習(xí)定律,局部神經(jīng)信號(hào)： 或簡(jiǎn)化為：,確定信號(hào)的Hebbian學(xué)習(xí)定律,若 ，則第 個(gè)連接被激活 若 ，則第 個(gè)連接被抑制 ：是單調(diào)非下降函數(shù)，其作用就是把激勵(lì)或膜電位 轉(zhuǎn)化為有界信號(hào) 。,確定性的競(jìng)爭(zhēng)學(xué)習(xí)定律（Grossberg，1969）,用是競(jìng)爭(zhēng)信號(hào)調(diào)整信號(hào)突觸的差，即：,確定性的競(jìng)爭(zhēng)學(xué)習(xí)定律 （Grossberg，1969）,若 ，則輸出神經(jīng)元場(chǎng) 中的第 個(gè)神經(jīng)元贏得競(jìng)爭(zhēng)； 若 ，則輸出神經(jīng)元場(chǎng) 中的第 個(gè)神經(jīng)元輸?shù)舾?jìng)爭(zhēng)。,確定性的競(jìng)爭(zhēng)學(xué)習(xí)定律 （Grossberg，1969）,競(jìng)爭(zhēng)可以歸結(jié)

8、為最近的模式匹配。 是一個(gè)度量指示器函數(shù)。,確定性的競(jìng)爭(zhēng)學(xué)習(xí)定律 （Grossberg，1969）,實(shí)際中， 是線線性的，即， 輸入模式矢量 就代表了神經(jīng)元場(chǎng) 中的輸出。此時(shí)，競(jìng)爭(zhēng)學(xué)習(xí)準(zhǔn)則就成為線性競(jìng)爭(zhēng)學(xué)習(xí)準(zhǔn)則：,確定性的微分Hebbian學(xué)習(xí)準(zhǔn)則（Kosko，1988）,學(xué)習(xí)準(zhǔn)則 信號(hào)速度： 雖然信號(hào)是非負(fù)的，但是速度則可正可負(fù),確定性的微分競(jìng)爭(zhēng)學(xué)習(xí)定律,學(xué)習(xí)法則： 微分競(jìng)爭(zhēng)，只有改變了才學(xué)習(xí)，速度 使局部獎(jiǎng)懲強(qiáng)化。,確定性的微分競(jìng)爭(zhēng)學(xué)習(xí)定律,線性微分競(jìng)爭(zhēng)學(xué)習(xí)法則：,布朗運(yùn)動(dòng)和白噪聲,布朗運(yùn)動(dòng)的樣本是一個(gè)連續(xù)的不斷抖動(dòng)的曲線。 白噪聲是理想化的布朗運(yùn)動(dòng)的時(shí)間導(dǎo)數(shù)，是在無(wú)限寬的頻帶上的一個(gè)平的

9、頻譜，因而具有無(wú)窮大的平均能量,三概率空間和隨機(jī)過(guò)程,隨機(jī)過(guò)程是隨機(jī)變量族的序列，更一般的講，是隨機(jī)矢量族的序列（即多維隨機(jī)矢量）。 隨機(jī)過(guò)程也是有序號(hào)的隨機(jī)變量，不同序號(hào)的集合定義了不同的隨機(jī)過(guò)程。 一個(gè)有限序號(hào)集定義了一個(gè)隨機(jī)矢量，如 一個(gè)有限可數(shù)的序號(hào)集定義了一個(gè)隨機(jī)序列。 一個(gè)連續(xù)或不連續(xù)的序號(hào)集定義了一個(gè)隨機(jī)過(guò)程。,可測(cè)性,隨機(jī)過(guò)程 是 的函數(shù)，就是在算子T的作用下將 映射成 。 映射X必須是可測(cè)的 。,可測(cè)性,假設(shè)， 的子集 由區(qū)間乘積構(gòu)成： 假設(shè) 的子集 由n個(gè)被映射到 的矢量構(gòu)成： 如果， 則集合 是 的一個(gè)可測(cè)子集，或Borel集，則概率 也確定了。,可測(cè)性,一般來(lái)說(shuō)，函數(shù)或

10、映射當(dāng)且僅當(dāng)可測(cè)集的反向映射集是可測(cè)集時(shí)，才是可測(cè)的。,概率空間,定義了概率空間， a. 為概率空間提供點(diǎn)或元素事件 b.集合集 為概率空間提供點(diǎn)或事 件的集合 c.概率測(cè)度 把集合事件在 上以數(shù)字加權(quán)。,Sigma代數(shù),Sigma代數(shù)或Sigma場(chǎng)，是樣本空間的集合族。 若 表示Boerl場(chǎng)， 的拓?fù)銼igma代數(shù)，它包含了 的Borel可測(cè)子集,概率測(cè)度,定義：若 在 的不相交子集 上是可數(shù)、加性的，即： 則 定義了一個(gè)概率測(cè)度,概率測(cè)度,概率測(cè)度把有限的非負(fù)數(shù)賦予 的集合。概率空間 上， 。,累積概率函數(shù),隨機(jī)矢量 其累積概率函數(shù) 為 簡(jiǎn)記為 ，或直接記為,概率密度函數(shù),假設(shè) 有連續(xù)的偏

11、導(dǎo)數(shù)，則概率密度 函數(shù)為： 是非負(fù)的實(shí)數(shù)，其和或積分為1：,高斯密度函數(shù),高斯密度函數(shù) 是最重要的概率密度函數(shù)之一 其中， 為隨機(jī)矢量x的平均值,數(shù)學(xué)期望,數(shù)學(xué)期望是,互相關(guān),互相關(guān)是,互協(xié)方差,互協(xié)方差是,互協(xié)方差陣,互協(xié)方差陣是,互相關(guān)協(xié)方差矩陣,互相關(guān)協(xié)方差矩陣,不相關(guān),若X、Z不相關(guān)，則,獨(dú)立,若X、Z相互獨(dú)立，則,條件概率密度函數(shù),條件概率密度函數(shù) 是,條件期望,條件期望是,條件獨(dú)立,條件獨(dú)立,指示器函數(shù),則可以定義 指示器函數(shù),指示器函數(shù),數(shù)學(xué)期望,收斂定義,收斂定義,四種收斂方法：,以概率1收斂： 依概率收斂,四種收斂方法：,均方收斂 依分布收斂,四種收斂方法,四者關(guān)系： 以概率

12、1收斂 均方收斂 依概率1收斂 依分布收斂， 上述逆不成立。,高斯白噪聲,高斯白噪聲是布朗運(yùn)動(dòng)的偽導(dǎo)數(shù)過(guò)程 ：連續(xù)的布朗運(yùn)動(dòng)擴(kuò)散或Wiener過(guò)程 定義：,高斯白噪聲,白噪聲過(guò)程是零均值和時(shí)間域不相關(guān)的,高斯白噪聲,具有有限的方差,高斯白噪聲,有一個(gè)確定性的自相關(guān)函數(shù),高斯白噪聲,自相關(guān)函數(shù)為,寬平穩(wěn)隨機(jī)過(guò)程,當(dāng)且僅當(dāng)時(shí)間變化不影響一、二階矩時(shí)，一個(gè)隨機(jī)過(guò)程才是寬平穩(wěn)隨機(jī)過(guò)程，即,噪聲隨機(jī)非監(jiān)督學(xué)習(xí)定律,首先考慮一般的情況,噪聲隨機(jī)非監(jiān)督學(xué)習(xí)定律,引理：,噪聲隨機(jī)非監(jiān)督學(xué)習(xí)定律,引理說(shuō)明：隨機(jī)突觸在平衡態(tài)振動(dòng)，而且至少和驅(qū)動(dòng)的噪聲過(guò)程的振動(dòng)的一樣大，突觸矢量 在每個(gè)t都振動(dòng)，其平均值為一常數(shù)，即圍繞常值 作布朗運(yùn)動(dòng)。,隨機(jī)平