概儲(chǔ)起來，從這些實(shí)例中泛化的工作被推必個(gè)新實(shí)例與以前的實(shí)例的關(guān)系，并據(jù)此把 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 概述假定實(shí)例可以表示成歐氏空間中的局 回歸基于案例的推理工作延必須分類新的實(shí)例時(shí)間上地估計(jì)目標(biāo)函數(shù)，而是針對(duì)每個(gè)待分類新 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 簡基于實(shí)例的學(xué)習(xí)方法的學(xué)習(xí)過程只是簡單地已知實(shí)例從器中取出，用來分類新的查詢實(shí)例函數(shù)近許多技術(shù)不建立目標(biāo)函數(shù)在整個(gè)實(shí)例空間上的近，只建立局部近，并將其用于與新實(shí)例鄰近的實(shí)例復(fù)雜的局部近描述 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 簡介當(dāng)從器中檢索相似的訓(xùn)練樣例時(shí)，一般考慮實(shí) 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 簡介局部回歸法，這是一種建立目標(biāo)函數(shù)的局部近的學(xué)習(xí)方法，被看作k-近鄰算法的一般 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 k-近鄰算 <a1(x),...,nd(x,x) r

ar(xj 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 k-近鄰算法考慮離散目標(biāo)函數(shù)f:表8- 將每個(gè)訓(xùn)練樣例<x,f(x)>加入到列表給定一個(gè)要分類的查詢實(shí)例示

f?(xq)argmax(v,f(xik k0a(a,b)0a 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 k-近鄰算法 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 k-近鄰算法近樣例的平均值，而不是計(jì)算其中k普遍的值，為近f:RnR，計(jì)算式如kf(xif?(xq) k 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 距 最近鄰算 f

)argmaxw(v,f(x

w k k

d(x,x

i d(xq,xi)2為0的情況，令這種情況下的f(xq)等于f(xi)，如果k也可以用類似的方式對(duì)實(shí)值目標(biāo)函數(shù)進(jìn)行距離，kwif(xikf(xq) k 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 距 最近鄰算法 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 對(duì)k-近鄰算法的說 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 對(duì)k-近鄰算法的說明維度的解決方法：對(duì)屬性，相當(dāng)于按比例縮這個(gè)真實(shí)錯(cuò)誤率可以使用交叉驗(yàn)證來估可以多次重復(fù)這個(gè)處理過程，使 因子的估計(jì)更加準(zhǔn) 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 對(duì)k-近鄰算法的說明 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 術(shù)語解來自統(tǒng)計(jì)模式識(shí)別領(lǐng)域的回歸：近一個(gè)實(shí)數(shù)值的目標(biāo)函數(shù)殘差：f(xf 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 局 回x=xq 近目標(biāo)函數(shù) 區(qū)域內(nèi)為目標(biāo)函數(shù)f建立明確的近 成對(duì)f的局部近繞xq的鄰域內(nèi)近目標(biāo)函數(shù) 的近：每個(gè)訓(xùn)練樣例的貢獻(xiàn)由它與查詢點(diǎn)間的距 得回歸：表示近實(shí)數(shù)值函數(shù)的問 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 局 回歸 建立一 f?計(jì)算f?(xq

刪除

f?的描述 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 局 線性回使用如下形式的線性函數(shù)來近xq鄰域的目標(biāo) 的是目標(biāo)函數(shù)的全局近，即E1(f(x)2wj(f(x)f?(x))aj

機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 局 線性回歸E(x)

(f(x)

每個(gè)訓(xùn)練樣例，權(quán)值為關(guān)于相距xq距離的某個(gè)E(x)1(f(x)f?(x))2K(d(x,

綜合1和E(x)

(f(x)f?(x))2K(d(x,

機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 局 線性回歸對(duì)應(yīng)準(zhǔn)則3wi K(d(xq,x))(f(x)f?(x))aj 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 局 回歸的說數(shù)或二次函數(shù)來局部近目標(biāo)函數(shù)，更 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 徑向基函徑向基函數(shù)是另一種實(shí)現(xiàn)函數(shù)近的方法，它與距離kk 1d2(xu,uK(d(x,x))e2u2003.12.u18 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 等講者 徑向基函數(shù)Hartmanetal.1990，式子8.8的函數(shù)形式能夠以任意小的誤差近任何函數(shù)，只要以上核的數(shù)量足 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 徑向基函數(shù)為每一個(gè)訓(xùn)練樣例<xf(xi)>分配一個(gè)核函數(shù)，中心點(diǎn)設(shè)為xi，所有函數(shù)的寬度可被賦予同樣RBF網(wǎng)絡(luò)學(xué)習(xí)目標(biāo)函數(shù)的全局<xi,f(xi)>都只在xi的鄰域內(nèi)影響f?(xi)對(duì)于任意m個(gè)訓(xùn)練樣例集合，合并m個(gè)核函數(shù)的權(quán)值f?(xi)f(xi) 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 徑向基函數(shù)?把訓(xùn)練實(shí)例擬合到混合 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 徑向基函數(shù)近RBF網(wǎng)絡(luò)可以被看作目標(biāo)函數(shù)的多個(gè)局部近RBF網(wǎng)絡(luò)的一個(gè)優(yōu)點(diǎn)是，與反向算法訓(xùn)練 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 基于案例的推 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 基于案例的推理 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 基于案例的推理?xiàng)l方 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 基于案例的推理為了合并案例中檢索到的部分，可能需要從頭 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 基于案例的推理 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 基于案例的推理CADET系統(tǒng)區(qū)別于k-近鄰方法的一般特 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 對(duì)消極學(xué)習(xí)和積極學(xué)習(xí)的評(píng) 計(jì)算時(shí)間的差 對(duì)新查詢的分類的差異（歸納偏置的差異消極方法在決定如何從訓(xùn)練數(shù)據(jù)D中泛化時(shí)考慮查詢實(shí)例 觀點(diǎn)：消極學(xué)習(xí)可以通過很多局部近的組合表示目標(biāo)函數(shù)，積極學(xué)習(xí)必須在訓(xùn)練時(shí)提交單個(gè)的全局近 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 使用多個(gè)局部近的積極方法，可以產(chǎn)生與消極方法的局部近同樣的效果嗎？徑向基函數(shù)RBF學(xué)習(xí)方法創(chuàng)建的局部近不能達(dá)到像消極 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 小對(duì)每個(gè)查詢實(shí)例形成一個(gè)不同的目標(biāo)函數(shù)局部近分類新實(shí)例的效難以選擇用來檢索相關(guān)實(shí)例的合適的距離度無關(guān)特征對(duì)距離度量的負(fù)作 機(jī)器學(xué)習(xí)-基于實(shí)例的學(xué)習(xí)作者 譯者 小結(jié)局部回歸法是k-近鄰方法的推廣，為每個(gè)查詢實(shí)例建立一個(gè)明確的目標(biāo)函數(shù)的局部近，近方法可2003.12.8機(jī)器-學(xué)Mitchell者陶值補(bǔ)充讀Cover&Hart1967提出了早期的理論結(jié)Duda&Hart1973提供了一個(gè)很好的概Bishop1995討論了k-近鄰算法以及它與概率密度估計(jì)的關(guān)Atkesonetal.1997對(duì)局部