SPSS—神經(jīng)網(wǎng)絡(luò)

1ppt課件SPSS—神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是一個(gè)非線性的數(shù)據(jù)建模工具集合，它包括輸入層和輸出層、一個(gè)或者多個(gè)隱藏層。神經(jīng)元之間的連接賦予相關(guān)的權(quán)重，訓(xùn)練算法在迭代過(guò)程中不斷調(diào)整這些權(quán)重，從而使得預(yù)測(cè)誤差最小化并給出預(yù)測(cè)精度。您可以設(shè)置網(wǎng)絡(luò)的訓(xùn)練條件，從而控制訓(xùn)練的停止條件以及網(wǎng)絡(luò)結(jié)構(gòu)，或者讓算法自動(dòng)選擇最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)。2ppt課件神經(jīng)網(wǎng)絡(luò)

2ppt課件發(fā)展歷史人工神經(jīng)網(wǎng)絡(luò)ANN,簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)ArtificialNeuralNetworks是以計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng)模擬生物神經(jīng)網(wǎng)絡(luò)的智能計(jì)算系統(tǒng)，是對(duì)人腦或自然神經(jīng)網(wǎng)絡(luò)的若干基本特性的抽象和模擬。網(wǎng)絡(luò)上的每個(gè)結(jié)點(diǎn)相當(dāng)于一個(gè)神經(jīng)元，可以記憶、處理一定的信息，并與其他結(jié)點(diǎn)并行工作。起源于20世紀(jì)40年代心理學(xué)家和數(shù)學(xué)家共同提出90年代以來(lái)與模糊技術(shù)、遺傳算法、進(jìn)化計(jì)算等智能方法結(jié)合方向發(fā)展。3ppt課件發(fā)展歷史人工神經(jīng)網(wǎng)絡(luò)ANN,簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)3ppt課件神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域，都可以將神經(jīng)網(wǎng)絡(luò)和其他統(tǒng)計(jì)分析結(jié)合起來(lái)，獲得更深入、清晰的洞察力。例如在市場(chǎng)研究領(lǐng)域，可以建立客戶檔案發(fā)現(xiàn)客戶的偏好；在數(shù)據(jù)庫(kù)營(yíng)銷領(lǐng)域，可以進(jìn)行客戶細(xì)分，優(yōu)化市場(chǎng)活動(dòng)的響應(yīng)。在金融分析方面，可用神經(jīng)網(wǎng)絡(luò)分析申請(qǐng)人的信用狀況，探測(cè)可能的欺詐。在運(yùn)營(yíng)分析方面，也可以管理現(xiàn)金流、優(yōu)化供應(yīng)鏈。此外，在科學(xué)和醫(yī)療方面的應(yīng)用包括預(yù)測(cè)醫(yī)療費(fèi)用、醫(yī)療結(jié)果分析、預(yù)測(cè)住院時(shí)間等。

4ppt課件神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域，都可以將神經(jīng)網(wǎng)絡(luò)和其他統(tǒng)計(jì)分析結(jié)合起來(lái)，神經(jīng)網(wǎng)絡(luò)SPSS神經(jīng)網(wǎng)絡(luò)，包括多層感知器（MLP）或者徑向基函數(shù)（RBF）兩種方法。都是有監(jiān)督的學(xué)習(xí)技術(shù)－即都根據(jù)輸入的數(shù)據(jù)映射出關(guān)系。都采用前饋結(jié)構(gòu)，即數(shù)據(jù)從一個(gè)方向進(jìn)入，通過(guò)輸入節(jié)點(diǎn)、隱藏層最后進(jìn)入輸出節(jié)點(diǎn)。對(duì)過(guò)程的選擇受輸入數(shù)據(jù)的類型和網(wǎng)絡(luò)的復(fù)雜程度影響。此外，MLP可以發(fā)現(xiàn)更復(fù)雜的關(guān)系，徑向基函數(shù)RBF的速度更快。

5ppt課件神經(jīng)網(wǎng)絡(luò)SPSS神經(jīng)網(wǎng)絡(luò)，包括多層感知器（MLP）或者徑向基區(qū)別感知器特別適合簡(jiǎn)單的模式分類問(wèn)題，通過(guò)對(duì)權(quán)值的訓(xùn)練，可以使感知器神經(jīng)元的輸出能代表對(duì)輸入模式進(jìn)行分類。感知器的學(xué)習(xí)規(guī)則主要通過(guò)調(diào)整網(wǎng)絡(luò)層的權(quán)值和闕值以便對(duì)輸入向量進(jìn)行正確歸類；訓(xùn)練規(guī)則則通過(guò)仿真和訓(xùn)練得到最優(yōu)的權(quán)值和闕值?；诰植勘平W(wǎng)絡(luò)的徑向基函數(shù)只需對(duì)少量權(quán)值進(jìn)行調(diào)整，所以該法在逼近能力、分類能力和學(xué)習(xí)速度上優(yōu)于全局逼近網(wǎng)絡(luò)。6ppt課件區(qū)別感知器特別適合簡(jiǎn)單的模式分類問(wèn)題，通過(guò)對(duì)權(quán)值的訓(xùn)練，可以神經(jīng)網(wǎng)絡(luò)使用這兩種方法的任何一種，可以將數(shù)據(jù)拆分成訓(xùn)練集、測(cè)試集、驗(yàn)證集。訓(xùn)練集用來(lái)估計(jì)網(wǎng)絡(luò)參數(shù)。測(cè)試集用來(lái)防止過(guò)度訓(xùn)練。驗(yàn)證樣本用來(lái)單獨(dú)評(píng)估最終的網(wǎng)絡(luò)，它將應(yīng)用于整個(gè)數(shù)據(jù)集和新數(shù)據(jù)。7ppt課件神經(jīng)網(wǎng)絡(luò)使用這兩種方法的任何一種，可以將數(shù)據(jù)拆分成訓(xùn)練集、測(cè)案例1數(shù)據(jù)集bankloan.sav利用此數(shù)據(jù)集中有效的700個(gè)樣本數(shù)據(jù)來(lái)創(chuàng)建一個(gè)多層感知器的神經(jīng)網(wǎng)絡(luò)模型并利用創(chuàng)建的模型來(lái)分析余下的缺失數(shù)據(jù)150個(gè)調(diào)查用戶的信用記錄用來(lái)觀察這些用戶的信用好壞。8ppt課件案例1數(shù)據(jù)集bankloan.sav8ppt課件數(shù)據(jù)庫(kù)9ppt課件數(shù)據(jù)庫(kù)9ppt課件10ppt課件10ppt課件多層感知器實(shí)例分析缺失值150，即為潛在客戶群首先產(chǎn)生隨機(jī)數(shù)來(lái)選擇樣本數(shù)據(jù)集轉(zhuǎn)換（Transform）---隨機(jī)數(shù)生成器（RandomNumberGenerators）設(shè)置起點(diǎn)（SetStartingPoint）---選中‘固定值（FixedValue）’---填入9191972確定（OK）。11ppt課件多層感知器實(shí)例分析缺失值150，即為潛在客戶群11ppt課件多層感知器實(shí)例分析12ppt課件多層感知器實(shí)例分析12ppt課件多層感知器實(shí)例分析將創(chuàng)建分區(qū)變量，用于精確的重新創(chuàng)建哪些用于分析的樣本；轉(zhuǎn)換--計(jì)算變量，在目標(biāo)變量中填入變量名partition，然后在數(shù)學(xué)表達(dá)式填入計(jì)算表達(dá)式2*RV.BERNOULLI(0.7)-1，用于產(chǎn)生bernoulli分布數(shù)據(jù)，數(shù)據(jù)集名稱為partition正值大約占70%，為訓(xùn)練樣本；負(fù)值大約占30%，為保持樣本；0分配給檢驗(yàn)樣本，本次沒(méi)有。13ppt課件多層感知器實(shí)例分析將創(chuàng)建分區(qū)變量，用于精確的重新創(chuàng)建哪些用于多層感知器實(shí)例分析14ppt課件多層感知器實(shí)例分析14ppt課件多層感知器實(shí)例分析分析--神經(jīng)網(wǎng)絡(luò)NeuralNetwork-多層感知器MultilayerPerceptron選擇變量PreviouslyDefault到因變量,選擇變量Leveleducation到因子。選擇變量age，employ，address，income，debtinc，creddebt，othdebt到協(xié)變量15ppt課件多層感知器實(shí)例分析分析--神經(jīng)網(wǎng)絡(luò)NeuralNetwor16ppt課件16ppt課件17ppt課件17ppt課件18ppt課件18ppt課件多層感知器實(shí)例分析單擊‘輸出（Output）’標(biāo)簽，選擇‘ROC曲線’，‘累積增益曲線’，‘增益圖’，‘觀察預(yù)測(cè)值’，去掉‘圖表’最后選擇‘自變量重要性分析’選項(xiàng)欄。單擊‘確定（OK）’進(jìn)行分析。19ppt課件多層感知器實(shí)例分析單擊‘輸出（Output）’標(biāo)簽，19pp多層感知器實(shí)例分析20ppt課件多層感知器實(shí)例分析20ppt課件個(gè)案處理摘要顯示499個(gè)分配給訓(xùn)練樣本，201個(gè)分配給保持樣本，150個(gè)為潛在客戶群21ppt課件個(gè)案處理摘要顯示499個(gè)分配給訓(xùn)練樣本，201個(gè)分配給保持樣多層感知器實(shí)例分析結(jié)果單位數(shù)包括協(xié)變量和因子的類別數(shù)22ppt課件多層感知器實(shí)例分析結(jié)果22ppt課件多層感知器實(shí)例分析因?yàn)檫_(dá)到了最大時(shí)程數(shù)，所以估計(jì)算法停止。理想情況下應(yīng)該是因?yàn)殄e(cuò)誤才收斂，這提出了進(jìn)一步檢查的意見。23ppt課件多層感知器實(shí)例分析因?yàn)檫_(dá)到了最大時(shí)程數(shù)，所以估計(jì)算法停止。理多層感知器實(shí)例分析總體來(lái)說(shuō)你的模型有七五成的正確率。24ppt課件多層感知器實(shí)例分析總體來(lái)說(shuō)你的模型有七五成的正確率。24pp矯正超額訓(xùn)練觀察到支持樣本在預(yù)測(cè)實(shí)際拖欠貸款的客戶時(shí)表現(xiàn)相對(duì)較差支持樣本45.8%正確；訓(xùn)練樣本59.7%正確懷疑網(wǎng)絡(luò)可能超額訓(xùn)練；其根據(jù)隨機(jī)變化搜尋顯示在培訓(xùn)數(shù)據(jù)中虛假模式解決方案：指定一個(gè)檢驗(yàn)樣本來(lái)保持網(wǎng)絡(luò)正常運(yùn)行我們可以通過(guò)計(jì)算變量來(lái)分配訓(xùn)練樣本中的一部分為檢驗(yàn)樣本25ppt課件矯正超額訓(xùn)練觀察到支持樣本在預(yù)測(cè)實(shí)際拖欠貸款的客戶時(shí)表現(xiàn)相對(duì)第二次分析26ppt課件第二次分析26ppt課件分析設(shè)置大于0的進(jìn)行重新分區(qū)使得約20%取值為0；80%的取值為1整體上，大約以前獲得過(guò)貸款的客戶0.7*0.8=0.56作為訓(xùn)練樣本0.7*0.2=0.14作為檢驗(yàn)樣本原來(lái)的保持樣本還都在27ppt課件分析設(shè)置大于0的進(jìn)行重新分區(qū)27ppt課件28ppt課件28ppt課件29ppt課件29ppt課件30ppt課件30ppt課件因?yàn)檫_(dá)到了錯(cuò)誤未減少，所以估計(jì)算法停止。表明超額訓(xùn)練通過(guò)添加一個(gè)測(cè)試樣本得到了解決31ppt課件因?yàn)檫_(dá)到了錯(cuò)誤未減少，所以估計(jì)算法停止。表明超額訓(xùn)練通過(guò)添加32ppt課件32ppt課件33ppt課件33ppt課件分類表使用0.5作為界限，過(guò)于單一，還需要查看ROC曲線。曲線范圍是ROC曲線的數(shù)字摘要，對(duì)于每個(gè)類別，表中的值代表了對(duì)于該類別中預(yù)測(cè)擬概率例如，對(duì)于隨機(jī)選擇的拖欠貸款者與隨機(jī)選擇的未拖欠貸款者，就缺省模型而言，前者高于后者的概率為0.854.34ppt課件分類表使用0.5作為界限，過(guò)于單一，還需要查看ROC曲線。335ppt課件35ppt課件36ppt課件36ppt課件觀察講預(yù)測(cè)分類為YES的界限從0.5下降到0.3大致是第二個(gè)箱圖的頂端和第四個(gè)箱圖的低端可以在不損失大量潛在優(yōu)質(zhì)客戶的前提下增加準(zhǔn)確找到潛在欠貸者的幾率，即第二個(gè)箱圖從0.5移動(dòng)到0.3，則細(xì)線處相對(duì)較少的未欠貸客戶重新預(yù)測(cè)為欠貸者而第四個(gè)箱圖，則大量欠貸客戶會(huì)被重新正確的分類為預(yù)測(cè)欠貸者37ppt課件觀察講預(yù)測(cè)分類為YES的界限從0.5下降到0.337ppt課38ppt課件38ppt課件39ppt課件39ppt課件40ppt課件40ppt課件案例2電信數(shù)據(jù)telco.sav電信供應(yīng)商按照顧客使用習(xí)慣將顧客群分為4大類若得到新客戶的數(shù)據(jù)，可以針對(duì)每個(gè)用戶提供個(gè)性化服務(wù)。當(dāng)前1000名客戶資料，建立相應(yīng)的神經(jīng)網(wǎng)絡(luò)，以判斷客戶所屬的客戶群。41ppt課件案例2電信數(shù)據(jù)telco.sav41ppt課件42ppt課件42ppt課件首先，產(chǎn)生隨機(jī)數(shù)種子43ppt課件首先，產(chǎn)生隨機(jī)數(shù)種子43ppt課件其次，采用徑向基進(jìn)行分析44ppt課件其次，采用徑向基進(jìn)行分析44ppt課件45ppt課件45ppt課件分區(qū)設(shè)置46ppt課件分區(qū)設(shè)置46ppt課件47ppt課件47ppt課件48ppt課件48ppt課件49ppt課件49ppt課件50ppt課件50ppt課件51ppt課件51ppt課件52ppt課件52ppt課件53ppt課件53ppt課件零模型會(huì)把所有客戶歸到附加服務(wù)組，準(zhǔn)確率是0.281；RBF網(wǎng)絡(luò)獲得了0.374的準(zhǔn)確率，提高了將近10%；實(shí)際上對(duì)于附加服務(wù)和總體服務(wù)客戶，網(wǎng)絡(luò)預(yù)測(cè)較好，其他客戶效果較差；需要找到另外的預(yù)測(cè)變量來(lái)進(jìn)行分離客戶54ppt課件零模型會(huì)把所有客戶歸到附加服務(wù)組，準(zhǔn)確率是0.281；RBF55ppt課件55ppt課件56ppt課件56ppt課件57ppt課件57ppt課件58ppt課件58ppt課件59ppt課件59ppt課件案例3使用多層感知器估計(jì)保健成本與住院時(shí)間醫(yī)院跟蹤心肌梗塞治療的病人的成本與住院時(shí)間，獲取這些測(cè)量有助于管理部門在病人接受治療時(shí)候正確管理現(xiàn)有床位。60ppt課件案例3使用多層感知器估計(jì)保健成本與住院時(shí)間60ppt課件準(zhǔn)備數(shù)據(jù)61ppt課件準(zhǔn)備數(shù)據(jù)61ppt課件更改度量方式62ppt課件更改度量方式62ppt課件63ppt課件63ppt課件64ppt課件64ppt課件65ppt課件65ppt課件66ppt課件66ppt課件67ppt課件67ppt課件68ppt課件68ppt課件輸出分析報(bào)告69ppt課件輸出分析報(bào)告69ppt課件分析警告doa和der在訓(xùn)練樣本中為常數(shù)。到達(dá)時(shí)已死亡或在急救室死亡的患者我們分析生存時(shí)間，所以只包括急救之后存活患者。個(gè)案處理摘要顯示分析中排除的2002個(gè)案為前往醫(yī)院途中或在急救室死亡的患者。70ppt課件分析警告doa和der在訓(xùn)練樣本中為常數(shù)。70ppt課件71ppt課件71ppt課件72ppt課件72ppt課件73ppt課件73ppt課件分析理想的情況下，值應(yīng)大致位于由原點(diǎn)出發(fā)的45度線上意味著五天內(nèi)觀察的住院時(shí)間預(yù)測(cè)值往往高估了住院時(shí)間；而六天以上的觀察住院時(shí)間往往低估了住院時(shí)間；在圖的左下方有一組患者很可能還未做手術(shù)，左上方有一組患者，觀察住院時(shí)間為一至三天，因此預(yù)測(cè)值過(guò)大，很可能是這些個(gè)案為在醫(yī)院手術(shù)后死亡的患者。74ppt課件分析理想的情況下，值應(yīng)大致位于由原點(diǎn)出發(fā)的45度線上74pp75ppt課件75ppt課件分析網(wǎng)絡(luò)預(yù)測(cè)的治療費(fèi)用效果似乎很好，有三組主要患者左下方主要為未做手術(shù)的患者，成本相對(duì)較低；下一組患者治療成本大約為$30,000,做過(guò)PTCA手術(shù)的患者；最后一組治療成本超過(guò)$40,000，手術(shù)費(fèi)較高，為CABG手術(shù)患者，康復(fù)時(shí)間較長(zhǎng)，增加了成本還有許多成本超過(guò)$50,000的個(gè)案，預(yù)測(cè)不佳，應(yīng)該是手術(shù)并發(fā)癥的患者，會(huì)增加手術(shù)成本和住院時(shí)間76ppt課件分析網(wǎng)絡(luò)預(yù)測(cè)的治療費(fèi)用效果似乎很好，有三組主要患者76ppt77ppt課件77ppt課件78ppt課件78ppt課件79ppt課件79ppt課件80ppt課件80ppt課件分析重要性圖顯示結(jié)果由完成的手術(shù)過(guò)程控制，隨后是否出現(xiàn)并發(fā)癥，再隨后是其他預(yù)測(cè)值。網(wǎng)絡(luò)在為典型患者預(yù)測(cè)時(shí)效果很好，但是沒(méi)有手術(shù)死亡的患者效果不好，可以創(chuàng)建多個(gè)網(wǎng)絡(luò)。一個(gè)網(wǎng)絡(luò)預(yù)測(cè)患者結(jié)果，是否存活；一個(gè)網(wǎng)絡(luò)預(yù)測(cè)成本，一個(gè)預(yù)測(cè)住院時(shí)間，條件是患者是否存活81ppt課件分析重要性圖顯示結(jié)果由完成的手術(shù)過(guò)程控制，隨后是否出現(xiàn)并發(fā)癥SPSS—神經(jīng)網(wǎng)絡(luò)

82ppt課件SPSS—神經(jīng)網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是一個(gè)非線性的數(shù)據(jù)建模工具集合，它包括輸入層和輸出層、一個(gè)或者多個(gè)隱藏層。神經(jīng)元之間的連接賦予相關(guān)的權(quán)重，訓(xùn)練算法在迭代過(guò)程中不斷調(diào)整這些權(quán)重，從而使得預(yù)測(cè)誤差最小化并給出預(yù)測(cè)精度。您可以設(shè)置網(wǎng)絡(luò)的訓(xùn)練條件，從而控制訓(xùn)練的停止條件以及網(wǎng)絡(luò)結(jié)構(gòu)，或者讓算法自動(dòng)選擇最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)。83ppt課件神經(jīng)網(wǎng)絡(luò)

2ppt課件發(fā)展歷史人工神經(jīng)網(wǎng)絡(luò)ANN,簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)ArtificialNeuralNetworks是以計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng)模擬生物神經(jīng)網(wǎng)絡(luò)的智能計(jì)算系統(tǒng)，是對(duì)人腦或自然神經(jīng)網(wǎng)絡(luò)的若干基本特性的抽象和模擬。網(wǎng)絡(luò)上的每個(gè)結(jié)點(diǎn)相當(dāng)于一個(gè)神經(jīng)元，可以記憶、處理一定的信息，并與其他結(jié)點(diǎn)并行工作。起源于20世紀(jì)40年代心理學(xué)家和數(shù)學(xué)家共同提出90年代以來(lái)與模糊技術(shù)、遺傳算法、進(jìn)化計(jì)算等智能方法結(jié)合方向發(fā)展。84ppt課件發(fā)展歷史人工神經(jīng)網(wǎng)絡(luò)ANN,簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)3ppt課件神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域，都可以將神經(jīng)網(wǎng)絡(luò)和其他統(tǒng)計(jì)分析結(jié)合起來(lái)，獲得更深入、清晰的洞察力。例如在市場(chǎng)研究領(lǐng)域，可以建立客戶檔案發(fā)現(xiàn)客戶的偏好；在數(shù)據(jù)庫(kù)營(yíng)銷領(lǐng)域，可以進(jìn)行客戶細(xì)分，優(yōu)化市場(chǎng)活動(dòng)的響應(yīng)。在金融分析方面，可用神經(jīng)網(wǎng)絡(luò)分析申請(qǐng)人的信用狀況，探測(cè)可能的欺詐。在運(yùn)營(yíng)分析方面，也可以管理現(xiàn)金流、優(yōu)化供應(yīng)鏈。此外，在科學(xué)和醫(yī)療方面的應(yīng)用包括預(yù)測(cè)醫(yī)療費(fèi)用、醫(yī)療結(jié)果分析、預(yù)測(cè)住院時(shí)間等。

85ppt課件神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域，都可以將神經(jīng)網(wǎng)絡(luò)和其他統(tǒng)計(jì)分析結(jié)合起來(lái)，神經(jīng)網(wǎng)絡(luò)SPSS神經(jīng)網(wǎng)絡(luò)，包括多層感知器（MLP）或者徑向基函數(shù)（RBF）兩種方法。都是有監(jiān)督的學(xué)習(xí)技術(shù)－即都根據(jù)輸入的數(shù)據(jù)映射出關(guān)系。都采用前饋結(jié)構(gòu)，即數(shù)據(jù)從一個(gè)方向進(jìn)入，通過(guò)輸入節(jié)點(diǎn)、隱藏層最后進(jìn)入輸出節(jié)點(diǎn)。對(duì)過(guò)程的選擇受輸入數(shù)據(jù)的類型和網(wǎng)絡(luò)的復(fù)雜程度影響。此外，MLP可以發(fā)現(xiàn)更復(fù)雜的關(guān)系，徑向基函數(shù)RBF的速度更快。

86ppt課件神經(jīng)網(wǎng)絡(luò)SPSS神經(jīng)網(wǎng)絡(luò)，包括多層感知器（MLP）或者徑向基區(qū)別感知器特別適合簡(jiǎn)單的模式分類問(wèn)題，通過(guò)對(duì)權(quán)值的訓(xùn)練，可以使感知器神經(jīng)元的輸出能代表對(duì)輸入模式進(jìn)行分類。感知器的學(xué)習(xí)規(guī)則主要通過(guò)調(diào)整網(wǎng)絡(luò)層的權(quán)值和闕值以便對(duì)輸入向量進(jìn)行正確歸類；訓(xùn)練規(guī)則則通過(guò)仿真和訓(xùn)練得到最優(yōu)的權(quán)值和闕值?；诰植勘平W(wǎng)絡(luò)的徑向基函數(shù)只需對(duì)少量權(quán)值進(jìn)行調(diào)整，所以該法在逼近能力、分類能力和學(xué)習(xí)速度上優(yōu)于全局逼近網(wǎng)絡(luò)。87ppt課件區(qū)別感知器特別適合簡(jiǎn)單的模式分類問(wèn)題，通過(guò)對(duì)權(quán)值的訓(xùn)練，可以神經(jīng)網(wǎng)絡(luò)使用這兩種方法的任何一種，可以將數(shù)據(jù)拆分成訓(xùn)練集、測(cè)試集、驗(yàn)證集。訓(xùn)練集用來(lái)估計(jì)網(wǎng)絡(luò)參數(shù)。測(cè)試集用來(lái)防止過(guò)度訓(xùn)練。驗(yàn)證樣本用來(lái)單獨(dú)評(píng)估最終的網(wǎng)絡(luò)，它將應(yīng)用于整個(gè)數(shù)據(jù)集和新數(shù)據(jù)。88ppt課件神經(jīng)網(wǎng)絡(luò)使用這兩種方法的任何一種，可以將數(shù)據(jù)拆分成訓(xùn)練集、測(cè)案例1數(shù)據(jù)集bankloan.sav利用此數(shù)據(jù)集中有效的700個(gè)樣本數(shù)據(jù)來(lái)創(chuàng)建一個(gè)多層感知器的神經(jīng)網(wǎng)絡(luò)模型并利用創(chuàng)建的模型來(lái)分析余下的缺失數(shù)據(jù)150個(gè)調(diào)查用戶的信用記錄用來(lái)觀察這些用戶的信用好壞。89ppt課件案例1數(shù)據(jù)集bankloan.sav8ppt課件數(shù)據(jù)庫(kù)90ppt課件數(shù)據(jù)庫(kù)9ppt課件91ppt課件10ppt課件多層感知器實(shí)例分析缺失值150，即為潛在客戶群首先產(chǎn)生隨機(jī)數(shù)來(lái)選擇樣本數(shù)據(jù)集轉(zhuǎn)換（Transform）---隨機(jī)數(shù)生成器（RandomNumberGenerators）設(shè)置起點(diǎn)（SetStartingPoint）---選中‘固定值（FixedValue）’---填入9191972確定（OK）。92ppt課件多層感知器實(shí)例分析缺失值150，即為潛在客戶群11ppt課件多層感知器實(shí)例分析93ppt課件多層感知器實(shí)例分析12ppt課件多層感知器實(shí)例分析將創(chuàng)建分區(qū)變量，用于精確的重新創(chuàng)建哪些用于分析的樣本；轉(zhuǎn)換--計(jì)算變量，在目標(biāo)變量中填入變量名partition，然后在數(shù)學(xué)表達(dá)式填入計(jì)算表達(dá)式2*RV.BERNOULLI(0.7)-1，用于產(chǎn)生bernoulli分布數(shù)據(jù)，數(shù)據(jù)集名稱為partition正值大約占70%，為訓(xùn)練樣本；負(fù)值大約占30%，為保持樣本；0分配給檢驗(yàn)樣本，本次沒(méi)有。94ppt課件多層感知器實(shí)例分析將創(chuàng)建分區(qū)變量，用于精確的重新創(chuàng)建哪些用于多層感知器實(shí)例分析95ppt課件多層感知器實(shí)例分析14ppt課件多層感知器實(shí)例分析分析--神經(jīng)網(wǎng)絡(luò)NeuralNetwork-多層感知器MultilayerPerceptron選擇變量PreviouslyDefault到因變量,選擇變量Leveleducation到因子。選擇變量age，employ，address，income，debtinc，creddebt，othdebt到協(xié)變量96ppt課件多層感知器實(shí)例分析分析--神經(jīng)網(wǎng)絡(luò)NeuralNetwor97ppt課件16ppt課件98ppt課件17ppt課件99ppt課件18ppt課件多層感知器實(shí)例分析單擊‘輸出（Output）’標(biāo)簽，選擇‘ROC曲線’，‘累積增益曲線’，‘增益圖’，‘觀察預(yù)測(cè)值’，去掉‘圖表’最后選擇‘自變量重要性分析’選項(xiàng)欄。單擊‘確定（OK）’進(jìn)行分析。100ppt課件多層感知器實(shí)例分析單擊‘輸出（Output）’標(biāo)簽，19pp多層感知器實(shí)例分析101ppt課件多層感知器實(shí)例分析20ppt課件個(gè)案處理摘要顯示499個(gè)分配給訓(xùn)練樣本，201個(gè)分配給保持樣本，150個(gè)為潛在客戶群102ppt課件個(gè)案處理摘要顯示499個(gè)分配給訓(xùn)練樣本，201個(gè)分配給保持樣多層感知器實(shí)例分析結(jié)果單位數(shù)包括協(xié)變量和因子的類別數(shù)103ppt課件多層感知器實(shí)例分析結(jié)果22ppt課件多層感知器實(shí)例分析因?yàn)檫_(dá)到了最大時(shí)程數(shù)，所以估計(jì)算法停止。理想情況下應(yīng)該是因?yàn)殄e(cuò)誤才收斂，這提出了進(jìn)一步檢查的意見。104ppt課件多層感知器實(shí)例分析因?yàn)檫_(dá)到了最大時(shí)程數(shù)，所以估計(jì)算法停止。理多層感知器實(shí)例分析總體來(lái)說(shuō)你的模型有七五成的正確率。105ppt課件多層感知器實(shí)例分析總體來(lái)說(shuō)你的模型有七五成的正確率。24pp矯正超額訓(xùn)練觀察到支持樣本在預(yù)測(cè)實(shí)際拖欠貸款的客戶時(shí)表現(xiàn)相對(duì)較差支持樣本45.8%正確；訓(xùn)練樣本59.7%正確懷疑網(wǎng)絡(luò)可能超額訓(xùn)練；其根據(jù)隨機(jī)變化搜尋顯示在培訓(xùn)數(shù)據(jù)中虛假模式解決方案：指定一個(gè)檢驗(yàn)樣本來(lái)保持網(wǎng)絡(luò)正常運(yùn)行我們可以通過(guò)計(jì)算變量來(lái)分配訓(xùn)練樣本中的一部分為檢驗(yàn)樣本106ppt課件矯正超額訓(xùn)練觀察到支持樣本在預(yù)測(cè)實(shí)際拖欠貸款的客戶時(shí)表現(xiàn)相對(duì)第二次分析107ppt課件第二次分析26ppt課件分析設(shè)置大于0的進(jìn)行重新分區(qū)使得約20%取值為0；80%的取值為1整體上，大約以前獲得過(guò)貸款的客戶0.7*0.8=0.56作為訓(xùn)練樣本0.7*0.2=0.14作為檢驗(yàn)樣本原來(lái)的保持樣本還都在108ppt課件分析設(shè)置大于0的進(jìn)行重新分區(qū)27ppt課件109ppt課件28ppt課件110ppt課件29ppt課件111ppt課件30ppt課件因?yàn)檫_(dá)到了錯(cuò)誤未減少，所以估計(jì)算法停止。表明超額訓(xùn)練通過(guò)添加一個(gè)測(cè)試樣本得到了解決112ppt課件因?yàn)檫_(dá)到了錯(cuò)誤未減少，所以估計(jì)算法停止。表明超額訓(xùn)練通過(guò)添加113ppt課件32ppt課件114ppt課件33ppt課件分類表使用0.5作為界限，過(guò)于單一，還需要查看ROC曲線。曲線范圍是ROC曲線的數(shù)字摘要，對(duì)于每個(gè)類別，表中的值代表了對(duì)于該類別中預(yù)測(cè)擬概率例如，對(duì)于隨機(jī)選擇的拖欠貸款者與隨機(jī)選擇的未拖欠貸款者，就缺省模型而言，前者高于后者的概率為0.854.115ppt課件分類表使用0.5作為界限，過(guò)于單一，還需要查看ROC曲線。3116ppt課件35ppt課件117ppt課件36ppt課件觀察講預(yù)測(cè)分類為YES的界限從0.5下降到0.3大致是第二個(gè)箱圖的頂端和第四個(gè)箱圖的低端可以在不損失大量潛在優(yōu)質(zhì)客戶的前提下增加準(zhǔn)確找到潛在欠貸者的幾率，即第二個(gè)箱圖從0.5移動(dòng)到0.3，則細(xì)線處相對(duì)較少的未欠貸客戶重新預(yù)測(cè)為欠貸者而第四個(gè)箱圖，則大量欠貸客戶會(huì)被重新正確的分類為預(yù)測(cè)欠貸者118ppt課件觀察講預(yù)測(cè)分類為YES的界限從0.5下降到0.337ppt課119ppt課件38ppt課件120ppt課件39ppt課件121ppt課件40ppt課件案例2電信數(shù)據(jù)telco.sav電信供應(yīng)商按照顧客使用習(xí)慣將顧客群分為4大類若得到新客戶的數(shù)據(jù)，可以針對(duì)每個(gè)用戶提供個(gè)性化服務(wù)。當(dāng)前1000名客戶資料，建立相應(yīng)的神經(jīng)網(wǎng)絡(luò)，以判斷客戶所屬的客戶群。122ppt課件案例2電信數(shù)據(jù)telco.sav41ppt課件123ppt課件42ppt課件首先，產(chǎn)生隨機(jī)數(shù)種子124ppt課件首先，產(chǎn)生隨機(jī)數(shù)種子43ppt課件其次，采用徑向基進(jìn)行分析125ppt課件其次，采用徑向基進(jìn)行分析44ppt課件126ppt課件45ppt課件分區(qū)設(shè)置127ppt課件分區(qū)設(shè)置46ppt課件128ppt課件47ppt課件129ppt課件48ppt課件130ppt課件49ppt課件131ppt課件50ppt課件132ppt課件51ppt課件133ppt課件52ppt課件134ppt課件53ppt課件零模型會(huì)把所有客戶歸到附加服務(wù)組，準(zhǔn)確率是0.281；RBF網(wǎng)絡(luò)獲得了0.374的準(zhǔn)確率，提高了將近10%；實(shí)際上對(duì)于附加服務(wù)和總體服務(wù)客戶，網(wǎng)絡(luò)預(yù)測(cè)較好，其他客戶效果較差；需要找到另外的預(yù)測(cè)變量來(lái)進(jìn)行分離客戶135ppt課件零模型會(huì)把所有客戶歸到附加服務(wù)組，準(zhǔn)確率是0.281；RBF136ppt課件55ppt課件137ppt課件56ppt課件138ppt課件57ppt課件139ppt課件58ppt課件140ppt課件59ppt課件案例3使用多層感知器估計(jì)保健成本與住院時(shí)間醫(yī)院跟蹤心肌梗塞治療的病人的成本