1、大數(shù)據(jù)挖掘與分析數(shù)據(jù)挖掘(Data Mining)是通過分析每個數(shù)據(jù)，從大量數(shù)據(jù)中尋找其規(guī)律的技術(shù)， 主要有數(shù)據(jù)準備、規(guī)律尋找和規(guī)律表示 3 個步驟。數(shù)據(jù)挖掘的任務(wù)有關(guān)聯(lián)分析、 聚類分析、分類分析、異常分析、特異群組分析和演變分析等。數(shù)據(jù)挖掘是通過分析每個數(shù)據(jù)， 從大量數(shù)據(jù)中尋找其規(guī)律的技術(shù)， 主要有數(shù)據(jù)準 備、規(guī)律尋找和規(guī)律表示 3 個步驟。 數(shù)據(jù)準備是從相關(guān)的數(shù)據(jù)源中選取所需的數(shù) 據(jù)并整合成用于數(shù)據(jù)挖掘的數(shù)據(jù)集； 規(guī)律尋找是用某種方法將數(shù)據(jù)集所含的規(guī)律 找出來； 規(guī)律表示是盡可能以用戶可理解的方式 (如可視化) 將找出的規(guī)律表示 出來。數(shù)據(jù)挖掘完整的步驟如下： 理解數(shù)據(jù)和數(shù)據(jù)的來源(und

2、erstanding)。 獲取相關(guān)知識與技術(shù)(acquisition)。 整合與檢查數(shù)據(jù)(integration and checking)。 去除錯誤或不一致的數(shù)據(jù)(data cleaning)。 建立模型和假設(shè)(model and hypothesis development)。 實際數(shù)據(jù)挖掘工作(data mining)。 測試和驗證挖掘結(jié)果(testing and verification)。 解釋和應(yīng)用(interpretation and use)。 數(shù)據(jù)挖掘常用的方法(1)分類。分類是找出數(shù)據(jù)庫中的一組數(shù)據(jù)對象的共同特點并按照分類模式將其劃分為不同的類， 其目的是通過分類模型，

3、將數(shù)據(jù)庫中的數(shù)據(jù)項映射到摸個給定 的類別中。 可以應(yīng)用到涉及到應(yīng)用分類、 趨勢預(yù)測中， 如淘寶商鋪將用戶在一段 時間內(nèi)的購買情況劃分成不同的類， 根據(jù)情況向用戶推薦關(guān)聯(lián)類的商品， 從而增 加商鋪的銷售量。(2)回歸分析。回歸分析反映了數(shù)據(jù)庫中數(shù)據(jù)的屬性值的特性，通過函數(shù)表 達數(shù)據(jù)映射的關(guān)系來發(fā)現(xiàn)屬性值之間的依賴關(guān)系。它可以應(yīng)用到對數(shù)據(jù)序列的預(yù) 測及相關(guān)關(guān)系的研究中去。 在市場營銷中， 回歸分析可以被應(yīng)用到各個方面。 如 通過對本季度銷售的回歸分析， 對下一季度的銷售趨勢作出預(yù)測并做出針對性的 營銷改變。(3)聚類。聚類類似于分類，但與分類的目的不同，是針對數(shù)據(jù)的相似性和 差異性將一組數(shù)據(jù)分為幾

4、個類別。 屬于同一類別的數(shù)據(jù)間的相似性很大， 但不同 類別之間數(shù)據(jù)的相似性很小，跨類的數(shù)據(jù)關(guān)聯(lián)性很低。(4)關(guān)聯(lián)規(guī)則。關(guān)聯(lián)規(guī)則是隱藏在數(shù)據(jù)項之間的關(guān)聯(lián)或相互關(guān)系，即可以根 據(jù)一個數(shù)據(jù)項的出現(xiàn)推導(dǎo)出其他數(shù)據(jù)項的出現(xiàn)。關(guān)聯(lián)規(guī)則的挖掘過程主要包括兩 個階段：第一階段為從海量原始數(shù)據(jù)中找出所有的高頻項目組 ;第二極端為從這 些高頻項目組產(chǎn)生關(guān)聯(lián)規(guī)則。關(guān)聯(lián)規(guī)則挖掘技術(shù)已經(jīng)被廣泛應(yīng)用于金融行業(yè)企業(yè) 中用以預(yù)測客戶的需求，各銀行在自己的 ATM 機上通過捆綁客戶可能感興趣的 信息供用戶了解并獲取相應(yīng)信息來改善自身的營銷。(5)神經(jīng)網(wǎng)絡(luò)方法。神經(jīng)網(wǎng)絡(luò)作為一種先進的人工智能技術(shù)，因其自身自行 處理、 分布存儲和

5、高度容錯等特性非常適合處理非線性的以及那些以模糊、 不完 整、不嚴密的知識或數(shù)據(jù)為特征的處理問題， 它的這一特點十分適合解決數(shù)據(jù)挖 掘的問題。 典型的神經(jīng)網(wǎng)絡(luò)模型主要分為三大類： 第一類是以用于分類預(yù)測和模 式識別的前饋式神經(jīng)網(wǎng)絡(luò)模型，其主要代表為函數(shù)型網(wǎng)絡(luò)、感知機 ;第二類是用 于聯(lián)想記憶和優(yōu)化算法的反饋式神經(jīng)網(wǎng)絡(luò)模型，以 Hopfield 的離散模型和連續(xù) 模型為代表。第三類是用于聚類的自組織映射方法，以 ART 模型為代表。雖然 神經(jīng)網(wǎng)絡(luò)有多種模型及算法， 但在特定領(lǐng)域的數(shù)據(jù)挖掘中使用何種模型及算法并 沒有統(tǒng)一的規(guī)則，而且人們很難理解網(wǎng)絡(luò)的學(xué)習(xí)及決策過程。(6)Web 數(shù)據(jù)挖掘。 Web 數(shù)據(jù)挖掘是一項綜合性技術(shù)， 指 Web 從文檔結(jié)構(gòu)和 使用的集合 C 中發(fā)現(xiàn)隱含的模式 P，如果將 C 看做是輸入， P 看做是輸出， 那么Web 挖掘過程就可以看做是從輸入到輸出的一個映射過程。當(dāng)前越來越多的 Web 數(shù)據(jù)都是以數(shù)據(jù)流的形式出現(xiàn)的，因此對 Web 數(shù)據(jù) 流挖掘就具有很重要的意義。 目前常用的 Web 數(shù)據(jù)挖掘算法有： PageRank 算法， HITS 算法以及 LOGSOM 算法。這三種算法提到的用戶都是籠統(tǒng)的用戶，并沒有 區(qū)分用戶的個體。 目前 Web 數(shù)據(jù)