1、2022年-2023年最新關(guān)于舉辦“大數(shù)據(jù)建模與分析挖掘應(yīng)用”實(shí)戰(zhàn)培訓(xùn)班的通知地點(diǎn)北京上海時(shí)間12月 23-261月 12-15一、課程簡(jiǎn)介大數(shù)據(jù)建模與分析挖掘技術(shù)已經(jīng)逐步地應(yīng)用到新興互聯(lián)網(wǎng)企業(yè)（如電子商務(wù)網(wǎng)站、搜索引擎、 社交網(wǎng)站、互聯(lián)網(wǎng)廣告服務(wù)提供商等）、銀行金融證券企業(yè)、電信運(yùn)營(yíng)等行業(yè)，給這些行業(yè)帶來(lái)了 一定的數(shù)據(jù)價(jià)值增值作用。本次課程面向有一定的數(shù)據(jù)分析挖掘算法基礎(chǔ)的工程師，帶大家實(shí)踐大數(shù)據(jù)分析挖掘平臺(tái)的項(xiàng) 目訓(xùn)練，系統(tǒng)地講解數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)建模、挖掘模型建立、大數(shù)據(jù)分析與挖掘算法應(yīng)用在業(yè)務(wù)模型中， 結(jié)合主流的Hadoop與Spark大數(shù)據(jù)分析平臺(tái)架構(gòu)，實(shí)現(xiàn)工程訓(xùn)練。結(jié)合業(yè)界使用最廣泛的

2、主流大數(shù)據(jù)平臺(tái)技術(shù)，重點(diǎn)剖析基于大數(shù)據(jù)分析算法與BI技術(shù)應(yīng)用， 包括分類算法、聚類算法、預(yù)測(cè)分析算法、推薦分析模型等在業(yè)務(wù)中的實(shí)踐應(yīng)用，并根據(jù)講師給定的 數(shù)據(jù)集，實(shí)現(xiàn)兩個(gè)基本的日志數(shù)據(jù)分析挖掘系統(tǒng)，以及電商（或內(nèi)容）推薦系統(tǒng)引擎。本課程基本的實(shí)踐環(huán)境是Linux集群，JDK1.8, Hadoop 2.7.*, Spark 2.1.*。學(xué)員需要準(zhǔn)備的電腦最好是i5及以上CPU, 4GB及以上內(nèi)存，硬盤空間預(yù)留50GB （可用移動(dòng) 硬盤），基本的大數(shù)據(jù)分析平臺(tái)所依賴的軟件包和依賴庫(kù)等，講師已經(jīng)提前部署在虛擬機(jī)鏡像 （VMware鏡像），學(xué)員根據(jù)講師的操作任務(wù)進(jìn)行實(shí)踐。本課程采用技術(shù)原理與工程實(shí)戰(zhàn)相

3、結(jié)合的方式進(jìn)行教學(xué)，在講授原理的過(guò)程中，穿插實(shí)際的系 統(tǒng)操作，本課程講師也精心準(zhǔn)備的實(shí)際的應(yīng)用案例供學(xué)員動(dòng)手訓(xùn)練。二、培訓(xùn)目標(biāo)1本課程讓學(xué)員充分掌握大數(shù)據(jù)平臺(tái)技術(shù)架構(gòu)、大數(shù)據(jù)分析的基本理論、機(jī)器學(xué)習(xí)的常用算法、 國(guó)內(nèi)外主流的大數(shù)據(jù)分析與BI商業(yè)智能分析解決方案、以及大數(shù)據(jù)分析在搜索引擎、廣告服務(wù)推薦、 電商數(shù)據(jù)分析、金融客戶分析方面的應(yīng)用案例。2本課程強(qiáng)調(diào)主流的大數(shù)據(jù)分析挖掘算法技術(shù)的應(yīng)用和分析平臺(tái)的實(shí)施，讓學(xué)員掌握主流的基 于大數(shù)據(jù)Hadoop和Spark、R的大數(shù)據(jù)分析平臺(tái)架構(gòu)和實(shí)際應(yīng)用，并用結(jié)合實(shí)際的生產(chǎn)系統(tǒng)案例進(jìn)2022年-2023年最新行教學(xué)，掌握基于Hadoop大數(shù)據(jù)平臺(tái)的數(shù)據(jù)挖掘

4、和數(shù)據(jù)倉(cāng)庫(kù)分布式系統(tǒng)平臺(tái)應(yīng)用，以及商業(yè)和開(kāi) 源的數(shù)據(jù)分析產(chǎn)品加上Hadoop平臺(tái)形成大數(shù)據(jù)分析平臺(tái)的應(yīng)用剖析。3讓學(xué)員掌握常見(jiàn)的機(jī)器學(xué)習(xí)算法，深入講解業(yè)界成熟的大數(shù)據(jù)分析挖掘與BI平臺(tái)的實(shí)踐應(yīng) 用，并以客戶分析系統(tǒng)、日志分析和電商推薦系統(tǒng)為案例，串聯(lián)常用的數(shù)據(jù)挖掘技術(shù)進(jìn)行應(yīng)用教學(xué)。 三、培訓(xùn)人群.大數(shù)據(jù)分析應(yīng)用開(kāi)發(fā)工程師.大數(shù)據(jù)分析工程的規(guī)劃咨詢管理人員.大數(shù)據(jù)分析工程的IT工程高管人員.大數(shù)據(jù)分析與挖掘處理算法應(yīng)用工程師.大數(shù)據(jù)分析集群運(yùn)維工程師.大數(shù)據(jù)分析工程的售前和售后技術(shù)支持服務(wù)人員四、培訓(xùn)特色定制授課+實(shí)戰(zhàn)案例訓(xùn)練+互動(dòng)咨詢討論大數(shù)據(jù)建模與分析挖掘應(yīng)用實(shí)戰(zhàn)大數(shù)據(jù)建模與分析挖掘應(yīng)用實(shí)戰(zhàn)

5、目標(biāo)：掌握大數(shù)據(jù)建模與分析挖掘平臺(tái)工具 業(yè)界主流大數(shù)據(jù)建模與分析挖掘平臺(tái)工具的應(yīng)用Hadoop大數(shù)據(jù)分析挖掘工具M(jìn)ahoutSpark大數(shù)據(jù)分析挖掘工具 MllibR建模工具SPSS建模工具目標(biāo)：掌握大數(shù)據(jù)建模與分析挖掘平臺(tái)工具 業(yè)界主流大數(shù)據(jù)建模與分析挖掘平臺(tái)工具的應(yīng)用Hadoop大數(shù)據(jù)分析挖掘工具M(jìn)ahoutSpark大數(shù)據(jù)分析挖掘工具 MllibR建模工具SPSS建模工具目標(biāo)：掌握大數(shù)據(jù)分析挖掘算法與模型大數(shù)據(jù)挖掘的機(jī)器學(xué)習(xí)算法模型的原理和應(yīng)用操作客戶分析、日志分析、推薦營(yíng)銷分析、預(yù)測(cè)分析等場(chǎng)景中的算法模型聚類分析挖掘算法與模型（K均值、層次聚類、譜聚類等）分類分析挖掘算法與模型（貝葉斯

6、、決策樹(shù)等）關(guān)聯(lián)分析挖掘算法與模型（FP-Growth 、Apriori關(guān)聯(lián)規(guī)那么挖掘等）推薦分析挖掘算法與模型（Item-based 、User-based 協(xié)同過(guò)濾等）回歸分析挖掘算法與模型（線性回歸、邏輯回歸等） 圖關(guān)系分析挖掘算法模型（鏈接分析、社交分析等） 神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)算法模型（CNN、RNN等）上述算法模型基于Spark MLlib的程序例如目標(biāo)：利用所學(xué)的分析挖掘算法模型知識(shí)進(jìn)行工程訓(xùn)練基于Spark構(gòu)建大數(shù)據(jù)分析挖掘平臺(tái)以工程的形式結(jié)合業(yè)務(wù)需求，完成兩個(gè)完整工程案例任務(wù)講師會(huì)帶著學(xué)員進(jìn)行操作訓(xùn)練講師會(huì)提供數(shù)據(jù)集、實(shí)驗(yàn)環(huán)境和實(shí)驗(yàn)指導(dǎo)手冊(cè)（說(shuō)明：講師會(huì)提供虛擬機(jī)鏡像，并把Had

7、oop, Spark等系統(tǒng)提前部署在虛擬機(jī)中，分析挖掘平臺(tái) 構(gòu)建在Hadoop與Spark之上，學(xué)員自帶筆記本，運(yùn)行虛擬機(jī)，并利用同樣的鏡像啟動(dòng)多臺(tái)虛擬機(jī)， 構(gòu)建實(shí)驗(yàn)集群，鏡像會(huì)提前給學(xué)員）2022年-2023年最新五、詳細(xì)大綱與培訓(xùn)內(nèi)容.日志分析建模與日志挖掘工程實(shí)踐a）Hadoop, Spark,并結(jié)合ELK技術(shù)構(gòu)建日志分析系統(tǒng)和日志 數(shù)據(jù)倉(cāng)庫(kù)兩個(gè)完整的項(xiàng) 目任務(wù)和實(shí)踐 案例（重點(diǎn)）工程的階段性步驟 貫穿到三天的培訓(xùn) 過(guò)程中，第三天完成 整個(gè)工程的原型b）互聯(lián)網(wǎng)微博日志分析系統(tǒng)工程推薦系統(tǒng)工程實(shí)踐a）電影數(shù)據(jù)分析與個(gè)性化推薦關(guān)聯(lián)分析工程b）電商購(gòu)物籃分析工程Hadoop, Spark,可結(jié)

8、合Oryx分布式集群在個(gè)性化推薦和精準(zhǔn) 營(yíng)銷工程。培訓(xùn)內(nèi)容安排如下:時(shí)間內(nèi)容提要授課詳細(xì)內(nèi)容實(shí)踐訓(xùn)練第天業(yè)界主流的 數(shù)據(jù)倉(cāng)庫(kù)工 具和大數(shù)據(jù) 分析挖掘工 具業(yè)界主流的基于Hadoop和Spark的大數(shù)據(jù)分析挖掘項(xiàng) 目解決方案業(yè)界數(shù)據(jù)倉(cāng)庫(kù)與數(shù)據(jù)分析挖掘平臺(tái)軟件工具Hadoop數(shù)據(jù)倉(cāng)庫(kù)工具HiveSpark實(shí)時(shí)數(shù)據(jù)倉(cāng)庫(kù)工具SparkSQLHadoop數(shù)據(jù)分析挖掘工具M(jìn)ahoutSpark機(jī)器學(xué)習(xí)與數(shù)據(jù)分析挖掘工具M(jìn)Llib大數(shù)據(jù)分析挖掘工程的實(shí)施步驟配置數(shù)據(jù)倉(cāng)庫(kù)工具 Hadoop Hive 和 SparkSQL部署數(shù)據(jù)分析挖掘 工 具 Hadoop Mahout 和 Spark MLlib大數(shù)據(jù)分析

9、 挖掘工程的 數(shù)據(jù)集成操 作訓(xùn)練.日志數(shù)據(jù)解析和導(dǎo)入導(dǎo)出到數(shù)據(jù)倉(cāng)庫(kù)的操作訓(xùn)練.從原始搜索數(shù)據(jù)集中抽取、集成數(shù)據(jù)，整理后形成規(guī) 范的數(shù)據(jù)倉(cāng)庫(kù).數(shù)據(jù)分析挖掘模塊從大型的集中式數(shù)據(jù)倉(cāng)庫(kù)中訪問(wèn)數(shù) 據(jù)，一個(gè)數(shù)據(jù)倉(cāng)庫(kù)面向一個(gè)主題，構(gòu)建兩個(gè)數(shù)據(jù)倉(cāng)庫(kù).同一個(gè)數(shù)據(jù)倉(cāng)庫(kù)中的事實(shí)表數(shù)據(jù)，可以給多個(gè)不同類 型的分析挖掘任務(wù)調(diào)用.去除噪聲工程數(shù)據(jù)集加載 ETL 到Hadoop Hive 數(shù)據(jù)倉(cāng)庫(kù)并建立多 維模型2022年-2023年最新基于 Hadoop 的大型數(shù)據(jù) 倉(cāng)庫(kù)管理平 臺(tái)一HIVE數(shù) 據(jù)倉(cāng)庫(kù)集群 的多維分析 建模應(yīng)用實(shí) 踐基于Hadoop的人型分布式數(shù)據(jù)倉(cāng)庫(kù)在行業(yè)中的數(shù)據(jù)倉(cāng) 庫(kù)應(yīng)用案例Hive數(shù)據(jù)倉(cāng)庫(kù)集群的平

10、臺(tái)體系結(jié)構(gòu)、核心技術(shù)剖析Hive Server的工作原理、機(jī)制與應(yīng)用Hive數(shù)據(jù)倉(cāng)庫(kù)集群的安裝部署與配置優(yōu)化Hive應(yīng)用開(kāi)發(fā)技巧Hive SQL剖析與應(yīng)用實(shí)踐Hive數(shù)據(jù)倉(cāng)庫(kù)表與表分區(qū)、表操作、數(shù)據(jù)導(dǎo)入導(dǎo)出、 客戶端操作技巧Hive數(shù)據(jù)倉(cāng)庫(kù)報(bào)表設(shè)計(jì)將原始的日志數(shù)據(jù)集，經(jīng)過(guò)整理后，加載至Hadoop + Hive數(shù)據(jù)倉(cāng)庫(kù)集群中，用于共享訪問(wèn)利用HIVE構(gòu)建大 型數(shù)據(jù)倉(cāng)庫(kù)工程的 操作訓(xùn)練實(shí)踐Spark大數(shù)據(jù) 分析挖掘平 臺(tái)實(shí)踐操作 訓(xùn)練Spark大數(shù)據(jù)分析挖掘平臺(tái)的部署配置Spark數(shù)據(jù)分析庫(kù)MLlib的開(kāi)發(fā)部署Spark數(shù)據(jù)分析挖掘不例操作，從Hive表中讀取數(shù)據(jù) 并在分布式內(nèi)存中運(yùn)行第天聚類分

11、析建 模與挖掘算 法的實(shí)現(xiàn)原 理和技術(shù)應(yīng) 用.聚類分析建模與算法原理及其在Spark MLlib中的實(shí) 現(xiàn)與應(yīng)用，包括：a) Canopy 聚類 (canopy clustering)8 K 均值算法(K-means clustering)0 模糊 K 均值(Fuzzy K-means clustering)d EM聚類， 即期望最大化聚類(Expectation Maximization) 以上算法在Spark MLib中的實(shí)現(xiàn)原理和實(shí)際場(chǎng)景 中的應(yīng)用案例。. Spark聚類分析算法程序例如基于 Spark MLlib 的聚類分析算法， 實(shí)現(xiàn)日志數(shù)據(jù)集中 的用戶聚類分類分析建 模與挖掘算 法

12、的實(shí)現(xiàn)原 理和技術(shù)應(yīng) 用20.分類分析建模與算法原理及其在Spark MLlib中的實(shí) 現(xiàn)與應(yīng)用，包括：0 Spark決策樹(shù)算法實(shí)現(xiàn) 邏輯回歸算法(logistics regression)B 貝葉斯算法(Bayesian與Cbeyes)0 支持向量機(jī) (Support vector machine)j)以上算法在Spark MLlib中的實(shí)現(xiàn)原理和實(shí)際場(chǎng)景 中的應(yīng)用案例。Spark客戶資料分析與給用戶貼標(biāo)簽的程序例如Spark實(shí)現(xiàn)給商品貼標(biāo)簽的程序例如Spark實(shí)現(xiàn)用戶行為的自動(dòng)標(biāo)簽和深度技術(shù)基于 Spark MLlib 的分類分析算法模 型與應(yīng)用操作關(guān)聯(lián)分析建 模與挖掘算 法的實(shí)現(xiàn)原 理和

13、技術(shù)應(yīng) 用24.預(yù)測(cè)、推薦分析建模與算法原理及其在Spark MLlib 中的實(shí)現(xiàn)與應(yīng)用，包括：0 Spark頻繁模式挖掘算法(parallel FP Growth Algorithm)應(yīng)用D Spark關(guān)聯(lián)規(guī)那么挖掘(Apriori)算法及其應(yīng)用而 以上算法在Spark MLib中的實(shí)現(xiàn)原理和實(shí)際場(chǎng)景 中的應(yīng)用案?jìng)鹖L基于 Spark MLlib 的關(guān)聯(lián)分析操作2022年-2023年最新25. Spark關(guān)聯(lián)分析程序例如變天推薦分析挖 掘模型與算 法技術(shù)應(yīng)用26.推薦算法原理及其在Spark MLlib中的實(shí)現(xiàn)與應(yīng)用， 包括：a) Spark協(xié)同過(guò)濾算法程序例如t) Item-based協(xié)同

14、過(guò)濾與推存 User-based協(xié)同過(guò)濾與推存d交叉銷售推薦模型及其實(shí)現(xiàn)推薦分析實(shí)現(xiàn)步驟 與操作(重點(diǎn))回歸分析模 型與預(yù)測(cè)算 法.利用線性回歸(多?；貧w)實(shí)現(xiàn)訪問(wèn)量預(yù)測(cè).利用非線性回歸預(yù)測(cè)成交量和訪問(wèn)量的關(guān)系.基于R+Spark實(shí)現(xiàn)回歸分析模型及其應(yīng)用操作. Spark回歸程序?qū)崿F(xiàn)異常點(diǎn)檢測(cè)的程序例如回歸分析預(yù)測(cè)操作 例子圖關(guān)系建模 與分析挖掘 及其鏈接分 析和社交分 析操作.利用Spark GraphX實(shí)現(xiàn)網(wǎng)頁(yè)鏈接分析，計(jì)算網(wǎng)頁(yè)重要 性排名.實(shí)現(xiàn)信息傳播的社交關(guān)系傳遞分析，互聯(lián)網(wǎng)用戶的行 為關(guān)系分析任務(wù)的操作訓(xùn)練圖數(shù)據(jù)的分析挖掘 操作，實(shí)現(xiàn)微博數(shù) 據(jù)集的社交網(wǎng)絡(luò)建 模與關(guān)系分析神經(jīng)網(wǎng)絡(luò)與

15、深度學(xué)習(xí)算 法模型及其 應(yīng)用實(shí)踐.神經(jīng)網(wǎng)絡(luò)算法Neural Network的實(shí)現(xiàn)方法和挖掘模型 應(yīng)用.基于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)的訓(xùn)練過(guò)程4傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法t) Deep Learning的訓(xùn)練方法.深度學(xué)習(xí)的常用模型和方法a) CNN (Convolutional Neural Network)卷積神經(jīng) 網(wǎng)絡(luò)B RNN (Recurrent Neural Network)循環(huán)神經(jīng)網(wǎng)絡(luò) 模型 Restricted Boltzmann Machine (RBM)限制波爾茲 曼機(jī).基于Spark的深度學(xué)習(xí)算法模型庫(kù)的應(yīng)用程序例如基 于 Spark 或 TensorFlow 神經(jīng)網(wǎng) 絡(luò)深度學(xué)習(xí)

16、庫(kù)實(shí)現(xiàn) 文本與圖片數(shù)據(jù)挖 掘工程實(shí)踐37.日志分析系統(tǒng)與日志挖掘工程實(shí)踐4 Hadoop, Spark, ELK技術(shù)構(gòu)建日志數(shù)據(jù)倉(cāng)庫(kù)b互聯(lián)網(wǎng)微博日志分析系統(tǒng)工程38.推薦系統(tǒng)工程實(shí)踐a)電影數(shù)據(jù)分析與個(gè)性化推薦關(guān)聯(lián)分析工程工程數(shù)據(jù)集和詳細(xì) 的實(shí)驗(yàn)指導(dǎo)手冊(cè)由 講師提供培訓(xùn)總結(jié)39.工程方案的課堂討論，討論實(shí)際業(yè)務(wù)中的分析需求， 剖析各個(gè)環(huán)節(jié)的難點(diǎn)、痛點(diǎn)、瓶頸，啟發(fā)出解決之道； 完成講師布置的工程案例，鞏固學(xué)過(guò)的大數(shù)據(jù)分析挖 掘處理平臺(tái)技術(shù)知識(shí)以及應(yīng)用技能討論交流第 四 天學(xué)員考試與業(yè)界交流2022年-2023年最新六、師資力量周老師，男，中國(guó)科學(xué)院通信與信息系統(tǒng)專業(yè)博士。北京郵電大學(xué)移動(dòng)互聯(lián)網(wǎng)與

17、信息化實(shí)驗(yàn)室 特聘研究員、對(duì)外經(jīng)貿(mào)大學(xué)信息學(xué)院特聘兼職教師、中國(guó)移動(dòng)集團(tuán)高級(jí)培訓(xùn)講師，長(zhǎng)期從事大數(shù)據(jù)、 4G、移動(dòng)互聯(lián)網(wǎng)平安、管理及大數(shù)據(jù)精確營(yíng)銷等研究方向。國(guó)內(nèi)頂級(jí)信息系統(tǒng)架構(gòu)師，金牌講師， 技術(shù)顧問(wèn)，移動(dòng)開(kāi)發(fā)專家。擁有豐富的通信信息系統(tǒng)設(shè)計(jì)、開(kāi)發(fā)經(jīng)驗(yàn)及培訓(xùn)行業(yè)經(jīng)驗(yàn)，先后為 全國(guó)超過(guò)15家省移動(dòng)公司，超過(guò)30家地市移動(dòng)公司有過(guò)工程開(kāi)發(fā)合作及授課，擔(dān)任多個(gè)大型通 信工程的總師。張老師：阿里大數(shù)據(jù)高級(jí)專家，國(guó)內(nèi)資深的Spark Hadoop技術(shù)專家、虛擬化專家，對(duì)HDFS、 MapReduce、HBase、Hive、Mahout、Storm、spark 和 openTSDB 等Hadoop 生態(tài)系統(tǒng)中的技術(shù)進(jìn)行 了多年的深入的研究，更主要的是這些技術(shù)在大量的實(shí)際工程中得到廣泛的應(yīng)用，因此在Hadoop開(kāi) 發(fā)和運(yùn)維方面積累了豐富的工程實(shí)施經(jīng)驗(yàn)。近年主要典型的工程有：某電信集團(tuán)網(wǎng)絡(luò)優(yōu)化、中國(guó) 移動(dòng)某省移動(dòng)公司請(qǐng)賬單系統(tǒng)和某省移動(dòng)詳單實(shí)時(shí)查詢系統(tǒng)、中國(guó)銀聯(lián)大數(shù)據(jù)數(shù)據(jù)票據(jù)詳單平臺(tái)、 某大型銀行大數(shù)據(jù)記錄系統(tǒng)、某大型通信運(yùn)營(yíng)商全國(guó)用戶上網(wǎng)記錄、某省交通部門違章系統(tǒng)、某區(qū)域 醫(yī)療大數(shù)據(jù)應(yīng)用工程、互聯(lián)網(wǎng)公共數(shù)據(jù)大云(DAAS)和構(gòu)建游戲云(Web Game Daas)平臺(tái)工程等。七、頒發(fā)證書(shū)參加相關(guān)培訓(xùn)并通過(guò)考試的學(xué)員，可以獲得：1.工業(yè)和信息化部頒發(fā)