工業(yè)數(shù)字化人才培養(yǎng)基地大數(shù)據(jù)實(shí)時(shí)處理工作室項(xiàng)目需求_第1頁(yè)
工業(yè)數(shù)字化人才培養(yǎng)基地大數(shù)據(jù)實(shí)時(shí)處理工作室項(xiàng)目需求_第2頁(yè)
工業(yè)數(shù)字化人才培養(yǎng)基地大數(shù)據(jù)實(shí)時(shí)處理工作室項(xiàng)目需求_第3頁(yè)
工業(yè)數(shù)字化人才培養(yǎng)基地大數(shù)據(jù)實(shí)時(shí)處理工作室項(xiàng)目需求_第4頁(yè)
工業(yè)數(shù)字化人才培養(yǎng)基地大數(shù)據(jù)實(shí)時(shí)處理工作室項(xiàng)目需求_第5頁(yè)
已閱讀5頁(yè),還剩21頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

工業(yè)數(shù)字化人才培養(yǎng)基地大數(shù)據(jù)實(shí)時(shí)處理工作室項(xiàng)目需求一、貨物清單明細(xì)序號(hào)貨物名稱(chēng)(標(biāo)的名稱(chēng))數(shù)量單位1大數(shù)據(jù)流計(jì)算實(shí)訓(xùn)平臺(tái)1套2大數(shù)據(jù)流計(jì)算實(shí)訓(xùn)應(yīng)用案例4套3大數(shù)據(jù)流計(jì)算實(shí)訓(xùn)運(yùn)行硬件平臺(tái)4套4實(shí)時(shí)數(shù)據(jù)采集傳感器5臺(tái)5大數(shù)據(jù)云實(shí)訓(xùn)平臺(tái)1套6基于Spark的離線數(shù)據(jù)分析實(shí)訓(xùn)庫(kù)1套7數(shù)據(jù)倉(cāng)庫(kù)實(shí)訓(xùn)庫(kù)1套8數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)實(shí)訓(xùn)庫(kù)1套9大數(shù)據(jù)平臺(tái)搭建運(yùn)維實(shí)訓(xùn)庫(kù)1套10管理節(jié)點(diǎn)設(shè)備1臺(tái)11計(jì)算節(jié)點(diǎn)設(shè)備4臺(tái)二、技術(shù)要求序號(hào)貨物名稱(chēng)技術(shù)要求1大數(shù)據(jù)流計(jì)算實(shí)訓(xùn)平臺(tái)1.1新建工作空間,點(diǎn)擊新建工作空間可以創(chuàng)建新的工作空間,并綁定所選的集群;1.2刪除工作空間:刪除所選的工作空間;1.3重命名:重命名所選的工作空間;1.4查看計(jì)算資源:查看當(dāng)前工作空間綁定的集群信息1.5進(jìn)入工作空間:進(jìn)入當(dāng)前的工作空間到作業(yè)管理界面;1.6支持FlinkSQL開(kāi)發(fā),支持通過(guò)上傳自定義JAR包開(kāi)發(fā);1.7涵蓋SQL/Java/Scala語(yǔ)言;1.8內(nèi)置統(tǒng)一元數(shù)據(jù)管理,支持元數(shù)據(jù)參數(shù)的變量管理;1.9智能感知外部數(shù)據(jù)連接系統(tǒng),自動(dòng)生成數(shù)據(jù)源和數(shù)據(jù)匯的建表語(yǔ)句;1.10支持用戶自定義各類(lèi)型函數(shù),包括UDF、UDTF和UDAF;1.11提供內(nèi)置connector,與公有云主流數(shù)據(jù)產(chǎn)品(包括但不限于云數(shù)據(jù)倉(cāng)庫(kù)、消息隊(duì)列、數(shù)據(jù)庫(kù)、搜索引擎、對(duì)象存儲(chǔ))無(wú)縫集成;并且可以按需自定義Connector對(duì)接各類(lèi)外部數(shù)據(jù)系統(tǒng),具備對(duì)用戶自定義開(kāi)發(fā)的Connector的管理能力;1.12SQL在線語(yǔ)法檢查,SQL在線調(diào)試,且調(diào)試過(guò)程中不影響生產(chǎn)環(huán)境;1.13支持Flink內(nèi)核多版本架構(gòu),通過(guò)SQL/JAR作業(yè)可同時(shí)支持多個(gè)Flink版本;1.14支持WebIDE和云API兩種開(kāi)發(fā)調(diào)試,云API可提供WebIDE開(kāi)發(fā)需具備的功能接口,通過(guò)云API可實(shí)現(xiàn)業(yè)務(wù)平臺(tái)與流計(jì)算平臺(tái)的對(duì)接;1.15以Task粒度定義動(dòng)態(tài)指標(biāo),并以維度聚合(sum、max、min、avg)的方式定義從上下游系統(tǒng)到集群作業(yè)的健康運(yùn)行相關(guān)的監(jiān)控指標(biāo),對(duì)作業(yè)進(jìn)行全方位監(jiān)控告警;1.16展示作業(yè)JobManager/TaskManager/Task粒度指標(biāo),以及容器POD精確的CPU/內(nèi)存指標(biāo);1.17租戶獨(dú)占網(wǎng)絡(luò)空間、計(jì)算資源和存儲(chǔ)資源,保證租戶間的物理隔離;1.18支持FlinkonK8s的彈性調(diào)度;1.19支持增加數(shù)據(jù)處理節(jié)點(diǎn),進(jìn)行水平擴(kuò)展;1.20數(shù)據(jù)類(lèi)型:支持VARCHAR、BYTE、BOOLEAN、INT、BIGINT、FLOAT、DOUBLE、DECIMAL、DATE、TIMESTAMP等常用數(shù)據(jù)類(lèi)型;1.21支持計(jì)算資源新建集群,已有集群列表,詳情查看等;1.22支持程序包管理、外部依賴(lài)(如配置文件、依賴(lài)庫(kù)等)的管理和動(dòng)態(tài)分發(fā);1.23對(duì)JobManager和TaskManager以及算子并行度配置;1.24支持作業(yè)和資源歷史版本管理,方便進(jìn)行業(yè)務(wù)升級(jí)開(kāi)發(fā);1.25支持狀態(tài)數(shù)據(jù)的管理,具備容錯(cuò)機(jī)制,能夠恢復(fù)狀態(tài)數(shù)據(jù),且不影響作業(yè)性能;支持作業(yè)自動(dòng)恢復(fù)能力;1.26支持TCP/IP、UDP、HTTP、MQTT等傳輸協(xié)議;接入的流數(shù)據(jù)支持JSON、String格式;1.27支持將各類(lèi)數(shù)據(jù)源(Redis、HBase、Hive、MPP、MySQL等)作為維表、輸出表;支持從消息隊(duì)列接入數(shù)據(jù),如Kafka等;1.28支持設(shè)置時(shí)間相關(guān)字段的格式,支持消息處理時(shí)間;1.29支持?jǐn)?shù)據(jù)量超出流計(jì)算系統(tǒng)處理能力的情況下,能采用措施保證流計(jì)算系統(tǒng)正常運(yùn)行(不會(huì)崩潰或丟失數(shù)據(jù)),措施包括并不限于:限流、緩沖、自然反壓;1.30流計(jì)算空間需支持4種預(yù)設(shè)角色:1)超級(jí)管理員:通過(guò)主賬號(hào)指定,享有除主賬號(hào)外的最高權(quán)限,超級(jí)管理員賬號(hào)在用地不同地域間共享;

2)空間管理員:通過(guò)主賬號(hào)指定或者超級(jí)管理員賬號(hào)指定,可以在空間內(nèi)增加刪除空間成員;

3)開(kāi)發(fā)者:在成員管理模塊可由空間管理員/超級(jí)管理員/主賬號(hào)添加到空間,可以在空間內(nèi)基礎(chǔ)作業(yè);

4)預(yù)覽者:在成員管理模塊可由空間管理員/超級(jí)管理員/主賬號(hào)添加到空間,只享有查看的權(quán)限;1.31支持查看作業(yè)概覽、集群概覽等;通過(guò)概覽,可直觀查看當(dāng)前空間的作業(yè)情況(作業(yè)的類(lèi)型數(shù)量,作業(yè)運(yùn)行停止數(shù)量以及作業(yè)異常的數(shù)量),查看空間綁定集群的詳情等;1.32作業(yè)開(kāi)發(fā):提供SQL、JAR、Python、ETL四種開(kāi)發(fā)方式,支持版本管理、配置作業(yè)參數(shù)、在線調(diào)試、細(xì)粒度資源等功能;SQL作業(yè)提供插入模板、調(diào)試、語(yǔ)法檢查、格式化等功能;1.33元數(shù)據(jù)/庫(kù)表管理:元數(shù)據(jù)是用戶在流計(jì)算作業(yè)中引用的庫(kù)表;用戶可在元數(shù)據(jù)中管理已有的庫(kù)表,在SQL作業(yè)開(kāi)發(fā)中快速引用元數(shù)據(jù);1.34全局變量管理:支持用戶在SQL作業(yè)中的庫(kù)表管理使用變量;SQL作業(yè)的臨時(shí)表和元數(shù)據(jù)表都可以通過(guò)表變量替換對(duì)使用了的變量進(jìn)行替換;1.35運(yùn)維監(jiān)控:支持對(duì)于正在運(yùn)行(或者曾經(jīng)成功運(yùn)行過(guò))的流計(jì)算作業(yè)進(jìn)行監(jiān)控,提供通過(guò)流計(jì)算控制臺(tái)和云可觀測(cè)平臺(tái)查看兩種方式;1.36作業(yè)調(diào)優(yōu):提供自動(dòng)調(diào)優(yōu)功能,支持調(diào)整作業(yè)并行度和資源配置,全局優(yōu)化作業(yè),解決作業(yè)吞吐量不足、作業(yè)繁忙以及資源浪費(fèi)等各種性能調(diào)優(yōu)問(wèn)題;1.37日志查詢(xún):支持用戶在作業(yè)詳情的日志頁(yè)面中查看作業(yè)的日志信息,包括啟動(dòng)日志和運(yùn)行日志;1.38支持流表join和流流join;1.39支持固定窗口,支持滑動(dòng)窗口,支持會(huì)話窗口;支持按不同時(shí)間進(jìn)行窗口切分,例如事件時(shí)間、處理時(shí)間;支持窗口函數(shù);1.40支持多種時(shí)間定義,如事件時(shí)間、處理時(shí)間,支持時(shí)區(qū)設(shè)置;1.41支持作業(yè)有狀態(tài)升級(jí),例如作業(yè)配置變更,版本升級(jí)等;1.42支持多種數(shù)據(jù)分發(fā)策略,例如hash模式、RoundRobin輪詢(xún)模式及自定義模式;2大數(shù)據(jù)流計(jì)算實(shí)訓(xùn)應(yīng)用案例2.1提供至少4套大數(shù)據(jù)實(shí)時(shí)計(jì)算平臺(tái)實(shí)操案例,案例材料包括:案例介紹、操作任務(wù)分解以及操作步驟等,指導(dǎo)大數(shù)據(jù)處理平臺(tái)及大數(shù)據(jù)開(kāi)發(fā)治理平臺(tái)教學(xué)過(guò)程;2.2實(shí)時(shí)天氣預(yù)警系統(tǒng);實(shí)時(shí)收集和分析氣象傳感器效據(jù),例如溫度、濕度、風(fēng)速、降水量和氣壓變化,以及雷達(dá)和衛(wèi)星圖像數(shù)據(jù)以便提前預(yù)警暴風(fēng)雨、洪水等天氣事件;2.3實(shí)時(shí)電商推薦系統(tǒng);利用流計(jì)算技術(shù)來(lái)實(shí)現(xiàn)實(shí)時(shí)推薦系統(tǒng);通過(guò)收集用戶行為數(shù)據(jù)(瀏覽、購(gòu)買(mǎi)歷史等),實(shí)時(shí)計(jì)算用戶偏好和行為模式,并實(shí)時(shí)推送個(gè)性化推薦,提升用戶體驗(yàn)和銷(xiāo)售轉(zhuǎn)化率;2.4電信用戶分析系統(tǒng)實(shí)時(shí)分析用戶的通信行為效據(jù),包括通話時(shí)長(zhǎng)、通話頻率、上網(wǎng)習(xí)慣等;基于這些數(shù)據(jù),運(yùn)營(yíng)商可以實(shí)時(shí)了解用戶的需求和偏好,從而提供個(gè)性化的服務(wù)和推薦,例如套餐推薦、優(yōu)惠活動(dòng)推送等,提升用戶滿意度和留存率;2.5物流實(shí)時(shí)數(shù)倉(cāng)系統(tǒng)通過(guò)數(shù)據(jù)處理技術(shù),實(shí)時(shí)收集、處理和分析物流相關(guān)數(shù)據(jù)的倉(cāng)庫(kù)系統(tǒng);這種系統(tǒng)能夠?qū)崟r(shí)監(jiān)控和管理物流運(yùn)輸過(guò)程中的各種信息,包括貨物位置、運(yùn)輸狀態(tài)、交通狀況、貨運(yùn)成本等,以幫助優(yōu)化物流運(yùn)作和提升效率;3大數(shù)據(jù)流計(jì)算實(shí)訓(xùn)運(yùn)行硬件平臺(tái)3.1具有進(jìn)程管理功能,可查看進(jìn)程名稱(chēng)、進(jìn)程對(duì)應(yīng)CPU使用率、進(jìn)程ID,調(diào)整進(jìn)程CPU優(yōu)先級(jí),配置不少于2顆CPU,單顆CPU不少于24核,主頻不低于2.1GHz;3.2具有內(nèi)存管理功能,可查看物理內(nèi)存總?cè)萘?,已用容量大小,已用容量占比,交換頁(yè)容量使用情況,配置內(nèi)存不少于384G;3.3具有磁盤(pán)管理功能,可查看分區(qū)總?cè)萘?,分區(qū)格式類(lèi)型,已用空間大小,剩余空間大小,已用空間占比,配置不少于2塊480GSSD存儲(chǔ),4塊3.84TSSD存儲(chǔ);3.4具有網(wǎng)絡(luò)管理功能,可以查看網(wǎng)絡(luò)已接收與已發(fā)送的數(shù)據(jù)總大小,支持以圖形化的方式配置IPv4地址和DNS地址;3.5提供不少于2個(gè)10GE網(wǎng)卡;3.6支持raid1/10/5等raid陣列,不低于2GB緩存;3.7220VAC/240HVDC交直流兼容電源,功率不低于于1300W*2;4實(shí)時(shí)數(shù)據(jù)采集傳感器4.1采用七要素一體式傳感器,可對(duì)風(fēng)速、風(fēng)向、溫度、濕度、大氣壓力、光照、光學(xué)雨量等氣象要素進(jìn)行實(shí)時(shí)觀測(cè);可實(shí)現(xiàn)戶外氣象參數(shù)24小時(shí)連續(xù)在線監(jiān)測(cè),通過(guò)數(shù)字量通訊接口將多項(xiàng)參數(shù)輸出給用戶;支持對(duì)風(fēng)速、風(fēng)向、空氣溫度、濕度、大氣壓力、光照、光學(xué)雨量等多要素?cái)?shù)據(jù)進(jìn)行實(shí)時(shí)采集:1)風(fēng)速:測(cè)量原理超聲波,0~70m/s(±0.1m/s);2)風(fēng)向:測(cè)量原理超聲波,0~360°(±1°);3)空氣溫度:測(cè)量原理二極管結(jié)電壓法,-40℃~85℃(±0.3℃);4)空氣濕度:測(cè)量原理電容式,0~100%RH(±2%RH);5)大氣壓力:測(cè)量原理壓阻式,300hPa~1100hPa(±0.02hPa);6)光照測(cè)量范圍不低于157286LUX(<±3%);7)光學(xué)雨量測(cè)量不低于4mm/min(≤±4%);8)支持GPRS、RJ45、以太網(wǎng)、4-20ma、Lora透?jìng)鳌?G透?jìng)?、藍(lán)牙、485轉(zhuǎn)USB等多種傳輸方式;4.2具有頂蓋隱藏式超聲波探頭;4.3支持發(fā)射連續(xù)變頻超聲波信號(hào),通過(guò)測(cè)量相對(duì)相位來(lái)檢測(cè)風(fēng)速風(fēng)向;4.4數(shù)據(jù)存儲(chǔ):不少于50萬(wàn)條;4.5功耗:不超過(guò)1.75W4.6鋰電池:可拆卸鋰電池包,容量12000maH,但電池續(xù)航時(shí)間≥50h,帶電量顯示功能;4.7總重量:≤5kg;4.8具有鋁合金支架,可伸縮;5大數(shù)據(jù)云實(shí)訓(xùn)平臺(tái)5.1基于Docker容器編排管理引擎,運(yùn)用云原生和容器技術(shù)構(gòu)建教學(xué)實(shí)訓(xùn)環(huán)境,支持快速創(chuàng)建實(shí)訓(xùn)環(huán)境,實(shí)現(xiàn)了每個(gè)學(xué)生的實(shí)訓(xùn)環(huán)境互相隔離、實(shí)訓(xùn)過(guò)程互不干擾,教師可以一鍵操作即可創(chuàng)建一套全新的實(shí)訓(xùn)環(huán)境供學(xué)生實(shí)訓(xùn);5.1.1平臺(tái)以Docker容器云引擎為基礎(chǔ),對(duì)計(jì)算資源進(jìn)行輕量級(jí)虛擬化,支持硬件資源無(wú)縫擴(kuò)展,運(yùn)用容器編排管理工具對(duì)Docker容器實(shí)訓(xùn)環(huán)境進(jìn)行有效組織編排,以百分比和內(nèi)存為顆粒維度進(jìn)行切分,滿足多人的實(shí)時(shí)并行算力需求;5.1.2平臺(tái)通過(guò)基于GB/T25000.51-2016:《系統(tǒng)與軟件工程系統(tǒng)與軟件質(zhì)量要求和評(píng)價(jià)(SQuaRE)第51部分:就緒可用軟件產(chǎn)品(RUSP)的質(zhì)量要求和測(cè)試細(xì)則》的測(cè)試;5.2系統(tǒng)支持包括管理員、教師、學(xué)生三種角色;管理員負(fù)責(zé)系統(tǒng)配置維護(hù)、鏡像環(huán)境維護(hù)等工作;教師負(fù)責(zé)課程維護(hù)、實(shí)訓(xùn)任務(wù)維護(hù)、實(shí)踐項(xiàng)目維護(hù)等教學(xué)工作;學(xué)生參與并完成課程實(shí)訓(xùn)、實(shí)踐項(xiàng)目;5.3管理員功能:1)用戶管理:可對(duì)系統(tǒng)用戶進(jìn)行相關(guān)操作,支持學(xué)校管理員添加教師、學(xué)生用戶,對(duì)教師用戶支持設(shè)置姓名、工號(hào)、手機(jī)號(hào)、郵箱地址、籍貫、民族、榮譽(yù)稱(chēng)號(hào)、入職時(shí)間、出生日期、所屬院系、職稱(chēng)、性別、家庭住址等信息;2)班級(jí)管理:可對(duì)班級(jí)進(jìn)行相關(guān)操作,支持按照學(xué)院、專(zhuān)業(yè)、年級(jí)、班級(jí)的層級(jí)結(jié)構(gòu)創(chuàng)建學(xué)校組織架構(gòu);3)專(zhuān)業(yè)管理:可對(duì)專(zhuān)業(yè)進(jìn)行相關(guān)操作,支持按照學(xué)院、專(zhuān)業(yè)、年級(jí)、班級(jí)的層級(jí)結(jié)構(gòu)創(chuàng)建學(xué)校組織架構(gòu);4)IP池設(shè)置:可后臺(tái)查看系統(tǒng)設(shè)置的網(wǎng)段中,具體IP地址是否被使用的狀態(tài);5)鏡像環(huán)境:可維護(hù)鏡像環(huán)境,通過(guò)從本地鏡像倉(cāng)庫(kù)同步等方式新建鏡像,可對(duì)鏡像環(huán)境執(zhí)行編輯和查看操作;6)環(huán)境配置:可維護(hù)鏡像啟動(dòng)所需的CPU、內(nèi)存、磁盤(pán)空間等配置信息;7)字典管理:包括技能標(biāo)簽、競(jìng)賽字典、證書(shū)字典、崗位字典;可自主創(chuàng)建技能標(biāo)簽、競(jìng)賽字典、證書(shū)字典、崗位字典等,編輯相關(guān)內(nèi)容,為技能標(biāo)簽功能、能力畫(huà)像功能創(chuàng)建基礎(chǔ)數(shù)據(jù);8)討論區(qū)管理:可管理系統(tǒng)內(nèi)討論區(qū)的發(fā)帖進(jìn)行管理;9)資源監(jiān)控:包括實(shí)訓(xùn)資源監(jiān)控、項(xiàng)目資源監(jiān)控、測(cè)評(píng)資源監(jiān)控、教師資源監(jiān)控;可監(jiān)控正在進(jìn)行的環(huán)境狀態(tài)、使用人數(shù)、占用資源、容器數(shù)量等信息;具體形式以圖形的形式展示資源使用情況,包含應(yīng)用服務(wù)器與計(jì)算節(jié)點(diǎn)的CPU、內(nèi)存、硬盤(pán),支持根據(jù)用戶信息、課程名稱(chēng)、實(shí)驗(yàn)類(lèi)型、開(kāi)啟時(shí)間等進(jìn)行實(shí)驗(yàn)環(huán)境資源運(yùn)行狀態(tài)的查詢(xún);10)服務(wù)器配置:可配置計(jì)算節(jié)點(diǎn)服務(wù)器相關(guān)信息;11)角色管理:可對(duì)角色進(jìn)行相關(guān)操作;12)系統(tǒng)設(shè)置:可自定義系統(tǒng)相關(guān)展示信息;13)日志管理:可查看系統(tǒng)操作及登錄日志;5.4教師功能:采用課程、實(shí)訓(xùn)的模式進(jìn)行教學(xué)管理,維護(hù)實(shí)訓(xùn)、課程等基礎(chǔ)數(shù)據(jù),生成容器環(huán)境并進(jìn)行管理,對(duì)學(xué)生/小組提交作業(yè)進(jìn)行個(gè)人評(píng)分;5.4.1實(shí)訓(xùn)管理:1)可復(fù)制或新建一門(mén)實(shí)訓(xùn),支持維護(hù)實(shí)訓(xùn)數(shù)據(jù),選擇實(shí)訓(xùn)所用鏡像,編輯相應(yīng)的實(shí)訓(xùn)內(nèi)容;2)要求提供包括云桌面、低代碼開(kāi)發(fā)、交互式編程三類(lèi)實(shí)訓(xùn)環(huán)境;3)低代碼可視化分析實(shí)訓(xùn)需要支持拖曳式的數(shù)圖映射模式,學(xué)生僅需要拖曳數(shù)據(jù)字段即可生成相關(guān)圖形及可視化場(chǎng)景的建立,提供10余種等數(shù)據(jù)準(zhǔn)備功能、50余種圖形組件;支持上卷、下鉆、聯(lián)動(dòng)、鏈接、保留、排除等不少于6種圖形交互方式;支持R/Python/JS腳本功能等圖形展示效果擴(kuò)展功能;提供word報(bào)告生成模式,支持用戶通過(guò)在word中插入平臺(tái)的數(shù)據(jù)指標(biāo)、圖形報(bào)表、函數(shù)計(jì)算規(guī)則等,并支持word模板的上傳與下載;低代碼數(shù)據(jù)挖掘?qū)嵱?xùn)環(huán)境支持整個(gè)建模流程設(shè)計(jì)基于拖拽式布局、連線式流程編排和指導(dǎo)式流程配置,學(xué)生可以通過(guò)簡(jiǎn)單拖拽、配置的方式快速完成挖掘分析流程構(gòu)建;提供不少于20種行、列、高級(jí)節(jié)點(diǎn)的數(shù)據(jù)預(yù)處理算子;提供分類(lèi)、聚類(lèi)、回歸、關(guān)聯(lián)、時(shí)間序列、綜合評(píng)價(jià)、推薦等7大類(lèi)不少于50種機(jī)器學(xué)習(xí)算法;提供不少于5種自動(dòng)學(xué)習(xí)算法;提供不少于10種文本分析算法;提供不少于30種工業(yè)信號(hào)分析算法,包括信號(hào)輸入、信號(hào)預(yù)處理、信號(hào)特征工程、信號(hào)變換、譜分析、信號(hào)濾波及信號(hào)輸出等信號(hào)分析算法類(lèi)別;4)提供不少于4種擴(kuò)展編程算法,支持用戶編制SQL\R\Python\Java等腳本語(yǔ)言實(shí)現(xiàn)個(gè)性化的算法擴(kuò)展;5)支持學(xué)生及教師全方位觀察建模過(guò)程及模型結(jié)果,包括數(shù)據(jù)輸入、設(shè)置角色、Arima(時(shí)間序列算法)、時(shí)間序列評(píng)估等節(jié)點(diǎn),均可以在平臺(tái)的洞察中查看中間結(jié)果;支持洞察報(bào)告預(yù)覽功能及將洞察內(nèi)容導(dǎo)出到WORD;5.4.2課程管理:可維護(hù)課程數(shù)據(jù),配置課程與實(shí)訓(xùn)、課程與班級(jí)之間的關(guān)聯(lián)關(guān)系;通過(guò)課堂創(chuàng)建維護(hù)課程與班級(jí)的關(guān)聯(lián)關(guān)系,并支持課堂實(shí)訓(xùn)分組,支持采用闖關(guān)的實(shí)驗(yàn)?zāi)J竭M(jìn)行課程實(shí)踐,支持自定義實(shí)驗(yàn)課程關(guān)卡分值,可按照均分比例、關(guān)卡難易度自動(dòng)分配實(shí)踐課程內(nèi)的各關(guān)卡對(duì)應(yīng)分值,同時(shí)也支持教師手動(dòng)輸入各關(guān)卡分值;支持一鍵發(fā)布全部添加至課堂內(nèi)的課程;5.4.3監(jiān)控管理:可維護(hù)課程啟用后按照實(shí)訓(xùn)所用鏡像生成的容器環(huán)境,可監(jiān)控、掛起或結(jié)束整班環(huán)境,也可訪問(wèn)、啟動(dòng)、停止、重置或重啟單獨(dú)學(xué)生的實(shí)訓(xùn)環(huán)境;具體要求:可查看課程進(jìn)度,包括課程起止實(shí)驗(yàn),課程內(nèi)包含的實(shí)驗(yàn)、實(shí)訓(xùn)、實(shí)戰(zhàn)數(shù)量和已經(jīng)發(fā)布學(xué)習(xí)的內(nèi)容數(shù)量;支持學(xué)校管理員對(duì)平臺(tái)內(nèi)教師申請(qǐng)公開(kāi)發(fā)布的實(shí)驗(yàn)課程進(jìn)行審批并填寫(xiě)審批意見(jiàn);支持學(xué)校管理員對(duì)平臺(tái)內(nèi)的實(shí)驗(yàn)課程按照課程所屬方向分類(lèi)進(jìn)行管理,支持對(duì)平臺(tái)內(nèi)已公開(kāi)的課程進(jìn)行下架;支持學(xué)校管理員對(duì)平臺(tái)內(nèi)容實(shí)驗(yàn)課程進(jìn)行更改配置,包括更改存儲(chǔ)空間、內(nèi)存限制、CPU限制等信息,并支持查看對(duì)于課程的版本記錄;5.4.4實(shí)訓(xùn)報(bào)告:可維護(hù)實(shí)訓(xùn)報(bào)告數(shù)據(jù),可查閱實(shí)訓(xùn)報(bào)告、附件等,并編輯實(shí)訓(xùn)成績(jī);支持自定義實(shí)訓(xùn)項(xiàng)目作業(yè)要求,教師可自行設(shè)置是否需要提交項(xiàng)目作業(yè)、實(shí)驗(yàn)報(bào)告;支持教師對(duì)課堂內(nèi)實(shí)訓(xùn)項(xiàng)目作業(yè)進(jìn)行統(tǒng)一查看,至少提供建模流程、可視化頁(yè)面、pdf、JupyterNotebook四種形式作業(yè)的在線預(yù)覽以及pdf下載;支持教師可對(duì)學(xué)生項(xiàng)目作業(yè)進(jìn)行主觀評(píng)分,支持教師對(duì)已評(píng)分的項(xiàng)目作業(yè)進(jìn)行評(píng)分及評(píng)語(yǔ)修改,支持教師將完成度高的項(xiàng)目作業(yè)評(píng)選為優(yōu)秀作業(yè);5.4.5實(shí)踐項(xiàng)目:采用項(xiàng)目化教學(xué)模式進(jìn)行教學(xué)管理,維護(hù)項(xiàng)目、階段等基礎(chǔ)數(shù)據(jù),生成容器環(huán)境并進(jìn)行管理,對(duì)小組提交物進(jìn)行階段及個(gè)人評(píng)分;5.4.6項(xiàng)目管理:可維護(hù)項(xiàng)目數(shù)據(jù),指定項(xiàng)目信息,編輯項(xiàng)目階段,選擇班級(jí)和學(xué)生組成小組;具體要求平臺(tái)提供項(xiàng)目實(shí)戰(zhàn)庫(kù),按行業(yè)打造不同類(lèi)型的項(xiàng)目實(shí)戰(zhàn),可復(fù)制或新建一門(mén)項(xiàng)目應(yīng)用至課堂中;支持維護(hù)項(xiàng)目數(shù)據(jù),顯性化展示實(shí)戰(zhàn)數(shù)據(jù),展示數(shù)據(jù)基礎(chǔ)信息(大小、量級(jí)、類(lèi)型等),同時(shí)展示部分樣例數(shù)據(jù);支持指定項(xiàng)目信息,編輯項(xiàng)目階段,支持項(xiàng)目實(shí)戰(zhàn)各階段進(jìn)行任務(wù)定制、目標(biāo)說(shuō)明和視頻可見(jiàn)展示預(yù)覽;支持分階段實(shí)訓(xùn)任務(wù)和分階段多項(xiàng)目實(shí)戰(zhàn)兩種模式;可查看項(xiàng)目進(jìn)度,查看學(xué)生提交作業(yè)情況;支持學(xué)校管理員對(duì)平臺(tái)內(nèi)教師申請(qǐng)公開(kāi)發(fā)布的項(xiàng)目課程進(jìn)行審批并填寫(xiě)審批意見(jiàn);5.4.7項(xiàng)目監(jiān)控:可維護(hù)項(xiàng)目對(duì)應(yīng)的環(huán)境配置,對(duì)具體環(huán)境資源進(jìn)行啟動(dòng)、掛起、收回等控制,也可進(jìn)入該環(huán)境對(duì)單一容器執(zhí)行啟動(dòng)、停止、重置或重啟;5.4.8測(cè)評(píng)中心:采用理論或?qū)嵅贉y(cè)評(píng)模式進(jìn)行教學(xué)管理,維護(hù)題庫(kù)、測(cè)評(píng)等基礎(chǔ)數(shù)據(jù),生成理論測(cè)評(píng)試卷、實(shí)操測(cè)評(píng)試卷、實(shí)操測(cè)評(píng)容器環(huán)境并進(jìn)行管理,對(duì)理論測(cè)評(píng)自動(dòng)評(píng)分成績(jī)進(jìn)行測(cè)看,對(duì)實(shí)操測(cè)評(píng)進(jìn)行評(píng)分;5.4.9題庫(kù)管理:可維護(hù)測(cè)評(píng)題目,設(shè)置題目所屬的技能標(biāo)簽題型、難度、選項(xiàng),答案等參數(shù);提供并系統(tǒng)預(yù)置工業(yè)大數(shù)據(jù)配套題庫(kù)≥300道習(xí)題;支持按照大數(shù)據(jù)技術(shù)、人工智能、數(shù)據(jù)庫(kù)、編程語(yǔ)言、計(jì)算機(jī)技術(shù)、Web開(kāi)發(fā)等方向進(jìn)行篩選查詢(xún);支持按照數(shù)據(jù)采集、數(shù)據(jù)存儲(chǔ)與管理、數(shù)據(jù)分析處理、數(shù)據(jù)可視化、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自然語(yǔ)言處理、語(yǔ)音識(shí)別、集成學(xué)習(xí)、SQLServer、MongoDB、MySQL、Java、Python、操作系統(tǒng)、數(shù)據(jù)結(jié)構(gòu)與算法JavaScript、HTML、CSS、Vue等分類(lèi)進(jìn)行篩選查詢(xún);支持按照初級(jí)、中級(jí)、高級(jí)等難易度進(jìn)行篩選查詢(xún);5.4.10測(cè)評(píng)模板:可維護(hù)測(cè)評(píng)模板,設(shè)置題量、分值、時(shí)長(zhǎng)、難度,涉及的技能標(biāo)簽和分類(lèi)占比等參數(shù);具體支持根據(jù)試卷創(chuàng)建考核、試卷復(fù)制,支持試卷在線預(yù)覽與Word格式試卷導(dǎo)出,導(dǎo)出試卷自動(dòng)排版,包含試卷名稱(chēng)、題目數(shù)量、分?jǐn)?shù)、難易度、方向分類(lèi)等信息,導(dǎo)出試卷支持自定義編輯;5.4.11測(cè)評(píng)管理:可依據(jù)選擇的測(cè)評(píng)模板進(jìn)行生成測(cè)評(píng),設(shè)置測(cè)評(píng)所屬分類(lèi)、測(cè)評(píng)時(shí)間和測(cè)評(píng)應(yīng)用的班級(jí)等參數(shù);支持選題組卷與模版組卷兩種模式,模版組卷支持進(jìn)行試題范圍選擇、試題來(lái)源選擇,使用內(nèi)置試卷模版進(jìn)行組卷;5.4.12測(cè)評(píng)監(jiān)控:可配置測(cè)評(píng)對(duì)應(yīng)的環(huán)境,對(duì)具體測(cè)評(píng)環(huán)境資源進(jìn)行啟動(dòng)、掛起、收回等操作,也可進(jìn)入該環(huán)境對(duì)單一容器執(zhí)行啟動(dòng)、停止、重置或重啟;具體要求:在課堂考試,支持教師通過(guò)試卷創(chuàng)建考試并發(fā)送至課堂,以課堂為單位進(jìn)行在線考試,支持教師在線評(píng)閱試卷,對(duì)學(xué)生主觀題目進(jìn)行評(píng)分;5.4.13測(cè)評(píng)成績(jī):可查看測(cè)評(píng)理論測(cè)評(píng)成績(jī)結(jié)果,包括個(gè)人得分和答題記錄,也可對(duì)實(shí)操的測(cè)評(píng)試卷進(jìn)行打分;提供成績(jī)統(tǒng)計(jì)列表,可以查看平均分、最高分、最低分、及格率、平均答題時(shí)長(zhǎng)及完成情況等數(shù)據(jù),并以柱狀圖和餅狀圖展示成績(jī)分布,支持教師自定義分?jǐn)?shù)段,個(gè)性化定制成績(jī)分布統(tǒng)計(jì)圖;5.4.14技能標(biāo)簽配置:設(shè)置不同教學(xué)模式下技能標(biāo)簽,為平臺(tái)功能的生成提供支撐;技能標(biāo)簽列表:可查看各技能標(biāo)簽在課程實(shí)訓(xùn)、項(xiàng)目階段、測(cè)評(píng)題目中的權(quán)重?cái)?shù)據(jù);課程實(shí)訓(xùn)標(biāo)簽:可維護(hù)課程實(shí)訓(xùn)中的技能標(biāo)簽,設(shè)置難度系數(shù)等參數(shù);項(xiàng)目階段標(biāo)簽:可維護(hù)項(xiàng)目階段中的技能標(biāo)簽,設(shè)置難度系數(shù)等參數(shù);測(cè)評(píng)題目標(biāo)簽:可維護(hù)測(cè)評(píng)題目中的技能標(biāo)簽,設(shè)置難度系數(shù)等參數(shù);5.4.15討論區(qū):可對(duì)話題或成果展示進(jìn)行發(fā)帖,對(duì)已發(fā)布的帖子進(jìn)行點(diǎn)贊或留言;支持將完成較好的作業(yè)評(píng)選為優(yōu)秀作業(yè)進(jìn)行共享;5.4.16教學(xué)成果:可查看學(xué)生個(gè)人能力模型,可與具體的崗位、競(jìng)賽、證書(shū)相對(duì)比,查看能力匹配程度;具體要求:能力模型由每一個(gè)學(xué)生本課程學(xué)習(xí)成績(jī)單、課程排名、學(xué)習(xí)總時(shí)長(zhǎng)、完成課程數(shù)量、優(yōu)秀作業(yè)數(shù)量、課程平均得分等綜合組成;5.4.17個(gè)人實(shí)驗(yàn)環(huán)境:可選擇鏡像環(huán)境進(jìn)行個(gè)人容器環(huán)境的啟動(dòng)、掛起、收回等操作;1)大數(shù)據(jù)方向要求至少提供如下鏡像環(huán)境:Hadoop,Hbase,Hive,Spark,F(xiàn)link,Storm,Zookeeper,Kafka;2)Python要求至少提供如下鏡像環(huán)境:Python3,需包含:numpy,scikit-learn,pandas,matplotlib,scipy,sklearn,scrapy,pytorch等;3)數(shù)據(jù)庫(kù)方向要求至少提供如下鏡像環(huán)境:Mysql5.7,Mysql8,mongodb,sqlserver等;Web開(kāi)發(fā)方向要求至少提供如下鏡像環(huán)境:Java,vue等;4)JAVA程序設(shè)計(jì)方向要求至少提供如下鏡像環(huán)境:Java+maven+ant等;5)數(shù)據(jù)采集預(yù)處理方向要求至少提供如下鏡像環(huán)境:Python、JAVA爬蟲(chóng)相關(guān)鏡像等;6)需支持多種環(huán)境之間可以相互組合,教師可根據(jù)自身教學(xué)需求進(jìn)行選擇,如MySQL+Python、Java+Hive+Hadoop等,組建個(gè)性化實(shí)驗(yàn)環(huán)境;5.5學(xué)生功能:5.5.1實(shí)訓(xùn):以學(xué)生身份進(jìn)行課程實(shí)訓(xùn),查看包括但不限于任務(wù)說(shuō)明、教學(xué)實(shí)訓(xùn)、任務(wù)參考信息,對(duì)實(shí)訓(xùn)環(huán)境進(jìn)行包括但不限于訪問(wèn)、重置、重啟操作,在線編輯實(shí)訓(xùn)報(bào)告,上傳實(shí)訓(xùn)附件、下載實(shí)訓(xùn)附件;支持在線提交代碼進(jìn)行評(píng)測(cè),學(xué)生在線提交評(píng)測(cè)后,系統(tǒng)會(huì)對(duì)學(xué)生編寫(xiě)的代碼的準(zhǔn)確性進(jìn)行自動(dòng)化評(píng)測(cè),實(shí)時(shí)獲取評(píng)測(cè)結(jié)果;5.5.2項(xiàng)目:以小組身份進(jìn)行項(xiàng)目教學(xué);1)項(xiàng)目信息:可預(yù)覽所參與的項(xiàng)目,查看項(xiàng)目階段、任務(wù)、成果文檔、成員、實(shí)驗(yàn)環(huán)境,可查看本人所負(fù)責(zé)的任務(wù)及小組成員的任務(wù)分布;2)階段任務(wù):可查看當(dāng)前項(xiàng)目下所有階段及任務(wù),根據(jù)權(quán)限區(qū)分進(jìn)行相應(yīng)操作;3)成果文檔:可查看項(xiàng)目中本人或組員上傳的階段文檔及任務(wù)文檔;4)成員:可查看項(xiàng)目下本小組組員各階段成績(jī)及項(xiàng)目總成績(jī);5)實(shí)驗(yàn)環(huán)境:可對(duì)實(shí)訓(xùn)環(huán)境進(jìn)行訪問(wèn)、重置、重啟等操作,實(shí)驗(yàn)內(nèi)容基于瀏覽器的B/S模式,學(xué)生機(jī)器無(wú)需安裝任何軟件即可開(kāi)始實(shí)驗(yàn);5.5.3測(cè)評(píng):以個(gè)人身份進(jìn)行理論測(cè)評(píng)或?qū)嵅贉y(cè)評(píng);1)理論測(cè)評(píng):規(guī)定時(shí)間內(nèi)進(jìn)行答題,自動(dòng)評(píng)分查看測(cè)評(píng)成績(jī)及結(jié)果;2)實(shí)操測(cè)評(píng):規(guī)定時(shí)間內(nèi)進(jìn)行答題,可對(duì)實(shí)訓(xùn)環(huán)境進(jìn)行訪問(wèn)、重置、重啟等操作,可在線編輯測(cè)評(píng)報(bào)告,上傳/下載測(cè)評(píng)附件;5.5.4個(gè)人中心:可查看個(gè)人教學(xué)相關(guān)記錄及個(gè)人能力模型;1)個(gè)人資料:可維護(hù)個(gè)人基礎(chǔ)信息;2)實(shí)訓(xùn)記錄:可查看課程實(shí)訓(xùn)練習(xí)記錄,并針對(duì)記錄進(jìn)行繼續(xù)練習(xí)或再次練習(xí);3)項(xiàng)目記錄:可查看項(xiàng)目練習(xí)記錄,并針對(duì)記錄進(jìn)行繼續(xù)練習(xí)或再次練習(xí);4)測(cè)評(píng)記錄:可查看個(gè)人測(cè)評(píng)練習(xí)記錄,并查看測(cè)評(píng)記錄的詳情信息;5)能力匹配:可查看個(gè)人能力模型,并對(duì)目標(biāo)的崗位、證書(shū)或競(jìng)賽進(jìn)行對(duì)比,查看相應(yīng)的能力匹配度;能力模型由課程學(xué)習(xí)記錄及相關(guān)課程成績(jī)單組成;6基于Spark的離線數(shù)據(jù)分析實(shí)訓(xùn)庫(kù)6.1基于真實(shí)大數(shù)據(jù)項(xiàng)目任務(wù)轉(zhuǎn)化,所有內(nèi)容均直接使用項(xiàng)目研發(fā)過(guò)程資料作為素材,能夠引導(dǎo)學(xué)生從零開(kāi)始完成基于Spark的離線大數(shù)據(jù)分析的研發(fā)工作,匹配真實(shí)企業(yè)工作流程,離線大數(shù)據(jù)分析相關(guān)實(shí)訓(xùn)任務(wù)以真實(shí)業(yè)務(wù)為背景,包含RDD的創(chuàng)建、分區(qū)、讀取數(shù)據(jù)、保存數(shù)據(jù)、計(jì)算每個(gè)顧客的消費(fèi)次數(shù)、獲取備注中出現(xiàn)頻率最高的三個(gè)詞、計(jì)算每個(gè)國(guó)家的用戶數(shù)量、計(jì)算每個(gè)配件的銷(xiāo)售總額、計(jì)算各品牌的銷(xiāo)售總額、查詢(xún)包含指定詞匯的商品信息、計(jì)算不同的退回標(biāo)記的訂單中每個(gè)運(yùn)輸途徑的訂單總額、使用累加器計(jì)算每個(gè)用戶的消費(fèi)額、使用廣播變量獲取訂單狀態(tài)為F的訂單總數(shù)、控制臺(tái)打印表、市油站(銷(xiāo)售額)排序等實(shí)訓(xùn)任務(wù);6.2實(shí)訓(xùn)任務(wù)包含如下資源:(1)任務(wù)場(chǎng)景知識(shí)講義,可指導(dǎo)教師進(jìn)行任務(wù)場(chǎng)景講授;(2)任務(wù)前置知識(shí)儲(chǔ)備講義,可指導(dǎo)教師進(jìn)行任務(wù)的前置基礎(chǔ)理論知識(shí)講授;(3)任務(wù)數(shù)據(jù)源、開(kāi)發(fā)工具包、任務(wù)說(shuō)明、任務(wù)指導(dǎo)、任務(wù)源代碼、任務(wù)教學(xué)視頻,提供教學(xué)大綱、實(shí)驗(yàn)指導(dǎo)手冊(cè),可指導(dǎo)學(xué)生完成基于Spark的大數(shù)據(jù)離線分析相關(guān)實(shí)訓(xùn)任務(wù),對(duì)接產(chǎn)業(yè)真實(shí)技術(shù)技能需求;6.3知識(shí)技能點(diǎn)涵蓋RDD彈性數(shù)據(jù)集、創(chuàng)建、分區(qū)、SparkCore數(shù)據(jù)讀取和保存、常用的轉(zhuǎn)換算子、行動(dòng)算子、依賴(lài)關(guān)系查看、序列化、持久化、累加器、廣播變量、DataFrame、DataSet、SparkSQL數(shù)據(jù)讀取和保存等,Spark簡(jiǎn)介、安裝、運(yùn)行架構(gòu)、RDD的設(shè)計(jì)與運(yùn)行原理、部署模式、RDD編程、鍵值對(duì)RDD、數(shù)據(jù)讀寫(xiě)、SparkSQL、SparkStreaming、StructuredStreaming和SparkMLlib等不少于31個(gè)實(shí)訓(xùn)任務(wù);7數(shù)據(jù)倉(cāng)庫(kù)實(shí)訓(xùn)庫(kù)7.1基于真實(shí)大數(shù)據(jù)數(shù)據(jù)倉(cāng)庫(kù)項(xiàng)目轉(zhuǎn)化,所有內(nèi)容均直接使用項(xiàng)目研發(fā)過(guò)程資料作為素材,能夠引導(dǎo)學(xué)生從零開(kāi)始完成一個(gè)數(shù)據(jù)倉(cāng)庫(kù)構(gòu)建的研發(fā)工作,匹配真實(shí)企業(yè)工作流程,數(shù)據(jù)倉(cāng)庫(kù)項(xiàng)目化實(shí)訓(xùn)包以真實(shí)數(shù)據(jù)倉(cāng)庫(kù)建設(shè)需求為背景,包含但不限于如MySQL離線數(shù)據(jù)采集、維表更新、事實(shí)表更新、每人每天下單數(shù)量和下單總金額、每人每月下單數(shù)量和下單總金額、連續(xù)兩個(gè)月下單并且下單金額保持增長(zhǎng)的用戶、每個(gè)國(guó)家的平均消費(fèi)額和所有國(guó)家平均消費(fèi)額的比較分析、一年中每個(gè)國(guó)家用戶個(gè)人消費(fèi)總額中位數(shù)、基于BI工具的離線數(shù)據(jù)分析、基于Azkaban的任務(wù)調(diào)度、基于Flume和Kafka的實(shí)時(shí)數(shù)據(jù)采集、實(shí)時(shí)數(shù)據(jù)清洗與聚合、下單用戶數(shù)的消費(fèi)額TOP5、每分鐘下單數(shù)量、每小時(shí)消費(fèi)額、每小時(shí)消費(fèi)額中位數(shù)國(guó)家TOP5等不少于16個(gè)實(shí)訓(xùn)任務(wù);7.2實(shí)訓(xùn)任務(wù)包含如下資源:7.2.1包含如下資源:歷史數(shù)據(jù)集或數(shù)據(jù)生成器、任務(wù)說(shuō)明、任務(wù)分析、任務(wù)實(shí)現(xiàn);包含:階段任務(wù)、實(shí)訓(xùn)清單、階段目標(biāo)、數(shù)據(jù)集、實(shí)訓(xùn)手冊(cè);數(shù)據(jù)集要求不少于5個(gè)業(yè)務(wù)相關(guān)數(shù)據(jù)集,其中1個(gè)數(shù)據(jù)集不低于20個(gè)維度,總體數(shù)據(jù)量不少于20000條;7.2.2實(shí)訓(xùn)源代碼,基于數(shù)據(jù)倉(cāng)庫(kù)的數(shù)據(jù)清洗、處理、分析源代碼,可指導(dǎo)學(xué)生完成數(shù)據(jù)倉(cāng)庫(kù)建設(shè)相關(guān)實(shí)訓(xùn)任務(wù),對(duì)接產(chǎn)業(yè)真實(shí)技術(shù)技能需求;7.3提供的項(xiàng)目背景類(lèi)資源包含項(xiàng)目背景、需求分析、解決方案、數(shù)據(jù)分析、數(shù)據(jù)模型、數(shù)據(jù)流轉(zhuǎn)圖等,可指導(dǎo)學(xué)生全方位了解項(xiàng)目需求及目標(biāo)結(jié)果;7.4數(shù)據(jù)管理能力,支持按照組織機(jī)構(gòu)、人員角色或組進(jìn)行數(shù)據(jù)集權(quán)限的授權(quán)分配;支持?jǐn)?shù)據(jù)行級(jí)和列級(jí)的權(quán)限控制,行級(jí)權(quán)限支持靜態(tài)規(guī)則和動(dòng)態(tài)規(guī)則配置,列級(jí)權(quán)限支持禁止查看列、列數(shù)據(jù)脫敏功能;7.5數(shù)據(jù)倉(cāng)庫(kù)包含的知識(shí)技能點(diǎn)如下:(1)數(shù)據(jù)集成與任務(wù)調(diào)度:Flume數(shù)據(jù)采集工具、Kafka分布式消息隊(duì)列、Azkaban任務(wù)調(diào)度、Kettle數(shù)據(jù)抽取、Kettle調(diào)度;(2)數(shù)據(jù)清洗:Spark分布式計(jì)算框架、Flink實(shí)時(shí)計(jì)算框架、Hive分布式SQL計(jì)算引擎、Kettle數(shù)據(jù)加載和轉(zhuǎn)換;(3)構(gòu)建ODS層(數(shù)據(jù)準(zhǔn)備層/近源層):Hive分布式SQL計(jì)算引擎;(4)構(gòu)建DWD層(數(shù)據(jù)明細(xì)層):Hive分布式SQL計(jì)算引擎;(5)構(gòu)建DWS層(數(shù)據(jù)匯總層):Hive分布式SQL計(jì)算引擎;(6)構(gòu)建ADS層(應(yīng)用服務(wù)層):Hive分布式SQL計(jì)算引擎;(7)數(shù)據(jù)分析:Spark分布式計(jì)算框架、Flink實(shí)時(shí)計(jì)算框架、Hive分布式SQL計(jì)算引擎;(8)數(shù)據(jù)可視化:數(shù)據(jù)可視化BI工具使用;8數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)實(shí)訓(xùn)庫(kù)8.1數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)項(xiàng)目化實(shí)訓(xùn)庫(kù)功能:訓(xùn)練數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)相關(guān)技術(shù)的基礎(chǔ)知識(shí)和應(yīng)用技能,具體包含但不限于如下內(nèi)容:8.1.1主流機(jī)器學(xué)習(xí)算法的分類(lèi)、特點(diǎn)和應(yīng)用場(chǎng)景,如監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等,數(shù)據(jù)預(yù)處理、特征工程、模型評(píng)估和選擇等方法;8.1.2使用相關(guān)的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)庫(kù),如scikit-learn、PyTorch、TensorFlow等;8.1.3常見(jiàn)的機(jī)器學(xué)習(xí)算法的使用,如邏輯回歸、線性判別分析、多分類(lèi)學(xué)習(xí)、線性回歸、決策樹(shù)、kNN算法、支持向量機(jī)、樸素貝葉斯分類(lèi)器、神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林算法、Adaboost、k-means、DBSCAN、AGNES、高斯混合聚類(lèi)、聚類(lèi)性能評(píng)估指標(biāo)、PCA、多維縮放等不少于38個(gè)實(shí)訓(xùn)任務(wù),指導(dǎo)學(xué)生如何進(jìn)行數(shù)據(jù)降維、特征選擇、特征縮放等數(shù)據(jù)預(yù)處理工作,如何使用訓(xùn)練數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練,并調(diào)優(yōu)模型以提高性能;8.1.4使用測(cè)試數(shù)據(jù)對(duì)訓(xùn)練好的模型進(jìn)行評(píng)估,計(jì)算準(zhǔn)確率、精確率、召回率、F1值等指標(biāo),分析模型的性能瓶頸和改進(jìn)方向,如過(guò)擬合、欠擬合等問(wèn)題的處理;8.1.5實(shí)訓(xùn)任務(wù)資源包含任務(wù)場(chǎng)景知識(shí)講義及教師演示的代碼及說(shuō)明、任務(wù)前置知識(shí)儲(chǔ)備講義及教師演示的代碼及說(shuō)明、數(shù)據(jù)集、開(kāi)發(fā)工具包及相應(yīng)工程模板、任務(wù)說(shuō)明、任務(wù)指導(dǎo)、任務(wù)源代碼、任務(wù)教學(xué)視頻等,可指導(dǎo)教師和學(xué)生有序開(kāi)展項(xiàng)目化實(shí)訓(xùn);提供教學(xué)大綱、實(shí)驗(yàn)指導(dǎo)手冊(cè)、至少6個(gè)教學(xué)視頻、6個(gè)教學(xué)方案、6個(gè)思政內(nèi)容、1套試卷等,可指導(dǎo)教師和學(xué)生有序開(kāi)展項(xiàng)目化實(shí)訓(xùn);9大數(shù)據(jù)平臺(tái)搭建運(yùn)維實(shí)

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論