版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、大數(shù)據(jù)分析技術架構解決方案,技術基礎研究方向,-技術基礎研究方向,開創(chuàng)了基于人類視覺智能的動態(tài)目標捕捉、跟蹤和行為分析的研究,在國內外雜志、會議發(fā)表了多篇高水平論文。 獲得視頻識別,知識學習與推理相關發(fā)明專利2項,申請發(fā)明專利7項。,大數(shù)據(jù)環(huán)境下的無重疊視域跟蹤,大數(shù)據(jù)技術,解決視頻領域的知識識別,知識發(fā)現(xiàn),知識集成與跟蹤,推理等關鍵技術問題。,多項國家自然科學基金,大數(shù)據(jù)技術來實現(xiàn)國家經濟免疫系統(tǒng),審計跨12個行業(yè),跨地區(qū)數(shù)據(jù)源,審計行業(yè)大數(shù)據(jù)知識推理系統(tǒng),房地產大數(shù)據(jù),利用大數(shù)據(jù)建模技術,實現(xiàn)房地產價格指數(shù)、房地產評估模型,碳交易,利用大數(shù)據(jù)建模技術,建立全省碳排放計量監(jiān)測體系的數(shù)據(jù)體系、
2、技術體系、模型體系和評估體系,形成滿足碳排放計量關系方程和參數(shù),目錄,數(shù)據(jù)挖掘越來越多的應用到了各個領域中,主要包括與客戶關系管理相關的模型、與風險控制相關的模型、與生產銷售預測相關的模型等,數(shù)據(jù)挖掘應用領域,產品名,產品,ETHINK可視化挖掘,概要,通過在瀏覽器內,鼠標拖拽形式實現(xiàn)加載數(shù)據(jù)、轉換、建模、評估、圖形以及結果輸出,特點,通過視覺工作方式輕松獲得此界面可以保障操作的靈活性 在最短的時間內形成最多樣的模型大數(shù)據(jù)挖掘,速度快,關系型數(shù)據(jù)庫,數(shù)據(jù)挖掘模型算法庫/語義分析,Hbase/Hive/Hdfs,可視化數(shù)據(jù) 挖掘平臺,多維自助分析,調 度 管 理,SQL接口 JDBC/ODBC,
3、內存計算服務 Scala /Java/Python,OLAP Server,手機,平板,電腦,批處理,實時流處理,交互式查詢,統(tǒng)計分析平臺,ETHINK產品架構,特點一,豐富建模方法,特點,可拖拽式建模,JDBC Web Services Restful api,可擴展性強 自定義模型,擴充組件,特點,傳統(tǒng)的關系型數(shù)據(jù)(mysql、Oracle等) 列式數(shù)據(jù)庫(Hbase) 非結構化數(shù)據(jù)(Hdfs、文件系統(tǒng)) 大數(shù)據(jù)(Hbase、Hive),特點二,大數(shù)據(jù)處理,特點,開放型平臺,BS結構,一站式建模、評估、部署,基于Spark平臺 內存計算 運算速度快,特點,GB,PB,特點三,大數(shù)據(jù)處理能力
4、,特點,基于Spark平臺 內存計算,執(zhí)行數(shù)據(jù)挖掘時,方法論非常重要. 因為準確的方法論能夠提高作業(yè)速度, 能系統(tǒng)地減少各種進展狀況,所以選擇正確的方法論是很重要的. CRISP-DM 方法論是全球認可的數(shù)據(jù)挖掘的標準執(zhí)行方法論.,場景應用(實驗室模擬實驗課題),目錄,基于spark內存的計算模型,同時支持批處理、交互式處理、流處理。,技術架構解決方案-要解決的問題,技術架構解決方案-分布式內存計算,批處理應用 (分鐘級別小時級別),OLTP/在線事務處理應用 (毫秒秒級別),OLAP/在線交互式分析應用 (秒級別),實時流處理 (持續(xù)不斷),技術架構解決方案-交互式查詢,通常的時間跨度在數(shù)十
5、秒到數(shù)分鐘之間 按數(shù)據(jù)維度進行統(tǒng)計、聚合 根據(jù)歷史數(shù)據(jù)進行擬合和預測 計算數(shù)據(jù)之間的相關性和模式等 適合提供高速在線分析服 典型應用場景 政府各部門數(shù)據(jù) 證券交易 銀行保險 企業(yè)ERP/CRM等 適用于數(shù)據(jù)量在GB到TB的高速數(shù)據(jù)分析,技術架構解決方案-實時在線處理,通常的時間跨度在數(shù)百毫秒到數(shù)秒之間 數(shù)據(jù)來源多、高并發(fā)、數(shù)據(jù)處理量達 分析結果快速響應 典型應用場景 社交網絡分析、關聯(lián)關系分析 用戶分類、用戶行為預測 高并發(fā)查詢 按主鍵毫秒級檢索 按多維度秒級檢索 按照關鍵字秒級檢索,事件驅動計算模型,系統(tǒng)處于持續(xù)不斷計算之中,事件響應延遲在毫秒秒級。 流式計算系統(tǒng)處理應用的處理邏輯是由源源不
6、斷的數(shù)據(jù)流驅動。 典型應用場景 有金融在線欺詐預警 廣告CTR 推薦系統(tǒng),技術架構解決方案-實時流處理,技術架構解決方案-批處理及離線挖掘,時間跨度在數(shù)十分鐘到數(shù)小時之間。 離線挖掘主要用于,多維統(tǒng)計預測,準實時分析以及對客戶進行聚類、分類等數(shù)據(jù)挖掘應用。 典型應用場景 電子商務推薦引擎 流失客戶預測挽留 日志清洗、ETL 用戶行為分析,目錄,項目需求 將總行下發(fā)的數(shù)據(jù)及核心業(yè)務數(shù)據(jù),經過數(shù)據(jù)整理、加載到省級數(shù)據(jù)中心,并進行各項業(yè)務快速應用開發(fā) 數(shù)據(jù)源 某省公積金中心,近五年的操作、交易記錄,共10億條左右。 系統(tǒng)環(huán)境 4臺X86架構的PC服務器,共128G內存 單臺服務器,8核CPU,32G
7、內存 解決方案 Hbase導入海量數(shù)據(jù),并支撐大數(shù)據(jù)查詢 可視化設計、可視化報表實現(xiàn)了數(shù)據(jù)的實時分析,行業(yè)應用案例-金融,行業(yè)應用案例-金融,系統(tǒng)由對公客戶綜合積分子系統(tǒng)、展業(yè)通客戶綜合收益分析子系統(tǒng)、授信客戶資金結算子系統(tǒng)、對公柜面交易流水分析子系統(tǒng)等組成,行業(yè)應用案例-金融,項目需求 整合第三方支付數(shù)據(jù)資源,分析挖掘客戶交易、反饋信息、交易行等數(shù)據(jù),實現(xiàn)精準營銷,最大限度地提升產品價值 數(shù)據(jù)源 某第三方支付平臺交易、反饋數(shù)據(jù),月交易記錄量1億條。 系統(tǒng)環(huán)境 臺X86架構的PC服務器,共96G內存 單臺服務器,8核CPU,16G內存 解決方案 Hbase導入海量數(shù)據(jù),并支撐大數(shù)據(jù)查詢 Hiv
8、e對歷史交易數(shù)據(jù)進行分析 可視化設計、可視化報表實現(xiàn)數(shù)據(jù)的實時分析 基于ETHINK可視化挖掘平臺,完成精準營銷建模,持卡客戶多維分析: 持卡客戶人口統(tǒng)計特征分析 持卡客戶交易行為模式分析 持卡客戶應用場景分析 特約商戶多維分析: 商戶基本信息分析/商戶業(yè)務收益分析 商戶價值貢獻度評估商戶收單風險分析 持卡客戶和特約商戶雙向分析 特定特征客戶特定時間消費商戶分布分析 特定時間在特定商戶消費的客戶特征分析,行業(yè)應用案例-金融,項目需求 煙草工業(yè)企業(yè)目前積累了大量的數(shù)據(jù)信息,管理方式由粗放式管理轉為精細化管理,產生了利用大數(shù)據(jù)技術收集、管理和展示分析結構化和非結構化的數(shù)據(jù)和信息的訴求,于是如何利用這些數(shù)據(jù)創(chuàng)造更大的價值、為領導決策和企業(yè)精益管理提供有力支撐成為重要的課題。 數(shù)據(jù)存儲 近1年數(shù)據(jù),每秒鐘10000個數(shù)據(jù)采集點 系統(tǒng)環(huán)境 硬件環(huán)境: 數(shù)據(jù)庫服務器1臺+4臺分布式pc server 單臺4核,16G內存 解決方案 流處理模塊處理設備實時數(shù)據(jù)流 事件預警開發(fā)平臺,實現(xiàn)問題預警 基于E
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2026年金融風險管理師初級筆試模擬卷
- 2026年物流管理與供應鏈優(yōu)化操作練習題
- 2026年保險顧問家庭保險規(guī)劃與配置知識考核題
- 2026年房地產估價師專業(yè)知識與實務測試題
- 2026年商業(yè)營銷策略及案例分析訓練題集
- 2026年網絡安全技術與防御策略考試題集
- 2026年圖書館圖書丟失管理員處理策略題
- 2026年證券從業(yè)資格題庫金融市場與投資分析要點解析
- 2026年計算機視覺與人工智能應用試題集
- 2026年能源危機應對與緊急調配策略題集
- 采購主管年終工作總結
- 電力公司安全第一課課件
- 物業(yè)現(xiàn)場管理培訓課件
- 數(shù)據(jù)訪問控制策略分析報告
- 2025年市場監(jiān)管局招聘崗位招聘面試模擬題及案例分析解答
- 單杠引體向上教學課件
- 子宮內膜異位癥病因課件
- GB/T 18910.103-2025液晶顯示器件第10-3部分:環(huán)境、耐久性和機械試驗方法玻璃強度和可靠性
- 經圓孔翼腭神經節(jié)射頻調節(jié)術
- 夢雖遙追則能達愿雖艱持則可圓模板
- 配件售后管理制度規(guī)范
評論
0/150
提交評論