2023年年數(shù)政府大數(shù)據(jù)中心數(shù)據(jù)資源平臺建設(shè)最佳方案WORD_第1頁
2023年年數(shù)政府大數(shù)據(jù)中心數(shù)據(jù)資源平臺建設(shè)最佳方案WORD_第2頁
2023年年數(shù)政府大數(shù)據(jù)中心數(shù)據(jù)資源平臺建設(shè)最佳方案WORD_第3頁
2023年年數(shù)政府大數(shù)據(jù)中心數(shù)據(jù)資源平臺建設(shè)最佳方案WORD_第4頁
2023年年數(shù)政府大數(shù)據(jù)中心數(shù)據(jù)資源平臺建設(shè)最佳方案WORD_第5頁
已閱讀5頁,還剩94頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

政府大數(shù)據(jù)資源中心 建設(shè)方案V 第99頁共99頁政府大數(shù)據(jù)中心數(shù)據(jù)資源平臺建設(shè)方案2022年08月目錄TOC\o"1-3"\u1 總體建設(shè)方案概述 41.1 項目建設(shè)目標 41.2 項目建設(shè)內(nèi)容 51.2.1 建設(shè)數(shù)據(jù)交換子平臺 61.2.2 建設(shè)數(shù)據(jù)治理子平臺 61.2.3 建設(shè)數(shù)據(jù)資源門戶 71.2.4 建設(shè)數(shù)據(jù)資源中心 81.3 總體建設(shè)方案 91.3.1 中心總體定位 91.3.2 總體解決方案 91.3.3 項目實施方案 122 資源平臺建設(shè)方案 132.1 平臺總體架構(gòu) 132.2 數(shù)據(jù)交換子平臺建設(shè) 132.2.1 建設(shè)方案概述 132.2.2 數(shù)據(jù)交換配置 152.2.3 數(shù)據(jù)交換前置 152.2.4 數(shù)據(jù)共享服務(wù) 162.2.5 數(shù)據(jù)共享接口 182.2.6 數(shù)據(jù)交換監(jiān)控 182.3 數(shù)據(jù)治理子平臺建設(shè) 192.3.1 建設(shè)方案概述 192.3.2 資源目錄管理 212.3.3 數(shù)據(jù)標準管理 252.3.4 元數(shù)據(jù)管理 282.3.5 數(shù)據(jù)質(zhì)量管理 322.3.6 數(shù)據(jù)開發(fā)平臺 352.3.7 統(tǒng)一調(diào)度管理 372.3.8 數(shù)據(jù)資產(chǎn)管理 402.4 數(shù)據(jù)資源門戶建設(shè) 452.4.1 門戶首頁設(shè)計 462.4.2 統(tǒng)一用戶管理 462.4.3 統(tǒng)一認證授權(quán) 462.4.4 整合資源管理 482.4.5 統(tǒng)一審批管理 482.4.6 資源目錄服務(wù) 482.4.7 統(tǒng)一消息管理 492.4.8 統(tǒng)一日志管理 502.4.9 統(tǒng)一監(jiān)控運維 523 資源中心建設(shè)方案 583.1 中心總體定位設(shè)計 583.1.1 總體設(shè)計 593.1.2 設(shè)計原則 603.1.3 設(shè)計思路 613.1.4 數(shù)倉設(shè)計 623.1.5 數(shù)據(jù)安全 623.2 建設(shè)XX區(qū)級數(shù)據(jù)湖 643.2.1 數(shù)據(jù)湖數(shù)據(jù)架構(gòu) 643.2.2 數(shù)據(jù)湖數(shù)據(jù)范圍 663.3 完成數(shù)據(jù)對接實施 673.4 建設(shè)XX區(qū)基礎(chǔ)庫 673.4.1 人口綜合庫建設(shè) 673.4.2 法人綜合庫建設(shè) 703.4.3 電子證照庫建設(shè) 743.4.4 空間地理庫建設(shè) 743.5 建設(shè)XX區(qū)主題庫 753.5.1 主題庫建設(shè)概述 753.5.2 主題庫建設(shè)方法 763.5.3 一網(wǎng)通辦主題庫 783.5.4 一網(wǎng)統(tǒng)管主題庫 813.5.5 城市規(guī)劃主題庫 833.6 建設(shè)XX區(qū)專題庫 843.6.1 應(yīng)急專題庫概述 843.6.2 管理對象專題庫 853.6.3 災害事件專題庫 863.7 三清單一目錄梳理 863.7.1 建設(shè)背景 863.7.2 總體目標 873.7.3 梳理思路 873.7.4 梳理工作開展 893.7.5 一目錄三清單梳理培訓 913.7.6 一目錄三清單梳理指導 933.7.7 一目錄三清單梳理交付內(nèi)容 943.7.8 梳理工作要求 95總體建設(shè)方案概述項目建設(shè)目標本次區(qū)級大數(shù)據(jù)資源平臺建設(shè)項目將圍繞和遵循XX區(qū)智慧城市建設(shè)總體統(tǒng)籌規(guī)劃思想的指導下,按照S市大數(shù)據(jù)中心對市區(qū)兩級大數(shù)據(jù)資源平臺建設(shè)統(tǒng)一標準規(guī)范的要求下,以實際需求為導向,搭建XX區(qū)大數(shù)據(jù)資源平臺,加快推進與承接S市大數(shù)據(jù)資源平臺的落地數(shù)據(jù)資源,歸集區(qū)內(nèi)各單位公共數(shù)據(jù)資源,按需實現(xiàn)共享交換,逐步構(gòu)建形成XX區(qū)公共數(shù)據(jù)匯聚、整合、共享、應(yīng)用、展示、評價為“六位一體”的大數(shù)據(jù)資源體系,并通過構(gòu)建XX區(qū)數(shù)據(jù)基礎(chǔ)庫、專題庫和主題庫為核心的數(shù)據(jù)資產(chǎn),充分挖掘與發(fā)揮數(shù)據(jù)應(yīng)用價值,構(gòu)建數(shù)據(jù)集成、數(shù)據(jù)共享、數(shù)據(jù)管理、數(shù)據(jù)決策的綜合管理服務(wù)體系,確保大數(shù)據(jù)平臺全面支撐XX區(qū)公共數(shù)據(jù)協(xié)同服務(wù)、城區(qū)管理協(xié)同服務(wù)、惠民數(shù)據(jù)協(xié)同服務(wù)和興業(yè)數(shù)據(jù)協(xié)同服務(wù),實現(xiàn)全區(qū)的業(yè)務(wù)數(shù)據(jù)閉環(huán),為全區(qū)經(jīng)濟建設(shè)、規(guī)劃布局,城市管理等實現(xiàn)全方位的數(shù)據(jù)賦能。加快推進實現(xiàn)如下要求:1)聚:推進與市級人口、法人、空間地理庫的數(shù)據(jù)集成,促進電子證照庫對接利用;逐步推進視頻數(shù)據(jù)、物聯(lián)數(shù)據(jù)以及基層業(yè)務(wù)數(shù)據(jù)等采集匯聚;逐步推進XX區(qū)級各部門的數(shù)據(jù)匯聚。2)管:構(gòu)建一站式數(shù)據(jù)資產(chǎn)管理平臺,通過與市級數(shù)據(jù)平臺級聯(lián)實現(xiàn)區(qū)內(nèi)上報數(shù)據(jù)的落地,結(jié)合區(qū)內(nèi)情況進行本地數(shù)據(jù)資產(chǎn)目錄的管理,形成對數(shù)據(jù)的全生命周期管理,以及各環(huán)節(jié)安全監(jiān)管。3)通:實現(xiàn)基于應(yīng)用場景的數(shù)據(jù)資源授權(quán)管理機制,推動公共數(shù)據(jù)按需充分共享。實現(xiàn)數(shù)據(jù)分級分類開放管理,擴展共享交換平臺功能。4)用:開展主題數(shù)據(jù)庫建設(shè),推動數(shù)據(jù)資源整合及數(shù)據(jù)分析應(yīng)用。開展數(shù)據(jù)應(yīng)用模型及算法研究,探索數(shù)據(jù)服務(wù)模式創(chuàng)新;推進區(qū)級跨部門數(shù)據(jù)智能應(yīng)用的行業(yè)能力平臺建設(shè)。5)安:打造整體安全管控體系,保證平臺上政務(wù)數(shù)據(jù)在數(shù)據(jù)匯聚、數(shù)據(jù)管理、數(shù)據(jù)共享、數(shù)據(jù)開放等全生命周期中的安全防護能力。項目建設(shè)內(nèi)容對于本次區(qū)級大數(shù)據(jù)資源平臺的建設(shè),將按照“總體規(guī)劃一步到位,平臺建設(shè)分步實施,數(shù)據(jù)賦能逐步升級”的原則,落實數(shù)據(jù)交換共享和協(xié)同應(yīng)用需求,逐步提升區(qū)級大數(shù)據(jù)資源中心能級。初期先完成數(shù)據(jù)資源平臺的搭建,后續(xù)依托基礎(chǔ)平臺的建設(shè)成果,逐步完善豐富XX區(qū)大數(shù)據(jù)資源、運營平臺、管理機制、運維支撐、組織保障體系和典型智慧應(yīng)用的建設(shè)。區(qū)級大數(shù)據(jù)資源平臺項目建設(shè)的主要目標是要搭建XX區(qū)統(tǒng)一的大數(shù)據(jù)資源管理平臺并實現(xiàn)基礎(chǔ)功能架構(gòu),出臺相關(guān)管理辦法,支撐全區(qū)各政務(wù)部門的數(shù)據(jù)共享需求;建立大數(shù)據(jù)資源中心,完成標準化數(shù)據(jù)倉庫的建設(shè),并構(gòu)建基礎(chǔ)及融合數(shù)據(jù)庫,為全區(qū)的政務(wù)處理、經(jīng)濟發(fā)展、社會民生、城市管理、鄉(xiāng)村振興等實現(xiàn)數(shù)據(jù)賦能。建設(shè)統(tǒng)一的大數(shù)據(jù)資源管理與應(yīng)用平臺:建設(shè)包含數(shù)據(jù)支撐底座、數(shù)據(jù)交換子平臺、數(shù)據(jù)整理治理子平臺、數(shù)據(jù)服務(wù)子平臺,數(shù)據(jù)分析支撐子平臺以及數(shù)據(jù)資源門戶為核心功能的大數(shù)據(jù)資源平臺,實現(xiàn)大數(shù)據(jù)綜合管理與服務(wù)功能;啟動區(qū)級大數(shù)據(jù)資源中心建設(shè):完成標準化數(shù)據(jù)倉庫的設(shè)計與規(guī)劃建設(shè),并完成與區(qū)各委辦業(yè)務(wù)與管理系統(tǒng)、S市大數(shù)據(jù)資源平臺以及物聯(lián)網(wǎng)相關(guān)平臺數(shù)據(jù)的對接,匯聚各類業(yè)務(wù)數(shù)據(jù),構(gòu)建區(qū)級大數(shù)據(jù)資源中心;在XX區(qū)資源中心數(shù)據(jù)湖基礎(chǔ)上,建設(shè)基礎(chǔ)數(shù)據(jù)庫,包括人口綜合庫、法人綜合庫、電子證照庫以及地理空間庫,為全區(qū)各政務(wù)部門提供人口、法人、證照與地理空間相關(guān)的數(shù)據(jù)服務(wù);在區(qū)級資源中心數(shù)據(jù)湖以及基礎(chǔ)庫的基礎(chǔ)上,持續(xù)深入大數(shù)據(jù)資源的建設(shè)與應(yīng)用探索,基本完成支撐全區(qū)一網(wǎng)通辦、一網(wǎng)統(tǒng)管、城市規(guī)劃、應(yīng)急指揮等主題的資源歸集,并形成相關(guān)的專題庫和主題庫;建立統(tǒng)一的政府數(shù)據(jù)信息資源目錄,建立動態(tài)更新機制,明確全區(qū)各部門可向其他政府機構(gòu)共享的公共數(shù)據(jù),建立全區(qū)統(tǒng)一的數(shù)據(jù)交換共享平臺及數(shù)據(jù)中心,對上對下實現(xiàn)垂直共享,橫向打通各部門間的數(shù)據(jù)交換共享,實現(xiàn)部門間業(yè)務(wù)協(xié)同和指揮聯(lián)動;充實現(xiàn)有管理功能,形成共享工作體制和制度。建設(shè)數(shù)據(jù)交換子平臺建設(shè)全區(qū)統(tǒng)一的數(shù)據(jù)數(shù)據(jù)交換子平臺,形成公共數(shù)據(jù)歸集、交換、共享的核心樞紐;打通全區(qū)各單位之間數(shù)據(jù)資源共享通道,實現(xiàn)雙向數(shù)據(jù)互通。具體,在本次區(qū)級大數(shù)據(jù)資源平臺建設(shè)項目中,數(shù)據(jù)交換子平臺的建設(shè)內(nèi)容包括:數(shù)據(jù)交換配置:提供數(shù)據(jù)交換配置功能,能夠提供對于交換周期,時間的交換策略配置、接口配置交換任務(wù)配置功能;數(shù)據(jù)服務(wù)管理:提供數(shù)據(jù)服務(wù)管理功能,將清洗后的數(shù)據(jù)以及場景化分析后的數(shù)據(jù)注冊為數(shù)據(jù)服務(wù),統(tǒng)一進行管理與對外共享;數(shù)據(jù)共享接口:將清洗后的數(shù)據(jù)以及場景化分析后的數(shù)據(jù)注冊到服務(wù)管理系統(tǒng)中,統(tǒng)一進行對外共享,并且對共享行為進行統(tǒng)一管理和審計;數(shù)據(jù)交換監(jiān)控:提供數(shù)據(jù)交換監(jiān)控功能,實時監(jiān)控交換過程中核心服務(wù)運行狀況,包括交換平臺整體運行狀態(tài)、交換域運行狀態(tài)、交換節(jié)點運行狀態(tài)、交換流程運行狀態(tài)等,保障數(shù)據(jù)交換穩(wěn)定。整理制作郎豐利建設(shè)數(shù)據(jù)治理子平臺建設(shè)大數(shù)據(jù)治理子平臺,提供數(shù)據(jù)標準管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理能力,實現(xiàn)對數(shù)據(jù)的規(guī)范治理與管理;提供數(shù)據(jù)工廠能力,實現(xiàn)對歸集的數(shù)據(jù)進行清洗、加工,支撐業(yè)務(wù)的數(shù)據(jù)應(yīng)用需求。具體,在本次區(qū)級大數(shù)據(jù)資源平臺建設(shè)項目中,數(shù)據(jù)治理子平臺的建設(shè)內(nèi)容包括:整理制作郎豐利資源目錄管理:提供資源目錄管理功能,包括:資源編目、目錄提交、目錄審核、目錄發(fā)布、目錄匯總、目錄查詢等;數(shù)據(jù)標準管理:提供數(shù)據(jù)標準管理功能,包括:字典標準管理、命名標準管理、維度標準管理及數(shù)據(jù)項標準管理;元數(shù)據(jù)管理:提供元數(shù)據(jù)管理功能,包括:元數(shù)據(jù)正向采集、元數(shù)據(jù)維護、元數(shù)據(jù)查詢、元數(shù)據(jù)導入/導出、元數(shù)據(jù)血緣分析;數(shù)據(jù)質(zhì)量管理:提供數(shù)據(jù)質(zhì)量管理功能,包括:質(zhì)量模型配置、質(zhì)量規(guī)則管理、方案配置調(diào)度、質(zhì)檢結(jié)果查看、質(zhì)檢分析報告;數(shù)據(jù)開發(fā)平臺:提供數(shù)據(jù)開發(fā)平臺能力,支持可視化開發(fā)和原生態(tài)開發(fā)兩種開發(fā)模式,實現(xiàn)原生態(tài)開發(fā)與可視化編排的互相轉(zhuǎn)換;統(tǒng)一調(diào)度管理:提供統(tǒng)一調(diào)度管理功能,提供流程設(shè)計與管理、調(diào)度策略管控、任務(wù)調(diào)度控制、等功能模塊。建設(shè)數(shù)據(jù)資源門戶建設(shè)統(tǒng)一的數(shù)據(jù)資源門戶,有效集成整合各子平臺應(yīng)用功能模塊,數(shù)據(jù)資源目錄整合、統(tǒng)一用戶賬號、組織架構(gòu)、角色權(quán)限、業(yè)務(wù)流程、信息展示以及統(tǒng)一運維等方面的管理,全面打造面向各單位工作人員的一體化統(tǒng)一數(shù)據(jù)管理與應(yīng)用門戶。利用數(shù)據(jù)資源門戶推動全區(qū)公共數(shù)據(jù)和社會數(shù)據(jù)的交互和開放使用,加強政企數(shù)據(jù)互動、加快統(tǒng)一公共數(shù)據(jù)歸集、強化數(shù)據(jù)管理治理、探索數(shù)據(jù)應(yīng)用,促進數(shù)據(jù)共享協(xié)同與開放,為提升全區(qū)政府治理能力,實現(xiàn)管理向服務(wù)轉(zhuǎn)變提供支撐。具體,在本次區(qū)級大數(shù)據(jù)資源平臺建設(shè)項目中,數(shù)據(jù)資源門戶的建設(shè)內(nèi)容包括:門戶首頁:提供門戶首頁,在首頁可以看到共享目錄數(shù)量、共享資源數(shù)量、推薦目錄和接口、信息資源;統(tǒng)一用戶管理:提供統(tǒng)一用戶管理功能,實現(xiàn)統(tǒng)一組織架構(gòu)、人員管理,對用戶的屬性、權(quán)限進行劃分設(shè)定;統(tǒng)一認證管理:提供對用戶身份的統(tǒng)一管理與統(tǒng)一的系統(tǒng)用戶身份認證服務(wù);整合資源管理:提供統(tǒng)一的數(shù)據(jù)資源整合服務(wù),包括:資源檢索、資源查詢、資源展示、資源申請等;統(tǒng)一審批管理:提供統(tǒng)一的流程審批管理功能,包括:流程發(fā)起、流程流轉(zhuǎn)、流程審批等;統(tǒng)一消息管理:提供統(tǒng)一消息管理功能,包括:消息類型管理、消息渠道管理、通用規(guī)則管理、自定義規(guī)則管理、消息過期、消息發(fā)送;統(tǒng)一日志管理:提供多種日志記錄方式,并支持日志提醒與日志分析、日志審計管理;數(shù)據(jù)資產(chǎn)管理:提供數(shù)據(jù)資產(chǎn)管理功能,包括:數(shù)據(jù)資產(chǎn)分類管理、資產(chǎn)目錄、資產(chǎn)地圖、資產(chǎn)版本管理、資產(chǎn)統(tǒng)計管管理;資源目錄服務(wù):提供資源目錄服務(wù)功能,實現(xiàn)資源目錄對外共享,并提供目錄查詢、目錄統(tǒng)計等服務(wù);統(tǒng)一監(jiān)控運維:提供統(tǒng)一監(jiān)控運維功能,保證整個數(shù)據(jù)資源平臺的穩(wěn)定與高效運行,并提升數(shù)據(jù)資源全生命周期的保障執(zhí)行力和運維效率。具體功能包括:提供監(jiān)控資源管理功能,支持資源模型的增刪改基本維護操作,創(chuàng)建需要管理的資源對象,并對所有被監(jiān)管對象進行集中管理;提供基礎(chǔ)資源監(jiān)測功能,對整個平臺所涉及到的服務(wù)器、存儲、操作系統(tǒng)、中間件等基礎(chǔ)實施進行監(jiān)控;提供應(yīng)用系統(tǒng)監(jiān)控功能,對平臺的各個應(yīng)用服務(wù)的運行情況進行監(jiān)控,及時發(fā)現(xiàn)故障與風險,并告警;提供監(jiān)控告警管理功能,提供告警規(guī)則管理功能,實現(xiàn)告警規(guī)則的自定義管理和維護;提供平臺運維管理功能,負責對用戶提交以及系統(tǒng)自動發(fā)現(xiàn)的故障或文件進行集中記錄,可將故障分派給不同人員進行處理并對故障處理過程及結(jié)果進行跟蹤管理??傮w建設(shè)方案中心總體定位區(qū)級大數(shù)據(jù)資源平臺建設(shè)的核心是匯聚全區(qū)各類公共數(shù)據(jù),建立面向政務(wù)顧問、經(jīng)濟發(fā)展、城市管理、社會公共服務(wù)與鄉(xiāng)村振興的數(shù)據(jù)資源庫與數(shù)據(jù)服務(wù)。為智慧城市提供全面、高效、安全、智能的數(shù)據(jù)管理與應(yīng)用支撐,是智慧城市建設(shè)總體戰(zhàn)略與落地規(guī)劃中的重要組成部分。總體解決方案平臺總體藍圖針對區(qū)級大數(shù)據(jù)資源平臺的建設(shè),我們將基于當前主流的大數(shù)據(jù)技術(shù)框架為XX區(qū)搭建一個大數(shù)據(jù)管理與應(yīng)用平臺。利用數(shù)據(jù)平臺的數(shù)據(jù)采集功能,將XX區(qū)各級政府單位的政務(wù)數(shù)據(jù)、城市管理相關(guān)的監(jiān)控視頻等物聯(lián)數(shù)據(jù)、企業(yè)事業(yè)單位數(shù)據(jù),互聯(lián)網(wǎng)等社據(jù)匯聚起來,形成統(tǒng)一的XX區(qū)級大數(shù)據(jù)資源池。之后,在利用平臺的數(shù)據(jù)治理與建模開發(fā)能力,將采集到的數(shù)據(jù)有效地進行分類整理與融合,構(gòu)建諸如綜合人口庫、產(chǎn)業(yè)經(jīng)濟主題庫、旅游數(shù)據(jù)庫、菜園花鳥數(shù)據(jù)庫,鄉(xiāng)村產(chǎn)業(yè)經(jīng)濟振興庫等數(shù)據(jù)應(yīng)用服務(wù),并利用統(tǒng)一門戶將相關(guān)數(shù)據(jù)應(yīng)用對外開放,向XX區(qū)各級單位、企事業(yè)單位等用戶提供數(shù)據(jù)服務(wù),由此構(gòu)建XX區(qū)的數(shù)據(jù)資源中心,實現(xiàn)對全區(qū)政務(wù)等數(shù)據(jù)的集中匯聚、統(tǒng)一管理與共享利用,為全區(qū)政務(wù)處理與經(jīng)濟發(fā)展提供數(shù)據(jù)支撐。具體,本次項目的解決方案藍圖如下:平臺總體架構(gòu)區(qū)級大數(shù)據(jù)資源平臺平臺基于基礎(chǔ)設(shè)施(網(wǎng)絡(luò)&技術(shù)&存儲)、技術(shù)標準體系規(guī)范及信息安全保障體系建設(shè)數(shù)據(jù)支撐底座、數(shù)據(jù)交換、數(shù)據(jù)資源中心(基礎(chǔ)及融合數(shù)據(jù)庫)、數(shù)據(jù)整理治理、數(shù)據(jù)服務(wù)、數(shù)據(jù)分析、數(shù)據(jù)共享應(yīng)用及數(shù)據(jù)資源門戶模塊,并實現(xiàn)與S市大數(shù)據(jù)資源平臺的共享與交換。平臺架構(gòu)關(guān)系架構(gòu)關(guān)系說明:基于數(shù)據(jù)治理平臺,搭建數(shù)據(jù)治理產(chǎn)線:各個委辦局梳理資源,形成目錄清單并制定數(shù)據(jù)治理相關(guān)規(guī)范,基于目錄及規(guī)范搭建數(shù)據(jù)治理產(chǎn)線;數(shù)據(jù)共享交換平臺:數(shù)據(jù)治理/服務(wù)/分析平臺設(shè)置數(shù)據(jù)歸集調(diào)度任務(wù),通過數(shù)據(jù)源采集數(shù)據(jù)到數(shù)據(jù)湖(數(shù)據(jù)資源中心);數(shù)據(jù)源:各個委辦設(shè)置前置機放置源數(shù)據(jù);數(shù)據(jù)資源中心:對通過數(shù)據(jù)共享交換平臺采集的數(shù)據(jù)進行存儲;數(shù)據(jù)基礎(chǔ)支撐平臺:數(shù)據(jù)治理/服務(wù)/分析平臺通過數(shù)據(jù)基礎(chǔ)支撐平臺進行數(shù)據(jù)讀取、處理與存儲;數(shù)據(jù)資源門戶:通過治理后資源在門戶進行展示,并為各個委辦提供瀏覽及申請入口,同時經(jīng)過申請的數(shù)據(jù)如果需要清洗/轉(zhuǎn)換操作,則數(shù)據(jù)治理平臺將根據(jù)治理規(guī)范及產(chǎn)線進行數(shù)據(jù)的加工處理,并將處理后的有效數(shù)據(jù)同步給門戶;數(shù)據(jù)共享交換平臺:用戶經(jīng)過門戶申請的數(shù)據(jù),將通過數(shù)據(jù)共享交換平臺進行數(shù)據(jù)的共享。統(tǒng)一維護平臺及數(shù)據(jù)安全管理將為整個數(shù)字區(qū)級大數(shù)據(jù)資源平臺的平臺建設(shè)保駕護航。項目實施方案在本項目中,首先需要建設(shè)一套大數(shù)據(jù)資源管理與應(yīng)用平臺,并基于大數(shù)據(jù)資源管理與應(yīng)用平臺,利用平臺中的各類功能,通過匯聚數(shù)據(jù)、數(shù)據(jù)治理、數(shù)據(jù)開發(fā)與數(shù)據(jù)服務(wù)等手段,逐步建設(shè)各類區(qū)級數(shù)據(jù)資源(包括:數(shù)據(jù)湖、基礎(chǔ)庫、主題庫、主題庫等)。具體,項目的總體建設(shè)實施方案如下:

資源平臺建設(shè)方案平臺總體架構(gòu)區(qū)級大數(shù)據(jù)資源平臺的總體架構(gòu)由支撐體系(標準規(guī)范支撐體系、管理運行維護支撐體系、安全支撐體系)、網(wǎng)絡(luò)系統(tǒng)、信息資源平臺軟硬件系統(tǒng)環(huán)境、平臺應(yīng)用系統(tǒng)(數(shù)據(jù)支撐底座、數(shù)據(jù)交換子平臺、數(shù)據(jù)整理治理子平臺、數(shù)據(jù)資源門戶),以及數(shù)據(jù)資源中心(數(shù)據(jù)湖、基礎(chǔ)庫、主題庫、專題庫)組成。具體平臺架構(gòu)如下:數(shù)據(jù)交換子平臺建設(shè)建設(shè)全區(qū)統(tǒng)一的數(shù)據(jù)數(shù)據(jù)交換子平臺,形成公共數(shù)據(jù)歸集、交換、共享的核心樞紐;打通全區(qū)各單位之間數(shù)據(jù)資源共享通道,實現(xiàn)雙向數(shù)據(jù)互通。建設(shè)方案概述通過本項目數(shù)據(jù)共享交換平臺建設(shè),構(gòu)建XX區(qū)數(shù)據(jù)共享交換體系,推動政務(wù)數(shù)據(jù)的跨層級、跨地域、跨系統(tǒng)、跨部門、跨業(yè)務(wù)的共享利用,為公共基礎(chǔ)庫、業(yè)務(wù)主題庫,提供底層數(shù)據(jù)支撐。XX區(qū)數(shù)據(jù)交換系統(tǒng)基于電子政務(wù)云搭建,為全區(qū)數(shù)據(jù)管理部門提供云端的數(shù)據(jù)共享交換服務(wù)的統(tǒng)一平臺,可實現(xiàn)部門前置節(jié)點與政務(wù)云中心節(jié)點間、部門與部門間穩(wěn)定可靠的雙向信息傳遞。架構(gòu)設(shè)計鑒于數(shù)據(jù)源應(yīng)用的異構(gòu)平臺、異構(gòu)系統(tǒng)接入的復雜性,數(shù)據(jù)共享交換平臺建設(shè)應(yīng)統(tǒng)一技術(shù)架構(gòu)、統(tǒng)一接入標準規(guī)范(包括技術(shù)規(guī)范、接入規(guī)范、管理規(guī)范、運行規(guī)范等),同時既要充分考慮系統(tǒng)的安全性、可擴展性,又要充分考慮數(shù)據(jù)交換的實時性、可靠性和高效性,實現(xiàn)各系統(tǒng)數(shù)據(jù)的采集、同步、篩選比對等業(yè)務(wù)功能目標。因此,本次數(shù)據(jù)共享交換平臺建設(shè)將充分利用信息化手段,采用當前主流的技術(shù)標準,主要包括數(shù)據(jù)庫技術(shù)、數(shù)據(jù)集成技術(shù)、消息中間件、SOA體系架構(gòu)等技術(shù),采用組件化和松耦合的設(shè)計思路,實現(xiàn)統(tǒng)一平臺架構(gòu)、統(tǒng)一技術(shù)標準、統(tǒng)一數(shù)據(jù)接口。數(shù)據(jù)交換子平臺建設(shè)圍繞數(shù)據(jù)資源的采集交換、數(shù)據(jù)傳輸、交換監(jiān)控流程進行,以保證平臺功能、服務(wù)更加貼近實際業(yè)務(wù)應(yīng)用需要。具體,本次區(qū)級大數(shù)據(jù)資源平臺中的數(shù)據(jù)交換子平臺的總體業(yè)務(wù)與邏輯架構(gòu)設(shè)計如下:利用數(shù)據(jù)交換平臺與各政務(wù)部門進行互聯(lián),通過數(shù)據(jù)傳輸系統(tǒng)各委辦的數(shù)據(jù)資源匯集到數(shù)據(jù)中心;對匯集到數(shù)據(jù)中心中的數(shù)據(jù)進行統(tǒng)一的加工、處理;將經(jīng)過數(shù)據(jù)治理后的數(shù)據(jù)中心中的數(shù)據(jù)交換到各類基礎(chǔ)信息庫中,服務(wù)管理系統(tǒng)將各類基礎(chǔ)信息庫中的數(shù)據(jù)進行服務(wù)封裝和服務(wù)發(fā)布,提供給各委辦或決策分析等系統(tǒng)使用??傊?,通過數(shù)據(jù)交換平臺的建設(shè)與實施,將為XX區(qū)構(gòu)建完善的數(shù)據(jù)共享交換體系,為本項目總體體系建設(shè)提供數(shù)據(jù)共享交換服務(wù)支撐。數(shù)據(jù)交換配置獲取信息資源中定義的信息資源更新頻率,自動實現(xiàn)采集、可以配置全量或者增量采集方式,可以配置數(shù)據(jù)提供部門在數(shù)據(jù)中心部門前置庫的存儲位置等。能夠提供對于采集周期,時間的采集策略配置、接口配置采集任務(wù)配置功能。對于應(yīng)用數(shù)據(jù)采集,需要管理的關(guān)鍵業(yè)務(wù)點有采集點、數(shù)據(jù)傳輸。主要性能指標包括:在采樣周期內(nèi)成功取得文件的數(shù)量、采集數(shù)據(jù)間隔時間、采集文件大小、進程狀態(tài)、文件連續(xù)性、采集狀態(tài)、傳輸速率等。獲取信息資源中定義的信息資源更新頻率,自動實現(xiàn)采集、可以配置全量或者增量采集方式,可以配置數(shù)據(jù)提供部門在數(shù)據(jù)中心部門前置庫的存儲位置等。數(shù)據(jù)交換前置(1)靈活的數(shù)據(jù)交換需求系統(tǒng)需滿足各部門的數(shù)據(jù)資源交換需求,提供自主、可控的數(shù)據(jù)交換服務(wù):在供需關(guān)系匹配模式上,一對一、一對多、多對一、多對多的數(shù)據(jù)交換匹配模式;在交換方向上,提供支持單向、雙向的數(shù)據(jù)交換方式;在數(shù)據(jù)庫數(shù)據(jù)抽取方面,支持全量抽取和增量數(shù)據(jù)抽取,增量抽取支持時間戳、觸發(fā)器以及基于日志分析的數(shù)據(jù)抽取方式;在運行模式上,支持自動運行和手工控制運行方式;在交換系統(tǒng)與部門對接的應(yīng)用系統(tǒng)交互模式上,支持主動交換和被動交換;在交換時效性上,支持實時交換、定時交換、周期性交換等模式;(2)異構(gòu)平臺兼容性需求作為基礎(chǔ)性軟件設(shè)施,數(shù)據(jù)交換系統(tǒng)接入部門眾多,各個相關(guān)單位的系統(tǒng)運行環(huán)境各異,因此,交換系統(tǒng)需要支持各種異構(gòu)的平臺環(huán)境,包括:系統(tǒng)平臺、數(shù)據(jù)庫環(huán)境等。交換系統(tǒng)應(yīng)支持運行在各種主流的操作系統(tǒng)平臺上,包括:Linux、Windows、Unix等各種操作系統(tǒng),支持物理機部署和虛擬機部署,針對不同數(shù)據(jù)存儲的系統(tǒng)不同,應(yīng)支持各種常見的數(shù)據(jù)庫管理系統(tǒng),并能夠?qū)a(chǎn)數(shù)據(jù)庫系統(tǒng)提供良好的兼容能力。整理制作郎豐利數(shù)據(jù)共享服務(wù)數(shù)據(jù)資源只有得到有效的整合、開發(fā)、應(yīng)用,才能發(fā)揮相應(yīng)的價值。通過平臺建設(shè),通過數(shù)據(jù)資源的服務(wù)化處理,才能更好的開展面向領(lǐng)導量化決策、社會民生服務(wù)等領(lǐng)域相關(guān)業(yè)務(wù)應(yīng)用,提供更加及時有效的數(shù)據(jù)資源共享應(yīng)用服務(wù)。因此在本項目中將建設(shè)數(shù)據(jù)服務(wù)子平臺,通過統(tǒng)一的數(shù)據(jù)服務(wù)平臺,將平臺中的各類數(shù)據(jù)資源封裝為標準接口并以服務(wù)的方式對外共享,實現(xiàn)對數(shù)據(jù)資源的統(tǒng)一訪問、使用申請、共享調(diào)度,管理與監(jiān)控。通過統(tǒng)一的數(shù)據(jù)服務(wù)平臺,實現(xiàn)對服務(wù)資源的統(tǒng)一訪問、調(diào)度、管理與監(jiān)控。郎豐利整理制作數(shù)據(jù)服務(wù)管理平臺以服務(wù)總線為支撐,構(gòu)建高效、穩(wěn)定的統(tǒng)一應(yīng)用整合、數(shù)據(jù)服務(wù)體系,一方面可以將現(xiàn)有業(yè)務(wù)系統(tǒng)功能接入統(tǒng)一平臺作為共享服務(wù)對外提供,同時也可以將共享的數(shù)據(jù)資源通過標準服務(wù)方式對外共享,同時提供共享安全保護策略。郎豐利整理制作數(shù)據(jù)服務(wù)注冊平臺提供數(shù)據(jù)服務(wù)管理功能,將清洗后的數(shù)據(jù)以及場景化分析后的數(shù)據(jù)注冊為數(shù)據(jù)服務(wù),統(tǒng)一進行管理與對外共享。平臺提供接入數(shù)據(jù)服務(wù)的管理,包括服務(wù)的注冊、發(fā)現(xiàn)及管理。當數(shù)據(jù)服務(wù)封裝成服務(wù)并完成注冊后,這個服務(wù)即能夠被相關(guān)用戶發(fā)現(xiàn)、理解并調(diào)用。同時,平臺還可以對所有數(shù)據(jù)服務(wù)的調(diào)用與數(shù)據(jù)共享行為進行統(tǒng)一的管理和審計。整理制作郎豐利數(shù)據(jù)服務(wù)申請對于平臺中的數(shù)據(jù)共享與應(yīng)用服務(wù),用戶需要經(jīng)過申請并通過審批后才可以使用,而數(shù)據(jù)服務(wù)申請就對所有數(shù)據(jù)服務(wù)的申請行為進行管理與處理。通過數(shù)據(jù)服務(wù)的申請授權(quán),能夠開放指定數(shù)據(jù)對應(yīng)的權(quán)限給申請者,達到數(shù)據(jù)安全共享的目的。服務(wù)申請主要包括數(shù)據(jù)使用對象申請數(shù)據(jù)等級、申請內(nèi)容、申請時效、申請目的等。申請審核政務(wù)部門接受其他政務(wù)部門在共享網(wǎng)站上的資源申請,進行審核操作。數(shù)據(jù)中心可以對申請審核進行督辦,政務(wù)部門可以進行督辦反饋。申請查看可以查看本部門申請其他部門資源情況,申請資源名稱、資源提供部門、申請時間、主要用途、申請狀態(tài)和資源數(shù)據(jù)量等,可以撤銷資源申請??梢圆榭幢静块T的各類資源被其他部門申請情況,資源名稱、申請用戶、申請部門、申請時間、主要用途、申請狀態(tài)和資源數(shù)據(jù)量、申請次數(shù)等??梢詫Σ块T申請審核進行督辦,政務(wù)部門可以針對該督辦進行反饋。申請撤銷申請撤銷是指對申請資源的撤銷一旦申請撤銷,該資源的訂閱也被同時撤銷。如發(fā)現(xiàn)需求部門存在違規(guī)使用申請通過的數(shù)據(jù)資源,數(shù)源部門可以提出共享撤銷,并報送數(shù)據(jù)管理部門審核,審核通過后,資源申請立即撤銷,同步停止數(shù)據(jù)交換、接口等數(shù)據(jù)共享。如遇到由于本部門業(yè)務(wù)變化而等原因情況,數(shù)源部門可以提出資源共享撤銷,并報送數(shù)據(jù)管理部門審核,審核通過之后,通知數(shù)據(jù)需求部門,并在公共數(shù)據(jù)資源共享管理辦法規(guī)定的時間觸發(fā)資源申請撤銷,通知數(shù)據(jù)交換、接口等數(shù)據(jù)共享。數(shù)據(jù)服務(wù)監(jiān)控數(shù)據(jù)共享與應(yīng)用服務(wù)面向眾多業(yè)務(wù)部門,涉及面廣,范圍大、數(shù)據(jù)量大,為了確保數(shù)據(jù)服務(wù)的有序、穩(wěn)定運行,將提供易用、直觀的服務(wù)監(jiān)控功能支持,提升數(shù)據(jù)資源共享與應(yīng)用的效率。數(shù)據(jù)服務(wù)管理子平臺提供數(shù)據(jù)服務(wù)監(jiān)控功能,對數(shù)據(jù)服務(wù)的使用情況進行全面的監(jiān)控,監(jiān)控各個服務(wù)申請使用的狀態(tài)、數(shù)據(jù)共享的性能等,保證數(shù)據(jù)共享的效率和可靠性。統(tǒng)一的數(shù)據(jù)服務(wù)監(jiān)控可實現(xiàn)對數(shù)據(jù)共享的統(tǒng)一調(diào)度和監(jiān)控,為數(shù)據(jù)共享服務(wù)實現(xiàn)數(shù)據(jù)安全、完整、可用、可核查并且可靠穩(wěn)定的運行。數(shù)據(jù)共享接口將清洗后的數(shù)據(jù)以及場景化分析后的數(shù)據(jù)注冊到服務(wù)管理系統(tǒng)中,統(tǒng)一進行對外共享。并且對共享行為進行統(tǒng)一管理和審計。平臺提供應(yīng)用/數(shù)據(jù)服務(wù)的封裝能力,支持將清洗后的數(shù)據(jù)以及場景化分析后的數(shù)據(jù)服務(wù)封裝為標準的服務(wù)接口,供外部系統(tǒng)調(diào)用,實現(xiàn)數(shù)據(jù)共享。數(shù)據(jù)服務(wù)的封裝一般情況下應(yīng)該采用基于Web服務(wù)的方式進行封裝,但同時也支持其他接口協(xié)議的封裝,如HTTP、JMS等方式。平臺可以支持關(guān)系型數(shù)據(jù)庫(Mysql、Oracle)等多種數(shù)據(jù)源的基礎(chǔ)數(shù)據(jù),可以針對不同的數(shù)據(jù)源迅速開發(fā)基礎(chǔ)信息共享接口??梢蕴峁〢PI接口、文件以及庫表等多種當時的服務(wù)接口。數(shù)據(jù)交換監(jiān)控數(shù)據(jù)交換監(jiān)控平臺是在交換平臺監(jiān)控功能的基礎(chǔ)上,實現(xiàn)系統(tǒng)監(jiān)控功能的擴展升級。數(shù)據(jù)交換監(jiān)控平臺實時監(jiān)控交換過程中核心服務(wù)運行狀況,包括交換平臺整體運行狀態(tài)、交換域運行狀態(tài)、交換節(jié)點運行狀態(tài)、交換流程運行狀態(tài)、數(shù)據(jù)交換質(zhì)量、交換失敗數(shù)據(jù)、已發(fā)送和已接收條數(shù)是否一致等信息。數(shù)據(jù)交換監(jiān)控平臺包括系統(tǒng)監(jiān)控、監(jiān)控統(tǒng)計,系統(tǒng)對平臺各系統(tǒng)的用戶、權(quán)限進行統(tǒng)一管理,對數(shù)據(jù)采集與共享交換的運行狀態(tài)進行自動巡檢和統(tǒng)一監(jiān)控。(1)系統(tǒng)監(jiān)控:通過對整體交換網(wǎng)絡(luò)、交換域、交換節(jié)點、交換流程的監(jiān)控,并以豐富多樣的形式展現(xiàn)給用戶,讓用戶全面、準確、及時的掌握整個交換平臺的運行狀況。(2)統(tǒng)計分析:實現(xiàn)全網(wǎng)交換、交換域、交換子域交換節(jié)點、交換流程、發(fā)布訂閱、交換機構(gòu)、數(shù)據(jù)源、交換通道、平臺服務(wù)、故障統(tǒng)計等多種統(tǒng)計分析功能,使用戶能夠全方位、多維度的對各種交換信息進行統(tǒng)計分析,為平臺管理提供分析支持。(3)交換對賬:為了滿足數(shù)據(jù)交換管理要求,需支持交換對賬功能,支持配置對賬規(guī)則,能夠?qū)崟r監(jiān)控已發(fā)送數(shù)據(jù)和已接收數(shù)據(jù)的數(shù)據(jù)量、數(shù)據(jù)條數(shù)是否一致,并對對賬情況進行記錄,出現(xiàn)異常及時提供告警。數(shù)據(jù)治理子平臺建設(shè)在本次項目中,我們將通過大數(shù)據(jù)治理子平臺的建設(shè),提供數(shù)據(jù)標準管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理能力,實現(xiàn)對數(shù)據(jù)的規(guī)范治理與管理;并提供數(shù)據(jù)工廠能力,實現(xiàn)對歸集的數(shù)據(jù)進行清洗、加工,支撐業(yè)務(wù)的數(shù)據(jù)應(yīng)用需求。建設(shè)方案概述數(shù)據(jù)治理就是將數(shù)據(jù)轉(zhuǎn)化為資產(chǎn)的手段和方法,采用數(shù)據(jù)治理系統(tǒng)工具,以分布式存儲和運算為基礎(chǔ),通過人工智能和機器學習技術(shù),輔之以適量的人工訓練和專家反饋不斷優(yōu)化數(shù)據(jù)理解和數(shù)據(jù)關(guān)聯(lián)。本次項目中,數(shù)據(jù)整理治理子平臺的建設(shè)將圍繞區(qū)級大數(shù)據(jù)資源平臺的應(yīng)用建設(shè)目標,提供全面的數(shù)據(jù)治理能力。數(shù)據(jù)治理平臺通過對數(shù)據(jù)全生命周期、端到端的全鏈路透明化管控,實現(xiàn)“數(shù)據(jù)模型標準化、數(shù)據(jù)關(guān)系脈絡(luò)化、數(shù)據(jù)加工可視化、數(shù)據(jù)質(zhì)量度量化”,實現(xiàn)數(shù)據(jù)資產(chǎn)的統(tǒng)一管理及全業(yè)務(wù)流程的實時監(jiān)控,有效解決數(shù)據(jù)資源不可知、數(shù)據(jù)質(zhì)量不可控、數(shù)據(jù)關(guān)系不可聯(lián)、數(shù)據(jù)脈絡(luò)不清晰的痛點問題。通過數(shù)據(jù)治理子平臺的建設(shè)與實施,可以將海量、分散、多樣化的數(shù)據(jù)通過匯集、標準化、清洗等操作對數(shù)據(jù)的質(zhì)量進行全面的提升和監(jiān)控,形成全區(qū)大數(shù)據(jù)的管理機制,并提供一站式數(shù)據(jù)治理體系,持續(xù)不斷的挖掘和提升數(shù)據(jù)的應(yīng)用價值。平臺整體架構(gòu)本項目建設(shè)的數(shù)據(jù)治理子平臺適用于分析型系統(tǒng)數(shù)據(jù)處理的各個過程,負責數(shù)據(jù)的加工處理以及加工處理過程數(shù)據(jù)標準、元數(shù)據(jù)和數(shù)據(jù)質(zhì)量的管理。平臺可以提供數(shù)據(jù)輸入、數(shù)據(jù)加工、數(shù)據(jù)輸出和貫穿數(shù)據(jù)處理各個過程的全流程、全生命周期的數(shù)據(jù)處理、數(shù)據(jù)治理和數(shù)據(jù)管控的一體化建設(shè)。平臺采用工廠化的數(shù)據(jù)處理和管理模式,通過數(shù)據(jù)生產(chǎn)計劃、數(shù)據(jù)生產(chǎn)執(zhí)行和數(shù)據(jù)生產(chǎn)管理三大子模塊,保障數(shù)據(jù)處理全過程透明可控,實現(xiàn)工具化、流程化和自動化的開發(fā)、運維、管理,提升數(shù)據(jù)開發(fā)、生產(chǎn)的效率,保持系統(tǒng)健康、持續(xù)、穩(wěn)定的發(fā)展。具體,本次所建設(shè)的數(shù)據(jù)治理子平臺的整體架構(gòu)如下:數(shù)據(jù)生產(chǎn)計劃模塊:主要功能為:需求設(shè)計、設(shè)計確認等。數(shù)據(jù)處理執(zhí)行模塊:負責數(shù)據(jù)處理計劃的執(zhí)行、數(shù)據(jù)的生產(chǎn)和數(shù)據(jù)質(zhì)量控制等工作。數(shù)據(jù)處理管理模塊:負責軟件開發(fā)和數(shù)據(jù)規(guī)范的管控。平臺技術(shù)架構(gòu)為實現(xiàn)工廠化的數(shù)據(jù)處理和管理,本項目數(shù)據(jù)治理子平臺采用基于元數(shù)據(jù)驅(qū)動的開發(fā)模式,保障元數(shù)據(jù)與實際系統(tǒng)情況的一致性,通過元數(shù)據(jù)準確描述系統(tǒng),指導系統(tǒng)建設(shè)。具體,平臺的技術(shù)架構(gòu)設(shè)計如下:提供數(shù)據(jù)對象設(shè)計功能提供元數(shù)據(jù)獲取和管理功能提供數(shù)據(jù)質(zhì)量管理功能提供對象化接口模塊提供與各類底層平臺對接功能提供可視化的標準IDE環(huán)境提供基于元數(shù)據(jù)血緣圖的調(diào)度功能建設(shè)數(shù)據(jù)資源中心在本次項目中,我們需要制定全區(qū)公共數(shù)據(jù)匯聚的標準規(guī)范和管理制度,歸集全區(qū)各單位的政府公共數(shù)據(jù),形成XX區(qū)的數(shù)據(jù)資源湖。同時經(jīng)過對數(shù)據(jù)進行清洗、轉(zhuǎn)換、融合、治理后,形成高質(zhì)量的公共數(shù)據(jù)資源,構(gòu)建形成標準化數(shù)據(jù)倉庫?;谌珔^(qū)的數(shù)據(jù)資源湖,利用經(jīng)過治理后的數(shù)據(jù),可以針對某一特領(lǐng)域的業(yè)務(wù)數(shù)據(jù)共享、應(yīng)用需求,按主題歸集形成專題庫和主題庫,并面向政務(wù)部門及社會進行數(shù)據(jù)開放。此外,我們還將持續(xù)開展、深入?yún)^(qū)級大數(shù)據(jù)的應(yīng)用探索,圍繞跨部門、跨領(lǐng)域、跨行業(yè)的數(shù)據(jù)應(yīng)用需求,對數(shù)據(jù)實體進行數(shù)據(jù)關(guān)聯(lián)、數(shù)據(jù)融合和衍生計算,生成算法標簽,逐步建立不同領(lǐng)域的應(yīng)用專題或主題庫構(gòu)建面向全區(qū)多部門提供統(tǒng)籌的數(shù)據(jù)共建共享共用的數(shù)據(jù)服務(wù)。具體,在本次區(qū)級大數(shù)據(jù)資源平臺建設(shè)項目中,數(shù)據(jù)資源門戶的建設(shè)內(nèi)容包括:建立XX區(qū)級數(shù)據(jù)湖:構(gòu)建全區(qū)公共數(shù)據(jù)的存儲與計算空間,支撐各類數(shù)據(jù)資源的匯聚存儲、處理計算與查詢應(yīng)用,并依據(jù)部門類別、數(shù)據(jù)源類別等提供資源隔離的多租戶數(shù)據(jù)應(yīng)用空間;完成數(shù)據(jù)對接的實施:完成與區(qū)各委辦業(yè)務(wù)與管理系統(tǒng)、S市大數(shù)據(jù)資源平臺以及物聯(lián)網(wǎng)相關(guān)平臺數(shù)據(jù)的對接,匯聚各類業(yè)務(wù)數(shù)據(jù),形成全區(qū)公共數(shù)據(jù)資源池;建設(shè)基礎(chǔ)庫:建設(shè)全區(qū)統(tǒng)一的基礎(chǔ)人口綜合庫、法人綜合庫、電子證照庫以及地理空間庫,支撐全區(qū)人口、法人、電子證照與地理空間等數(shù)據(jù)相關(guān)應(yīng)用;建設(shè)主題庫:建設(shè)全區(qū)統(tǒng)一的產(chǎn)業(yè)經(jīng)濟主題庫、電子證照主題庫、權(quán)力事項主題庫等,支撐全區(qū)產(chǎn)業(yè)經(jīng)濟相關(guān)數(shù)據(jù)應(yīng)用。資源目錄管理資源目錄管理實現(xiàn)數(shù)據(jù)梳理、編目、目錄管理、目錄服務(wù)等管理,建立和維護公共的共享信息資源目錄,實現(xiàn)信息資源的發(fā)現(xiàn)和定位,協(xié)助共享平臺管理部門梳理服務(wù)目錄,同時指導各部門進行共享信息資源目錄的梳理。系統(tǒng)支撐按照基礎(chǔ)目錄、主題目錄、部門目錄等維度進行分類,并支持按照目錄類型和更新時間進行排序,提供目錄檢索、目錄下載、目錄統(tǒng)計、目錄瀏覽等功能。資源梳理1.總體方法大數(shù)據(jù)目錄體系的建設(shè),信息資源梳理是基礎(chǔ),通過梳理工作才能全面了解部門的數(shù)據(jù)家底。整個過程要以數(shù)據(jù)為核心,從業(yè)務(wù)、信息化、供需等層面全面調(diào)研、整理、分析。通過以數(shù)據(jù)為核心的架構(gòu)思維,完成整個政務(wù)信息資源的全面梳理、有序規(guī)范和資源編目工作。2.工作思路為了保障資源工作的順利推進,將通過5個方面來開展工作:1、前期準備:了解各部門的職責范圍、業(yè)務(wù)過程、資源情況2、需求調(diào)研:摸清資源分布,明確共享需求,明確資源公開方式3、資源整理:整理分析哪些委辦局的業(yè)務(wù)有哪些系統(tǒng)支持,哪些業(yè)務(wù)產(chǎn)生了數(shù)據(jù),并對這些信息資源進行規(guī)范化表示4、資源分析:信息資源分析和資源目錄是對信息資源進行一個高層次的整理和歸類5、成果產(chǎn)出:形成報告、資源目錄和相關(guān)的標準規(guī)范。資源編目實現(xiàn)政務(wù)信息的分類和編目。提供公共資源核心元數(shù)據(jù)的手工編輯功能,包括增加、修改、刪除等。支持手工錄入的同時,支持批量導入和利用目錄更新接口等多種方式。平臺可以將梳理后的資源通過數(shù)據(jù)目錄平臺進行編目,數(shù)據(jù)目錄平臺主要包括如下功能:1.應(yīng)用系統(tǒng)信息管理支持應(yīng)用系統(tǒng)信息的錄入、編輯、查詢等功能。2.數(shù)據(jù)庫信息管理支持應(yīng)用系統(tǒng)相關(guān)數(shù)據(jù)庫信息的錄入、編輯、查詢等功能。3.機構(gòu)信息管理支持機構(gòu)信息的錄入、編輯、查詢等功能。4.庫表目錄管理支持庫表目錄的錄入、編輯、發(fā)布、查詢、統(tǒng)計等功能。目錄提交實現(xiàn)目錄提供單位向目錄管理單位正式確認和正式提交公共數(shù)據(jù)資源元數(shù)據(jù)編制成果。目錄審核實現(xiàn)目錄管理單位向目錄提供單位確認所提交的公共數(shù)據(jù)資源元數(shù)據(jù)是否符合標準要求的審核功能。目錄發(fā)布實現(xiàn)目錄管理者將目錄內(nèi)容的核心元數(shù)據(jù)發(fā)布到指定服務(wù)器或網(wǎng)站上的功能。匯總管理實現(xiàn)目錄提供單位面向其多個下級單位或工程參建單位進行政務(wù)部門公共數(shù)據(jù)資源目錄的匯總編制的功能,實現(xiàn)公共數(shù)據(jù)資源管理、共享和發(fā)布等功能。實現(xiàn)資源目錄維護、信息資源的管理、信息資源目錄的導出和導入等功能。實現(xiàn)多部門、多單位共同編制資源目錄業(yè)務(wù)應(yīng)用。目錄導出目錄導出主要實現(xiàn)為資源提供者提供本部門政務(wù)信息、目錄信息的導出功能。資源掛載實現(xiàn)信息資源目錄與公共數(shù)據(jù)資源建立對應(yīng)關(guān)系。用戶通過信息資源描述項的內(nèi)容快速定位政務(wù)公共資源的元數(shù)據(jù),并實現(xiàn)快速調(diào)取數(shù)據(jù)資源。幫助用戶方便、快速地獲取所需的信息資源和數(shù)據(jù)資源。數(shù)據(jù)標準管理數(shù)據(jù)標準規(guī)范了業(yè)務(wù)術(shù)語,元數(shù)據(jù),參考數(shù)據(jù),基礎(chǔ)數(shù)據(jù),指標數(shù)據(jù)的規(guī)范定義、獲取原則、管理要求等。包括設(shè)計基礎(chǔ)類和分析類數(shù)據(jù)標準,制定數(shù)據(jù)標準管理制度和流程,明確數(shù)據(jù)標準管理組織和職責,以明確的組織、職責、流程設(shè)計為前提,調(diào)動業(yè)務(wù)部門、技術(shù)部門和系統(tǒng)技術(shù)團隊共同參與數(shù)據(jù)標準設(shè)計,建立全局數(shù)據(jù)標準流程,制定總體落地計劃,推動數(shù)據(jù)標準落地執(zhí)行,增強內(nèi)部對數(shù)據(jù)標準的理解,指導信息化建設(shè)中對數(shù)據(jù)標準的參照。數(shù)據(jù)標準管理規(guī)范數(shù)據(jù)標準管理體系主要包含數(shù)據(jù)標準管理、落地實施機制、及數(shù)據(jù)標準管理平臺維護三部分。平臺通過對數(shù)據(jù)標準管理、落地實施機制、及數(shù)據(jù)標準管理平臺維護三部分進行數(shù)據(jù)資源管理,制定數(shù)據(jù)標準管理制度和流程,明確數(shù)據(jù)標準管理組織和職責,以明確的組織、職責、流程設(shè)計。落地實施機制從規(guī)范推廣、技術(shù)平臺支撐兩方面保障;數(shù)據(jù)標準平臺維護主要包括建設(shè)數(shù)據(jù)標準技術(shù)平臺,支撐數(shù)據(jù)標準日常管理工作兩方面。數(shù)據(jù)標準管理機制設(shè)計設(shè)計基礎(chǔ)類和分析類數(shù)據(jù)標準,制定數(shù)據(jù)標準管理制度和流程,明確數(shù)據(jù)標準管理組織和職責,以明確的組織、職責、流程設(shè)計為前提,調(diào)動業(yè)務(wù)部門、技術(shù)部門和系統(tǒng)技術(shù)團隊共同參與數(shù)據(jù)標準設(shè)計,建立企業(yè)級數(shù)據(jù)標準流程,制定總體落地計劃,推動數(shù)據(jù)標準落地執(zhí)行,增強對數(shù)據(jù)標準的理解,指導信息化建設(shè)中對數(shù)據(jù)標準的參照。數(shù)據(jù)標準分類規(guī)范數(shù)據(jù)標準是對數(shù)據(jù)的名稱、含義、結(jié)構(gòu)、取值等信息的統(tǒng)一定義,達成對數(shù)據(jù)的業(yè)務(wù)理解、技術(shù)實現(xiàn)的一致性。基于數(shù)據(jù)模型理論將數(shù)據(jù)標準延伸至5個分類,涵蓋技術(shù)、業(yè)務(wù)多個視角。業(yè)務(wù)術(shù)語:從一致性、通用性等方面統(tǒng)一業(yè)務(wù)術(shù)語定義。數(shù)據(jù)項標準:用來描述實體的某種屬性,包含數(shù)據(jù)項的名稱、編號、別名、簡述、數(shù)據(jù)項的長度、類型、數(shù)據(jù)項的取值范圍。參考數(shù)據(jù)標準:識別參考數(shù)據(jù),并建立參考數(shù)據(jù)的統(tǒng)一標準樣例,使參考數(shù)據(jù)可在不同系統(tǒng)中被使用而保持統(tǒng)一標準值。主數(shù)據(jù)標準:主數(shù)據(jù)編碼是應(yīng)用系統(tǒng)中的重要數(shù)據(jù)類型之一,通常用來描述業(yè)務(wù)操作的具體對象及其特征,注重唯一性,特征一致性,穩(wěn)定性及有效性。唯一性:在一個系統(tǒng),一個平臺甚至整個范圍內(nèi)同一主數(shù)據(jù)編碼要求具有唯一的識別標志(代碼,名稱,特征描述等),用以明確區(qū)分業(yè)務(wù)對象,業(yè)務(wù)范圍和業(yè)務(wù)的具體細節(jié)特征一致性:主數(shù)據(jù)在不同系統(tǒng)中,均按統(tǒng)一標準出現(xiàn)穩(wěn)定性:主數(shù)據(jù)相對穩(wěn)定,本身屬性不會隨交易過程而被修改有效性:貫穿該業(yè)務(wù)對象的全生命周期過程,只要該業(yè)務(wù)對象存在,則此數(shù)據(jù)不會喪失有效性指標數(shù)據(jù)標準:需要收集指標的管理信息、業(yè)務(wù)定義、以及維度定義,需要兼顧通用性和個性化,個性化方面支持各使用部門個性化定制數(shù)據(jù)標準設(shè)計規(guī)范以分析型應(yīng)用建設(shè)和操作型應(yīng)用集成為導向,兩套方法結(jié)合,建立數(shù)據(jù)標準設(shè)計體系分析型應(yīng)用建設(shè)導向:以分析應(yīng)用指標范圍為依據(jù),重點結(jié)合業(yè)務(wù)戰(zhàn)略及管理要求,自上而下追溯數(shù)據(jù)源,聚焦數(shù)據(jù)標準范圍。操作型應(yīng)用集成導向:自上而下的原則,基于實際業(yè)務(wù)流程及操作,重點識別跨業(yè)務(wù)、跨流程的集成點及關(guān)鍵步驟,分析提煉共享數(shù)據(jù),完成業(yè)務(wù)流程和應(yīng)用共享的數(shù)據(jù)映射,刪除冗余、非重點數(shù)據(jù),精簡數(shù)據(jù)標準建設(shè)范圍。數(shù)據(jù)項標準數(shù)據(jù)項標準管理支持代碼的分類、標準代碼項的新增、導入、導出功能,提供了標準代碼維護的能力;可關(guān)聯(lián)到國標、地標代碼字典,為數(shù)據(jù)的規(guī)范性提供了更加詳細的描述,為后續(xù)的數(shù)據(jù)質(zhì)量、數(shù)據(jù)標準等工作提供支撐。標準數(shù)據(jù)項具有唯一的編碼(標準代碼),按照實際的業(yè)務(wù)領(lǐng)域進行分類之后,可以形成帶有業(yè)務(wù)領(lǐng)域特征的相關(guān)編碼,為元數(shù)據(jù)的質(zhì)量檢查提供依據(jù)。數(shù)據(jù)維度標準對系統(tǒng)進行各類維度的設(shè)置,方便各類數(shù)據(jù)的管理和維護,如:在質(zhì)量檢查中需要檢查一個字段的數(shù)據(jù)是否是指定的內(nèi)容(顏色、型號等),便可將指定的內(nèi)容配置到維度中,后續(xù)選擇該維度,便可檢查出數(shù)據(jù)是否在這些指定的內(nèi)容中。數(shù)據(jù)字典標準對表名、表字段等進行命名規(guī)范,將頻率使用極高的詞指定為標準元素,命名標準化是對用戶以后的標準制定和系統(tǒng)的某些命名推薦功能具有指導作用,方便查找數(shù)據(jù),讓整個系統(tǒng)更加清晰更利于操作和維護。數(shù)據(jù)命名標準需要對表字段進行命名的規(guī)范,同時也需要對表名進行命名的規(guī)范,例如:將表的名稱以主題_數(shù)據(jù)庫_XXX的方式進行命名,更加清晰的展示出表名是屬于哪一個主題,哪一個數(shù)據(jù)庫的。使數(shù)據(jù)的來源更加的清晰可見,讓整個系統(tǒng)更加清晰更利于操作和維護。元數(shù)據(jù)管理按照數(shù)據(jù)整合的層次結(jié)構(gòu)、主題域劃分,需要實現(xiàn)各層的各種對象,如表、存儲過程、索引、數(shù)據(jù)鏈、函數(shù)和包等的管理。清晰的表示各層次結(jié)構(gòu)之間的數(shù)據(jù)流程、各對象之間的關(guān)系,以及向外提供的各類數(shù)據(jù)服務(wù)的信息。元數(shù)據(jù)管理內(nèi)容元數(shù)據(jù)內(nèi)容涉及到整個大數(shù)據(jù)資源平臺的各個數(shù)據(jù)環(huán)節(jié),包括數(shù)據(jù)采集、逐層加工稽核,數(shù)據(jù)服務(wù)到最終應(yīng)用展現(xiàn)的處理,元數(shù)據(jù)管理貫穿了整個流程,并與各環(huán)節(jié)實現(xiàn)有效互動。元數(shù)據(jù)管理分類按照元數(shù)據(jù)的定義分類,綜合價值分析系統(tǒng)元數(shù)據(jù)管理分為業(yè)務(wù)元數(shù)據(jù)、技術(shù)元數(shù)據(jù)、管理元數(shù)據(jù)三類。其中:(1)業(yè)務(wù)元數(shù)據(jù)使用者的業(yè)務(wù)術(shù)語所表達的數(shù)據(jù)模型、對象名和屬性名;訪問數(shù)據(jù)的原則和數(shù)據(jù)來源;系統(tǒng)所提供的分析方法及公式、報表信息;對業(yè)務(wù)元數(shù)據(jù)來源的管理和差異性對比;(2)技術(shù)元數(shù)據(jù)系統(tǒng)結(jié)構(gòu)的描述(各個主題的定義,星型模式或雪花型模式的描述定義等);整合數(shù)據(jù)層的機構(gòu)單位的數(shù)據(jù)模型描述(以描述關(guān)系表及其關(guān)聯(lián)關(guān)系為形式);對數(shù)據(jù)稽核規(guī)則的定義、匯總數(shù)據(jù)層模型描述與裝載描述(包括維度、層次、度量以及相應(yīng)事實表、概要表的抽取規(guī)則);(3)管理元數(shù)據(jù)系統(tǒng)內(nèi)部用戶的數(shù)據(jù)處理操作規(guī)則,包括抽取、轉(zhuǎn)換、加載、匯總等各類操作的用戶權(quán)限、操作時間窗管理、異常處理規(guī)則等;外部訪問用戶(主要針對該系統(tǒng)對外提供的數(shù)據(jù)服務(wù))的操作規(guī)則和方式,包括所提供的數(shù)據(jù)服務(wù)接口、數(shù)據(jù)訪問方式、操作;各類用戶的操作記錄日志,包括操作用戶、登錄方式、操作對象、持續(xù)時間、操作類型等相關(guān)信息。元數(shù)據(jù)管理組織為了保障元數(shù)據(jù)管理目標的順利達成,需要從組織架構(gòu)層面建立專業(yè)的元數(shù)據(jù)管控組織予以保障,確保元數(shù)據(jù)管控要求得以落實、制度得以執(zhí)行。元數(shù)據(jù)管理流程元數(shù)據(jù)維護管理流程是以需求提出作為開始,經(jīng)歷規(guī)劃設(shè)計、開發(fā)實施、需求驗收等項目階段的元數(shù)據(jù)建立和校驗,最后實現(xiàn)元數(shù)據(jù)的發(fā)布和運維管理。在這些階段中,元數(shù)據(jù)管控組負責元數(shù)據(jù)信息的全生命周期流程的管理和監(jiān)控。元數(shù)據(jù)管理功能元數(shù)據(jù)管理包括元數(shù)據(jù)基礎(chǔ)數(shù)據(jù)管理和元數(shù)據(jù)應(yīng)用,由元數(shù)據(jù)自動獲取、元數(shù)據(jù)檢索、數(shù)據(jù)模型管理、元數(shù)據(jù)管理功能組成等。元數(shù)據(jù)正向采集對元數(shù)據(jù)獲取數(shù)據(jù)源以及這些數(shù)據(jù)源之間的關(guān)系進行集中登記管理,并形成自動獲取數(shù)據(jù)源的全局視圖,實現(xiàn)元數(shù)據(jù)自動獲取數(shù)據(jù)信息。要實現(xiàn)元數(shù)據(jù)的自動獲取,需要在集成的元數(shù)據(jù)平臺中配置自動獲取策略和調(diào)度時間等,使元數(shù)據(jù)能夠按預設(shè)的調(diào)度策略觸發(fā)相應(yīng)的元數(shù)據(jù)自動獲取過程,滿足元數(shù)據(jù)自動獲取的時效性。調(diào)度策略包括時間周期觸發(fā)、事件觸發(fā)兩種方式。例如,在每周星期一凌晨00:00到01:00之間觸發(fā)數(shù)據(jù)資源平臺元數(shù)據(jù)的自動獲取過程,或者在數(shù)據(jù)處理程序更新后12小時內(nèi)觸發(fā)相應(yīng)的映射關(guān)系元數(shù)據(jù)自動獲取過程。元數(shù)據(jù)維護包括元數(shù)據(jù)的定義、變更及版本管理,對主機信息、數(shù)據(jù)庫信息、用戶信息、數(shù)據(jù)對象信息、業(yè)務(wù)規(guī)則信息、加工邏輯等進行維護和管控。元數(shù)據(jù)檢索在元數(shù)據(jù)管理首頁用戶通過輸入關(guān)鍵字后,系統(tǒng)采用全文檢索的方式迅速查找和關(guān)鍵字匹配的權(quán)限范圍內(nèi)的元數(shù)據(jù)信息,并將信息返回給用戶。用戶能夠通過展示的路徑信息快速定位到元數(shù)據(jù)組織樹上的節(jié)點。元數(shù)據(jù)版本版本管理分為元數(shù)據(jù)對象版本管理與基線版本管理兩種類型。元數(shù)據(jù)對象版本:對元數(shù)據(jù)的每次提交形成版本(上一版本形成歷史版本),提供歷史版本間,歷史版本與當前版本對比功能;基線版本,對某一階段產(chǎn)生的元數(shù)據(jù)對象形成數(shù)據(jù)集,提供不同階段產(chǎn)生的數(shù)據(jù)集的版本比較權(quán)限管理及查詢統(tǒng)一實現(xiàn)數(shù)據(jù)庫的訪問和操作管控,對用戶進行角色權(quán)限、對象權(quán)限、數(shù)據(jù)權(quán)限等方面的管控和查詢;元數(shù)據(jù)的導入/導出在系統(tǒng)層面實現(xiàn)元數(shù)據(jù)的導入/導出功能,以保證數(shù)據(jù)模型、數(shù)據(jù)對象能夠靈活的遷移,支持模型間的檢查和比對,以便于數(shù)據(jù)模型的維護和擴展。數(shù)據(jù)質(zhì)量管理數(shù)據(jù)質(zhì)量管理主要包含對數(shù)據(jù)完整性、準確性、一致性、規(guī)范性的分析和管理,并對數(shù)據(jù)進行跟蹤、處理和解決,實現(xiàn)對數(shù)據(jù)質(zhì)量的全程管理,提高數(shù)據(jù)的質(zhì)量。能夠提供規(guī)則配置、質(zhì)量監(jiān)控、質(zhì)量分析等功能,及時發(fā)現(xiàn)并分析數(shù)據(jù)質(zhì)量問題,不斷改善數(shù)據(jù)的使用質(zhì)量,從而提升數(shù)據(jù)的可用性,挖掘數(shù)據(jù)更大的價值。質(zhì)量模型配置數(shù)據(jù)質(zhì)量分析的基本單元,一個質(zhì)量模型由可以由一套實體表、一套規(guī)則以及多套質(zhì)檢方案組成,用戶在定義質(zhì)檢方案時,可以根據(jù)業(yè)務(wù)需要選擇實體表和規(guī)則,方案與方案之間相互獨立,互不干擾。通過執(zhí)行模型下的質(zhì)檢方案,可以得到用戶關(guān)心的數(shù)據(jù)質(zhì)量分析結(jié)果,如問題數(shù)據(jù)明細信息、數(shù)據(jù)質(zhì)量分析結(jié)果等。質(zhì)量規(guī)則管理數(shù)據(jù)質(zhì)量規(guī)則是數(shù)據(jù)質(zhì)量審核的邏輯校驗標準,是數(shù)據(jù)質(zhì)量監(jiān)控管理的基礎(chǔ)。系統(tǒng)支持多種規(guī)則類型,提供了全方位的視角來為用戶解析數(shù)據(jù)質(zhì)量。一套規(guī)則能在多套方案中復用,在保證多角度準確數(shù)據(jù)質(zhì)量分析的前提下,大大減少了用戶投入的精力與時間,為用戶提供了一種靈活而全面的數(shù)據(jù)質(zhì)量分析方式。系統(tǒng)包括以下質(zhì)量規(guī)則:完整性檢查表級完整性:當批次表完整,目標表數(shù)量與原表數(shù)量一致字段完整性:目標表字段完整,與源表字段一致記錄完整性:目標表記錄數(shù)完整,與源表記錄數(shù)一致,缺失記錄檢查:記錄缺失檢查用于判斷記錄是否完整,是否缺少數(shù)據(jù)行。規(guī)范性檢查支持日期字段規(guī)范性、時間字段規(guī)范性、身份證規(guī)范性、郵箱規(guī)范性、手機號碼規(guī)范性等檢查準確性檢查空值檢查:用于檢查關(guān)鍵字段非空值域檢查:用于檢查關(guān)鍵字段的取值范圍,支持數(shù)值型、字符型、日期型字段檢查邏輯檢查邏輯檢查用于檢查指標之間是否滿足一定的邏輯關(guān)系關(guān)聯(lián)性檢查引用關(guān)聯(lián)性:用于判斷實體表中的數(shù)據(jù)是否完全存在于比照表中。實體表檢查字段中的數(shù)據(jù)必須全部存在于比照表的比照字段中,規(guī)則算法:實體表的檢查字段關(guān)聯(lián)distinct后的比照表的字段,關(guān)聯(lián)后,如果比照字段為空,則檢查字段的值非來源于比照表,則該規(guī)則對應(yīng)結(jié)果為false唯一性檢查重復數(shù)據(jù)檢查:用于檢查表內(nèi)是否有重復數(shù)據(jù)。匯總數(shù)據(jù)重復性檢查:groupby重復依據(jù)字段,count(1)>1的算重復主鍵檢查。一致性檢查支持字段、表間字段、表間記錄一致性檢查。方案配置調(diào)度依據(jù)質(zhì)量規(guī)則執(zhí)行的實際治理需求,通過圖形化界面配置多種質(zhì)檢規(guī)則組成可執(zhí)行方案,依據(jù)執(zhí)行規(guī)則管控平臺自動執(zhí)行質(zhì)量規(guī)則檢查。質(zhì)量規(guī)則執(zhí)行觸發(fā)方式支持按固定時間周期(如月、周、日)、事件觸發(fā)等執(zhí)行方式,并且在控制臺可以查看質(zhì)檢方案執(zhí)行歷史,對數(shù)據(jù)質(zhì)檢全流程進行管控。界面配置通過圖形化界面配置多種質(zhì)檢規(guī)則組成可執(zhí)行方案,通過界面進行數(shù)據(jù)傳參。觸發(fā)方式質(zhì)量規(guī)則執(zhí)行觸發(fā)方式支持按固定時間周期(如月、周、日)、事件觸發(fā)等執(zhí)行方式。全流程管控固定時間監(jiān)控業(yè)務(wù)系統(tǒng)運行的各類數(shù)據(jù),及時發(fā)現(xiàn)并整改數(shù)據(jù)異常,完善系統(tǒng)運行機制。質(zhì)檢結(jié)果查看基于質(zhì)檢方案執(zhí)行過程,反饋每次質(zhì)檢產(chǎn)生的異常數(shù)據(jù),根據(jù)問題數(shù)據(jù)所配置的規(guī)則提供詳情、比對及整改重檢的能力。結(jié)合實際可執(zhí)行和可實現(xiàn)的原則,分析系統(tǒng)存在的數(shù)據(jù)質(zhì)量問題:分析與檢測著重于在數(shù)據(jù)的定義基礎(chǔ)上,利用數(shù)據(jù)的邏輯和業(yè)務(wù)規(guī)則度數(shù)據(jù)質(zhì)量進行檢測和分析。整改與重建著重與在數(shù)據(jù)的分析和檢測基礎(chǔ)上,利用起結(jié)果對數(shù)據(jù),特別是源數(shù)據(jù)的數(shù)據(jù)管理提出整改意見,重建數(shù)據(jù)質(zhì)量的管理能力。質(zhì)檢分析報告基于質(zhì)檢方案及質(zhì)檢結(jié)果,對每次質(zhì)檢的檢查數(shù)、問題數(shù)、整改數(shù)等進行統(tǒng)計,形成統(tǒng)計圖。支持按日、按月統(tǒng)計及柱狀圖、折線圖。數(shù)據(jù)開發(fā)平臺數(shù)據(jù)開發(fā)能力數(shù)據(jù)源適配(1)傳統(tǒng)關(guān)系型數(shù)據(jù)庫支持但不限于如下數(shù)據(jù)庫:Oracle、DB2、SqlServer、MySql、MongoDB、PostgreSQL、dm、sysbasese等主流數(shù)據(jù)庫適配器(2)大數(shù)據(jù)平臺支持Hive、HDFS、HBASE、Kafka、ES等數(shù)據(jù)源;支持大數(shù)據(jù)平臺的快速對接(3)外部系統(tǒng)支持FTP、JMS、Webservice、http\https等通訊類適配器等數(shù)據(jù)清洗支持數(shù)據(jù)內(nèi)容清洗,如通過關(guān)聯(lián)關(guān)系,將A數(shù)據(jù)源中的數(shù)據(jù)清洗為數(shù)據(jù)源B中的數(shù)據(jù);支持數(shù)據(jù)格式化:統(tǒng)一數(shù)據(jù)源中同類數(shù)據(jù)的格式,具體包括時間、數(shù)值、字符等數(shù)據(jù);支持各種字符操作,包括但不限于:字符替換、字符截取、字符連接;支持空值處理:捕獲空值,根據(jù)規(guī)則替換為對應(yīng)數(shù)據(jù);支持復雜條件過濾,過濾條件可靈活配置;支持海量數(shù)據(jù)處理引擎,如Hive、MPP、Spark等數(shù)據(jù)轉(zhuǎn)換支持任意合理的數(shù)據(jù)格式轉(zhuǎn)換,包括但不限于:時間類型的轉(zhuǎn)換、字符編碼轉(zhuǎn)換;支持任意合理的數(shù)據(jù)類型轉(zhuǎn)換;ETL處理過程支持各種字符集的轉(zhuǎn)換;支持數(shù)據(jù)轉(zhuǎn)換過程中對數(shù)據(jù)進行加解密操作;支持海量數(shù)據(jù)處理引擎,如Hive、MPP、Spark等數(shù)據(jù)開發(fā)平臺數(shù)據(jù)開發(fā)完成多種環(huán)境的全量與增量數(shù)據(jù)處理能力,簡化開發(fā)過程。統(tǒng)一數(shù)據(jù)開發(fā)入口,支持可視化開發(fā)和原生態(tài)開發(fā)兩種開發(fā)模式,實現(xiàn)原生態(tài)開發(fā)與可視化編排的互相轉(zhuǎn)換,提升開發(fā)效率。支持可視化開發(fā)支持原生態(tài)開發(fā)開發(fā)工具是用于配置中介流程、組件及適配器開發(fā)工具,它提供了完整的從設(shè)計、開發(fā)、配置到打包部署整個階段的GUI(GraphicalUserInterface,圖形用戶界面)工具,幫助用戶快速利用和充分發(fā)揮數(shù)據(jù)服務(wù)集成管理系統(tǒng)的服務(wù)中介功能。統(tǒng)一調(diào)度管理平臺支持對數(shù)據(jù)開發(fā)與管理任務(wù)的統(tǒng)一調(diào)度,包括流程設(shè)計與管理、調(diào)度策略管控、任務(wù)調(diào)度控制等功能模塊,通過作業(yè)/任務(wù)管理、作業(yè)/任務(wù)調(diào)度、作業(yè)/任務(wù)執(zhí)行實現(xiàn)對采集、轉(zhuǎn)換、加載、調(diào)度、監(jiān)控,從而形成統(tǒng)一的調(diào)度與管理。以一個業(yè)務(wù)量生產(chǎn)過程為例。傳統(tǒng)做法是通過接口通信表或時序依賴進行協(xié)同生產(chǎn)。在統(tǒng)一調(diào)度平臺中以數(shù)據(jù)流作為驅(qū)動,通過控制中心進行作業(yè)命令下發(fā),狀態(tài)收集進行控制,達到各個異構(gòu)系統(tǒng),多個子系統(tǒng)的協(xié)同調(diào)度。時間調(diào)度 根據(jù)事先定義的執(zhí)行頻度,計算下次執(zhí)行時間,記錄執(zhí)行次數(shù),并進行流程調(diào)度。提供等間隔時間調(diào)度和定時調(diào)度,具備自動運行和手工執(zhí)行兩種啟動方式。事件調(diào)度 支持某一個任務(wù)流程依賴于一個或幾個前置的任務(wù)的完成進行觸發(fā)。支持當所有前置任務(wù)調(diào)度成功,同時系統(tǒng)對任務(wù)條件驗證通過后,依賴的任務(wù)根據(jù)調(diào)度系統(tǒng)中的流程id和數(shù)據(jù)日期立即執(zhí)行一次調(diào)度計劃,并將相應(yīng)流程調(diào)度起來,生成完整的調(diào)度任務(wù)進行調(diào)度。調(diào)度運行 支持作業(yè)狀態(tài)查看和控制功能,可查看作業(yè)運行過程中任務(wù)的多種運行狀態(tài) 支持對錯誤進行分析,可查看到具體的錯誤信息,并通過數(shù)據(jù)依賴視圖,查看當前作業(yè)錯誤對其他作業(yè)的影響情況 支持對錯誤進行相關(guān)處理,比如進行作業(yè)繼續(xù)執(zhí)行或者重新執(zhí)行等操作。任務(wù)監(jiān)控 任務(wù)監(jiān)控模塊主要是對調(diào)度任務(wù)運行狀況的監(jiān)控,可對失敗任務(wù)的重做、執(zhí)行日志查詢、執(zhí)行時長分析等信息的查看及操作。任務(wù)調(diào)度 可以查詢所有調(diào)度任務(wù)的詳細信息以及流程關(guān)系信息。查看調(diào)度的基本配置信息,比如調(diào)度周期、執(zhí)行時間等;流程圖查看的是調(diào)度任務(wù)的流程關(guān)系信息,比如當前調(diào)度任務(wù)與其他調(diào)度任務(wù)是否有依賴關(guān)系等。數(shù)據(jù)資產(chǎn)管理數(shù)據(jù)資產(chǎn)管理主要負責對數(shù)據(jù)治理全過程中所有資源的管理,包括資產(chǎn)注冊管理、資產(chǎn)目錄管理、資產(chǎn)分類管理等功能。數(shù)據(jù)資產(chǎn)注冊管理平臺提供對數(shù)據(jù)資產(chǎn)注冊管理的功能,主要包括對業(yè)務(wù)系統(tǒng)、數(shù)據(jù)庫、表、字段等進行注冊管理。1)業(yè)務(wù)系統(tǒng)信息收集與資產(chǎn)注冊,包含但不限于以下內(nèi)容:業(yè)務(wù)系統(tǒng)名稱業(yè)務(wù)系統(tǒng)描述業(yè)務(wù)系統(tǒng)服務(wù)IP業(yè)務(wù)系統(tǒng)服務(wù)端口2)數(shù)據(jù)庫信息采集與資產(chǎn)注冊,包含但不限于以下內(nèi)容:數(shù)據(jù)庫類型數(shù)據(jù)庫版本數(shù)據(jù)庫服務(wù)IP數(shù)據(jù)庫服務(wù)端口數(shù)據(jù)庫SID數(shù)據(jù)庫表空間3)表結(jié)構(gòu)信息采集與資產(chǎn)注冊,包含但不限于以下內(nèi)容:表名稱表中文名稱業(yè)務(wù)信息描述表結(jié)構(gòu)定義表數(shù)據(jù)處理邏輯4)字段信息采集與資產(chǎn)注冊,包含但不限于以下內(nèi)容:字段名稱字段中文名稱字段詳細描述字段類型定義數(shù)據(jù)資產(chǎn)分類管理平臺提供對數(shù)據(jù)資產(chǎn)的分類管理功能,在數(shù)據(jù)資產(chǎn)注冊同時或注冊后,可在數(shù)據(jù)資產(chǎn)上標識不同的屬性,通過屬性完成對數(shù)據(jù)資產(chǎn)的分類整理,為資產(chǎn)查詢、資產(chǎn)統(tǒng)計、資產(chǎn)盤點等功能提供支撐。數(shù)據(jù)資產(chǎn)分類體系在數(shù)據(jù)資產(chǎn)的分類管理中,平臺按照數(shù)據(jù)資產(chǎn)的生命周期對數(shù)據(jù)資產(chǎn)進行分層,即貼源層、清洗層、融合層和共享層。貼源層是指數(shù)據(jù)從各個數(shù)據(jù)源抽取到大數(shù)據(jù)平臺,清洗及融合層是數(shù)據(jù)在大數(shù)據(jù)平臺內(nèi)進行加工處理的過程,共享層是指大數(shù)據(jù)平臺數(shù)據(jù)輸出到外部渠道或內(nèi)部渠道。數(shù)據(jù)資產(chǎn)分類查詢平臺提供數(shù)據(jù)資產(chǎn)分類查詢功能,可通過選取分類屬性中具體的屬性對數(shù)據(jù)資產(chǎn)進行篩查。數(shù)據(jù)資產(chǎn)分類統(tǒng)計提供數(shù)據(jù)資產(chǎn)分類統(tǒng)計功能,可對各種屬性的數(shù)據(jù)資產(chǎn)進行分類統(tǒng)計,并形成統(tǒng)計報表,供使用人員查詢不同屬性數(shù)據(jù)資產(chǎn)的整體統(tǒng)計情況。數(shù)據(jù)資產(chǎn)目錄管理數(shù)據(jù)資產(chǎn)目錄資產(chǎn)目錄是對平臺元數(shù)據(jù)的有序組織,是記錄數(shù)據(jù)體系的保障數(shù)據(jù)類目是目錄信息與服務(wù)、保障與支撐所組成的一個整體針對資產(chǎn)的合理組織,需要對資產(chǎn)進行對應(yīng)分類,如部門類目、主題類目、基礎(chǔ)目錄等,可對該類目下資產(chǎn)數(shù)據(jù)進行搜索、展現(xiàn)以及權(quán)限申請。數(shù)據(jù)資產(chǎn)查詢平臺提供數(shù)據(jù)資產(chǎn)查詢功能,主要分為通用查詢和高級查詢兩種方式。通用查詢:通過在通用查詢搜索框中輸入查詢關(guān)鍵字,可對數(shù)據(jù)資產(chǎn)進行模糊查詢。高級查詢:根據(jù)指定數(shù)據(jù)資產(chǎn)屬性信息的具體值對數(shù)據(jù)資產(chǎn)進行精確查詢,包括數(shù)據(jù)資產(chǎn)名稱、資產(chǎn)編碼、資產(chǎn)分類標簽等屬性。數(shù)據(jù)資產(chǎn)可視化視圖提供數(shù)據(jù)資產(chǎn)可視化視圖,實數(shù)據(jù)治理過程中數(shù)據(jù)資產(chǎn)的可視化展示,分別包括數(shù)據(jù)歸集視圖、數(shù)據(jù)治理視圖、數(shù)據(jù)資源視圖、數(shù)據(jù)共享視圖及監(jiān)控運維視圖。數(shù)據(jù)采集視圖數(shù)據(jù)治理視圖數(shù)據(jù)資源視圖數(shù)據(jù)共享視圖監(jiān)控運維視圖數(shù)據(jù)資源門戶建設(shè)建設(shè)統(tǒng)一的數(shù)據(jù)資源門戶,有效集成整合各子平臺應(yīng)用功能模塊,數(shù)據(jù)資源目錄整合、統(tǒng)一用戶賬號、組織架構(gòu)、角色權(quán)限、業(yè)務(wù)流程、信息展示以及統(tǒng)一運維等方面的管理,全面打造面向各單位工作人員的一體化統(tǒng)一數(shù)據(jù)管理與應(yīng)用門戶。數(shù)據(jù)資源門戶作為數(shù)據(jù)資源中心信息發(fā)布和資源服務(wù)的總管理入口,為XX區(qū)各級單位提供數(shù)據(jù)資源展示、數(shù)據(jù)資源檢索、數(shù)據(jù)服務(wù)申請等服務(wù)??梢詫崿F(xiàn)全域跨部門、跨層級的公共數(shù)據(jù)資源共享,包含資源目錄展示及統(tǒng)計、資源綜合檢索定位、資源申請審核、資源訂閱、資源API接口申請等功能,并可以作為政務(wù)信息平臺和基礎(chǔ)庫查詢及利用等功能的入口載體。利用數(shù)據(jù)資源門戶可以推動全區(qū)公共數(shù)據(jù)和社會數(shù)據(jù)的交互和開放使用,加強政企數(shù)據(jù)互動、加快統(tǒng)一公共數(shù)據(jù)歸集、強化數(shù)據(jù)管理治理、探索數(shù)據(jù)應(yīng)用,促進數(shù)據(jù)共享協(xié)同與開放,實現(xiàn)數(shù)據(jù)智能的社會化應(yīng)用價值,為提升全區(qū)政府治理能力,實現(xiàn)管理向服務(wù)轉(zhuǎn)變提供支撐。門戶首頁設(shè)計數(shù)據(jù)資源門戶基本管理模塊主要提供數(shù)據(jù)成果的展示和應(yīng)用訪問入口的應(yīng)用集成。提供單點登錄、訪問權(quán)限管理,后臺內(nèi)容管理等功能。前端的網(wǎng)站頁面的主要功能是面向普通用戶進行訪問、下載;后臺的管理系統(tǒng)的主要功能是面向管理員進行運營、管理。用戶在首頁可以看到共享目錄數(shù)量、共享資源數(shù)量、推薦目錄和接口、信息資源,可根據(jù)目錄名稱、資源名稱等進行模糊查詢。門戶還需要為政府內(nèi)部用戶提供平臺功能及其操作方法的介紹和幫助說明,使各級用戶盡快掌握使用方法。統(tǒng)一用戶管理對用戶數(shù)據(jù)進行集中管理,形成標準身份庫,實現(xiàn)用戶信息的全生命周期管理,用戶信息自動同步到各應(yīng)用系統(tǒng)。收集梳理各用戶信息來源,建立統(tǒng)一的用戶信息中心;完成從上游系統(tǒng)同步用戶、組織機構(gòu)數(shù)據(jù);實現(xiàn)與下游應(yīng)用系統(tǒng)同步用戶、組織機構(gòu)信息并提供數(shù)據(jù)同步接口,提供對用戶和組織機構(gòu)維護功能;提供用戶、組織機構(gòu)等信息批量操作功能;可支持定義多套組織機構(gòu),能夠靈活擴展用戶和組織機構(gòu)屬性定義;需支持分級分權(quán)的組織結(jié)構(gòu)管理功能。實現(xiàn)統(tǒng)一組織架構(gòu)、人員管理,對用戶的屬性、權(quán)限進行劃分設(shè)定。采用基于角色的授權(quán)方式,可以動態(tài)維護角色,并把用戶添加到指定的角色中去。統(tǒng)一認證授權(quán)為用戶提供統(tǒng)一集中的身份管理,實現(xiàn)以自然人為單位管理員工的入職、變更、離職等過程,實現(xiàn)業(yè)務(wù)系統(tǒng)的資源賬號的創(chuàng)建、刪除等賬號管理生命周期所包含的基本功能,可進行賬號密碼策略、密碼強度、生命周期的設(shè)定。提供對用戶身份統(tǒng)一權(quán)限配置和統(tǒng)一訪問控制等服務(wù)。能夠針對各類業(yè)務(wù)、欄目等資源授以相應(yīng)權(quán)限范圍,將用戶實體與其角色、崗位、部門等權(quán)限屬性相分離,使每個人員都具備不同應(yīng)用權(quán)限,實現(xiàn)每級或每個用戶只能在自身權(quán)限范圍之內(nèi)訪問相應(yīng)的業(yè)務(wù)、欄目等資源。滿足基于“管用審”原則的權(quán)限管理模型,訪問主體分為管理員、業(yè)務(wù)員、審計員;角色分為管理類、使用類、審計類;訪問客體功能菜單分為管理類、使用類、審計類、共用類。身份認證根據(jù)用戶的實際需要,提供不同強度的認證方式,可以使用靜態(tài)口令方式,也可以使用具有雙因素認證方式的高強度認證,包含短信認證、數(shù)字證書、動態(tài)令牌等。具體內(nèi)容包括但不局限于如下方面:認證方式:提供多種即插即用的認證方式,包括用戶名密碼、靜態(tài)口令校驗、圖片檢驗碼、短信認證、郵件認證、口令、OTP令牌認證、UKEY認證等;支持多種認證技術(shù)按策略進行認證鏈組合,支持組合認證、雙因素認證、二次認證等認證方式,以便滿足不同場景的認證要求。認證方式分級:認證方式建立分級管理機制,不同的認證方式劃分為不同的級別,實現(xiàn)不同的認證等級,對應(yīng)用系統(tǒng)、用戶可分別提供不同認證等級管理,僅當用戶等級高于應(yīng)用認證等級時才能訪問該應(yīng)用系統(tǒng)。用戶授權(quán)需提供完備的權(quán)限管理功能,包括統(tǒng)一身份管理與訪問控制平臺自身權(quán)限和各應(yīng)用系統(tǒng)內(nèi)部權(quán)限兩部分。具體內(nèi)容包括但不限于以下內(nèi)容:平臺權(quán)限:平臺需實現(xiàn)基于角色的權(quán)限管理,根據(jù)用戶所屬平臺角色配置相應(yīng)平臺權(quán)限菜單。細粒度權(quán)限控制:支持通過為用戶分配應(yīng)用系統(tǒng)角色實現(xiàn)應(yīng)用系統(tǒng)細粒度的權(quán)限控制;能夠?qū)崿F(xiàn)對應(yīng)用系統(tǒng)菜單權(quán)限、按鈕權(quán)限、數(shù)據(jù)權(quán)限等細粒度權(quán)限的控制。自動權(quán)限管理:支持基于用戶組和資源組的自動權(quán)限管理,按照用戶屬性對用戶進行分組,對應(yīng)用系統(tǒng)資源進行分組,建立資源組,配置用戶組擁有的資源組權(quán)限策略,實現(xiàn)自動權(quán)限管理功能;支持單獨對用戶進行應(yīng)用系統(tǒng)訪問授權(quán)和角色授權(quán),如果該用戶擁有相關(guān)的用戶組權(quán)限,那么取并集得到用戶最終擁有的應(yīng)用系統(tǒng)權(quán)限。分級授權(quán)管理:支持對平臺系統(tǒng)進行分級分段管理??砂凑战M織、用戶、應(yīng)用、認證方式等要素劃分管理級別,且管理員只能管理其管轄內(nèi)的用戶與系統(tǒng)資源,不可跨區(qū)管理,但管理級別支持向上繼承。整合資源管理 全面整合各類資源信息,并提供統(tǒng)一的數(shù)據(jù)資源整合服務(wù),包括:資源檢索、資源查詢、資源展示、資源申請等。整合公共數(shù)據(jù)與共享資源并提供資源分類功能,可按照基礎(chǔ)目錄、主題目錄、部門目錄等維度進行分類,支持按照目錄類型和更新時間進行排序,也支撐按庫表、文件、接口等不同形式進行分類,并支持資源檢索??梢詽M足用戶的數(shù)據(jù)資源信息查詢需求,可對各個部門共享匯聚的數(shù)據(jù)資源進行多資源關(guān)聯(lián)查詢。統(tǒng)一審批管理平臺提供統(tǒng)一的流程管理與審批功能,包括:流程發(fā)起、流程流轉(zhuǎn)、流程審批等,構(gòu)建流程管理能力,支撐整個數(shù)據(jù)資源平臺中所涉及到的各類流程的審批處理與統(tǒng)一管理。平臺支持根據(jù)不同的應(yīng)用場景(包括:數(shù)據(jù)資源查詢申請、數(shù)據(jù)服務(wù)應(yīng)用申請等),制定針對性的流程,用以支撐相關(guān)業(yè)務(wù)場景的運轉(zhuǎn)處理,并滿足業(yè)務(wù)管理需求,進而支撐整個區(qū)級大數(shù)據(jù)資源平臺的高效運營。資源目錄服務(wù)公共數(shù)據(jù)資源目錄服務(wù)提供目錄分類功能,可按照基礎(chǔ)目錄、主題目錄、部門目錄等維度進行分類,支持按照目錄類型和更新時間進行排序,提供目錄檢索、目錄下載、目錄統(tǒng)計、目錄瀏覽等功能。資源目錄模塊提供社會公眾通過資源目錄查找到需要的數(shù)據(jù),找到相應(yīng)數(shù)據(jù)的獲取方式,社會公眾可以通過數(shù)據(jù)下載,數(shù)據(jù)接口等多種方式進行獲取,公眾獲取數(shù)據(jù)時必須提供用戶注冊認證機制。用戶可以通過數(shù)據(jù)資源主題,數(shù)據(jù)來源部門等多種方式進行查找。用戶可以在系統(tǒng)中進行數(shù)據(jù)搜索,系統(tǒng)首頁提供搜索引擎,包括一般搜索和高級搜索,一般搜索是指輸入數(shù)據(jù)、應(yīng)用或接口的名稱進行直接搜索。高級搜索是指根據(jù)數(shù)據(jù)、應(yīng)用或接口的領(lǐng)域、提供機構(gòu)以及綜合評價進行多維度的搜索。資源目錄信息查詢服務(wù)可以滿足用戶的信息查詢需求,可對各個部門共享匯聚的數(shù)據(jù)資源進行多資源關(guān)聯(lián)查詢。統(tǒng)一消息管理為用戶提供多個系統(tǒng)消息的統(tǒng)一接收、提醒和展示的功能。為應(yīng)用提供統(tǒng)一的消息發(fā)送接口,屏蔽消息終端的發(fā)送細節(jié),減少重復對接,節(jié)約成本。消息類型管理消息類型即為消息來源,一般以消息來源系統(tǒng)或者功能模塊來區(qū)分,例如:待辦事宜、郵件、郵件反饋、日程、任務(wù)等幾種消息類型。消息類型用以在消息展示的時候進行分類,便于用戶快速理解消息的作用和來源。每個消息類型需要定義一個編號,應(yīng)用在進行消息推送時需要指定消息類型。消息渠道管理消息渠道即為消息的提醒方式,就是消息發(fā)送的目標,例如:短信提醒、微信提醒、門戶提醒、即時通訊工具提醒等等。由于消息提醒的方式多樣,在不同地區(qū)、不同項目中又存在不同的實現(xiàn)形式,需要對消息渠道進行統(tǒng)一的約束,從而能夠達到動態(tài)管理的目標。除了管理渠道的名稱、編號這些基本信息以外,渠道實際的處理邏輯也需要被管理,通過注冊API或者實現(xiàn)類的方式來進行。通用規(guī)則管理規(guī)則即為消息類型與消息渠道的關(guān)系,實際表示某個消息類型會通過哪些渠道進行消息提醒。例如,郵件需要進行短信、門戶、即時通訊3種方式進行提醒,則在規(guī)則配置中,就需要將“郵件”消息類型與3個消息渠道配置關(guān)聯(lián)。同時可以配置在每個渠道下,針對“郵件”提醒內(nèi)容的模板。用戶自定義規(guī)則管理上述通用的規(guī)則由平臺管理員進行管理,而使用系統(tǒng)的每一個用戶,都可以進行自定義的消息規(guī)則管理。主要的目的是,在通用配置的基礎(chǔ)上,用戶根據(jù)自己需要選擇關(guān)閉某些提醒設(shè)置。消息過期一般消息都存在時效性,為了減少消息表數(shù)據(jù)量,降低系統(tǒng)損耗,對于太久沒有閱讀(1周以上)的消息,系統(tǒng)會自動置為已讀,并移入消息歷史。消息發(fā)送處理針對發(fā)送消息處理的需求,主要如下:滿足每天1-5萬次的消息量。高可用,支持分布式架構(gòu),可以橫向擴展。高性能,支持異步處理。穩(wěn)定可靠,保證消息的成功送達,支持失敗后重發(fā)。系統(tǒng)崩潰,消息也可恢復并繼續(xù)發(fā)送。統(tǒng)一日志管理為各基礎(chǔ)服務(wù)和應(yīng)用系統(tǒng)提供統(tǒng)一的日志管理,包括應(yīng)用注冊、日志記錄、日志分析、日志提醒等功能。通過對各類日志的統(tǒng)一管理,達到實時監(jiān)控系統(tǒng)質(zhì)量、快速解決系統(tǒng)故障的目的。具體功能為:支持多角度分類管理:按來源、嚴重程度和處理方式等對日志分類。支持應(yīng)用注冊管理:注冊后,各應(yīng)用系統(tǒng)方能使用統(tǒng)一日志服務(wù)。提供多種日志記錄方式:異構(gòu)Webservice、動態(tài)鏈接庫、頁面調(diào)用等。日志提醒:與消息通信服務(wù)集成,需快速響應(yīng)的日志產(chǎn)生后,通過發(fā)短信、發(fā)郵件等方式及時通知運維管理人員。系統(tǒng)管理員要查看各子系統(tǒng)的運行情況、用戶使用情況,并形成統(tǒng)計報表;在出現(xiàn)意外情況時,可以根據(jù)日志記錄查找操作人員和操作情況。隨著信息化建設(shè)的不斷深入,今后還有大量開發(fā)的新信息系統(tǒng)不斷上線使用,面對這些系統(tǒng),監(jiān)管功能是必不可少的。系統(tǒng)管理員可以用日志系統(tǒng)查看系統(tǒng)運行情況,查看各單位及個人對應(yīng)用系統(tǒng)的使用情況,并統(tǒng)計數(shù)據(jù)輸出相關(guān)報表,得出電子政務(wù)建設(shè)效能分析報告。同時,可以在出現(xiàn)特殊情況的時候,從日志系統(tǒng)中找出相關(guān)信息,為故障診斷、責任認定提供第一手資料。日志審計管理為保留系統(tǒng)的各類操作記錄,提供日志審計功能,將日志分門別類進行頁面展示、審計。支持對系統(tǒng)管理日志、用戶認證與操作日志、訪問應(yīng)用系統(tǒng)日志進行審計,并能夠支持通過風險策略實時監(jiān)控并干預用戶異常行為,防范非法登錄風險。具體內(nèi)容包括但不限于以下內(nèi)容:賬號管理審計:對系統(tǒng)管理操作進行審計,支持應(yīng)用系統(tǒng)孤兒賬號檢查;支持檢測出孤兒賬號中的活動賬號和非活動賬號;支持對檢測出的孤兒賬號進行自動或手工處理,消除孤兒賬號。賬號合規(guī)檢查審計:支持對應(yīng)用系統(tǒng)賬號進行合規(guī)性審查,包括以下功能,檢測應(yīng)用系統(tǒng)子賬號總數(shù)、檢測應(yīng)用系統(tǒng)已綁定賬號數(shù)、檢測活動賬號和非活動賬號、檢查賬號信息與身份管理系統(tǒng)中用戶信息的一致性。安全審計功能:審計應(yīng)覆蓋到用戶管理與訪問控制的每個環(huán)節(jié),包括管理員對系統(tǒng)的管理行為審計、普通用戶的訪問行為審計、系統(tǒng)的運行情況審計;審計應(yīng)記錄應(yīng)用系統(tǒng)重要的安全相關(guān)事件,包括重要用戶行為、系統(tǒng)資源的異常使用、授權(quán)操作、重要系統(tǒng)功能的執(zhí)行和賬號、用戶數(shù)據(jù)及組織架構(gòu)的變更等;相關(guān)事件的記錄應(yīng)包括日期和時間、類型、主體標識、客體標識、事件的結(jié)果等。安全日志統(tǒng)計采集信息資源平臺基礎(chǔ)環(huán)境網(wǎng)絡(luò)安全設(shè)備日志和各子平臺的操作系統(tǒng)日志、應(yīng)用日志,按照合規(guī)要求進行集中存儲和審計分析,發(fā)現(xiàn)數(shù)據(jù)安全風險。安全日志采集支持對網(wǎng)路安全設(shè)備日志、操作系統(tǒng)日志、大數(shù)據(jù)資源平臺各系統(tǒng)應(yīng)用日志的采集。支持采集節(jié)點通過Ftp/Sftp、webservice、SNMP、file、JDBC/ODBC等協(xié)議主動采集數(shù)據(jù)或者Syslog、Webservice、Flow等協(xié)議被動接收數(shù)據(jù);安全日志存儲支持安全日志的分布式存儲,能夠滿足至少6個月的日志存儲要求;安全日志處理支持基于業(yè)務(wù)需要對采集到數(shù)據(jù)類型進行統(tǒng)一格式化處理,滿足存儲層數(shù)據(jù)格式定義的要求;支持對需求擴展字段內(nèi)容的補全,關(guān)聯(lián)補齊后形成完整的數(shù)據(jù),能夠豐富數(shù)據(jù)以便于后期的統(tǒng)計分析;安全日志檢索支持以多種組合條件的安全日志查詢檢索,支持使用lucene語句進行高級查詢檢索;安全日志分析通過風險識別規(guī)則的設(shè)定,對安全日志進行集中審計分析安全風險。支持針對所包含的關(guān)鍵信息提取出來構(gòu)成審計的規(guī)則項進行分析的關(guān)鍵字分析;支持基于操作者、時間、地點、發(fā)生次數(shù)進行統(tǒng)計與分析的統(tǒng)計分析規(guī)則;支持組合判斷多個事件判斷操作行為性質(zhì),發(fā)掘隱藏的相關(guān)性,發(fā)現(xiàn)可能存在的違規(guī)行為的關(guān)聯(lián)分析規(guī)則。統(tǒng)一監(jiān)控運維提供統(tǒng)一監(jiān)控運維功能,保證整個數(shù)據(jù)資源平臺的穩(wěn)定與高效運行,并提升數(shù)據(jù)資源全生命周期的保障執(zhí)行力和運維效率。統(tǒng)一監(jiān)控運維負責對區(qū)級大數(shù)據(jù)資源平臺內(nèi)的所有基礎(chǔ)資源,系統(tǒng)模塊,系統(tǒng)運行行情況提供整體的監(jiān)控告警,運維視圖,巡檢等工具承載。使得區(qū)級大數(shù)據(jù)資源平臺上快速發(fā)現(xiàn)異常,及時發(fā)現(xiàn)并告知維護人員,快速恢復,提升平臺內(nèi)外客戶感知。監(jiān)控資源管理資源模型梳理服務(wù)根據(jù)資源管理對象分類的實際需要,系統(tǒng)可自由設(shè)定資源模型。支持資源模型無限擴展,靈活支撐各種資源的管理需求。提供資源模型的增刪改的基本維護操作,資源模型主要是由系統(tǒng)管理員進行維護。在資源模型規(guī)定的基礎(chǔ)屬性上,增加資源屬性的擴展管理,將資源屬性與資源模型解耦,建立資源屬性庫,對擴展屬性進行統(tǒng)一管理。資源數(shù)據(jù)管理服務(wù)在已有資源模型基礎(chǔ)上,創(chuàng)建所有運行監(jiān)測平臺需要管理的資源對象數(shù)據(jù)。并進行統(tǒng)一的管理(如上線、變更、監(jiān)控、關(guān)聯(lián)關(guān)系、下線、刪除等)。建立一套良好的資源數(shù)據(jù)維護機制,通過對資源數(shù)據(jù)的導入導出、資源數(shù)據(jù)的更新和審核功能來保證資源管理數(shù)據(jù)的準確性。資源自動化管理服務(wù)針對大量復雜的資源對象初始化、數(shù)據(jù)稽查,難以通過手工錄入方式實現(xiàn),平臺提供自動化管理能力。主要包括資源數(shù)據(jù)自動化發(fā)現(xiàn)、資源關(guān)系自動化發(fā)現(xiàn)、自動化數(shù)據(jù)處理、資源自動化核查。如上圖所示,在資源的上線,下線和應(yīng)用的各類操作中,通過監(jiān)控管理中心,運維管理中心等各個模塊,實現(xiàn)了對資源的全生命周期管理。在資源的生命管理中,提供資源數(shù)據(jù)服務(wù)和資源

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論