版權(quán)說(shuō)明:本文檔由用戶(hù)提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)據(jù)標(biāo)準(zhǔn)化白皮書(shū)
大數(shù)據(jù)標(biāo)準(zhǔn)化白皮書(shū)
指導(dǎo)單位:工業(yè)和信息化部軟件服務(wù)業(yè)司
國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)工業(yè)二部
編制單位:中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院
二零一四年六月
1.前言
1.1研究背景
大數(shù)據(jù)1(BigData)是一場(chǎng)革命,將改變我們的生活、工作和思維方式。
繼移動(dòng)互聯(lián)網(wǎng)、云計(jì)算后,大數(shù)據(jù)逐漸成為對(duì)于ICT產(chǎn)業(yè)具有深遠(yuǎn)影響的技術(shù)變
革。大數(shù)據(jù)技術(shù)的發(fā)展與應(yīng)用,將對(duì)社會(huì)的組織結(jié)構(gòu)、國(guó)家的治理模式、企業(yè)的
決策架構(gòu)、商業(yè)的業(yè)務(wù)策略以及個(gè)人的生活方式產(chǎn)生深刻影響。
我國(guó)正處于工業(yè)化向信息化發(fā)展的轉(zhuǎn)型時(shí)期,信息的公開(kāi)、共享與服務(wù)成為
時(shí)代發(fā)展的主題。信息逐漸成為與物質(zhì)和能源同等重要的資源,以開(kāi)發(fā)和利用信
息資源為目的的經(jīng)濟(jì)活動(dòng)迅速擴(kuò)大,逐漸占據(jù)或超越工業(yè)活動(dòng)在國(guó)民經(jīng)濟(jì)活動(dòng)中
的地位。大數(shù)據(jù)的出現(xiàn)是跨學(xué)科技術(shù)與應(yīng)用發(fā)展的結(jié)果。對(duì)于大數(shù)據(jù),自然科學(xué)
家強(qiáng)調(diào)網(wǎng)絡(luò)虛擬環(huán)境下對(duì)于密集型數(shù)據(jù)的研究方法,社會(huì)科學(xué)家則看重密集型數(shù)
據(jù)后面隱藏的價(jià)值與推動(dòng)社會(huì)發(fā)展的模式。
1.2研究目標(biāo)及意義
本白皮書(shū)力圖從應(yīng)用、技術(shù)、產(chǎn)業(yè)、標(biāo)準(zhǔn)等角度,勾畫(huà)出大數(shù)據(jù)發(fā)展的整體
輪廓,探索從應(yīng)用、技術(shù)、產(chǎn)業(yè)等維度綜合分析大數(shù)據(jù)標(biāo)準(zhǔn)化工作需求。
本白皮書(shū)立足于大數(shù)據(jù)發(fā)展所處的工業(yè)社會(huì)向信息社會(huì)轉(zhuǎn)型的歷史時(shí)期所
獨(dú)具的政策、經(jīng)濟(jì)與文化等特點(diǎn),分析處于初期發(fā)展階段的大數(shù)據(jù)對(duì)于經(jīng)濟(jì)、社
會(huì)、產(chǎn)業(yè)的作用和影響;介紹目前國(guó)內(nèi)、國(guó)外主要國(guó)家在大數(shù)據(jù)發(fā)展戰(zhàn)略、技術(shù)
與應(yīng)用方面的布局與實(shí)踐。
1Mayer-SchonbergerV,CukierKN.BigData:ARevolutionThatWillTransformHowWeLive,Work,and
Think[M].EamonDolan/HoughtonMifflinHarcourt,2013
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
本白皮書(shū)從數(shù)據(jù)生存周期的角度提出大數(shù)據(jù)的技術(shù)參考模型,分析大數(shù)據(jù)發(fā)
展的關(guān)鍵技術(shù),同時(shí)拋開(kāi)其他影響因素,從數(shù)據(jù)自身的角度提出在不斷創(chuàng)新的應(yīng)
用與服務(wù)模式下,大數(shù)據(jù)的標(biāo)準(zhǔn)體系框架及急需研制的標(biāo)準(zhǔn)項(xiàng)目。
本白皮書(shū)的發(fā)布旨在與業(yè)界分享我們?cè)诖髷?shù)據(jù)領(lǐng)域的研究成果、實(shí)踐經(jīng)驗(yàn),
呼吁社會(huì)各界共同關(guān)注大數(shù)據(jù)的政策研究、技術(shù)投入、標(biāo)準(zhǔn)建設(shè)與服務(wù)應(yīng)用,共
同推動(dòng)大數(shù)據(jù)的發(fā)展,提升社會(huì)整體決策與服務(wù)管理能力。
此外,我們還組織了國(guó)內(nèi)相關(guān)企業(yè)、學(xué)校和研究機(jī)構(gòu)的從業(yè)人員針對(duì)大數(shù)據(jù)
應(yīng)用、產(chǎn)業(yè)、技術(shù)與標(biāo)準(zhǔn)化需求進(jìn)行了問(wèn)卷調(diào)研??偣舱{(diào)研了28家高校及科研
單位以及46家企業(yè)(多數(shù)為規(guī)模在100人以上的中大型企業(yè),以IT集成商、軟
件產(chǎn)品提供商為主,同時(shí)也包含了一些傳統(tǒng)行業(yè)和電子商務(wù)企業(yè),調(diào)研單位清單
見(jiàn)附件)?;厥沼行?wèn)卷二百余份2。通過(guò)對(duì)調(diào)研數(shù)據(jù)的分析,初步形成了對(duì)于
大數(shù)據(jù)應(yīng)用、技術(shù)、產(chǎn)業(yè)發(fā)展以及標(biāo)準(zhǔn)化需求的成果,作為業(yè)界共同研究的基礎(chǔ)。
1.3指導(dǎo)單位和參與單位
本白皮書(shū)的編寫(xiě)得到工業(yè)和信息化部軟件服務(wù)業(yè)司和國(guó)家標(biāo)準(zhǔn)化管理委員
會(huì)工業(yè)二部的指導(dǎo),并且也得到了業(yè)內(nèi)有關(guān)產(chǎn)、學(xué)、研、用等單位和專(zhuān)家的大力
支持。北京航空航天大學(xué)計(jì)算機(jī)學(xué)院、北京大學(xué)信息化與信息管理研究中心、北
大方正國(guó)際集團(tuán)、京東商城、中國(guó)電子軟件研究院、華迪技術(shù)有限公司、華為公
司、中國(guó)農(nóng)業(yè)科學(xué)研究院農(nóng)業(yè)信息研究所、北京師范大學(xué)管理學(xué)院、華中科技大
學(xué)、武漢大學(xué)軟件工程國(guó)家重點(diǎn)實(shí)驗(yàn)室、東方通、上海計(jì)算機(jī)軟件中心、中國(guó)石
油天然氣管道總公司、百度、阿里、騰訊公司、浪潮集團(tuán)、北京華電祥云、中宇
萬(wàn)通、微軟中國(guó)、甲骨文公司、金蝶公司、IBM公司等派員參與了本白皮書(shū)的編
寫(xiě)。
2有效問(wèn)卷數(shù)量204例。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
2.大數(shù)據(jù)基本概念、特征與作用
2.1大數(shù)據(jù)的基本概念和內(nèi)涵
針對(duì)大數(shù)據(jù),目前存在多種不同的理解和定義。
按照NIST發(fā)布的研究報(bào)告的定義,大數(shù)據(jù)是用來(lái)描述在我們網(wǎng)絡(luò)的、數(shù)字
的、遍布傳感器的、信息驅(qū)動(dòng)的世界中呈現(xiàn)出的數(shù)據(jù)泛濫的常用詞語(yǔ)。大量數(shù)據(jù)
資源為解決以前不可能解決的問(wèn)題帶來(lái)了可能性。
按照Gartner的定義,大數(shù)據(jù)是需要新處理模式才能具有更強(qiáng)的決策力、洞
察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長(zhǎng)率和多樣化的信息資產(chǎn)3。
根據(jù)百度百科詞條的定義,大數(shù)據(jù),或稱(chēng)巨量資料,指的是所涉及的資料量
規(guī)模巨大到無(wú)法透過(guò)目前主流軟件工具,在合理時(shí)間內(nèi)達(dá)到擷取、管理、處理、
并整理成為幫助企業(yè)經(jīng)營(yíng)決策更積極目的的資訊4。數(shù)據(jù)規(guī)模超出傳統(tǒng)數(shù)據(jù)庫(kù)軟
件采集、存儲(chǔ)、管理和分析等能力的范疇,多種數(shù)據(jù)源,多種數(shù)據(jù)種類(lèi)和格式?jīng)_
破傳統(tǒng)的結(jié)構(gòu)化數(shù)據(jù)范疇,社會(huì)向著數(shù)據(jù)驅(qū)動(dòng)型的預(yù)測(cè)、發(fā)展和決策方向轉(zhuǎn)變,
決策、組織、業(yè)務(wù)等行為日益基于數(shù)據(jù)和客觀(guān)分析做出。
除了學(xué)術(shù)界、科研界的定義外,我國(guó)IT學(xué)術(shù)界和企業(yè)對(duì)大數(shù)據(jù)也有自己的
看法,通過(guò)調(diào)研,我們發(fā)現(xiàn)超過(guò)一半的受訪(fǎng)者認(rèn)同“新型的數(shù)據(jù)和分析”,而“新
形勢(shì)的數(shù)據(jù)應(yīng)用”和“更大范圍的信息”則分列二、三位,“大量的數(shù)據(jù)”這一
選項(xiàng)僅僅位列第四。由此可見(jiàn),大量的受訪(fǎng)者已經(jīng)意識(shí)到大數(shù)據(jù)的重點(diǎn)在于“數(shù)
據(jù)”的分析和應(yīng)用,而“大”不過(guò)是信息技術(shù)不斷發(fā)展所產(chǎn)生的海量數(shù)據(jù)的表象
而已。(參見(jiàn)圖1)。
3引自Gartner大數(shù)據(jù)定義
4引自百度百科大數(shù)據(jù)詞條
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
圖1受訪(fǎng)者對(duì)于大數(shù)據(jù)的認(rèn)識(shí)
本報(bào)告的觀(guān)點(diǎn)是大數(shù)據(jù)代表著數(shù)據(jù)從量到質(zhì)的變化過(guò)程;代表著數(shù)據(jù)作為一
種資源在經(jīng)濟(jì)與社會(huì)實(shí)踐中扮演越來(lái)越重要的角色,相關(guān)的技術(shù)、產(chǎn)業(yè)、應(yīng)用、
政策等環(huán)境會(huì)與之互相影響、互為促進(jìn)。從技術(shù)角度來(lái)看,這種數(shù)據(jù)規(guī)模質(zhì)變后
帶來(lái)新的問(wèn)題,即數(shù)據(jù)從靜態(tài)變?yōu)閯?dòng)態(tài),從簡(jiǎn)單的多維度變成巨量維度,而且其
種類(lèi)日益豐富,超出當(dāng)前技術(shù)與工具控制管理的范疇。這些數(shù)據(jù)的采集、分析、
處理、存儲(chǔ)、展現(xiàn)都涉及復(fù)雜的多模態(tài)高維計(jì)算過(guò)程,涉及異構(gòu)媒體的統(tǒng)一語(yǔ)義
描述、數(shù)據(jù)模型、大容量存儲(chǔ)建設(shè),涉及多維度數(shù)據(jù)的特征關(guān)聯(lián)與模擬展現(xiàn)。然
而,大數(shù)據(jù)發(fā)展的最終目標(biāo)還是挖掘其應(yīng)用價(jià)值,沒(méi)有價(jià)值或者沒(méi)有發(fā)現(xiàn)其價(jià)值
的大數(shù)據(jù)從某種意義上講是一種冗余和負(fù)擔(dān)。
2.2大數(shù)據(jù)的特征
目前,業(yè)內(nèi)對(duì)于大數(shù)據(jù)特征的研究主要集中在“3V”、“4V”兩種,歸納起
來(lái),可以分為規(guī)模、變化頻度、種類(lèi)和價(jià)值密度等幾個(gè)維度。研究機(jī)構(gòu)IDC定義
了大數(shù)據(jù)的四大特征——海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)和動(dòng)態(tài)的數(shù)據(jù)體系、
多樣的數(shù)據(jù)類(lèi)型和巨大的數(shù)據(jù)價(jià)值,將“價(jià)值”作為第四個(gè)“V”。其他一些機(jī)
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
構(gòu)則將真實(shí)性作為第四個(gè)“V”。還有學(xué)者認(rèn)為應(yīng)該將(供應(yīng)商,vendor)作為
第四個(gè)“V”。
本報(bào)告對(duì)于大數(shù)據(jù)的特征從數(shù)量(Volume)、多樣性(Variety)、速度
(Velocity)、價(jià)值(Value)以及真實(shí)性(Veracity)五個(gè)方面進(jìn)行認(rèn)識(shí)和理解。
數(shù)量:聚合在一起供分析的數(shù)據(jù)規(guī)模非常龐大。谷歌執(zhí)行董事長(zhǎng)艾瑞特·施
密特曾說(shuō),現(xiàn)在全球每?jī)商靹?chuàng)造的數(shù)據(jù)規(guī)模等同于從人類(lèi)文明至2003年間產(chǎn)生
的數(shù)據(jù)量總和。“大”是相對(duì)而言的概念,對(duì)于搜索引擎,EB屬于比較大的規(guī)
模,但是對(duì)于各類(lèi)數(shù)據(jù)庫(kù)或數(shù)據(jù)分析軟件而言,其規(guī)模量級(jí)會(huì)有比較大的差別。
多樣性:數(shù)據(jù)形態(tài)多樣,從生成類(lèi)型上分為交易數(shù)據(jù)、交互數(shù)據(jù)、傳感數(shù)據(jù);
從數(shù)據(jù)來(lái)源上分為社交媒體、傳感器數(shù)據(jù)、系統(tǒng)數(shù)據(jù);從數(shù)據(jù)格式上分為文本、
圖片、音頻、視頻、光譜等;從數(shù)據(jù)關(guān)系上分為結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)
據(jù);從數(shù)據(jù)所有者分為公司數(shù)據(jù)、政府?dāng)?shù)據(jù)、社會(huì)數(shù)據(jù)等。
速度:一方面是數(shù)據(jù)的增長(zhǎng)速度快,另一方面是要求數(shù)據(jù)訪(fǎng)問(wèn)、處理、交付
等速度快。美國(guó)的馬丁·希爾伯特說(shuō),數(shù)字?jǐn)?shù)據(jù)儲(chǔ)量每3年就會(huì)翻1倍。人類(lèi)存
儲(chǔ)信息的速度比世界經(jīng)濟(jì)的增長(zhǎng)速度快4倍。
價(jià)值:盡管我們擁有大量數(shù)據(jù),但是發(fā)揮價(jià)值的僅是其中非常小的部分。大
數(shù)據(jù)背后潛藏的價(jià)值巨大。美國(guó)社交網(wǎng)站Facebook有10億用戶(hù),網(wǎng)站對(duì)這些用
戶(hù)信息進(jìn)行分析后,廣告商可根據(jù)結(jié)果精準(zhǔn)投放廣告。對(duì)廣告商而言,10億用
戶(hù)的數(shù)據(jù)價(jià)值上千億美元。據(jù)資料報(bào)道,2012年,運(yùn)用大數(shù)據(jù)的世界貿(mào)易額已
達(dá)60億美元。
真實(shí)性:一方面,對(duì)于虛擬網(wǎng)絡(luò)環(huán)境下如此大量的數(shù)據(jù)需要采取措施確保其
真實(shí)性、客觀(guān)性,這是大數(shù)據(jù)技術(shù)與業(yè)務(wù)發(fā)展的迫切需求;另一方面,通過(guò)大數(shù)
據(jù)分析,真實(shí)地還原和預(yù)測(cè)事物的本來(lái)面目也是大數(shù)據(jù)未來(lái)發(fā)展的趨勢(shì)。
在調(diào)查過(guò)程中,受訪(fǎng)者對(duì)于大數(shù)據(jù)特性的關(guān)注度如圖2所示,從高到低依次
為多樣性、價(jià)值、真實(shí)性、數(shù)量、速度。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
圖2受訪(fǎng)者對(duì)于大數(shù)據(jù)特征的關(guān)注度
從圖2中我們不難看出,在大數(shù)據(jù)的幾個(gè)特征中,“多樣性”和“價(jià)值”最
被大家所關(guān)注。“多樣性”之所以被最為關(guān)注,在于數(shù)據(jù)的多樣性使得其存儲(chǔ)、
應(yīng)用等各個(gè)方面都發(fā)生了變化,針對(duì)于多樣化數(shù)據(jù)的處理需求也成為了技術(shù)重點(diǎn)
攻關(guān)方向。而“價(jià)值”則不言而喻,不論是數(shù)據(jù)本身的價(jià)值還是其中蘊(yùn)含的價(jià)值
都是企業(yè)、部門(mén)、政府機(jī)關(guān)所希望的。因此,如何將如此多樣化的數(shù)據(jù)轉(zhuǎn)化為有
價(jià)值的存在,是大數(shù)據(jù)所要解決的重要問(wèn)題。
2.3大數(shù)據(jù)的重要作用
據(jù)資料顯示,近年來(lái),甲骨文、IBM、微軟、SAP、惠普等公司已經(jīng)在數(shù)據(jù)管
理和分析領(lǐng)域投入超出150億美元。據(jù)Gartner最新預(yù)測(cè),大數(shù)據(jù)產(chǎn)業(yè)2014年
將在全球范圍內(nèi)帶來(lái)近千億美元的IT開(kāi)支;2015年,大數(shù)據(jù)將為全球帶來(lái)440
萬(wàn)個(gè)IT崗位。
1)改變經(jīng)濟(jì)社會(huì)管理方式
大數(shù)據(jù)作為一種重要的戰(zhàn)略資產(chǎn),已經(jīng)不同程度地滲透到每個(gè)行業(yè)領(lǐng)域和部
門(mén),其深度應(yīng)用不僅有助于企業(yè)經(jīng)營(yíng)活動(dòng),還有利于推動(dòng)國(guó)民經(jīng)濟(jì)發(fā)展。大數(shù)據(jù)
使經(jīng)濟(jì)決策部門(mén)可以更敏銳地把握經(jīng)濟(jì)走向,制定并實(shí)施科學(xué)的經(jīng)濟(jì)政策。大數(shù)
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
據(jù)可以提高企業(yè)經(jīng)營(yíng)決策水平和效率,推動(dòng)創(chuàng)新,給企業(yè)、行業(yè)領(lǐng)域帶來(lái)價(jià)值。
大數(shù)據(jù)技術(shù)作為一種重要的信息技術(shù),對(duì)于提高安全保障能力、應(yīng)急能力、優(yōu)化
公共事業(yè)服務(wù),提高社會(huì)管理水平的作用正在日益凸顯。增強(qiáng)安全保障能力。在
國(guó)防、反恐、安全等領(lǐng)域應(yīng)用大數(shù)據(jù)技術(shù),能夠?qū)?lái)自于多種渠道的信息快速進(jìn)
行自動(dòng)分類(lèi)、整理、分析和反饋,有效解決情報(bào)、監(jiān)視和偵察系統(tǒng)不足等問(wèn)題,
提高國(guó)家安全保障能力。
2)促進(jìn)行業(yè)融合發(fā)展
網(wǎng)絡(luò)環(huán)境、移動(dòng)終端隨影而行,網(wǎng)上購(gòu)物、社交網(wǎng)站、電子郵件、微信不可
或缺,社會(huì)主體的日?;顒?dòng)在虛擬的環(huán)境下得到承載和體現(xiàn)。正如工業(yè)化時(shí)代商
品和交易的快速流通催生大規(guī)模制造業(yè)發(fā)展,信息的大量、快速流通將伴隨著行
業(yè)的融合發(fā)展,經(jīng)濟(jì)形態(tài)的大范圍變化。虛擬環(huán)境下,遵循類(lèi)似摩爾定律原則增
長(zhǎng)的海量數(shù)據(jù),在技術(shù)和業(yè)務(wù)的促進(jìn)下,跨領(lǐng)域、跨系統(tǒng)、跨地域的數(shù)據(jù)共享成
為可能,大數(shù)據(jù)支持著機(jī)構(gòu)業(yè)務(wù)決策和管理決策的精準(zhǔn)性與科學(xué)性,社會(huì)整體層
面的業(yè)務(wù)協(xié)同效率提高。
3)推動(dòng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)
基于傳統(tǒng)架構(gòu)的信息系統(tǒng)很難應(yīng)付爆發(fā)式增長(zhǎng)的海量數(shù)據(jù),同時(shí)傳統(tǒng)的商業(yè)
智能、搜索引擎、分析軟件,在面對(duì)時(shí)空多維度、快速變化的海量數(shù)據(jù)時(shí),也缺
少有效地分析工具、方法和產(chǎn)品。大數(shù)據(jù)環(huán)境下,ICT產(chǎn)業(yè)面臨著有效存儲(chǔ)、實(shí)
時(shí)分析、高性能計(jì)算等挑戰(zhàn),這將對(duì)軟件產(chǎn)業(yè)、芯片以及存儲(chǔ)產(chǎn)業(yè)產(chǎn)生重要影響。
信息消費(fèi)作為一種以信息產(chǎn)品和服務(wù)為消費(fèi)對(duì)象的活動(dòng),覆蓋多種服務(wù)形
態(tài),多種信息產(chǎn)品,多種服務(wù)模式。當(dāng)圍繞數(shù)據(jù)的業(yè)務(wù)在數(shù)據(jù)規(guī)模、類(lèi)型和變化
速度達(dá)到一定程度時(shí),大數(shù)據(jù)對(duì)于產(chǎn)業(yè)發(fā)展的影響隨之顯現(xiàn)。
同時(shí),大數(shù)據(jù)將促進(jìn)網(wǎng)絡(luò)通信技術(shù)與傳統(tǒng)產(chǎn)業(yè)更為密切的融合,對(duì)于傳統(tǒng)產(chǎn)
業(yè)的轉(zhuǎn)型發(fā)展,創(chuàng)造更多價(jià)值影響重大。未來(lái),大數(shù)據(jù)發(fā)展將不僅催生軟硬件及
服務(wù)等市場(chǎng)產(chǎn)生大量?jī)r(jià)值,也將對(duì)有關(guān)的傳統(tǒng)行業(yè)轉(zhuǎn)型升級(jí)產(chǎn)生重要影響。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
4)助力智慧城市建設(shè)
信息資源開(kāi)發(fā)利用水平,在某種程度上講代表著信息時(shí)代下社會(huì)的整體發(fā)展
水平和運(yùn)轉(zhuǎn)效率。大數(shù)據(jù)與智慧城市是信息化建設(shè)的內(nèi)容與平臺(tái),兩者互為推動(dòng)
力量。智慧城市是大數(shù)據(jù)的源頭,大數(shù)據(jù)是智慧城市的內(nèi)核。僅以智慧交通為例,
智慧交通領(lǐng)域的海量數(shù)據(jù)融合了各類(lèi)數(shù)據(jù),并以城市交通為主題,在海量變化數(shù)
據(jù)中建立關(guān)聯(lián)關(guān)系,找到所需數(shù)據(jù)的準(zhǔn)確信息,并被及時(shí)推送到對(duì)象手中,提高
了城市管理的精確性,提升了城市居民的幸福感受。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
3.大數(shù)據(jù)發(fā)展現(xiàn)狀
3.1國(guó)外大數(shù)據(jù)發(fā)展
大數(shù)據(jù)發(fā)展來(lái)源于自然科學(xué)、社會(huì)科學(xué)的技術(shù)創(chuàng)新;信息公開(kāi)、隱私保護(hù)、
規(guī)范管理等的制度建設(shè);各個(gè)應(yīng)用領(lǐng)域主題下的技術(shù)路線(xiàn)、模型建設(shè)與工具開(kāi)發(fā)
等具體實(shí)施方案。為此,國(guó)外發(fā)達(dá)國(guó)家紛紛提出了大數(shù)據(jù)的規(guī)劃、計(jì)劃、政策以
及項(xiàng)目,推動(dòng)大數(shù)據(jù)為其國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展服務(wù)。
據(jù)IDC調(diào)查分析,目前作為成熟的大數(shù)據(jù)應(yīng)用主要集中于欺詐監(jiān)測(cè)、風(fēng)險(xiǎn)管
理與商業(yè)智能等領(lǐng)域,細(xì)分到對(duì)于產(chǎn)業(yè),處理與活動(dòng)領(lǐng)域的大數(shù)據(jù)應(yīng)用如圖3所
示。
圖3大數(shù)據(jù)技術(shù)和服務(wù)簡(jiǎn)單用例
圖3從活動(dòng)、處理以及產(chǎn)業(yè)等三個(gè)維度對(duì)于大數(shù)據(jù)技術(shù)和服務(wù)的相關(guān)用例進(jìn)
行了分類(lèi)。其中活動(dòng)維度中包括分析(例如數(shù)據(jù)挖掘、多維分析、數(shù)據(jù)可視化)、
操作(例如運(yùn)行一個(gè)網(wǎng)站、處理網(wǎng)絡(luò)訂單)、信息訪(fǎng)問(wèn)(例如基于搜索的信息獲
取、規(guī)范化,以及內(nèi)容和數(shù)據(jù)源的訪(fǎng)問(wèn));處理維度包括客戶(hù)關(guān)系管理、供應(yīng)鏈
和運(yùn)營(yíng)、政府、研發(fā)、信息技術(shù)管理和風(fēng)險(xiǎn)管理;產(chǎn)業(yè)維度包括運(yùn)輸行業(yè)中的物
流優(yōu)化、零售行業(yè)中的價(jià)格優(yōu)化、媒體和娛樂(lè)行業(yè)中的知識(shí)產(chǎn)權(quán)管理、石油和天
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
然氣行業(yè)中的自然資源勘探、制造業(yè)中的保修管理、執(zhí)法中的犯罪預(yù)防和調(diào)查、
銀行業(yè)中的欺詐檢測(cè)、醫(yī)療保健行業(yè)中的病人治療和欺詐檢測(cè)。
對(duì)于大數(shù)據(jù)應(yīng)用的價(jià)值鏈主要包括三個(gè)方面,如圖4所示:
采集與收集:再生老的數(shù)據(jù);采集新的數(shù)據(jù);提升數(shù)據(jù)質(zhì)量。
聚合與整合:實(shí)時(shí)與批量數(shù)據(jù)的聚合或整合,多媒體、跨模態(tài)數(shù)據(jù)的聚
合;分發(fā)給具有彈性計(jì)算功能的IT。
消費(fèi)與應(yīng)用:商業(yè)智能BI或數(shù)據(jù)倉(cāng)庫(kù)DW的集成;可視化;業(yè)務(wù)集成。
圖4數(shù)據(jù)和風(fēng)險(xiǎn)管理中的大數(shù)據(jù)價(jià)值鏈
3.1.1政府出臺(tái)計(jì)劃
美國(guó)
2011年,“總統(tǒng)科學(xué)技術(shù)顧問(wèn)委員會(huì)(President’sCouncilofAdvisorson
ScienceandTechnology)建議”認(rèn)為大數(shù)據(jù)相關(guān)技術(shù)具有重要戰(zhàn)略?xún)r(jià)值,而聯(lián)
邦政府對(duì)其研發(fā)投資不足。作為建議的反饋,白宮科技政策辦公室發(fā)布了《大數(shù)
據(jù)研究和發(fā)展倡議》,并組織了大數(shù)據(jù)高級(jí)監(jiān)督小組(SeniorSteeringGroupon
BigData)協(xié)調(diào)和拓展政府在這一重要領(lǐng)域的提升美國(guó)利用收集的龐大而復(fù)雜的
數(shù)字資料提煉真知灼見(jiàn)的能力,協(xié)助加速科學(xué)、工程領(lǐng)域的創(chuàng)新步伐,強(qiáng)化美國(guó)
國(guó)土安全,轉(zhuǎn)變教育和學(xué)習(xí)模式。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
《大數(shù)據(jù)研究和發(fā)展倡議》提出聯(lián)邦政府希望與行業(yè)、科研院校和非盈利機(jī)
構(gòu)一起,共同迎接大數(shù)據(jù)所創(chuàng)造的機(jī)遇和挑戰(zhàn)。某種程度上,大數(shù)據(jù)技術(shù)在美國(guó)
已經(jīng)形成了全體動(dòng)員的格局,并承諾將在科學(xué)研究、環(huán)境保護(hù)、生物醫(yī)藥研究、
教育以及國(guó)家安全等領(lǐng)域利用大數(shù)據(jù)技術(shù)進(jìn)行突破。同時(shí),美國(guó)國(guó)家科學(xué)基金會(huì)
(NSF)、國(guó)家衛(wèi)生研究院(NIH)、國(guó)防部(DOD)、能源部(DOE)、國(guó)防部高
級(jí)研究局(DARPA)、地質(zhì)勘探局(USGS)等六個(gè)聯(lián)邦部門(mén)和機(jī)構(gòu)承諾,將投入
超過(guò)2億美元資金用于研發(fā)“從海量數(shù)據(jù)信息中獲取知識(shí)所必需的工具和技能”,
并披露了多項(xiàng)正在進(jìn)行中的聯(lián)邦政府計(jì)劃,主要內(nèi)容如下:美國(guó)國(guó)家科學(xué)基金和
美國(guó)國(guó)家衛(wèi)生研究院主要推進(jìn)大數(shù)據(jù)科學(xué)和工程的核心方法及技術(shù)研究,項(xiàng)目包
括管理、分析、可視化、以及從大量的多樣化數(shù)據(jù)集中提取有用信息的核心科學(xué)
技術(shù);國(guó)防部高級(jí)研究局項(xiàng)目主要推進(jìn)大數(shù)據(jù)輔助決策,集中在情報(bào)、偵查、網(wǎng)
絡(luò)間諜等方面,匯集傳感器、感知能力和決策支持建立真正的自治系統(tǒng),實(shí)現(xiàn)操
作和決策的自動(dòng)化;美國(guó)能源部試圖通過(guò)先進(jìn)的計(jì)算進(jìn)行科學(xué)發(fā)現(xiàn),提供2500
萬(wàn)美元基金來(lái)建立可擴(kuò)展的數(shù)據(jù)管理、分析和可視化研究所。美國(guó)地質(zhì)勘探局通
過(guò)給科學(xué)家提供深入分析的場(chǎng)所和時(shí)間、最高水平的計(jì)算能力和理解大數(shù)據(jù)集的
協(xié)作工具,催化在地理系統(tǒng)科學(xué)的創(chuàng)新思維。
2012年3月,美國(guó)白宮宣布啟動(dòng)大數(shù)據(jù)研究和開(kāi)發(fā),6月,美國(guó)國(guó)家標(biāo)準(zhǔn)技
術(shù)研究所(NIST)啟動(dòng)了大數(shù)據(jù)相關(guān)研究。2013年6月,NIST召開(kāi)了大數(shù)據(jù)公
共工作組(BigDataPublicWorkingGroup,BD-PWG)成立會(huì)議,并于9月啟
動(dòng)了大數(shù)據(jù)定義和數(shù)據(jù)、通用需求、參考架構(gòu)、安全隱私及技術(shù)路線(xiàn)圖等內(nèi)容的
研究,并提出了《大數(shù)據(jù)參考架構(gòu)》報(bào)告,受到多方面關(guān)注。
歐盟
2010年11月,歐盟委員會(huì)提出了“歐盟開(kāi)放數(shù)據(jù)戰(zhàn)略”,旨在將公共部門(mén)
搜集和產(chǎn)生的原始數(shù)據(jù)通過(guò)再利用成為數(shù)以萬(wàn)計(jì)ICT用戶(hù)依賴(lài)的數(shù)據(jù)材料,同年
12月正式推進(jìn)這一戰(zhàn)略并提出有關(guān)開(kāi)放數(shù)據(jù)戰(zhàn)略的多項(xiàng)法律提案,提案指出:
“所有來(lái)自于公共部門(mén)的文件除非受第三方版權(quán)保護(hù)外均可用于任何目的(商業(yè)
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
或非商業(yè)),大部分公共部門(mén)的數(shù)據(jù)都將免費(fèi)或幾乎免費(fèi),強(qiáng)制要求提供通用的
且機(jī)器可讀格式的數(shù)據(jù),確保數(shù)據(jù)的有效再利用,數(shù)據(jù)開(kāi)放范圍將覆蓋包括圖書(shū)
館、博物館、檔案館等在內(nèi)的更廣泛的組織”。
“歐盟開(kāi)放數(shù)據(jù)戰(zhàn)略”將重點(diǎn)加強(qiáng)在數(shù)據(jù)處理技術(shù)、數(shù)據(jù)門(mén)戶(hù)網(wǎng)站和科研數(shù)
據(jù)基礎(chǔ)設(shè)施三方面的投入,旨在歐洲企業(yè)與市民能自由獲取歐盟公共管理部門(mén)的
所有信息,建立一個(gè)匯集不同成員國(guó)以及歐洲機(jī)構(gòu)數(shù)據(jù)的“泛歐門(mén)戶(hù)”。
未來(lái),歐盟開(kāi)放數(shù)據(jù)戰(zhàn)略將重點(diǎn)加強(qiáng)在數(shù)據(jù)處理技術(shù)、數(shù)據(jù)門(mén)戶(hù)網(wǎng)站和科研
數(shù)據(jù)基礎(chǔ)設(shè)施三方面的投入。目前比較成功的應(yīng)用有“你的議會(huì)”(
www.itsyourparliament.eu),公民可以通過(guò)該網(wǎng)站了解歐洲議會(huì)的選票情況,
查看投票記錄并投票;英國(guó)制藥(.uk/apps/uk-pharmacy),通過(guò)
智能手機(jī)幫助市民在英國(guó)找到距離最近的藥店;歐洲能源(http:
//energy.publicdata.eu/ee/vis.html),對(duì)歐盟統(tǒng)計(jì)局和其他機(jī)構(gòu)提供的數(shù)據(jù)
進(jìn)行加工,將歐洲能源消費(fèi)情況可視化;開(kāi)放企業(yè)(http:
//),是關(guān)于公司的數(shù)據(jù)庫(kù),目前已包含超過(guò)30個(gè)地
區(qū)3000萬(wàn)家企業(yè)的URL。
聯(lián)合國(guó)
聯(lián)合國(guó)推出了名為“全球脈動(dòng)”(GlobalPulse)的新項(xiàng)目,希望利用“大
數(shù)據(jù)”預(yù)測(cè)某些地區(qū)的失業(yè)率、支出削減或是疾病爆發(fā)等現(xiàn)象。
全球脈動(dòng)技術(shù)的目標(biāo)在于利用數(shù)字化的早期預(yù)警分析,來(lái)提前規(guī)劃、調(diào)整、
指導(dǎo)聯(lián)合國(guó)在全球范圍內(nèi),針對(duì)眾多行業(yè)領(lǐng)域的援助項(xiàng)目,以提高援助項(xiàng)目完成
的精確性和有效性。
多國(guó)聯(lián)盟
合作下的數(shù)據(jù)開(kāi)放是目前的潮流,也是大數(shù)據(jù)應(yīng)用的前提。2011年美國(guó)、
英國(guó)、巴西、挪威、墨西哥、印尼、菲律賓、南非等八國(guó)宣布成立“開(kāi)放政府聯(lián)
盟”(OGP),并發(fā)布《開(kāi)放政府宣言》,宣言書(shū)說(shuō):“政府代表公民收集并保
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
存各種各樣的信息,公民有權(quán)利獲取關(guān)于政府活動(dòng)的各種信息。我們承諾:用可
以重復(fù)使用的格式,及時(shí)主動(dòng)地向社會(huì)開(kāi)放高質(zhì)量的信息,包括原始的數(shù)據(jù)。”
2011年12月,美國(guó)聯(lián)邦政府宣布將和印度政府共同合作,把現(xiàn)有的D
改造成開(kāi)源平臺(tái),印度將率先移植D,作為其中央政府的數(shù)據(jù)開(kāi)放平臺(tái)。
英國(guó)政府自2011年11月發(fā)布了對(duì)公開(kāi)數(shù)據(jù)進(jìn)行研究的戰(zhàn)略政策,同時(shí)致力
于探索公開(kāi)數(shù)據(jù)在商業(yè)創(chuàng)新和刺激經(jīng)濟(jì)增長(zhǎng)方面的潛力。
英國(guó)政府投資支持成立開(kāi)放式數(shù)據(jù)研究所ODI(TheOpenDataInstitute)。
未來(lái),英國(guó)政府將通過(guò)這個(gè)組織來(lái)利用和挖掘公開(kāi)數(shù)據(jù)的商業(yè)潛力,并為英國(guó)公
共部門(mén)、學(xué)術(shù)機(jī)構(gòu)等方面的創(chuàng)新發(fā)展提供“孵化環(huán)境”,同時(shí)為國(guó)家可持續(xù)發(fā)展
政策提供幫助。
法國(guó)政府在《數(shù)字化路線(xiàn)圖》中列出了五項(xiàng)將會(huì)大力支持的戰(zhàn)略性高新技術(shù),
而“大數(shù)據(jù)”是其重要內(nèi)容。2013年4月法國(guó)政府召開(kāi)“第二屆巴黎大數(shù)據(jù)大
會(huì),”,會(huì)上法國(guó)經(jīng)濟(jì)、財(cái)政和工業(yè)部門(mén)宣布將投入1150萬(wàn)歐元用于支持7個(gè)
未來(lái)重點(diǎn)項(xiàng)目。這些項(xiàng)目的目的在于“通過(guò)發(fā)展創(chuàng)新性解決方案,并將其用于實(shí)
踐,來(lái)促進(jìn)法國(guó)在大數(shù)據(jù)領(lǐng)域的發(fā)展?!?/p>
此前,法國(guó)軟件編輯聯(lián)盟(AFDEL)曾號(hào)召政府部門(mén)和私人企業(yè)共同合作,投
入3億歐元用于推動(dòng)大數(shù)據(jù)領(lǐng)域的發(fā)展。AFDEL認(rèn)為,未來(lái)5年內(nèi),大數(shù)據(jù)創(chuàng)造
的價(jià)值將會(huì)達(dá)到28億歐元,同時(shí)將會(huì)產(chǎn)生1萬(wàn)個(gè)工作崗位。
3.1.2工業(yè)界大數(shù)據(jù)研究
工業(yè)界針對(duì)大數(shù)據(jù)分析平臺(tái),紛紛推出自己的大數(shù)據(jù)分析工具,主流的平臺(tái)
和產(chǎn)品如下:
Google的大數(shù)據(jù)分析產(chǎn)品
Google公司作為全球最大的信息檢索公司,走在了大數(shù)據(jù)研究的前沿。面
對(duì)呈現(xiàn)爆炸式增加的因特網(wǎng)信息,僅僅依靠提高服務(wù)器性能已經(jīng)遠(yuǎn)遠(yuǎn)不能滿(mǎn)足業(yè)
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
務(wù)的需求。如果將各種大數(shù)據(jù)應(yīng)用比作“汽車(chē)”,支撐起這些“汽車(chē)”運(yùn)行的“高
速公路”就是云計(jì)算。正是云計(jì)算技術(shù)在數(shù)據(jù)存儲(chǔ)、管理與分析等方面的支持,
才使得大數(shù)據(jù)有用武之地。Google公司從橫向進(jìn)行擴(kuò)展,通過(guò)采用廉價(jià)的計(jì)算
機(jī)節(jié)點(diǎn)集群,改寫(xiě)軟件,使之能夠在集群上并行執(zhí)行,解決海量數(shù)據(jù)的存儲(chǔ)和檢
索功能。Google公司大數(shù)據(jù)處理的幾大關(guān)鍵技術(shù)為:Google文件系統(tǒng)GFS、
MapReduce、Bigtable和BigQuery。Google的技術(shù)方案為其他公司提供了一個(gè)
很好的參考方案,各大公司紛紛提出了自己的大數(shù)據(jù)處理平臺(tái),采用的技術(shù)也都
大同小異。
惠普的HAVEn
HAVEn平臺(tái)提供了大量的應(yīng)用開(kāi)發(fā)接口(API),惠普希望通過(guò)HAVEn與合
作伙伴共同打造一套完整的大數(shù)據(jù)分析生態(tài)系統(tǒng),讓更多應(yīng)用解決方案落地到行
業(yè)。它可以充分利用惠普的分析軟件、硬件和服務(wù),創(chuàng)建新一代為大數(shù)據(jù)準(zhǔn)備的
分析應(yīng)用和解決方案?!癏AVEn”這個(gè)名字實(shí)際上來(lái)源于其各個(gè)組件的首字母,
即Hadoop(HDFS)、Autonomy、Vertica、EnterpriseSecurity以及nApp(行
業(yè)解決方案)??梢钥闯觯琀AVEn平臺(tái)實(shí)際上是一個(gè)惠普大數(shù)據(jù)產(chǎn)品的組合。具
體而言,HAVEn并不是簡(jiǎn)單的產(chǎn)品堆疊,惠普對(duì)其中各個(gè)組件的交互與連接都進(jìn)
行了設(shè)計(jì)與優(yōu)化,并提供了統(tǒng)一的框架。HAVEn平臺(tái)能夠從各種數(shù)據(jù)源進(jìn)行集成,
分析各種類(lèi)型數(shù)據(jù),如傳統(tǒng)數(shù)據(jù)倉(cāng)庫(kù)、機(jī)器生產(chǎn)數(shù)據(jù)、電子郵件、文本數(shù)據(jù)以及
企業(yè)外部的社交媒體數(shù)據(jù)。
Teradata
日前,全球領(lǐng)先的大數(shù)據(jù)分析和數(shù)據(jù)倉(cāng)庫(kù)解決方案廠(chǎng)商Teradata天睿公司
發(fā)布了TeradataAster大數(shù)據(jù)綜合分析平臺(tái)。作為業(yè)內(nèi)首款整合大數(shù)據(jù)分析平
臺(tái),實(shí)現(xiàn)了將開(kāi)源ApacheHadoop和TeradataAster整合至高度集成和優(yōu)化的
單一平臺(tái)中。該平臺(tái)采用TeradataAster的SQL-MapReduce和AsterSQL-H專(zhuān)
利技術(shù),支持用戶(hù)透明地訪(fǎng)問(wèn)Hadoop平臺(tái),為廣大知識(shí)型員工提供獨(dú)特的業(yè)務(wù)
分析功能。該平臺(tái)預(yù)先封裝多項(xiàng)即開(kāi)即用的分析功能,能夠在數(shù)小時(shí)內(nèi)快速實(shí)現(xiàn)
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
數(shù)字營(yíng)銷(xiāo)優(yōu)化、社交網(wǎng)絡(luò)分析、欺詐偵測(cè)以及機(jī)器生成數(shù)據(jù)的分析等。Teradata
Aster大數(shù)據(jù)綜合分析平臺(tái)專(zhuān)為滿(mǎn)足苛刻的分析需求設(shè)計(jì),提供更強(qiáng)的計(jì)算能力、
更大的內(nèi)存容量及更快的數(shù)據(jù)移動(dòng)。同市場(chǎng)上其他典型平臺(tái)相比,該平臺(tái)的數(shù)據(jù)
吞吐量及分析速度分別提高19倍及35倍。TeradataAster大數(shù)據(jù)綜合分析平
臺(tái)配備充足的內(nèi)存和高速寬帶互聯(lián)功能,能夠支持極度密集的復(fù)雜分析計(jì)算,相
比現(xiàn)有其他產(chǎn)品更加簡(jiǎn)潔。采用TeradataAster大數(shù)據(jù)綜合分析平臺(tái)后,用戶(hù)
無(wú)需復(fù)雜的培訓(xùn)即可使用MapReduce和Hadoop技術(shù)。
IBM的InfoSphere
2011年5月,IBM正式推出InfoSphere大數(shù)據(jù)分析平臺(tái)。InfoSphere大
數(shù)據(jù)分析平臺(tái)包括BigInsights和Streams,二者互補(bǔ),Biglnsights對(duì)大規(guī)
模的靜態(tài)數(shù)據(jù)進(jìn)行分析,它提供多節(jié)點(diǎn)的分布式計(jì)算,可以隨時(shí)增加節(jié)點(diǎn),提升
數(shù)據(jù)處理能力。Streams采用內(nèi)存計(jì)算方式分析實(shí)時(shí)數(shù)據(jù)。InfoSphere大數(shù)據(jù)
分析平臺(tái)還集成了數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)庫(kù)、數(shù)據(jù)集成、業(yè)務(wù)流程管理等組件。
BigInsights基于Hadoop,增加了文本分析、統(tǒng)計(jì)決策工具,同時(shí)在可靠性、
安全性、易用性、管理性方面提供了工具,并且可與DB2、Netezza等集成,這
使大數(shù)據(jù)平臺(tái)更適合企業(yè)級(jí)的應(yīng)用。比如,BigInsights提供了一種類(lèi)似SQL的
更高級(jí)的查詢(xún)語(yǔ)言。再如,除了支持Hadoop的HDFS存儲(chǔ)系統(tǒng)外,BigInsights
還支持IBM最新推出的GPFSSNC平臺(tái),以更好地利用其強(qiáng)大的災(zāi)難恢復(fù)、高
可靠性、高擴(kuò)展性的優(yōu)勢(shì)。企業(yè)級(jí)產(chǎn)品更重要的是沒(méi)有單點(diǎn)故障,GPFS讓整個(gè)
分布式系統(tǒng)更可靠。Hadoop本身不提供分析的功能,因此BigInsights平臺(tái)增
加了文本分析、統(tǒng)計(jì)分析工具。
3.2國(guó)內(nèi)大數(shù)據(jù)現(xiàn)狀
國(guó)家在推進(jìn)信息化、電子政務(wù)、智慧城市等領(lǐng)域發(fā)展與建設(shè),多次強(qiáng)調(diào)要重
視整體提升信息資源開(kāi)發(fā)利用水平,強(qiáng)調(diào)要關(guān)注并重視大數(shù)據(jù)工作。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
目前,國(guó)內(nèi)對(duì)于大數(shù)據(jù)的實(shí)質(zhì)推進(jìn)更多地處于科研、應(yīng)用、地方、產(chǎn)業(yè)等部
門(mén)單個(gè)探索實(shí)踐中。部分信息化發(fā)展基礎(chǔ)較好的地方,其信息化發(fā)展規(guī)劃及產(chǎn)業(yè)
部署中已經(jīng)明確將推動(dòng)大數(shù)據(jù)的發(fā)展與應(yīng)用。
3.2.1國(guó)內(nèi)大數(shù)據(jù)關(guān)注焦點(diǎn)
通過(guò)調(diào)研顯示,目前在大數(shù)據(jù)的行業(yè)領(lǐng)域應(yīng)用關(guān)注度上,“智慧城市”、“政
務(wù)”以及“公共服務(wù)”位列前三。(見(jiàn)圖5)
圖5各領(lǐng)域的大數(shù)據(jù)關(guān)注度
不難看出,目前對(duì)于大數(shù)據(jù)應(yīng)用有迫切需求的主要集中在政府部門(mén)。政府部
門(mén)在推動(dòng)社會(huì)管理與公共服務(wù)過(guò)程中,希望通過(guò)對(duì)于現(xiàn)有的和正在產(chǎn)生的大量、
多媒體的數(shù)據(jù)進(jìn)行有效的分析和應(yīng)用,支持基礎(chǔ)設(shè)施建設(shè)和提高服務(wù)水平。對(duì)于
“能源”、“教育”、“醫(yī)療”、“交通”等領(lǐng)域的大數(shù)據(jù)關(guān)注度大體相當(dāng),體
現(xiàn)了大數(shù)據(jù)應(yīng)用的廣闊性;這些領(lǐng)域在傳統(tǒng)業(yè)務(wù)推進(jìn)中頭緒比較復(fù)雜,數(shù)據(jù)資源
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
開(kāi)發(fā)水平低,科學(xué)化決策難度大,大數(shù)據(jù)的發(fā)展應(yīng)用在某種程度上增強(qiáng)了對(duì)于復(fù)
雜形勢(shì)的分析,加強(qiáng)了對(duì)于科學(xué)決策的客觀(guān)數(shù)據(jù)支持,在這些領(lǐng)域中大數(shù)據(jù)應(yīng)用
前景廣闊。
在具體技術(shù)層面,“信息集成”成為了國(guó)內(nèi)大數(shù)據(jù)關(guān)注的重點(diǎn)。目前大部分
單位及受訪(fǎng)者都表示已經(jīng)利用一個(gè)集成的、可縮放的、可擴(kuò)展的和安全的信息基
礎(chǔ)設(shè)施開(kāi)始推動(dòng)大數(shù)據(jù)應(yīng)用實(shí)踐。同時(shí),在實(shí)踐過(guò)程中對(duì)于數(shù)據(jù)的安全性與治理、
大容量的數(shù)據(jù)存儲(chǔ)與管理、基礎(chǔ)架構(gòu)、相關(guān)工具等也是大數(shù)據(jù)關(guān)注的重要技術(shù)領(lǐng)
域。(見(jiàn)圖6)
圖6大數(shù)據(jù)技術(shù)關(guān)注度
3.2.2地方政府和組織探索大數(shù)據(jù)應(yīng)用
北京市
北京市經(jīng)信委牽頭,北京市各政務(wù)部門(mén)共同參與建設(shè)了北京市政務(wù)數(shù)據(jù)資源
網(wǎng)(),于2012年10月推出測(cè)試版,目前正在試運(yùn)行基礎(chǔ)
上加快制定管理辦法。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
目前,北京市已有29個(gè)部門(mén)公布了400余個(gè)數(shù)據(jù)包,涵蓋旅游、教育、交
通、醫(yī)療等各個(gè)門(mén)類(lèi)。打開(kāi)網(wǎng)站主頁(yè)可以看到,點(diǎn)擊量最高的是“土地用途分區(qū)”,
已被下載435次,由北京市國(guó)土資源局提供。旅行社、機(jī)場(chǎng)班車(chē)線(xiàn)路、星級(jí)飯店、
高校信息也是非常熱門(mén)的下載資源。北京市政務(wù)數(shù)據(jù)資源網(wǎng)正在面向企業(yè)及個(gè)人
征集APP(應(yīng)用程序),一些社會(huì)力量開(kāi)發(fā)的APP正在進(jìn)行技術(shù)測(cè)試和審查。
在該網(wǎng)站可以看到,“游北京”和“愛(ài)健康”目前已經(jīng)可以下載試用。前者
可以查閱北京旅游景點(diǎn)、餐飲、促銷(xiāo)信息、洗手間信息等,后者是北京市所有衛(wèi)
生保健設(shè)施的指南應(yīng)用,包括診所、醫(yī)院、養(yǎng)老院等信息,用戶(hù)可以利用這款軟
件定位附近的醫(yī)療設(shè)施,查看現(xiàn)場(chǎng)網(wǎng)絡(luò)圖像。
上海市
上海目前正在加強(qiáng)對(duì)大數(shù)據(jù)領(lǐng)域的深化研究。2013年,上海啟動(dòng)推進(jìn)大數(shù)
據(jù)研究與發(fā)展的三年行動(dòng)計(jì)劃,重點(diǎn)選取醫(yī)療衛(wèi)生、食品安全、終身教育、智慧
交通、公共安全、科技服務(wù)等具有大數(shù)據(jù)基礎(chǔ)的領(lǐng)域探索建設(shè)大數(shù)據(jù)公共服務(wù)平
臺(tái)。上海市政府于2014年5月明確上海將率先實(shí)行政府?dāng)?shù)據(jù)資源向社會(huì)開(kāi)放,
出自28個(gè)市級(jí)政府部門(mén)、涵蓋11個(gè)領(lǐng)域的190項(xiàng)數(shù)據(jù)內(nèi)容將成為今年重點(diǎn)開(kāi)放
對(duì)象——從醫(yī)院床位信息到候診人數(shù)信息,從挖路、占路、封路信息到停車(chē)場(chǎng)庫(kù)
及路側(cè)車(chē)位信息,政府大數(shù)據(jù)“富礦”可供全民開(kāi)采。國(guó)內(nèi)首個(gè)政府?dāng)?shù)據(jù)服務(wù)網(wǎng)
作為開(kāi)放統(tǒng)一入口,提供數(shù)據(jù)查詢(xún)、瀏覽、下載等功
能。而且,上海將重點(diǎn)建設(shè)政府移動(dòng)APP門(mén)戶(hù),將各部門(mén)開(kāi)發(fā)的各類(lèi)公眾服務(wù)
APP“一網(wǎng)打盡”,讓市民通過(guò)這個(gè)門(mén)戶(hù)方便地檢索和下載所需APP。
此前,上海已啟動(dòng)政府?dāng)?shù)據(jù)資源向社會(huì)開(kāi)放試點(diǎn),建成“上海政府?dāng)?shù)據(jù)服務(wù)
網(wǎng)(一期)”,9家試點(diǎn)單位開(kāi)放的數(shù)據(jù)產(chǎn)品及應(yīng)用,涵蓋地理位置、道路交通、
公共服務(wù)、經(jīng)濟(jì)統(tǒng)計(jì)、資格資質(zhì)、行政管理等6大領(lǐng)域。如市商務(wù)委開(kāi)放了內(nèi)貿(mào)、
外貿(mào)、外資、外經(jīng)及綜合5類(lèi)數(shù)據(jù)產(chǎn)品;市交通委提供了全市搬場(chǎng)企業(yè)名錄、全
市公交樞紐站分布、中心城區(qū)公交站點(diǎn)分布、停車(chē)場(chǎng)位置分布等;市住房保障管
理局開(kāi)放了保障房工程信息、房地產(chǎn)開(kāi)發(fā)企業(yè)信息、房地產(chǎn)經(jīng)紀(jì)企業(yè)信息等。在
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
此基礎(chǔ)上,上海市經(jīng)信委通過(guò)印發(fā)《2014年度上海市政府?dāng)?shù)據(jù)資源向社會(huì)開(kāi)放
工作計(jì)劃》,規(guī)定再開(kāi)放公共安全、公共服務(wù)、交通服務(wù)、教育科技、金融服務(wù)、
能源環(huán)境、健康衛(wèi)生、文化娛樂(lè)等11個(gè)領(lǐng)域,開(kāi)放的市級(jí)政府部門(mén)數(shù)量是原先
的3倍。其中,地理位置類(lèi)的數(shù)據(jù)資源將全面開(kāi)放,市場(chǎng)監(jiān)管類(lèi)數(shù)據(jù)也成為開(kāi)放
重點(diǎn),并大力推進(jìn)交通數(shù)據(jù)資源開(kāi)放。根據(jù)市政府總體規(guī)劃,政府?dāng)?shù)據(jù)資源開(kāi)放
主體未來(lái)將擴(kuò)展到法律法規(guī)授權(quán)的具有管理公共事務(wù)職能的組織,以及與人民群
眾利益密切相關(guān)的公共企事業(yè)單位。按照年度計(jì)劃,上海將參照?qǐng)D書(shū)資源的管理
模式,力爭(zhēng)3年內(nèi),完成各政府部門(mén)信息系統(tǒng)所承載的信息資源分類(lèi)、目錄編制
注冊(cè),實(shí)現(xiàn)全市政府?dāng)?shù)據(jù)資源目錄的集中存儲(chǔ)和統(tǒng)一管理,基本摸清政府?dāng)?shù)據(jù)資
源家底。
同時(shí),上海市經(jīng)信委正在研究成立大數(shù)據(jù)局,成立后將推進(jìn)上海政府層面的
數(shù)據(jù)公開(kāi)和信息共享,以解決政府信息資源家底不清、認(rèn)識(shí)不夠以及部門(mén)間數(shù)據(jù)
信息共享不充分等目前上海在數(shù)據(jù)資源管理和運(yùn)用上存在的問(wèn)題。
廣東省
廣東省是國(guó)內(nèi)率先關(guān)注并推動(dòng)大數(shù)據(jù)的地方之一。2013年5月出臺(tái)《廣東
省信息化發(fā)展規(guī)劃綱要(2013-2020年)》,在智慧廣東建設(shè)任務(wù)中,該綱要明
確“到2015年,全省信息化總體達(dá)到中等發(fā)達(dá)國(guó)家水平,珠三角地區(qū)信息化水
平邁進(jìn)世界先進(jìn)行列。智慧城市建設(shè)取得顯著成效,信息基礎(chǔ)設(shè)施進(jìn)一步完善,
信息技術(shù)自主創(chuàng)新體系基本形成,信息技術(shù)與傳統(tǒng)產(chǎn)業(yè)深度融合,大數(shù)據(jù)和商業(yè)
智能試點(diǎn)示范應(yīng)用成效明顯,公共服務(wù)和社會(huì)管理電子化、網(wǎng)絡(luò)化全面普及,信
息化有效推動(dòng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)和生產(chǎn)方式轉(zhuǎn)變,信息化成果惠及全省人民?!痹跇?gòu)
建信息技術(shù)產(chǎn)業(yè)體系的發(fā)展任務(wù)中,該綱要明確“構(gòu)建面向企業(yè)經(jīng)營(yíng)管理及社會(huì)
服務(wù)和管理的大數(shù)據(jù)挖掘應(yīng)用創(chuàng)新平臺(tái),并以廣州、深圳兩大超級(jí)計(jì)算中心為基
礎(chǔ)構(gòu)建信息技術(shù)研發(fā)設(shè)計(jì)、高性能計(jì)算創(chuàng)新平臺(tái)?!痹谕苿?dòng)信息化和工業(yè)化深度
融合發(fā)展任務(wù)中,該綱要明確“推進(jìn)大數(shù)據(jù)商業(yè)化應(yīng)用。充分利用市場(chǎng)機(jī)制,加
快推進(jìn)行業(yè)、企業(yè)開(kāi)展大數(shù)據(jù)應(yīng)用。支持和鼓勵(lì)行業(yè)協(xié)會(huì)、中介組織開(kāi)發(fā)深度加
工的行業(yè)應(yīng)用數(shù)據(jù)庫(kù),建立行業(yè)應(yīng)用和商業(yè)服務(wù)大數(shù)據(jù)公共服務(wù)平臺(tái),提供數(shù)據(jù)
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
挖掘分析和商業(yè)智能等大數(shù)據(jù)應(yīng)用服務(wù),幫助中小微企業(yè)定制各類(lèi)大數(shù)據(jù)應(yīng)用解
決方案。培育數(shù)據(jù)資源服務(wù)重點(diǎn)企業(yè),提高數(shù)據(jù)資源服務(wù)能力。推動(dòng)大數(shù)據(jù)在生
產(chǎn)過(guò)程中的應(yīng)用,鼓勵(lì)企業(yè)運(yùn)用大數(shù)據(jù)開(kāi)展個(gè)性化制造,創(chuàng)新生產(chǎn)管理模式,降
低生產(chǎn)成本,提高企業(yè)競(jìng)爭(zhēng)力。加快商業(yè)大數(shù)據(jù)創(chuàng)新應(yīng)用,鼓勵(lì)企業(yè)開(kāi)展精準(zhǔn)營(yíng)
銷(xiāo)、個(gè)性化服務(wù),提高流通、銷(xiāo)售等環(huán)節(jié)的管理水平?!痹谕七M(jìn)城鎮(zhèn)管理和服務(wù)
智慧化任務(wù)中,該綱要明確提出“建設(shè)智慧城鎮(zhèn)運(yùn)營(yíng)平臺(tái),建立健全數(shù)據(jù)采集、
交換共享、開(kāi)發(fā)利用相關(guān)標(biāo)準(zhǔn)體系,開(kāi)展智慧城鎮(zhèn)大數(shù)據(jù)應(yīng)用,推動(dòng)城鎮(zhèn)創(chuàng)新發(fā)
展。深入推進(jìn)智慧城市試點(diǎn)建設(shè),引導(dǎo)全省智慧城市建設(shè)有序推進(jìn)?!?/p>
早在2012年廣東省經(jīng)濟(jì)和信息化委員會(huì)就開(kāi)展了“廣東省實(shí)施大數(shù)據(jù)戰(zhàn)略
工作方案”的研究,立足于堅(jiān)持以開(kāi)放共享推動(dòng)大數(shù)據(jù)應(yīng)用,以開(kāi)發(fā)應(yīng)用帶動(dòng)大
數(shù)據(jù)發(fā)展,以大數(shù)據(jù)發(fā)展促進(jìn)社會(huì)創(chuàng)新,建成智慧廣東。方案中提出,為保證大
數(shù)據(jù)戰(zhàn)略有效實(shí)施,將建設(shè)政務(wù)數(shù)據(jù)中心,并為高等院校和企業(yè)等成立大數(shù)據(jù)研
究機(jī)構(gòu)提供支持;將在政府各部門(mén)開(kāi)展數(shù)據(jù)開(kāi)放試點(diǎn),并通過(guò)部門(mén)網(wǎng)站向社會(huì)開(kāi)
放可供下載和分析使用的數(shù)據(jù),進(jìn)一步推進(jìn)政務(wù)公開(kāi)。
陜西省
近年來(lái),陜西省電子政務(wù)與信息化建設(shè)快速推進(jìn)。一方面,加強(qiáng)了頂層設(shè)計(jì)
和集中部署,另一方面電子政務(wù)公共平臺(tái)服務(wù)體系初步建成。陜西省各級(jí)政府及
相關(guān)部門(mén)的信息化服務(wù),不再需要重復(fù)建設(shè)網(wǎng)絡(luò)、機(jī)房,不再考慮存儲(chǔ)、災(zāi)備等
因素。
2012年12月陜西省發(fā)布了“大數(shù)據(jù)產(chǎn)業(yè)發(fā)展戰(zhàn)略”與“灃西大數(shù)據(jù)產(chǎn)業(yè)園
發(fā)展規(guī)劃”。陜西省大數(shù)據(jù)產(chǎn)業(yè)發(fā)展分為三個(gè)階段:2012-2013年是導(dǎo)入期,以
建設(shè)政務(wù)公共平臺(tái)為支撐,以政務(wù)信息資源建設(shè)服務(wù)為基礎(chǔ),構(gòu)建基于高性能計(jì)
算的大數(shù)據(jù)計(jì)算處理平臺(tái)和環(huán)境;2013-2015年是建設(shè)期,也是戰(zhàn)略機(jī)遇期,根
據(jù)人口、林業(yè)、社情民意調(diào)查分析、社會(huì)管理與服務(wù)、金融等領(lǐng)域?qū)Υ髷?shù)據(jù)處理
需求,承接其他國(guó)家有關(guān)部委和央企數(shù)據(jù)中心或?yàn)?zāi)備中心落戶(hù),形成大數(shù)據(jù)產(chǎn)業(yè)
洼地,將全國(guó)人口信息處理與備份中心落戶(hù)西咸新區(qū)作為陜西發(fā)展大數(shù)據(jù)產(chǎn)業(yè)的
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
重要機(jī)遇;2016-2017年是成長(zhǎng)期,圍繞國(guó)家基礎(chǔ)數(shù)據(jù)的上下游流入,形成以政
務(wù)大數(shù)據(jù)服務(wù)產(chǎn)業(yè)為核心的高黏性信息服務(wù)產(chǎn)業(yè)生態(tài)。到2017年,建成以西咸
新區(qū)為核心的國(guó)家級(jí)大數(shù)據(jù)處理與服務(wù)產(chǎn)業(yè)集群,成為國(guó)家政務(wù)信息資源的匯集
地、社會(huì)信息資源的集散地。
灃西大數(shù)據(jù)產(chǎn)業(yè)園選址位于西咸新區(qū)信息產(chǎn)業(yè)園內(nèi),總占地約5平方公里,
擬分三大板塊推動(dòng)大數(shù)據(jù)產(chǎn)業(yè)發(fā)展。第一板塊為數(shù)據(jù)基礎(chǔ)層產(chǎn)業(yè)集聚區(qū),第二板
塊為軟件開(kāi)發(fā)和信息服務(wù)集聚區(qū),第三板塊為預(yù)留拓展區(qū),作為未來(lái)信息產(chǎn)業(yè)持
續(xù)增長(zhǎng)的重要保障。目前中國(guó)移動(dòng)、中國(guó)電信、中國(guó)聯(lián)通三大運(yùn)營(yíng)商以及全國(guó)人
口數(shù)據(jù)處理與備份(西安)中心項(xiàng)目已經(jīng)入?yún)^(qū),產(chǎn)業(yè)集聚初具規(guī)模?!盀栁鞔髷?shù)據(jù)
產(chǎn)業(yè)園發(fā)展規(guī)劃”以“數(shù)據(jù)灃西、智慧西咸、備份中國(guó)、物聯(lián)世界”為目標(biāo),以
實(shí)現(xiàn)數(shù)據(jù)的“規(guī)?;型掏?、深層次整合分析、多領(lǐng)域社會(huì)應(yīng)用、高效益持續(xù)
增值”為方向,大力發(fā)展數(shù)據(jù)存儲(chǔ)、呼叫中心、IDC中心、災(zāi)備中心、數(shù)據(jù)交換
共享平臺(tái)等業(yè)態(tài),積極創(chuàng)新商業(yè)模式。園區(qū)建設(shè)劃分為三個(gè)階段:
第一階段(2013—2015年)為培育期,即基礎(chǔ)網(wǎng)絡(luò)和數(shù)據(jù)中心建設(shè)期。本階
段主要依托四大運(yùn)營(yíng)商數(shù)據(jù)中心、基礎(chǔ)網(wǎng)絡(luò)層的建設(shè),構(gòu)建海量存儲(chǔ)和高速傳輸
網(wǎng)絡(luò),為大數(shù)據(jù)產(chǎn)業(yè)發(fā)展提供基礎(chǔ)和保障。同時(shí),全力引進(jìn)人口信息、自然資源
和空間地理信息、法人單位數(shù)據(jù)、宏觀(guān)經(jīng)濟(jì)數(shù)據(jù)等國(guó)家基礎(chǔ)、專(zhuān)有的數(shù)據(jù)資源存
儲(chǔ)與服務(wù)中心,數(shù)據(jù)災(zāi)備基地和國(guó)家超級(jí)計(jì)算中心落戶(hù),在業(yè)內(nèi)舉起大數(shù)據(jù)處理
與信息服務(wù)產(chǎn)業(yè)的旗幟,到2015年底完成固定資產(chǎn)投資100億元,初步建成大
數(shù)據(jù)產(chǎn)業(yè)發(fā)展的網(wǎng)絡(luò)傳輸平臺(tái)和基礎(chǔ)信息資源集聚區(qū)。
第二階段(2016—2017年)為成長(zhǎng)期,引進(jìn)龍頭企業(yè),培育數(shù)據(jù)分析企業(yè)。
制定政策機(jī)制,完善園區(qū)規(guī)劃,構(gòu)建寬松發(fā)展環(huán)境,全力引進(jìn)微軟、IBM、惠普、
谷歌、百度、阿里巴巴、騰訊、世紀(jì)互聯(lián)等數(shù)據(jù)存儲(chǔ)、分析和應(yīng)用企業(yè)入園,集
聚一批國(guó)內(nèi)外龍頭企業(yè)的研發(fā)總部、技術(shù)中心和高端制造部分,重點(diǎn)培育一批數(shù)
據(jù)分析企業(yè)。到2017年底累計(jì)完成固定資產(chǎn)投資200億元、實(shí)現(xiàn)產(chǎn)值200億元,
形成相對(duì)完整的數(shù)據(jù)服務(wù)產(chǎn)業(yè)集群,建成“陜西大數(shù)據(jù)處理與服務(wù)產(chǎn)業(yè)基地”,
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
力爭(zhēng)率先建成數(shù)據(jù)應(yīng)用示范區(qū),推動(dòng)園區(qū)進(jìn)入國(guó)家級(jí)信息產(chǎn)業(yè)基地行列,實(shí)現(xiàn)產(chǎn)
業(yè)和城市的優(yōu)化升級(jí)。
第三階段(2018—2020年)為成熟期,整合數(shù)據(jù)資源,形成以數(shù)據(jù)為基礎(chǔ)的
信息服務(wù)產(chǎn)業(yè)特色。依托“云計(jì)算”和“物聯(lián)網(wǎng)”等著力點(diǎn),進(jìn)一步整合多領(lǐng)域
數(shù)據(jù)資源,探索以數(shù)據(jù)資源為基礎(chǔ)的信息服務(wù)產(chǎn)業(yè)發(fā)展模式,研究和規(guī)范數(shù)據(jù)資
源的應(yīng)用、范圍和權(quán)限等,為信息服務(wù)產(chǎn)業(yè)大發(fā)展奠定基礎(chǔ),引領(lǐng)社會(huì)化信息服
務(wù)模式的全面提升。到2020年底實(shí)現(xiàn)產(chǎn)值500億元,聚集各類(lèi)人才5萬(wàn)以上,
使灃西新城成為國(guó)家級(jí)的信息產(chǎn)業(yè)園和大數(shù)據(jù)處理中心。
圖7灃西大數(shù)據(jù)產(chǎn)業(yè)園發(fā)展規(guī)劃圖
貴州省
貴州省也在積極布局大數(shù)據(jù)產(chǎn)業(yè)。從2013年開(kāi)始,貴州發(fā)力大數(shù)據(jù)產(chǎn)業(yè)布
局。中國(guó)電信、聯(lián)通、移動(dòng)三大電信運(yùn)營(yíng)商數(shù)據(jù)中心在貴州開(kāi)工建設(shè)、中關(guān)村貴
陽(yáng)科技園成立、富士康第四代產(chǎn)業(yè)園落戶(hù)等等一系列大手筆,正助推貴州邁上“云
端”,成為發(fā)展大數(shù)據(jù)產(chǎn)業(yè)的黃金寶地。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
從2013年下半年開(kāi)始,三大電信運(yùn)營(yíng)商在貴安新區(qū)分別建設(shè)的全國(guó)性數(shù)據(jù)
中心,計(jì)劃總投資100多億元,總規(guī)模將超過(guò)10萬(wàn)個(gè)機(jī)柜,服務(wù)器將超過(guò)200
萬(wàn)臺(tái)。數(shù)據(jù)中心建成后,將形成超過(guò)2500PB的裸容量存儲(chǔ)能力,730億TPCC計(jì)
算能力,可為大數(shù)據(jù)提供巨大存儲(chǔ)服務(wù)和計(jì)算服務(wù),將為新區(qū)加快大數(shù)據(jù)及其關(guān)
聯(lián)產(chǎn)業(yè)發(fā)展奠定堅(jiān)實(shí)基礎(chǔ)。三大運(yùn)營(yíng)商的數(shù)據(jù)中心在貴安新區(qū)相繼建成后,將使
貴陽(yáng)周邊特定區(qū)域快速集聚20萬(wàn)—30萬(wàn)的機(jī)架、百萬(wàn)臺(tái)的服務(wù)器,數(shù)據(jù)存儲(chǔ)規(guī)
??蛇_(dá)EB以上,隨著大數(shù)據(jù)產(chǎn)業(yè)持續(xù)發(fā)酵,將形成一個(gè)千萬(wàn)服務(wù)器集群的數(shù)據(jù)
中心基地,是國(guó)內(nèi)乃至全球最大的數(shù)據(jù)聚集地之一。
2013年3月1日,貴州·北京大數(shù)據(jù)產(chǎn)業(yè)發(fā)展推介會(huì)在北京舉行,大數(shù)據(jù)
產(chǎn)業(yè)聯(lián)盟與貴州省政府簽訂合作框架協(xié)議,共同推動(dòng)大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展。其后兩
天,中關(guān)村貴陽(yáng)科技園清鎮(zhèn)園招商引資推介會(huì)在京舉行,16個(gè)項(xiàng)目在推介會(huì)上
成功簽約。2013年9月8日,“中關(guān)村貴陽(yáng)科技園”揭牌,為貴陽(yáng)市發(fā)展新一
代信息技術(shù)產(chǎn)業(yè)提供重要支撐,也為大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展提供強(qiáng)大支撐。
2013年10月,富士康(貴州)第四代綠色產(chǎn)業(yè)園一期項(xiàng)目在貴陽(yáng)市貴安新區(qū)
開(kāi)工。
步入2014年,貴州在大數(shù)據(jù)產(chǎn)業(yè)持續(xù)發(fā)力。2014年3月,貴州省頒布了《關(guān)
于加快大數(shù)據(jù)產(chǎn)業(yè)發(fā)展及應(yīng)用若干政策的意見(jiàn)》和《貴州省大數(shù)據(jù)產(chǎn)業(yè)發(fā)展應(yīng)用
規(guī)劃綱要(2014-2020年)》,拋出了30條鼓勵(lì)措施,明確從今年起連續(xù)3年,
省和貴陽(yáng)市、貴安新區(qū)每年各安排不少于1億元資金,用于支持大數(shù)據(jù)產(chǎn)業(yè)發(fā)展
及應(yīng)用。
2014年6月底,貴州省大數(shù)據(jù)產(chǎn)業(yè)研究院將在貴州大學(xué)開(kāi)工建設(shè)的消息在
貴州省大數(shù)據(jù)產(chǎn)業(yè)發(fā)展應(yīng)用研究院研討會(huì)上發(fā)布。該研究院由貴安新區(qū)管委會(huì)、
泰豪集團(tuán)有限公司、貴州大學(xué)等聯(lián)合建設(shè),建設(shè)總經(jīng)費(fèi)15000萬(wàn)元,由研發(fā)大樓、
綜合辦公樓、產(chǎn)業(yè)孵化樓和公寓等組成,實(shí)行理事會(huì)領(lǐng)導(dǎo)下的院長(zhǎng)負(fù)責(zé)制。
2014年7月11日,云上貴州·大數(shù)據(jù)國(guó)際年會(huì)論壇舉行,論壇圍繞“大數(shù)
據(jù)時(shí)代的產(chǎn)業(yè)變革——融合創(chuàng)新、綠色跨越”的主題,采取“主題演講、高峰論
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
壇、媒體活動(dòng)、參觀(guān)調(diào)研”相結(jié)合的形式,邀請(qǐng)國(guó)家部級(jí)領(lǐng)導(dǎo)、專(zhuān)家院士、企業(yè)
家代表等,共同探討大數(shù)據(jù)產(chǎn)業(yè)發(fā)展面臨的機(jī)遇與挑戰(zhàn)、趨勢(shì)與未來(lái),共同研究
貴州大數(shù)據(jù)產(chǎn)業(yè)發(fā)展的方向和路徑選擇。同時(shí),正式啟動(dòng)了貴州省大數(shù)據(jù)產(chǎn)業(yè)聯(lián)
盟。
此外,貴陽(yáng)市政府將與北京云基地共同建設(shè)貴陽(yáng)云基地,聯(lián)合完成貴陽(yáng)市云
計(jì)算產(chǎn)業(yè)發(fā)展規(guī)劃,啟動(dòng)貴陽(yáng)云計(jì)算產(chǎn)業(yè)創(chuàng)業(yè)投資基金、云計(jì)算設(shè)備生產(chǎn)基地、
云計(jì)算創(chuàng)新孵化基地、國(guó)際云服務(wù)數(shù)據(jù)中心基地、電子政務(wù)云示范等項(xiàng)目的建設(shè)。
到2016年聚集50家以上云計(jì)算企業(yè),形成服務(wù)器年產(chǎn)值50億元,云計(jì)算應(yīng)用
產(chǎn)值10億元。
產(chǎn)業(yè)聯(lián)盟
各地方結(jié)合其經(jīng)濟(jì)、技術(shù)、產(chǎn)業(yè)等發(fā)展需求,以產(chǎn)業(yè)聯(lián)盟等形式推動(dòng)大數(shù)據(jù)
發(fā)展。
2012年12月13日,中關(guān)村大數(shù)據(jù)產(chǎn)業(yè)聯(lián)盟是成立。聯(lián)盟成立宗旨是:把
握云計(jì)算、大數(shù)據(jù)與產(chǎn)業(yè)革新浪潮帶來(lái)的戰(zhàn)略機(jī)遇,聚合廠(chǎng)商、用戶(hù)、投資機(jī)構(gòu)、
院校與研究機(jī)構(gòu)、政府部門(mén)的力量,通過(guò)研討交流、數(shù)據(jù)共享、聯(lián)合開(kāi)發(fā)、推廣
應(yīng)用、產(chǎn)業(yè)標(biāo)準(zhǔn)制定與推行、聯(lián)合人才培養(yǎng)、業(yè)務(wù)與投資合作、促進(jìn)政策支持等
工作,推進(jìn)實(shí)現(xiàn)數(shù)據(jù)開(kāi)發(fā)共享,并形成相關(guān)技術(shù)與產(chǎn)業(yè)的突破性創(chuàng)新,產(chǎn)業(yè)的跨
越式發(fā)展,推動(dòng)培育世界領(lǐng)先的大數(shù)據(jù)技術(shù)、產(chǎn)品、產(chǎn)業(yè)和市場(chǎng)。聯(lián)盟主要會(huì)員
單位包括:中國(guó)寬帶資本、億贊普(北京)科技有限公司、天云融創(chuàng)數(shù)據(jù)科技(北
京)有限公司、北京友友天宇系統(tǒng)技術(shù)有限公司、百度在線(xiàn)網(wǎng)絡(luò)技術(shù)(北京)有
限公司、北京東方國(guó)信科技有限公司、北京拓爾思信息技術(shù)有限公司等。聯(lián)盟主
要工作包括承接政府部門(mén)的相關(guān)大數(shù)據(jù)方面的產(chǎn)業(yè)課題研究項(xiàng)目、組織相關(guān)大數(shù)
據(jù)產(chǎn)業(yè)國(guó)際會(huì)議、大數(shù)據(jù)專(zhuān)業(yè)書(shū)籍的編著及出版、組織大數(shù)據(jù)培訓(xùn)項(xiàng)目開(kāi)發(fā)、組
織聯(lián)盟成員進(jìn)行政府項(xiàng)目申報(bào)、聯(lián)盟間的合作、大數(shù)據(jù)項(xiàng)目孵化及標(biāo)準(zhǔn)研究、推
動(dòng)聯(lián)盟間的國(guó)際合作和搭建數(shù)據(jù)市場(chǎng)服務(wù)平臺(tái)。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
2013年3月28日深圳市大數(shù)據(jù)產(chǎn)業(yè)研聯(lián)盟成立。發(fā)起成立聯(lián)盟的16個(gè)單
位主要包括:中科院深圳先進(jìn)技術(shù)研究院、國(guó)家超級(jí)計(jì)算深圳中心(深圳云計(jì)算
中心)、深圳大學(xué)、清華大學(xué)深圳研究生院、深圳市南山科技事務(wù)所、金蝶國(guó)際
軟件集團(tuán)有限公司、華為技術(shù)有限公司、宇龍計(jì)算機(jī)通信科技(深圳)有限公司、
華大基因、騰訊公司等。該聯(lián)盟立足于發(fā)揮深圳高新技術(shù)研究和產(chǎn)業(yè)化優(yōu)勢(shì),發(fā)
揮產(chǎn)業(yè)聯(lián)動(dòng)作用,促進(jìn)同行業(yè)間信息溝通、業(yè)務(wù)合作、資源共享、優(yōu)勢(shì)互補(bǔ),促
進(jìn)大數(shù)據(jù)產(chǎn)業(yè)鏈的形成。
2013年6月,山東農(nóng)業(yè)大數(shù)據(jù)產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟成立。包括6個(gè)省直
廳局,2所農(nóng)業(yè)高校,2家科研單位,還有11家計(jì)算機(jī)和信息技術(shù)、農(nóng)業(yè)產(chǎn)業(yè)方
面的國(guó)內(nèi)知名企業(yè)作為聯(lián)盟的成員。這個(gè)由政府、高校、科研單位、企業(yè)組成的
聯(lián)盟將通過(guò)加強(qiáng)對(duì)農(nóng)業(yè)相關(guān)信息和數(shù)據(jù)的分析研究,為政府決策、產(chǎn)業(yè)發(fā)展提供
更多的服務(wù)和支持。聯(lián)盟成員包括:山東省科技廳、教育廳、農(nóng)業(yè)廳、林業(yè)廳、
國(guó)土資源廳、水利廳、省畜牧局、農(nóng)機(jī)局等政府部門(mén),中國(guó)測(cè)繪科學(xué)研究院、山
東省農(nóng)科院、山東農(nóng)業(yè)大學(xué)、青島農(nóng)業(yè)大學(xué)等科研單位和高校,以及龍信數(shù)據(jù)(北
京)有限公司、浪潮集團(tuán)、山東金正大生態(tài)工程股份有限公司、山東登海種業(yè)股
份有限公司等國(guó)內(nèi)企業(yè)。與農(nóng)業(yè)相關(guān)的信息、數(shù)據(jù)來(lái)源十分廣泛,包括氣象、土
地、水利、農(nóng)資、農(nóng)業(yè)科研成果、動(dòng)物和植物生產(chǎn)發(fā)展情況、農(nóng)業(yè)機(jī)械、病蟲(chóng)害
防治、生態(tài)環(huán)境、市場(chǎng)營(yíng)銷(xiāo)、食品安全、公共衛(wèi)生、農(nóng)產(chǎn)品加工等諸多環(huán)節(jié)。這
里更為重要的是農(nóng)業(yè)大數(shù)據(jù)的應(yīng)用。聯(lián)盟將致力于成員間的溝通與合作,以聯(lián)盟
為溝通與合作平臺(tái),共同圍繞農(nóng)業(yè)大數(shù)據(jù)產(chǎn)業(yè)技術(shù)創(chuàng)新的關(guān)鍵問(wèn)題,加強(qiáng)合作,
聯(lián)合攻關(guān);加強(qiáng)聯(lián)盟創(chuàng)新資源的整合與共享,強(qiáng)化創(chuàng)新人才培養(yǎng)機(jī)制創(chuàng)新,積極
推進(jìn)大數(shù)據(jù)研究的學(xué)科建設(shè);探索建立互利互惠、富有生命力、符合市場(chǎng)化和產(chǎn)
業(yè)化的運(yùn)行機(jī)制;積極開(kāi)展農(nóng)業(yè)大數(shù)據(jù)的示范推廣,為政府部門(mén)科學(xué)決策提供參
考。
3.2.3國(guó)內(nèi)大數(shù)據(jù)應(yīng)用實(shí)踐
大數(shù)據(jù)在國(guó)際上已經(jīng)有了很廣泛的應(yīng)用,并帶來(lái)了巨大的經(jīng)濟(jì)效益。國(guó)內(nèi)大
量企業(yè)紛紛意識(shí)到,隨著大數(shù)據(jù)相關(guān)技術(shù)的不斷發(fā)展,傳統(tǒng)的商業(yè)模式將被顛覆,
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
新的商業(yè)生態(tài)將形成,而且隨著價(jià)值鏈各方對(duì)業(yè)務(wù)模式和盈利模式的創(chuàng)新,新的
商業(yè)生態(tài)將在不斷演化中完善。因此各個(gè)企業(yè)紛紛開(kāi)展自己的大數(shù)據(jù)布局。
目前大數(shù)據(jù)在國(guó)內(nèi)各行各業(yè)也得到了廣泛的應(yīng)用。包括電子地圖,電子商務(wù)、
電信、互聯(lián)網(wǎng)、媒資、高性能計(jì)算、金融等行業(yè)和領(lǐng)域都有應(yīng)用。本報(bào)告針對(duì)國(guó)
內(nèi)大數(shù)據(jù)在地圖數(shù)據(jù),電子商務(wù)和科學(xué)研究領(lǐng)域的典型應(yīng)用案例進(jìn)行了分析。
地圖數(shù)據(jù)領(lǐng)域
高德地圖作為數(shù)字地圖、導(dǎo)航和位置服務(wù)解決方案提供商,掌握了大量的行
業(yè)運(yùn)營(yíng)車(chē)輛GPS數(shù)據(jù),以及高德用戶(hù)數(shù)據(jù),并與各城市交管部門(mén)合作,掌握了眾
多交通信息數(shù)據(jù)。
高德和阿里巴巴開(kāi)展了數(shù)據(jù)領(lǐng)域的共享合作。在數(shù)據(jù)交換方面,兩家公司擬
聯(lián)合建立數(shù)據(jù)庫(kù)系統(tǒng),高德提供地理位置、交通信息、興趣點(diǎn)信息(pointof
interest,POI)以及用戶(hù)數(shù)據(jù)等,阿里巴巴則分享其電商平臺(tái)如淘寶、天貓上
商家的地理位置信息以及其他基于網(wǎng)絡(luò)的地理位置信息從而解決兩家公司間各
自數(shù)據(jù)來(lái)源領(lǐng)域的不同所導(dǎo)致的數(shù)據(jù)單一等問(wèn)題。通過(guò)進(jìn)行充分有效的數(shù)據(jù)共享
交換,使得兩家公司的數(shù)據(jù)資源都得到了充分的補(bǔ)充和擴(kuò)展,為之后進(jìn)一步的數(shù)
據(jù)挖掘和分析提供了一個(gè)良好的環(huán)境。兩家企業(yè)未來(lái)將共建大數(shù)據(jù)服務(wù)體系,高
德?lián)碛谢A(chǔ)的地圖和導(dǎo)航數(shù)據(jù),阿里巴巴在電子商務(wù)尤其是商戶(hù)信息方面非常強(qiáng)
大,其電子商務(wù)平臺(tái)上每天有上千萬(wàn)商戶(hù)交易、物流配送等信息,未來(lái)兩家企業(yè)
會(huì)把各自的數(shù)據(jù)融合、匹配,建立大數(shù)據(jù)服務(wù)體系。兩家在數(shù)據(jù)服務(wù)上與其他傳
統(tǒng)的技術(shù)廠(chǎng)商之間將產(chǎn)生巨大的差距,其合作優(yōu)勢(shì)將會(huì)很快在服務(wù)中得到展現(xiàn)。
除與阿里巴巴的合作之外,高德地圖還與嘀嘀打車(chē)、團(tuán)800、大眾點(diǎn)評(píng)、攜
程、丁丁優(yōu)惠、訂餐小秘書(shū)等第三方資源進(jìn)行合作。通過(guò)與這些第三方資源的數(shù)
據(jù)開(kāi)放和共享,一方面提高高德地圖本身的數(shù)據(jù)來(lái)源和儲(chǔ)備,為其服務(wù)提供更加
有力的支持。同時(shí)高德地圖也將其自身的數(shù)據(jù)與這些企業(yè)進(jìn)行共享,從而帶動(dòng)這
些企業(yè)相關(guān)業(yè)務(wù)的開(kāi)展。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
電子商務(wù)領(lǐng)域
擁有十年電商經(jīng)歷的京東積累了非常多的有價(jià)值的數(shù)據(jù),京東已經(jīng)吸引了一
大批非常有質(zhì)量的用戶(hù),上億用戶(hù)的數(shù)據(jù)對(duì)于任何一家電商來(lái)說(shuō),都具有一定的
價(jià)值。
目前京東將其交易、營(yíng)銷(xiāo)、供應(yīng)鏈、倉(cāng)儲(chǔ)、配送、售后和IT等七大系統(tǒng)所
產(chǎn)生的數(shù)據(jù),通過(guò)其數(shù)據(jù)平臺(tái)全面開(kāi)放。提供超過(guò)500個(gè)API的調(diào)用,用戶(hù)可以
通過(guò)調(diào)用其提供的API來(lái)獲得在京東大數(shù)據(jù)平臺(tái)上的相關(guān)數(shù)據(jù),從而為其相關(guān)的
應(yīng)用提供便利。目前京東數(shù)據(jù)平臺(tái)的開(kāi)放API的日均調(diào)用量超過(guò)了2億次,合作
的ISV(IndependentSoftwareVendors獨(dú)立軟件開(kāi)發(fā)商)500多家,注冊(cè)的個(gè)
人用戶(hù)達(dá)到了3萬(wàn)人次。為一萬(wàn)余家商戶(hù)提供了服務(wù)。
京東作為國(guó)內(nèi)知名的電子商務(wù)平臺(tái),其數(shù)據(jù)服務(wù)的主要對(duì)象就是在其平臺(tái)上
進(jìn)行銷(xiāo)售的商戶(hù)和購(gòu)買(mǎi)商品的客戶(hù)。因此京東提供的數(shù)據(jù)服務(wù),重點(diǎn)集中在以下
幾個(gè)方面。
1)精準(zhǔn)營(yíng)銷(xiāo)
幾乎所有的電商企業(yè)都會(huì)基于用戶(hù)的購(gòu)買(mǎi)行為做精準(zhǔn)營(yíng)銷(xiāo),主要方式是
E-mail、短信等。網(wǎng)站推介系統(tǒng)也是一種較為隱蔽的營(yíng)銷(xiāo)方式。京東依靠大數(shù)據(jù)
進(jìn)行精準(zhǔn)營(yíng)銷(xiāo),最重要的是用戶(hù)建模。
2)優(yōu)化供應(yīng)鏈
京東的很多商品都是自動(dòng)補(bǔ)貨,系統(tǒng)會(huì)根據(jù)銷(xiāo)售情況和市場(chǎng)預(yù)期,依靠預(yù)測(cè)
模型,在庫(kù)存量達(dá)到某一個(gè)閥值時(shí)自動(dòng)生成訂單發(fā)給供貨商。一些復(fù)雜的因素會(huì)
被去除掉,例如團(tuán)購(gòu)等,以保證預(yù)測(cè)模型的準(zhǔn)確。
大數(shù)據(jù)也被應(yīng)用在物流配送領(lǐng)域。京東會(huì)分析物流人員、倉(cāng)庫(kù)以及用戶(hù)之間
的地理關(guān)系,為物流人員提供最優(yōu)配送路徑,提高配送速度,提升用戶(hù)體驗(yàn)。
3)智能網(wǎng)站
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
基于大數(shù)據(jù)挖掘和分析,網(wǎng)站將變得越來(lái)越智慧。一些商品具有重復(fù)購(gòu)買(mǎi)的
特點(diǎn),例如牙膏,購(gòu)買(mǎi)之后在可預(yù)期的一段時(shí)間內(nèi)將會(huì)用完。京東會(huì)分析此類(lèi)商
品用戶(hù)兩次購(gòu)買(mǎi)之間的平均時(shí)間,在這個(gè)時(shí)間到來(lái)之后,推介系統(tǒng)有可能會(huì)給用
戶(hù)推介相應(yīng)的商品,提升用戶(hù)的體驗(yàn),提高商品的轉(zhuǎn)化率。
科學(xué)研究領(lǐng)域
中國(guó)科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心研發(fā)了中科院科學(xué)數(shù)據(jù)庫(kù)。截止到2010年
底,科學(xué)數(shù)據(jù)資源超過(guò)了150TB,提供在線(xiàn)服務(wù)的科學(xué)數(shù)據(jù)資源超過(guò)100TB。數(shù)
據(jù)資源涵蓋物理、化學(xué)、地球科學(xué)、生物學(xué)、材料科學(xué)、能源科學(xué)、信息科學(xué)等
多個(gè)學(xué)科領(lǐng)域;十二五期間的目標(biāo)是形成開(kāi)放共享、服務(wù)創(chuàng)新的國(guó)家級(jí)科技數(shù)據(jù)
中心,為我國(guó)科技發(fā)展提供強(qiáng)大和持續(xù)的數(shù)據(jù)基礎(chǔ)設(shè)施。此外,還開(kāi)發(fā)了提供推
送最新論文、專(zhuān)利和項(xiàng)目信息的科技信息服務(wù),提供地理空間數(shù)據(jù)云等開(kāi)放數(shù)據(jù)
集,目前內(nèi)容尚在完善過(guò)程中。
3.3大數(shù)據(jù)發(fā)展現(xiàn)狀分析
從國(guó)際上看,大數(shù)據(jù)方面的工作主要集中在以下4個(gè)方面:一是政府層面,
主要是提供政策導(dǎo)向,推動(dòng)政府?dāng)?shù)據(jù)、科學(xué)數(shù)據(jù)開(kāi)放,為大數(shù)據(jù)發(fā)展提供政策支
持和可信數(shù)據(jù)來(lái)源;二是研究機(jī)構(gòu)利用政府資金,開(kāi)展科學(xué)數(shù)據(jù)、論文等開(kāi)放數(shù)
據(jù)集建設(shè),并開(kāi)展數(shù)據(jù)集間互操作方面的研究;三是Google等公司研制了分布
式數(shù)據(jù)處理平臺(tái)等產(chǎn)品,為大數(shù)據(jù)發(fā)展提供技術(shù)和產(chǎn)品支撐;四是標(biāo)準(zhǔn)化方面,
目前最為實(shí)質(zhì)性的是ISO/IECJTC1成立了大數(shù)據(jù)研究組,由美國(guó)NIST牽頭,NIST
系統(tǒng)地開(kāi)展了大數(shù)據(jù)架構(gòu)、數(shù)據(jù)、安全需求等方面的研究,研究成果將貢獻(xiàn)至
JTC1。
從國(guó)內(nèi)情況來(lái)看,多個(gè)地方政府提出大力發(fā)展大數(shù)據(jù)的政策導(dǎo)向,在北京市
率先開(kāi)放了政府?dāng)?shù)據(jù)資源;中國(guó)科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心研發(fā)了科學(xué)數(shù)據(jù)庫(kù)等
開(kāi)放數(shù)據(jù)集;阿里利用擁有的大量商業(yè)數(shù)據(jù)為基礎(chǔ),進(jìn)行統(tǒng)計(jì)、分析和挖掘,對(duì)
外提供數(shù)據(jù)服務(wù);人民大學(xué)等研究院所和百度、阿里等公司正在開(kāi)展大數(shù)據(jù)處理
技術(shù)和平臺(tái)研制工作;在標(biāo)準(zhǔn)化方面,全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員在充分調(diào)研
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
基礎(chǔ)上,提出了技術(shù)體系參考模型和標(biāo)準(zhǔn)體系框架,提出了術(shù)語(yǔ)、體系結(jié)構(gòu)、數(shù)
據(jù)表示、非結(jié)構(gòu)化數(shù)據(jù)、數(shù)據(jù)質(zhì)量、科學(xué)數(shù)據(jù)集等方面標(biāo)準(zhǔn),其中多項(xiàng)標(biāo)準(zhǔn)已經(jīng)
立項(xiàng)。
從大數(shù)據(jù)與相關(guān)技術(shù)的關(guān)聯(lián)關(guān)系上來(lái)看,互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計(jì)算等技術(shù)的
發(fā)展為大數(shù)據(jù)提供了基礎(chǔ),互聯(lián)網(wǎng)、物聯(lián)網(wǎng)提供了大量數(shù)據(jù)來(lái)源;云計(jì)算的分布
式存儲(chǔ)和計(jì)算能力提供了技術(shù)支撐;而大數(shù)據(jù)的核心是數(shù)據(jù)處理。其中傳統(tǒng)的數(shù)
據(jù)處理技術(shù)經(jīng)過(guò)演進(jìn)依然有效,新興技術(shù)還在不斷探索和發(fā)展中。
從大數(shù)據(jù)商業(yè)模式上來(lái)看,大數(shù)據(jù)時(shí)代,不斷涌現(xiàn)出圍繞大數(shù)據(jù)、利用大數(shù)
據(jù)的新產(chǎn)品形態(tài)、新業(yè)務(wù)模式。其中,“數(shù)據(jù)租售”即通過(guò)出售原始的業(yè)務(wù)數(shù)據(jù)
或者是經(jīng)過(guò)初步處理分析的數(shù)據(jù)來(lái)獲取直接的利益,以商品化的數(shù)據(jù)應(yīng)用創(chuàng)造了
新的商業(yè)模式。百度游戲通過(guò)搜集整理網(wǎng)絡(luò)游戲用戶(hù)的搜索需求和搜索熱點(diǎn),建
立完備的用戶(hù)行為數(shù)據(jù)庫(kù),提供給上游的游戲運(yùn)營(yíng)商,創(chuàng)造了數(shù)據(jù)服務(wù)收入,成
為在搜索引擎領(lǐng)域中將數(shù)據(jù)支持服務(wù)變?yōu)橹饕J降某晒Π咐0⒗锇桶驼?/p>
在研發(fā)的數(shù)據(jù)倉(cāng)庫(kù),以阿里巴巴擁有的大量商業(yè)數(shù)據(jù)為基礎(chǔ),進(jìn)行統(tǒng)計(jì)、分析和
挖掘,形成規(guī)范的實(shí)體明細(xì)數(shù)據(jù)和指標(biāo)數(shù)據(jù),對(duì)外服務(wù)。其中,“魔方”是淘寶
網(wǎng)成立的專(zhuān)門(mén)用于提供數(shù)據(jù)服務(wù)的機(jī)構(gòu),為商家提供行業(yè)分析數(shù)據(jù),從中獲取利
益。此外,科學(xué)機(jī)構(gòu)、政府機(jī)構(gòu)提供的數(shù)據(jù)集也成為可信的重要數(shù)據(jù)來(lái)源。
大數(shù)據(jù)的發(fā)展目前急需解決三方面的問(wèn)題:一是提供處理大數(shù)據(jù)技術(shù)能力的
平臺(tái);二是需要明確大數(shù)據(jù)生態(tài)環(huán)境中各個(gè)角色的權(quán)利、義務(wù),解決數(shù)據(jù)開(kāi)放和
共享過(guò)程中的產(chǎn)權(quán)保護(hù)、權(quán)限管理和隱私保護(hù)等問(wèn)題;三是需要建立可管理維護(hù)、
可信、易于互操作的數(shù)據(jù)資源集,這是大數(shù)據(jù)發(fā)展的初步成果,為大數(shù)據(jù)處理、
應(yīng)用和進(jìn)一步發(fā)展提供基礎(chǔ),也是我國(guó)的重要信息資源。其中第一個(gè)問(wèn)題是技術(shù)
問(wèn)題,后面兩個(gè)問(wèn)題既是技術(shù)問(wèn)題,也是管理問(wèn)題。
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
4.大數(shù)據(jù)技術(shù)參考模型和關(guān)鍵技術(shù)
4.1大數(shù)據(jù)技術(shù)參考模型
大數(shù)據(jù)作為一項(xiàng)新興技術(shù),目前尚未形成完善、達(dá)成共識(shí)的技術(shù)體系。本章
結(jié)合NIST和JTC1/SC32的研究成果,結(jié)合我們對(duì)大數(shù)據(jù)的理解和分析,提出了大
數(shù)據(jù)技術(shù)參考模型。
圖8大數(shù)據(jù)技術(shù)參考模型圖
大數(shù)據(jù)技術(shù)參考模型表示了通用的、技術(shù)無(wú)關(guān)的大數(shù)據(jù)系統(tǒng)的邏輯功能模塊
以及模塊之間的互操作接口(如:服務(wù))。這些被稱(chēng)為“提供者”的模塊代表了
大數(shù)據(jù)生態(tài)系統(tǒng)中的功能角色,表明他們提供或?qū)嵤┐髷?shù)據(jù)系統(tǒng)中特定技術(shù)的功
能。
大數(shù)據(jù)技術(shù)參考模型基于代表大數(shù)據(jù)價(jià)值鏈的兩個(gè)維度組成:信息流(垂直
維)和IT集成(水平維)。在信息流維度上,價(jià)值通過(guò)數(shù)據(jù)采集、集成、分析、
使用結(jié)果來(lái)實(shí)現(xiàn)。在IT維度上,價(jià)值通過(guò)為大數(shù)據(jù)應(yīng)用的實(shí)施提供擁有或運(yùn)行
中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院大數(shù)
據(jù)標(biāo)準(zhǔn)化白皮書(shū)
大數(shù)據(jù)的網(wǎng)絡(luò)、基礎(chǔ)設(shè)施、平臺(tái)、應(yīng)用工具以及其他IT服務(wù)來(lái)實(shí)現(xiàn)。大數(shù)據(jù)應(yīng)
用提供者模塊是在兩個(gè)維的交叉點(diǎn)上,表明大數(shù)據(jù)分析和其實(shí)施是為兩個(gè)價(jià)值鏈
上大數(shù)據(jù)利益相關(guān)者提供的特定價(jià)值。
五個(gè)主要的架構(gòu)模塊代表在每個(gè)大數(shù)據(jù)系統(tǒng)中存在的不同技術(shù)角色:數(shù)據(jù)提
供者、數(shù)據(jù)消費(fèi)者、大數(shù)據(jù)處理提供者、大數(shù)據(jù)框架提供者、系統(tǒng)協(xié)調(diào)者。另外
兩個(gè)架構(gòu)模塊是安全隱私和管理,代表能為大數(shù)據(jù)系統(tǒng)其他模塊提供服務(wù)和功能
的構(gòu)件。這兩個(gè)關(guān)鍵功能極其重要,因此也被集成在任何大數(shù)據(jù)解決方案中。
此架構(gòu)可以用于多個(gè)大數(shù)據(jù)系統(tǒng)組成的復(fù)雜系統(tǒng),這樣其中一個(gè)系統(tǒng)的大數(shù)
據(jù)使用者可以作為另外一個(gè)系統(tǒng)的大數(shù)據(jù)提供者。
“數(shù)據(jù)”箭頭表明在系統(tǒng)主要模塊之間流動(dòng)的數(shù)據(jù)。模塊之間的數(shù)據(jù)可以是
物理實(shí)體或者數(shù)據(jù)的引用地址?!败浖奔^表明在大數(shù)據(jù)流程中的支撐軟件工
具?!胺?wù)
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶(hù)所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶(hù)上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶(hù)上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶(hù)因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 衛(wèi)生值日交接制度
- 關(guān)于吸煙衛(wèi)生制度
- 衛(wèi)生院全科診室工作制度
- 汪橋村環(huán)境衛(wèi)生管理制度
- 衛(wèi)生院財(cái)政資金管理制度
- 進(jìn)一步完善衛(wèi)生管理制度
- 午托飲用水衛(wèi)生制度
- 校園衛(wèi)生區(qū)規(guī)章制度
- 衛(wèi)生院債務(wù)業(yè)務(wù)管理制度
- 衛(wèi)生保潔員控感管理制度
- 工程項(xiàng)目管理(第二版)丁士昭主編的課后習(xí)題及答案
- 2025年河南省中招理化生實(shí)驗(yàn)操作考試ABCD考場(chǎng)評(píng)分表
- 2024年吉林省高職高專(zhuān)院校單獨(dú)招生統(tǒng)一考試數(shù)學(xué)試題
- 四川省成都市邛崍市2024-2025學(xué)年九年級(jí)上學(xué)期期末化學(xué)試題(含答案)
- 2025新滬教版英語(yǔ)(五四學(xué)制)七年級(jí)下單詞默寫(xiě)表
- 食品行業(yè)停水、停電、停汽時(shí)應(yīng)急預(yù)案
- MEMRS-ECG心電網(wǎng)絡(luò)系統(tǒng)使用說(shuō)明書(shū)
- 美國(guó)變壓器市場(chǎng)深度報(bào)告
- 建設(shè)工程第三方質(zhì)量安全巡查標(biāo)準(zhǔn)
- 乳化液處理操作規(guī)程
- 飯店轉(zhuǎn)讓協(xié)議合同
評(píng)論
0/150
提交評(píng)論