版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、氣象云建設的思考,章國材 2015年8月,目錄,1 現(xiàn)狀與需求分析 氣象云建設原則 氣象云總體設計思路 4 氣象云建設中的數(shù)據(jù)獲取,1 現(xiàn)狀與需求分析1.1需求分析,從需求看,氣象已進入大數(shù)據(jù)時代。氣象數(shù)據(jù)有4個特點: 第一,數(shù)據(jù)體量巨大。從TB級別躍升到PB級別; 第二,數(shù)據(jù)類型繁多。既有高空、地面、衛(wèi)星、雷達等觀測資料,各種數(shù)值預報預測產品和各種類型的氣象預報服務產品,還有辦公文檔、文本、圖片、XML、HTML、各類報表、圖像和音頻、視頻信息等。 第三,處理速度快。從各種類型的數(shù)據(jù)中快速獲得高價值的信息,這是當今氣象業(yè)務和服務的迫切需求。 第四,回報價值高。只要合理利用數(shù)據(jù)并對其進行正確、
2、準確的分析,將會帶來很高的價值回報。,氣象預報預測的需求,有關天氣產品的加工處理要求進一步提高氣象要素和災害性天氣的時間、空間和量值的分辨率和預報準確率; 目前正在發(fā)展的氣象災害風險評估業(yè)務,不僅要求很高的天氣預報準確率和精細度,而且要評估天氣和氣候對人類社會的負面影響風險,這需要掌握詳盡的承災體易損性數(shù)據(jù); 氣候預測不僅涉及大氣圈,而且涉及水圈、巖石圈、冰雪圈和生物圈以及五個圈層的復雜相互作用; 農業(yè)和生態(tài)氣象、交通氣象、環(huán)境氣象、能源和電力氣象、健康氣象等都對數(shù)據(jù)加工提出了新的需求 這些新需求既涉及氣象科學技術本身的發(fā)展,也涉及氣象信息化的支撐,氣象信息化如何更好地支撐這些業(yè)務,面臨諸多挑
3、戰(zhàn)。,氣象觀測的需求,氣象觀測數(shù)據(jù)的獲取的方式由于遙感遙測技術、智能手機、移動互聯(lián)網、物聯(lián)網等先進技術的應用,將發(fā)生重大變化。 例如,如何挖掘城市多如牛毛的視頻中的氣象信息,對我們就是重大的挑戰(zhàn)。 當“人人都是氣象觀測員”和物聯(lián)網應用于氣象觀測時,氣象觀測信息的獲取和處理將會更加復雜多樣。,氣象服務的需求,氣象服務對象有決策者、公眾、專業(yè)用戶等,當人人享受氣象服務時,不僅氣象服務用戶數(shù)海量增長著,而且為他們提供的氣象服務呈現(xiàn)產品多樣化(適應不同用戶的需求)、表現(xiàn)方式多樣化(包括視頻、音頻、圖片、圖像、文檔、文本等形式)、服務的手段多樣化(包括電視、手機、聲訊、網站、報紙、電臺等)等特征。 隨著
4、智能手機、移動互聯(lián)網、物聯(lián)網等先進技術的應用,氣象服務的方式將發(fā)生重大轉變。氣象信息化如何更好地支撐這種轉變,也面臨諸多挑戰(zhàn)。,1.2 現(xiàn)狀分析,從氣象信息化現(xiàn)狀看,我國雖然已經建成了氣象信息化業(yè)務服務系統(tǒng),但是氣象信息化仍然存在不少問題。 首先,氣象數(shù)據(jù)未實現(xiàn)標準化。地面氣象觀測有舊Z1、Z2格式、新Z格式、區(qū)域站格式、交通氣象站格式等;天氣雷達有7種格式,其它觀測資料亦未統(tǒng)一格式;預報產品沒有統(tǒng)一的格式,服務產品沒有統(tǒng)一的格式,使得數(shù)據(jù)傳輸、處理和存儲復雜,共享困難。 其次,氣象通信先進性和集約性欠佳。所有的省區(qū)市國家部署的新一代氣象通信系統(tǒng)與CIMISS中的CTS并存;一些省區(qū)市國內通信
5、系統(tǒng)依托新一代通信系統(tǒng),另一些省(市)以自建的通信系統(tǒng)為主,新一代通信系統(tǒng)僅作為數(shù)據(jù)上傳和與CTS連接之用。國內通信系統(tǒng)需要整合。氣象通信系統(tǒng)中還存在不少人為設計的瓶頸,使得數(shù)據(jù)傳輸?shù)乃俣炔槐M人意。數(shù)據(jù)流、移動互聯(lián)網、物聯(lián)網等新技術的應用也向氣象通信的變革提出了挑戰(zhàn)。,第三,數(shù)據(jù)存儲與管理系統(tǒng)“信息孤島遍布”,目前國家級和各省市的數(shù)據(jù)存儲和管理系統(tǒng)處于高度分散、重復存儲、缺乏統(tǒng)一管理的狀態(tài)。各單位都有自己的數(shù)據(jù)存儲系統(tǒng),各種業(yè)務系統(tǒng)也有自己的數(shù)據(jù)存儲系統(tǒng),這些數(shù)據(jù)存儲系統(tǒng)缺乏統(tǒng)一的規(guī)范管理。目前數(shù)據(jù)存儲與管理系統(tǒng)存在以下問題:(1)數(shù)據(jù)存儲和管理高度分散;(2)數(shù)據(jù)存儲高度重復,所有的數(shù)據(jù)存儲
6、系統(tǒng)都長期保存地面觀測資料。(3)數(shù)據(jù)庫選型較亂,數(shù)據(jù)庫選型有ORACLE、SQL-SERVER、mysql等, NoSQL的數(shù)據(jù)庫選型也是五花八門,一個單位內數(shù)據(jù)庫型號也不統(tǒng)一。(4)存儲介質多,有的數(shù)據(jù)存儲在數(shù)據(jù)庫的磁盤中,有的數(shù)據(jù)存儲在光盤或移動硬盤中。(5)缺少面向業(yè)務應用的靈活的數(shù)據(jù)檢索接口,專門數(shù)據(jù)庫專用,相互獨立,各不相干。(6)長期保存的數(shù)據(jù)種類偏多。,造成“信息孤島”遍布的原因,一是全國布局的業(yè)務項目各自都帶一個數(shù)據(jù)存儲系統(tǒng),例如MICAPS、SWAN、CIPAS 1.0、FODAS、MODES、MAPFS、DERF2.0,MESIS、農業(yè)氣象業(yè)務系統(tǒng)、交通氣象業(yè)務系統(tǒng)等都帶
7、一個數(shù)據(jù)存儲系統(tǒng); 二是省區(qū)市業(yè)務建設項目大都包括數(shù)據(jù)庫建設,因此就出現(xiàn)諸如水情共享、土壤水分、閃電、負氧離子、精細化預報、GNSS/MET、中小河流暴雨致災雨量分析、中小尺度天氣資料應用、氣象信息短信、氣象聲訊電話、興農網等數(shù)據(jù)庫; 三是工程項目也建數(shù)據(jù)庫,例如大氣監(jiān)測自動化工程、氣象災害監(jiān)測預警工程、山洪項目,有的省也建立了數(shù)據(jù)庫; 四是科研項目也建眾多數(shù)據(jù)庫?!靶畔⒐聧u”遍布造成浪費存儲資源、數(shù)據(jù)不能共享、管理維護困難等。 因此,國家和省級都急需建設一個統(tǒng)一的具有數(shù)據(jù)存儲管理和服務能力的數(shù)據(jù)庫系統(tǒng),使數(shù)據(jù)存儲管理和服務走上集約高效的軌道。,第四,“業(yè)務應用系統(tǒng)林立”,應當指出:業(yè)務應用應
8、當是多樣的,但是,MICAPS、SWAN、CIPAS 1.0、FODAS、MODES、MAPFS、DERF2.0,MESIS、農業(yè)氣象業(yè)務系統(tǒng)、交通氣象業(yè)務系統(tǒng)等都帶一個數(shù)據(jù)存儲系統(tǒng),都有數(shù)據(jù)服務器加工處理產品,都有自己的數(shù)據(jù)接口,這些數(shù)據(jù)接口對外是不公開的,其它用戶不可能共享它們加工的產品;都有自己的終端,只有它們的終端才能調用這些產品,因此這些業(yè)務應用系統(tǒng)都是一個孤立的系統(tǒng)。 它們都應當成為一個完全開放的系統(tǒng),它們加工的產品,所有注冊的用戶都很容易共享。 另一方面,我們的業(yè)務系統(tǒng)數(shù)據(jù)挖掘能力不強,氣象數(shù)據(jù)增值還有很大的空間。,第五,氣象服務系統(tǒng)碎片化,應當指出:氣象服務應當是多樣的,但是,
9、但是氣象服務系統(tǒng)目前呈現(xiàn)碎片化狀態(tài),其表現(xiàn)亦如業(yè)務應用系統(tǒng),每個氣象服務系統(tǒng)都帶一個數(shù)據(jù)存儲系統(tǒng),都有獨立的數(shù)據(jù)服務器加工處理產品,都有自己獨立的顯示平臺,只有這個平臺才能調用這個氣象服務系統(tǒng)的產品等,造成管理和維護維修這些系統(tǒng)困難,耗費大量人力物力和財力。 另外,移動互聯(lián)網、物聯(lián)網等先進技術為氣象服務提供了廣闊的發(fā)展空間。,出路,應用“互聯(lián)網+”技術,亦即云計算和云存儲、移動互聯(lián)網、物聯(lián)網等技術建設氣象云。,2 氣象云建設原則2.1 滿足各種氣象業(yè)務、服務和管理需求,以前建設的工程大都只是滿足某一方面的業(yè)務需求,這是造成“信息孤島遍布”和“業(yè)務應用系統(tǒng)林立”的重要原因。因此,建設氣象云首先必
10、須弄清楚各種氣象業(yè)務、服務和管理的需求,弄清楚他們對數(shù)據(jù)的需求、數(shù)據(jù)加工的需求和它們相互之間的關系等,這些問題沒有搞清楚之前,不要忽忙設計,否則“缺胳膊少腿”在所難免。 滿足氣象業(yè)務、服務和管理需求的另一層含義是氣象信息化應當適應氣象業(yè)務、服務和管理數(shù)據(jù)存儲和加工的特點,而不是反過來要求氣象業(yè)務、服務和管理去適應人為設計的氣象信息系統(tǒng)。,2.2 有利于提高氣象預報預測準確率,氣象業(yè)務的發(fā)展過程是不斷提高氣象監(jiān)測預報預測的精細度、準確率和業(yè)務服務面的過程,為此,我們不僅需要不斷增加觀測資料,提高氣象數(shù)值預報預測的水平,而且需要合理的業(yè)務布局。例如,按照現(xiàn)代天氣業(yè)務發(fā)展指導意見(2010),省級氣
11、象臺需要承擔中期、短期、短時、臨近天氣預報任務,地市級氣象臺需要承擔短期、短時、臨近天氣預報任務,縣級氣象站也需要開展災害性天氣和氣象災害監(jiān)測、災害性天氣臨近預報業(yè)務、訂正上級指導預報產品等業(yè)務。 天氣業(yè)務之所以這樣布局,就是為了發(fā)揮各級優(yōu)勢,提高天氣預報的精細度和準確率。不管下一步怎么改革,省級短期、短時、臨近天氣預報是不可少的,市級短時、臨近天氣預報也不可少,縣級補充訂正也不可少,否則天氣預報準確率和精細度會下降,這是不以人的意志為轉移的客觀規(guī)律。 而要加工天氣預報產品,就必須有氣象觀測資料和數(shù)值天氣預報產品,還需要天氣預報工作平臺支撐預報員的產品加工。其它業(yè)務也是如此。氣象信息系統(tǒng)建設應
12、當為提高氣象預報預測準確率提供支撐而不是相反。,2.3 集約高效,首先需要統(tǒng)一數(shù)據(jù)存儲和管理系統(tǒng),逐步消滅信息孤島,在同一級建設一個供各種業(yè)務、服務和管理共享和服務的大數(shù)據(jù)中心。 其次是統(tǒng)一數(shù)據(jù)加工平臺,各類加工氣象產品的算法使用統(tǒng)一的數(shù)據(jù)庫和統(tǒng)一的硬件軟件平臺,生成的產品又能回存到大數(shù)據(jù)中去。 這樣做可以大大節(jié)省硬件和軟件資源,維護維修也更加簡單明了,集約帶來高效。,2.4 數(shù)據(jù)共享,與銀行、公安等部門不同,它們的數(shù)據(jù)是保密的,不提供給外部門的用戶使用;而氣象觀測資料和各種預報預測產品,不僅氣象部門的用戶能夠共享,而且社會的用戶也能夠按規(guī)定共享。 這將造成氣象數(shù)據(jù)查詢和檢索的巨大壓力和不確定
13、性,使得氣象數(shù)據(jù)中心的建設與這些部門有所不同,這是氣象云建設必須認真考慮的問題。,3 氣象云總體設計思路,氣象云包括云存儲、云計算和云服務 云存儲應當為云計算提供支撐 云存儲、云計算應當為云服務提供支撐 (三者的關系見圖1)。,圖1 云存儲、云計算和云服務關系示意圖,3.1 云存儲,云存儲是指通過集群應用、網格技術和數(shù)據(jù)庫系統(tǒng)等,將網絡中大量各種不同類型的存儲設備通過應用軟件集合起來協(xié)同工作,共同對外提供數(shù)據(jù)存儲和業(yè)務訪問功能的一個系統(tǒng)7-8。云數(shù)據(jù)庫是部署和虛擬化在云計算環(huán)境中的數(shù)據(jù)庫,如圖2所示 。在云數(shù)據(jù)庫應用中,客戶端不需要了解云數(shù)據(jù)庫的底層細節(jié),所有的底層硬件都已經被虛擬化,對客戶端
14、而言是透明的。它就像在使用一個運行在單一服務器上的數(shù)據(jù)庫一樣,非常方便、容易,同時又可以獲得理論上近乎無限的存儲和處理能力。,圖2云數(shù)據(jù)庫示意圖,3.1.1數(shù)據(jù)存儲模型的選擇,任何數(shù)據(jù)庫設計的首要目標是應用程序如何方便快速地獲取數(shù)據(jù)。因此, 云數(shù)據(jù)庫設計既要考慮氣象數(shù)據(jù)本身的特點,又要考慮氣象應用程序如何方便快速地獲取數(shù)據(jù)。 氣象云存儲需要將所有氣象數(shù)據(jù)存放在同一數(shù)據(jù)庫之中,實時和歷史數(shù)據(jù)是一體化的,因此,氣象數(shù)據(jù)必然是大數(shù)據(jù)。 雖然傳統(tǒng)的關系型數(shù)據(jù)庫管理系統(tǒng)可滿足數(shù)據(jù)的一致性和可用性,在小規(guī)模數(shù)據(jù)量時可達到很好的效應,但隨著數(shù)據(jù)量和應用范圍的增長導致節(jié)點的增加,由于需要考慮數(shù)據(jù)同步和分區(qū)失敗
15、等開銷,性能會快速下降。 數(shù)據(jù)分布式存儲是必然的選擇。,數(shù)據(jù)分布式存儲有三種技術選擇,一是分布式關系型數(shù)據(jù)庫 二是分布式文件系統(tǒng)(又可稱為分布式半關系型數(shù)據(jù)庫) 三是非關系型數(shù)據(jù)庫(NoSQL)。,分布式關系型數(shù)據(jù)庫,將存儲的某類大數(shù)據(jù)切分成片段,每個片段的數(shù)據(jù)釆用關系型數(shù)據(jù)庫存儲。它需要滿足三個條件: (1)完備性條件:必須把全局關系的所有數(shù)據(jù)映射到片段中,決不允許有屬于全局關系的數(shù)據(jù)卻不屬于它的某一個片段。 (2)可重構條件:必須保證能夠由同一個全局關系的各個片段來重建該全局關系。 (3)不相交條件:要求一個全局關系被分割后所得的各個數(shù)據(jù)片段互不重疊。,觀測數(shù)據(jù)的存儲,例如,氣象站點觀測數(shù)
16、據(jù)需要實時與歷史數(shù)據(jù)一體化存儲,隨著時間的積累,必然產生大數(shù)據(jù) 而且氣象地面觀測數(shù)據(jù)讀與寫都很頻繁,每分鐘都有地面觀測數(shù)據(jù)寫入數(shù)據(jù)庫;MICAPS至少每10分鐘要讀氣象站點觀測數(shù)據(jù),生成地面天氣圖;如果允許部門內外的用戶不受限制地調用地面觀測的實時和歷史數(shù)據(jù),那么將所有的自動氣象站資料存在一張表中,顯然難于承受。 如果采取切分的方法把全國5萬多個自動氣象站的觀測數(shù)據(jù)切分成組(比如一個縣一組),每個組中的每個站點觀測數(shù)據(jù)一主兩備鏡像(三份)存儲在關系型數(shù)據(jù)庫中,由此可以較好解決寫與讀的高可用性問題。,氣象觀測數(shù)據(jù)的特殊需求,為了滿足科研用戶檢索并復制長序列歷史氣象觀測數(shù)據(jù)的需求,可能還需要再建設
17、一個只讀不寫的氣象站點觀測數(shù)據(jù)的關系型數(shù)據(jù)庫,以防止科研用戶長時間占用上面提到的關系型數(shù)據(jù)庫,影響該數(shù)據(jù)庫的實時讀與寫。 這個數(shù)據(jù)庫不僅是只讀不寫的,而且為了滿足多用戶并發(fā)調用,最細的切分可以到氣象觀測站。 這實際上是犧牲數(shù)據(jù)的冗余性以換取數(shù)據(jù)的可用性。,氣象管理信息的存儲,氣象管理信息由于數(shù)據(jù)量小,可以采取關系型數(shù)據(jù)庫存儲 但一定要做好數(shù)據(jù)的備份,以免某塊磁盤出故障丟失數(shù)據(jù)。 也可以采用分布式文件系統(tǒng)存儲。,分布式半關系型數(shù)據(jù)庫,分布式半關系型數(shù)據(jù)庫是指將每種數(shù)據(jù)的元數(shù)據(jù)存儲在關系型數(shù)據(jù)庫中,將其數(shù)值存儲在分布式文件庫中,它可以將同一份文件存儲在三個結點中,也可以采用N+M備份機制實現(xiàn)數(shù)據(jù)的
18、恢復。 天氣雷達、氣象衛(wèi)星數(shù)據(jù)量大,而且每天都在增長,可以采取分布式半關系型數(shù)據(jù)庫存儲。例如單部天氣雷達數(shù)據(jù),可以將天氣雷達站名、時間、產品屬性等元數(shù)據(jù)存儲在關系型數(shù)據(jù)庫中,將產品屬性的數(shù)值存儲在分布式文件庫中。,數(shù)值預報預測產品,每次生成的高分辨率數(shù)值分析預報預測產品數(shù)據(jù)量都比較大,對于用戶少的產品(例如動力氣候產品;如果MICAPS的絕大多數(shù)算法在后臺實現(xiàn),用戶調用的是MICAPS生成的產品,那么數(shù)值天氣預報產品的用戶也不多),可以把模式名稱、產品生成的時間、預報時效、物理量作為索引存儲在關系型數(shù)據(jù)庫中,將物理量的三維數(shù)據(jù)存儲在分布式文件系統(tǒng)之中,這種存儲方式可以滿足數(shù)值預報預測產品的三種
19、基本應用,快速檢索得到所需要的這些數(shù)據(jù),支持這些應用:從三維數(shù)據(jù)中檢索出該物理量某等壓面的二維數(shù)據(jù)(生成等壓面物理量圖形等)、某垂直截面的二維數(shù)據(jù)(生成物理量垂直剖面圖等)、某格點的垂直一維數(shù)據(jù)(生成模式產品探空圖及有關的物理量)。 對于用戶較多的產品,可以把層次也作為元數(shù)據(jù)放到索引之中,將物理量某層次的二維數(shù)據(jù)存儲在分布式文件系統(tǒng)之中。這種存儲方式,雖然調用垂直截面二維數(shù)據(jù)、某格點垂直一維數(shù)據(jù)需要從多個文件中獲取,計算速度可能慢一些,但是可以更好地滿足多用戶的并發(fā)調用。兩種存儲方式孰優(yōu)孰劣,與廠家開發(fā)的軟件有關,需要測試后才能決定。,由MICAPS4.0、SWAN、CIPAS2.0、MESI
20、S、LAPS、SWAP、SMART、農氣業(yè)務系統(tǒng)、交通氣象業(yè)務系統(tǒng)等自動生成的產品,氣象影視產品,也可以采用分布式文件系統(tǒng)存儲。 例如,MICAPS生成的探空站T-logP圖,可以將站名、時間、T-logP作為索引存儲在關系型數(shù)據(jù)庫中,將T-logP圖存儲在分布式文件庫中; 又如影視產品,可以將制作單位、時間、產品屬性等作為索引存儲在關系型數(shù)據(jù)庫中,將視頻圖像存儲在分布式文件庫中,等等。,分布式半關系型數(shù)據(jù)庫的優(yōu)點,分布式半關系型數(shù)據(jù)庫將關系型數(shù)據(jù)庫和分布式文件系統(tǒng)的優(yōu)點結合起來。分布式文件系統(tǒng)理論上存儲是無限的,同樣的文件存儲在三個不同的結點中,分布式文件系統(tǒng)可以保證數(shù)據(jù)的高可用性、分區(qū)容錯
21、性和用戶可容忍時效內數(shù)據(jù)的一致性。 同時分布式半關系型數(shù)據(jù)庫又將索引存儲在關系型數(shù)據(jù)庫中,可以充分利用SQL的完備查詢檢索功能。 這是一種比較適合氣象數(shù)據(jù)的存儲方式。,非關系型數(shù)據(jù)庫(NoSQL),非關系型數(shù)據(jù)庫(NoSQL)采用鍵/值模型存儲數(shù)據(jù)。 對于一些小的文件系統(tǒng)讀與寫都很快。例如天氣網站可以采用鍵/值模型存儲數(shù)據(jù),每個小文件中只存儲一種產品。,未來的氣象云數(shù)據(jù)庫,由此可見,未來的氣象云數(shù)據(jù)庫可能是一個混合數(shù)據(jù)庫,但是,數(shù)據(jù)庫的監(jiān)控和管理應當是統(tǒng)一的。 氣象云數(shù)據(jù)庫的數(shù)據(jù)冗余不可避免,盡管我們應當避免不必要的冗余。 此外,氣象云存儲還需要在研究氣象數(shù)據(jù)特征的基礎上確定氣象數(shù)據(jù)存儲標準,
22、數(shù)據(jù)存儲標準也應當有利于各種應用,氣象數(shù)據(jù)的存儲標準和傳輸標準應當進行一體化研究,盡可能減少數(shù)據(jù)傳輸?shù)酱鎯Φ母袷睫D換。,3.1.2氣象云存儲需要解決的問題,(1)容量問題 (2)延遲問題 (3)安全問題 (4)成本問題 (5)數(shù)據(jù)的積累 (6)靈活性,3.1.3氣象大數(shù)據(jù)中心的設計,氣象部門到底需要建幾級大數(shù)據(jù)中心?仁者見仁,智者見智。設計的依據(jù)是什么?筆者認為應該是第2節(jié)中提出的四個原則。因為管理數(shù)據(jù)量小、用戶少,管理數(shù)據(jù)庫在國家氣象大數(shù)據(jù)中心建設即可,就可以滿足管理的需求。 氣象大數(shù)據(jù)中心在國家和省兩級建設為宜。為什么是兩級而不是一級?在第2節(jié)中已經指出省級在氣象產品加工中處于骨干地位,都
23、需要加工氣象預報產品,因此都需要各類氣象觀測資料、數(shù)值預報產品,這些數(shù)據(jù)量巨大,不可能所有省級業(yè)務和服務人員都從中央數(shù)據(jù)庫中調取這些數(shù)據(jù),否則寬帶網無法支撐。,一級數(shù)據(jù)中心設想,把產品加工都集中到國家級進行? 在國家級給各省市區(qū)安排虛擬機? 市縣兩級大數(shù)據(jù)庫建設問題,3.2 云計算,大數(shù)據(jù)必然無法用單臺的計算機進行處理,必須采用分布式架構。 它的特色在于對海量數(shù)據(jù)進行分布式數(shù)據(jù)挖掘,但它必須依托云計算的分布式處理、分布式數(shù)據(jù)庫和云存儲、虛擬化技術。 云計算是并行計算、分布式計算和網格計算的發(fā)展,或者說是這些計算科學概念的商業(yè)實現(xiàn),3.2.1氣象部門如何應用SaaS、PaaS和IaaS,根據(jù)NI
24、ST的權威定義,云計算包括SaaS、PaaS和IaaS三大服務模式。 (1)SaaS:軟件即服務。提供給客戶的服務是運營商運行在云計算基礎設施上的應用程序,用戶可以在各種設備上通過瘦客戶端界面(如瀏覽器)訪問。消費者不需要管理或控制任何云計算基礎設施(包括網絡、服務器、操作系統(tǒng)、存儲等)和應用程序等。 很顯然,這種模式只適用于小企業(yè)。對于氣象單位用戶不適用,因為沒有一個運行商真正懂得氣象應用程序,氣象應用程序必須依靠氣象用戶自己開發(fā)。 但是,如果將用戶理解為業(yè)務、服務、科研和管理人員,則這種模式很適用于這些最終用戶,他們不需要管理或控制任何云計算基礎設施和應用程序,但可以在各種設備上通過瘦客戶
25、端界面(如瀏覽器)訪問他所需要的產品和數(shù)據(jù)。,(2)PaaS:平臺即服務,提供給消費者的服務是把客戶開發(fā)的或收購的應用程序部署到供應商的云計算基礎設施上去。 客戶不需要管理或控制底層的云基礎設施,包括網絡、服務器、操作系統(tǒng)、存儲等,但客戶能控制部署應用程序,也可能控制運行應用程序的托管環(huán)境配置。 這種模式最適合氣象部門除氣象信息中心之外的各個單位。,(3)IaaS: 設施即服務,提供給消費者的服務是對所有設施的利用,包括處理器、存儲、網絡和其它基本的計算資源,用戶能夠部署和運行任意軟件,包括操作系統(tǒng)和應用程序。 消費者不管理或控制任何云計算基礎設施,但能控制操作系統(tǒng)的選擇、儲存空間、部署的應用
26、,也有可能獲得有限制的網絡組件(例如,防火墻,負載均衡器等)的控制。 這種模式適用于將信息基礎設施外包給運行商建設和運行的單位(部門)。,氣象部門如何應用IaaS、PaaS、SaaS?,如下的安排最適合氣象部門的實際情況:氣象信息中心運行和管理所有基礎信息資源,包括處理器、存儲、網絡和其它基本的計算資源,并提供IaaS、PaaS、SaaS服務; 氣象中心(臺)、氣候中心、公服中心、人影中心、科研所、管理機構等將自己的基礎信息資源交給氣象信息中心統(tǒng)一建設和管理,并將自己開發(fā)的或收購的應用程序部署到信息中心的云計算基礎設施上去,但能控制部署自己的應用程序,也可能控制運行應用程序的托管環(huán)境配置。,圖
27、3 IaaS、PaaS、SaaS三者的關系,3.2.2如何應用PaaS平臺進行氣象信息加工,第一類是數(shù)值天氣預報和動力氣候預測系統(tǒng)。它們的數(shù)值模式復雜,而且模式框架是一體化設計的,其中平流計算一個格點值與周圍的格點值是相關的,不容易劃分為大量的更小的計算片斷,因此需要用到高性能計算技術MPI和GPU;目前模式中的物理、化學、生物等過程是在格點上計算的,可以進行分布式并行計算。 與此同時,數(shù)值天氣預報和動力氣候預測系統(tǒng)應當是“數(shù)算異體”的,即數(shù)值天氣預報和動力氣候預測系統(tǒng)所需要的初值和邊值以及它們產生的產品是存儲在數(shù)據(jù)存儲設備上的,而數(shù)值計算則是在高性能計算機上完成的,存儲設備與高性能計算機是不
28、同的計算機。 數(shù)值天氣預報和動力氣候預測系統(tǒng)只需要從數(shù)據(jù)存儲系統(tǒng)中調用模式所需要的初值和邊值,并將它們產生的產品存入數(shù)據(jù)存儲系統(tǒng)即可, 每一次計算二者之間的輸入輸出(I/O)僅一次而已。,第二類是其它業(yè)務應用系統(tǒng),例如MICAPS4.0、SWAN、CIPAS 2.0、LAPS、SWAP、SMART、MESIS、農業(yè)氣象業(yè)務系統(tǒng)、交通氣象業(yè)務系統(tǒng)、氣象災害預報和風險評估系統(tǒng)等,隨著氣象部門專業(yè)氣象服務的發(fā)展,應用業(yè)務系統(tǒng)還會不斷涌現(xiàn),這些業(yè)務系統(tǒng)與數(shù)據(jù)庫的交互(I/O)是很頻繁的,需要認真研究如何減少I/O的次數(shù)。盡管這些業(yè)務系統(tǒng)各不相同,但是它們的產品加工有其共同特點。它們都包含只涉及站點或格
29、點數(shù)據(jù)的算法、涉及周圍站點或格點數(shù)據(jù)的平流算法和涉及整個區(qū)域數(shù)據(jù)的算法。 例如,MICAPS4.0中用探空站資料和數(shù)值預報格點產品計算對流有效位能(CAPE)、K指數(shù)、位溫()、假相當位溫(se)、抬升指數(shù)(LI)、沙氏指數(shù)(SI)等的算法,只涉及本探空站(格點)的數(shù)據(jù),按照上一節(jié)提出的數(shù)據(jù)存儲方案,這些物理量可以采用“數(shù)算同體”的方式計算,即在存儲數(shù)據(jù)的計算機上計算,這樣可以節(jié)省I/O的開銷,提高計算的速度。,MICAPS4.0另外一些算法,例如渦度、散度、垂直速度及各種平流的計算涉及多個站(格點)的數(shù)據(jù), 如果所有探空站數(shù)據(jù)存儲在一個分布式關系型數(shù)據(jù)庫中(實際上就是這樣做的),數(shù)值天氣預報
30、產品按照上一節(jié)提出的分布式文件系統(tǒng)存儲,這些物理量既可以采用“數(shù)算同體”的方式計算,也可以采用“數(shù)算異體”的方式計算,后者是從數(shù)據(jù)存儲系統(tǒng)中獲得所需的數(shù)據(jù),然后在計算結點計算物理量,并將其存儲到存儲物理量數(shù)據(jù)的結點中去,一次計算需要一次輸入輸出(I/O)。 涉及全局的算法,例如尋找相似個例的算法,對于尋找地面形勢的相似,就必須采用“數(shù)算異體”的方式計算,因為每個結點只存儲了部分站點的觀測數(shù)據(jù),必須先拼成全域的地面圖,才能進行相似算法的計算。,CIPAS 2.0大部分算法與MICAPS4.0類似,既有只在站點和格點上計算的算法, 可以采用“數(shù)算同體”的方式進行分布式并行計算;也有平流計算的方法,
31、 既可以采用“數(shù)算同體”也可以采用“數(shù)算異體”的方式計算;氣候業(yè)務廣泛應用的EOF分析、波譜分析等算法都涉全局的數(shù)據(jù), 需要采用“數(shù)算異體”的方式計算。 其它業(yè)務應用系統(tǒng)的算法大體如此。,如何改變“業(yè)務應用系統(tǒng)林立”的狀況,首先需要對這些業(yè)務應用系統(tǒng)的算法進行分析,刪除重復的算法; 其次在PaaS平臺上統(tǒng)一對所有的算法根據(jù)其特點進行不同的分布式并行計算,并它們將生成的產品存儲在分布式產品庫中; 第三,做好所有產品的用戶接口,供所有內部用戶調用。,第三類氣象服務網站,它們的產品加工簡單(絕大多數(shù)是產品顯示),但是用戶巨大 需要釆用分布式計算和分布式存儲技術,以同時對巨量的并發(fā)用戶提供快速的服務。
32、,第四類氣象影視產品的制作。,氣象影視產品大多數(shù)來源于業(yè)務應用系統(tǒng)加工的產品,需要從云存儲中檢索所需要的產品進行加工處理,其中氣象圖形圖像的加工與MICAPS加工同類產品是類似的,只不過要求可視度更高,有時候還需要利用四維動畫技術宣染氣氛。這些計算可以歸為第二類,都可以統(tǒng)一納入PaaS平臺。 除此之外,氣象主持人節(jié)目和氣象專題片等是氣象影視產品的特色,采用與業(yè)務應用系統(tǒng)完全不同的制作方法,當然它們也需要從數(shù)據(jù)庫中獲取數(shù)據(jù)和知識,并將制作的產品存儲在云數(shù)據(jù)庫中,這些都需要云存儲的支撐。,第五類管理信息的加工處理,從管理信息的加工本身來看,可以分為數(shù)值運算和非數(shù)值處理兩大類。數(shù)值運算包括簡單的算術
33、與代數(shù)運算,數(shù)理統(tǒng)計中的各種統(tǒng)計量的計算及各種檢驗,運籌學中的各種最優(yōu)化算法以及模擬預測方法等等。非數(shù)值數(shù)據(jù)處理包括排序、歸并、分類以及平常歸入字處理(word processing)的各項工作。在各類信息系統(tǒng)中,決策支持系統(tǒng)對信息的要求是最高的,這是由于管理決策常常要用到一些相當復雜的加工方法。 管理信息系統(tǒng)也要用到各種類型的算法,但是往往是以比較固定的方式使用的,因此處理起來比較容易。 業(yè)務信息系統(tǒng)與辦公信息系統(tǒng)所使用的加工方法比較簡單,但是由于它們使用頻繁,要求加工速度快,在制定具體算法時,應認真考慮其效率問題。這些管理信息的加工算法都可以在PaaS平臺上進行 因為渉及人、財?shù)鹊男畔⑻幚?/p>
34、具有保密的特點,因此可以在PaaS平臺上劃出專門的區(qū)域供其使用。,3.2.3 SaaS的應用,利用SaaS,用戶可以在各種設備上通過瘦客戶端界面(如瀏覽器)調用其所需要的產品和資料,不需要管理或控制任何云計算基礎設施。 客戶端界面設計應當盡可能簡潔,符合用戶的習慣。例如,國家和省兩級的預報員工作平臺可以設計為由天氣雷達(包括臨近預報產品)、衛(wèi)星云圖、天氣圖和輔助圖表、數(shù)值天氣預報、集合預報等若干個瀏覽器和一個制作預報產品的人機交互平臺所組成。市縣兩級可以進一步對瀏覽器進行集約化設計,同時簡化人機交互功能。瀏覽器僅作產品顯示之用,因此“很瘦”,易于維護。 目前MICAPS的客戶端過于龐大,需要瘦
35、身,瘦身的途徑是將客戶端加工產品的大部分功能轉移到PaaS平臺中去。其它業(yè)務的客戶端也應當根據(jù)用戶的需求和習慣進行設計,因為產品加工已在PaaS平臺上實現(xiàn)了,客戶端必定是瘦型客戶端。而且根據(jù)這種設計理念,客戶端界面可以根據(jù)業(yè)務的發(fā)展和用戶的需求靈活進行調整。,業(yè)務應用系統(tǒng)的變革,因此,氣象云建設將使各類業(yè)務應用系統(tǒng)發(fā)生深刻的變革,數(shù)據(jù)處理與產品顯示的客戶端完全分離 人們看不出“林立”的業(yè)務應用系統(tǒng),只能從客戶端看出不同業(yè)務系統(tǒng)的差別。,一體化設計,綜上所述,在進行數(shù)據(jù)存儲設計和計算平臺以及客戶端設計時必須詳細分折每種氣象算法的特點和用戶的需求,對數(shù)據(jù)存儲與氣象數(shù)據(jù)處理進行一體化設計。 如果我們
36、分析清楚了每種氣象算法的特點和用戶的需求,我們就不難對PaaS平臺和SaaS平臺進行設計了。 這需要氣象算法開發(fā)者、最終用戶與氣象云設計者密切合作,氣象算法的開發(fā)者提出算法的功能需求,最終用戶提出客戶端的設計意見,氣象云的設計者根據(jù)這些功能需求和意見進行數(shù)據(jù)分布式存儲和算法分布式并行計算以及客戶端的設計。,3.3 云服務,這里所說的云服務不是一般意義上的云(平臺)服務,而是專指如何利用云+端的技術開展公共氣象服務,實際上它也是SaaS服務的一種,只不過氣象內部客戶端建在氣象云內,大多數(shù)氣象云服務平臺建設在氣象云之外罷了。 首先,應當指出:公共氣象服務產品應當由氣象云的PaaS平臺加工出來,存儲
37、在氣象云的數(shù)據(jù)存儲系統(tǒng)之中,由數(shù)據(jù)存儲系統(tǒng)推送至氣象云服務平臺。 其次,除了決策氣象服務系統(tǒng)建在氣象云內外,其它氣象云服務平臺在公共云中建設,包括天氣網站、氣象基礎資料網站、移動互聯(lián)網服務網站、物聯(lián)網服務網站等。,氣象服務對象有決策者、公眾、專業(yè)用戶等,為他們提供的氣象服務產品絕大部分是非結構化數(shù)據(jù),包括視頻、音頻、圖片、圖像、文檔、文本等形式。氣象服務的手段多樣化,包括電視、手機、聲訊、網站、報紙、電臺等,隨著移動互聯(lián)網、物聯(lián)網等先進技術的應用,氣象服務的方式將發(fā)生重大轉變。 決策氣象服務除了繼續(xù)完善計算機網絡服務之外,應當大力發(fā)展移動互聯(lián)網服務,使決策者無論在何時何地都能享受到無延時的氣象服務。與此同時,應當拓寬決策者的范圍,除了黨政領導和有關部門外,決策者應當包括基層防
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025年大學心理學(心理學基礎)試題及答案
- 2025年大學經濟法(經濟法)試題及答案
- 2025年大二(社會體育指導與管理)運動生理學期末試題
- 2025年中職會計(會計法規(guī)基礎)試題及答案
- 2025年高職市政工程技術(城市道路工程施工)試題及答案
- 2025年中職(包裝產品銷售)防護功能階段測試卷
- 2025年高職數(shù)字媒體藝術設計(媒體應用)試題及答案
- 2025年中職機電(機電基礎應用)試題及答案
- 2025年大學大三(預防醫(yī)學)健康教育與促進試題及答案
- 2025年大學護理學(老年護理實訓)試題及答案
- 新疆開放大學2025年春《建筑構造實訓》形考作業(yè)【標準答案】
- 2025年湖南水利水電職業(yè)技術學院單招職業(yè)技能測試題庫附答案
- 建設工程質量管理手冊范本
- 醫(yī)院申請醫(yī)養(yǎng)結合申請書
- 2024-2025學年山東省濱州市北鎮(zhèn)中學鴻蒙班九年級下學寒假開學考試數(shù)學試題
- 園林綠化服務方案(3篇)
- 2025年流產家屬簽字協(xié)議書
- 2025年《中醫(yī)護理適宜技術臨床應用指南》
- 下頜阻生齒拔除病例匯報
- DBJ04-T 491-2025 建設工程消防設計審查驗收文件歸檔標準
- DB45∕T 2419-2021 鉆孔管波探測技術規(guī)程
評論
0/150
提交評論