版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
目錄contents第1章
信息系統(tǒng)集成技術(shù)概述第2章
網(wǎng)絡(luò)集成技術(shù)第3章
數(shù)據(jù)集成技術(shù)第4章
設(shè)備集成技術(shù)第5章
應(yīng)用集成技術(shù)第6章
平臺(tái)集成技術(shù)第7章
典型技術(shù)應(yīng)用實(shí)例全套可編輯PPT課件
第1章
信息系統(tǒng)集成技術(shù)概述1.1信息系統(tǒng)的相關(guān)概念1.2信息系統(tǒng)集成的相關(guān)概念1.3信息系統(tǒng)集成技術(shù)的分類
1.1信息系統(tǒng)的相關(guān)概念
1.1.1信息系統(tǒng)的定義信息系統(tǒng)是指利用計(jì)算機(jī)的軟硬件與分析、計(jì)劃、控制和決策用的模型/數(shù)據(jù)庫(kù),為業(yè)務(wù)作業(yè)、管理與決策提供信息支撐的專門(mén)系統(tǒng),其覆蓋應(yīng)用領(lǐng)域廣、種類繁多,常見(jiàn)的信息系統(tǒng)有管理信息系統(tǒng)、地理信息系統(tǒng)、指揮信息系統(tǒng)、決策支持系統(tǒng)、辦公信息系統(tǒng)、科研協(xié)作系統(tǒng)、情報(bào)檢索系統(tǒng)等。
1.1.2信息系統(tǒng)的功能
信息系統(tǒng)的主要功能如下:
(1)信息采集。信息采集是將分布在各信息源的信息收集起來(lái),記錄其數(shù)據(jù),并按照信息系統(tǒng)需要的格式進(jìn)行轉(zhuǎn)換,集中轉(zhuǎn)化成信息系統(tǒng)中可以互相交換和處理的形式。信息采集的方式包括人工錄入數(shù)據(jù)、網(wǎng)絡(luò)獲取數(shù)據(jù)、傳感器自動(dòng)收集等。
(2)信息處理。信息處理是對(duì)進(jìn)入信息系統(tǒng)的數(shù)據(jù)進(jìn)行加工處理。信息處理的方法包括排序、分類、歸并、查詢、統(tǒng)計(jì)、預(yù)測(cè)、模擬以及各種數(shù)學(xué)運(yùn)算。采用專用的數(shù)據(jù)處理工具還可以進(jìn)行基于數(shù)據(jù)倉(cāng)庫(kù)技術(shù)的聯(lián)機(jī)分析處理與數(shù)據(jù)挖掘。
(3)信息存儲(chǔ)。信息存儲(chǔ)是存儲(chǔ)各種信息資料和數(shù)據(jù)。信息存儲(chǔ)包括物理存儲(chǔ)和數(shù)據(jù)的邏輯組織兩個(gè)方面。物理存儲(chǔ)是指將信息存儲(chǔ)在適當(dāng)?shù)慕橘|(zhì)上;邏輯組織是指按信息的邏輯內(nèi)在聯(lián)系和使用方式把大批的信息組織成合理的結(jié)構(gòu)。
(4)信息傳輸。信息傳輸是將采集到的數(shù)據(jù)傳送到處理中心,再將經(jīng)加工處理后的信息傳送給使用者。信息傳輸?shù)姆绞椒殖蔁o(wú)線傳輸和有線傳輸兩大類。
(5)信息管理。信息管理是對(duì)信息資源和信息活動(dòng)的管理。信息管理負(fù)責(zé)對(duì)信息采集、處理、存儲(chǔ)、傳輸?shù)拳h(huán)節(jié)進(jìn)行控制,管理內(nèi)容包括數(shù)據(jù)的種類、名稱、代碼、存儲(chǔ)介質(zhì)、邏輯組織方式、傳輸方式與保存時(shí)間等。
1.1.3信息系統(tǒng)的主要類型
(1)業(yè)務(wù)處理系統(tǒng)。業(yè)務(wù)處理系統(tǒng)(TransactionProcessingSystem,TPS)主要用于支持組織運(yùn)行層面的重復(fù)且變化不大的各種過(guò)程處理與事務(wù)處理。
(2)管理信息系統(tǒng)。管理信息系統(tǒng)(ManagementInformationSystem,MIS)是提供業(yè)務(wù)管理所需的信息以支持業(yè)務(wù)活動(dòng)和決策的系統(tǒng)。
(3)決策支持系統(tǒng)。決策支持系統(tǒng)(DecisionSupportSystem,DSS)是指通過(guò)數(shù)據(jù)模型和知識(shí),以人機(jī)交互方式幫助決策者形成半結(jié)構(gòu)化或非結(jié)構(gòu)化決策的計(jì)算機(jī)應(yīng)用系統(tǒng)。
1.1.4信息系統(tǒng)的層次結(jié)構(gòu)
信息系統(tǒng)的結(jié)構(gòu)是指各部件的構(gòu)成框架,對(duì)部件的不同理解構(gòu)成了不同的結(jié)構(gòu)方式。
(1)概念結(jié)構(gòu)。從概念上看,信息系統(tǒng)由四大部件組成,即信息源、信息處理器、信息用戶和信息管理者。
(2)功能結(jié)構(gòu)。從使用的角度看,信息系統(tǒng)總是具有一個(gè)目標(biāo)和多種功能,各種功能之間又有各種信息聯(lián)系,構(gòu)成一個(gè)有機(jī)結(jié)合的整體,形成一個(gè)功能結(jié)構(gòu)。
(3)軟件結(jié)構(gòu)。信息系統(tǒng)的軟件結(jié)構(gòu)是由支持信息系統(tǒng)的軟件系統(tǒng)或軟件模塊所組成的結(jié)構(gòu)。
(4)硬件結(jié)構(gòu)。信息系統(tǒng)的硬件結(jié)構(gòu)指系統(tǒng)硬件的組成及其連接方式。
1.1.5信息系統(tǒng)的運(yùn)行模式
1.客戶端/服務(wù)器模式
客戶端/服務(wù)器(Client/Server,C/S)模式是將數(shù)據(jù)存取和應(yīng)用程序分離,由客戶端執(zhí)行應(yīng)用程序,服務(wù)器執(zhí)行數(shù)據(jù)操作。在這種模式下,客戶端負(fù)責(zé)處理本地業(yè)務(wù)邏輯,并向服務(wù)器發(fā)送公共業(yè)務(wù)處理需求請(qǐng)求;服務(wù)器負(fù)責(zé)處理公共業(yè)務(wù)邏輯,并管理系統(tǒng)數(shù)據(jù)。
2.瀏覽器/服務(wù)器模式
瀏覽器/服務(wù)器(Browser/Server,B/S)模式是基于Web瀏覽器,采用TCP/IP、HTTP為傳輸協(xié)議,用戶界面同企業(yè)邏輯分離的運(yùn)行模式。在B/S模式下,用戶使用基于Web瀏覽器的程序向服務(wù)器程序發(fā)送業(yè)務(wù)邏輯請(qǐng)求,由中間件接收用戶請(qǐng)求,完成業(yè)務(wù)邏輯處理,并將結(jié)果反饋給數(shù)據(jù)服務(wù)器,其中由數(shù)據(jù)服務(wù)器完成對(duì)數(shù)據(jù)庫(kù)的讀寫(xiě)與維護(hù)操作。
3.富網(wǎng)絡(luò)應(yīng)用模式
富網(wǎng)絡(luò)應(yīng)用(RichInternetApplication,RIA)模式是Web應(yīng)用程序的特殊種類,該模式介于C/S與B/S之間,改進(jìn)了B/S架構(gòu)的用戶交互模式,使數(shù)據(jù)可以緩存到客戶端程序,從而實(shí)現(xiàn)一個(gè)比基于HTML的響應(yīng)速度更快且數(shù)據(jù)往返服務(wù)器次數(shù)更少的用戶界面。同時(shí),通過(guò)豐富化的用戶界面支持,用戶界面、后端服務(wù)與數(shù)據(jù)處理等分離得更加干凈。
4.混合架構(gòu)模式
混合架構(gòu)模式具有更強(qiáng)的用戶支撐性與擴(kuò)展性,對(duì)于規(guī)模較大、復(fù)雜度較高、應(yīng)用場(chǎng)景多樣的信息系統(tǒng)較為合適,但其開(kāi)發(fā)方案與體系設(shè)計(jì)往往較為復(fù)雜,前后端開(kāi)發(fā)要求較高,尤其是后端開(kāi)發(fā)與運(yùn)維的成本較高。
5.對(duì)等計(jì)算模式
傳統(tǒng)的C/S和B/S模式中,大量客戶端的資源經(jīng)常處于閑置狀態(tài),造成浪費(fèi),服務(wù)器也很容易成為系統(tǒng)可擴(kuò)展性和性能的瓶頸,由此產(chǎn)生了對(duì)等(PeertoPeer,P2P)計(jì)算模式。在P2P計(jì)算模式中,客戶端與服務(wù)器不再區(qū)分地位,可以最大限度地應(yīng)用客戶端算力資源,服務(wù)器僅充當(dāng)日志記錄與管理維護(hù)角色??蛻舳伺c服務(wù)器無(wú)須通過(guò)專門(mén)服務(wù)器就可直接通信來(lái)共享資源。P2P計(jì)算模式當(dāng)前被廣泛用于廣域分布式計(jì)算、文件共享、協(xié)同工作、分布式存儲(chǔ)、應(yīng)用層組播、即時(shí)通信等應(yīng)用領(lǐng)域。
6.云計(jì)算模式
云計(jì)算指通過(guò)計(jì)算機(jī)網(wǎng)絡(luò)(多指因特網(wǎng))形成的計(jì)算能力極強(qiáng)的系統(tǒng),可存儲(chǔ)、集合相關(guān)資源并可按需配置,向用戶提供個(gè)性化服務(wù)。云計(jì)算模式經(jīng)過(guò)多年的發(fā)展,已經(jīng)不僅僅是一種分布式計(jì)算,而是分布式計(jì)算、效用計(jì)算、負(fù)載均衡、并行計(jì)算、網(wǎng)絡(luò)存儲(chǔ)、熱備份冗雜和虛擬化等計(jì)算機(jī)技術(shù)混合演進(jìn)并躍升的結(jié)果。云計(jì)算是與信息技術(shù)、軟件、互聯(lián)網(wǎng)相關(guān)的一種服務(wù),它把許多計(jì)算資源集合起來(lái),通過(guò)軟件實(shí)現(xiàn)自動(dòng)化管理,只需要很少的人參與,就可快速提供硬件資源,這種計(jì)算資源共享池叫作“云”。
1.2信息系統(tǒng)集成的相關(guān)概念
1.2.1信息系統(tǒng)集成的需求分析一個(gè)企業(yè)或組織的IT部門(mén)經(jīng)常會(huì)遇到服務(wù)器、客戶終端、配套設(shè)備如何選擇,網(wǎng)絡(luò)協(xié)議、組網(wǎng)方式如何設(shè)計(jì),操作系統(tǒng)、數(shù)據(jù)庫(kù)、管理軟件如何開(kāi)發(fā)等問(wèn)題,雖然每個(gè)問(wèn)題都有多種選擇,但是如何排列組合使其發(fā)揮最大效用都是需要認(rèn)真斟酌的,任何一種錯(cuò)誤的選擇都將導(dǎo)致整個(gè)系統(tǒng)建設(shè)的失敗。因此,需要一整套概念與方法,由此產(chǎn)生了信息系統(tǒng)集成的概念,如圖1-1所示。圖1-1信息系統(tǒng)集成的層次結(jié)構(gòu)163
從信息化建設(shè)的發(fā)展歷程來(lái)看,其大致經(jīng)歷了如下三個(gè)階段:
(1)信息技術(shù)的局部應(yīng)用階段(單元技術(shù)應(yīng)用階段)。
(2)內(nèi)部跨部門(mén)信息整合階段(信息集成階段)。
(3)與外部的信息整合和信息互動(dòng)階段(跨企業(yè)/行業(yè)信息集成階段)。該階段主要開(kāi)展跨企業(yè)/行業(yè)間的數(shù)據(jù)共享、信息交互與業(yè)務(wù)服務(wù),形成統(tǒng)一的控制管理與定制化服務(wù)規(guī)劃。
1.2.2信息系統(tǒng)集成的定義
信息系統(tǒng)的研發(fā)與應(yīng)用涉及軟件工程、計(jì)算機(jī)網(wǎng)絡(luò)、操作系統(tǒng)、數(shù)據(jù)庫(kù)、物聯(lián)網(wǎng)感知設(shè)備、計(jì)算機(jī)硬件平臺(tái)等各個(gè)計(jì)算機(jī)相關(guān)領(lǐng)域。將這些相關(guān)領(lǐng)域中的開(kāi)發(fā)模式、理論方法與項(xiàng)目實(shí)踐融合到一起,使系統(tǒng)各部分之間能彼此有機(jī)地、協(xié)調(diào)地工作,以發(fā)揮整體效益,達(dá)到整體優(yōu)化的目的,從而形成一整套系統(tǒng)開(kāi)發(fā)概念與方法,稱為信息系統(tǒng)集成。
1.2.3信息系統(tǒng)集成的目標(biāo)
信息系統(tǒng)集成覆蓋信息化建設(shè)的諸多方面,其最終目標(biāo)是提供信息化服務(wù)決策支持,具體目標(biāo)是建立良好通暢的系統(tǒng)內(nèi)外環(huán)境、信息操控能力、功能交互調(diào)用、共享服務(wù)支持與高效的組織、管理、控制機(jī)制。具體目標(biāo)如下:
(1)暢通的系統(tǒng)內(nèi)外環(huán)境。
(2)暢通的系統(tǒng)內(nèi)信息操控。
(3)建立暢通的功能交互。
(4)建立暢通的服務(wù)支持。
(5)高效的管理、組織、控制。
1.2.4信息系統(tǒng)集成的原則
信息系統(tǒng)集成的主要原則如下:
(1)開(kāi)放性。
(2)結(jié)構(gòu)化。
(3)先進(jìn)性。
(4)主流化。
1.2.5信息系統(tǒng)集成的關(guān)鍵問(wèn)題
信息系統(tǒng)集成的難點(diǎn)在于系統(tǒng)間的協(xié)調(diào)與優(yōu)化。當(dāng)一個(gè)系統(tǒng)建設(shè)完成以后,可能出現(xiàn)雖然單個(gè)功能模塊滿足指標(biāo)要求,但是整體效率低下、響應(yīng)速度慢等問(wèn)題。其主要原因是在系統(tǒng)集成過(guò)程中,需要注意產(chǎn)品、設(shè)備、技術(shù)、功能的集成或局部系統(tǒng)調(diào)整等問(wèn)題,如果系統(tǒng)規(guī)模較大、結(jié)構(gòu)較復(fù)雜,就很難面面俱到。
1.2.6信息系統(tǒng)集成的發(fā)展趨勢(shì)
(1)系統(tǒng)概念邊界的變化。
(2)系統(tǒng)開(kāi)發(fā)方法的變化。
(3)系統(tǒng)運(yùn)維管理的變化。
隨著云計(jì)算、大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)的發(fā)展,信息系統(tǒng)集成的內(nèi)容也有了明顯的拓展,具體表現(xiàn)在以下幾個(gè)方面:
(1)信息終端與接入方式的改變。
(2)虛擬與現(xiàn)實(shí)的統(tǒng)一化。
(3)系統(tǒng)應(yīng)用方向的轉(zhuǎn)變。
1.3信息系統(tǒng)集成技術(shù)的分類
信息系統(tǒng)集成技術(shù)可分為以下五個(gè)層次:
(1)網(wǎng)絡(luò)集成技術(shù)。網(wǎng)絡(luò)集成主要指提供信息系統(tǒng)運(yùn)行的網(wǎng)絡(luò)環(huán)境,支持網(wǎng)絡(luò)系統(tǒng)的互聯(lián)以及系統(tǒng)軟件運(yùn)行的基礎(chǔ)。
(2)數(shù)據(jù)集成技術(shù)。數(shù)據(jù)集成是將分布在信息系統(tǒng)環(huán)境中的自治和異構(gòu)數(shù)據(jù)源中的信息有效地集成,實(shí)現(xiàn)各信息子系統(tǒng)間的信息共享。
(3)設(shè)備集成技術(shù)。設(shè)備集成是指將計(jì)算機(jī)、網(wǎng)絡(luò)、物聯(lián)網(wǎng)硬件等設(shè)備進(jìn)行綜合運(yùn)用,從而使不同設(shè)備間能夠協(xié)調(diào)一致工作,系統(tǒng)整體性能達(dá)到良好的滿意度。
(4)應(yīng)用集成技術(shù)。應(yīng)用集成是指在集成系統(tǒng)的整體功能目標(biāo)的統(tǒng)一框架下,基于各種不同平臺(tái)、用不同方案建立的應(yīng)用軟件和系統(tǒng),按特定的開(kāi)放協(xié)議、標(biāo)準(zhǔn)規(guī)范集合在一起,從而成為一體化的多功能系統(tǒng)。
(5)平臺(tái)集成技術(shù)。平臺(tái)集成是指將網(wǎng)絡(luò)平臺(tái)、操作系統(tǒng)平臺(tái)、數(shù)據(jù)庫(kù)平臺(tái)、開(kāi)發(fā)工具平臺(tái)等軟硬件平臺(tái)進(jìn)行綜合集成,使其平臺(tái)系統(tǒng)可以滿足綜合使用、統(tǒng)一運(yùn)維要求。平臺(tái)集成的主要工作包括云環(huán)境集成設(shè)計(jì)、跨操作系統(tǒng)集成方案設(shè)計(jì)等。第2章
網(wǎng)絡(luò)集成技術(shù)2.1網(wǎng)絡(luò)集成概述2.2邏輯網(wǎng)絡(luò)設(shè)計(jì)2.3物理網(wǎng)絡(luò)設(shè)計(jì)2.4網(wǎng)絡(luò)集成管理2.5網(wǎng)絡(luò)集成測(cè)試
2.1網(wǎng)絡(luò)集成概述
2.1.1需求分析網(wǎng)絡(luò)集成技術(shù)是信息系統(tǒng)集成的基礎(chǔ)。為了實(shí)現(xiàn)將分布于獨(dú)立計(jì)算機(jī)中的信息數(shù)據(jù)共享交換,需要構(gòu)建局域網(wǎng)絡(luò)進(jìn)行相互連通,考慮到數(shù)據(jù)的保密性與訪問(wèn)的時(shí)效性,需要構(gòu)建企業(yè)內(nèi)部的計(jì)算機(jī)網(wǎng)絡(luò),因此構(gòu)建健壯、穩(wěn)定的計(jì)算機(jī)網(wǎng)絡(luò)是企業(yè)信息系統(tǒng)建設(shè)中至關(guān)重要的一環(huán)。
2.1.2相關(guān)概念
1.網(wǎng)絡(luò)系統(tǒng)集成的定義
網(wǎng)絡(luò)系統(tǒng)集成是根據(jù)用戶需求,規(guī)劃、設(shè)計(jì)與實(shí)施網(wǎng)絡(luò)系統(tǒng),通過(guò)選擇合適的網(wǎng)絡(luò)運(yùn)營(yíng)設(shè)備,將服務(wù)器系統(tǒng)、終端設(shè)備、應(yīng)用系統(tǒng)等集成在一起,并按低耗、高效、高可靠性的系統(tǒng)組織原則完成網(wǎng)絡(luò)系統(tǒng)軟硬件配置及網(wǎng)絡(luò)應(yīng)用系統(tǒng)的安裝、開(kāi)發(fā)、實(shí)施的全過(guò)程。
網(wǎng)絡(luò)系統(tǒng)集成具有以下幾個(gè)顯著特點(diǎn):
(1)網(wǎng)絡(luò)系統(tǒng)集成要以滿足用戶的需求為根本出發(fā)點(diǎn)。
(2)網(wǎng)絡(luò)系統(tǒng)集成不是選擇最好的產(chǎn)品的簡(jiǎn)單行為,而是要選擇最適合用戶的需求和投資規(guī)模的產(chǎn)品和技術(shù)。
(3)網(wǎng)絡(luò)系統(tǒng)集成不是簡(jiǎn)單的設(shè)備供貨,它更多體現(xiàn)的是設(shè)計(jì)、調(diào)試與開(kāi)發(fā),其本質(zhì)是一種技術(shù)行為。
(4)網(wǎng)絡(luò)系統(tǒng)集成包含技術(shù)、管理和實(shí)施等方面,是一項(xiàng)綜合性的系統(tǒng)工程。
(5)性價(jià)比是評(píng)價(jià)一個(gè)網(wǎng)絡(luò)系統(tǒng)集成項(xiàng)目設(shè)計(jì)是否合理和實(shí)施成功的重要參考因素。
2.計(jì)算機(jī)網(wǎng)絡(luò)類型
(1)局域網(wǎng)。局域網(wǎng)(LocalAreaNetwork,LAN)是指在小范圍地域內(nèi)進(jìn)行通信的計(jì)算機(jī)網(wǎng)絡(luò),通常是在同一建筑物、學(xué)?;蚱髽I(yè)內(nèi)部建立的網(wǎng)絡(luò)。
(2)城域網(wǎng)。城域網(wǎng)(MetropolitanAreaNetwork,MAN)是介于局域網(wǎng)和廣域網(wǎng)之間的一種計(jì)算機(jī)網(wǎng)絡(luò),覆蓋范圍通常在一個(gè)城市范圍內(nèi)。城域網(wǎng)的特點(diǎn)是傳輸速度快、帶寬較大、數(shù)據(jù)傳輸距離較長(zhǎng),適合用于城市內(nèi)部的公共服務(wù)、核心企業(yè)、教育醫(yī)療等領(lǐng)域。
(3)廣域網(wǎng)。廣域網(wǎng)(WideAreaNetwork,WAN)是指在較大地域范圍內(nèi)進(jìn)行通信的計(jì)算機(jī)網(wǎng)絡(luò),可覆蓋一個(gè)城市、一個(gè)國(guó)家甚至全球。
3.?OSI七層協(xié)議
(1)物理層。其主要完成網(wǎng)絡(luò)的物理連接和電信號(hào)的傳輸,包括物理聯(lián)網(wǎng)媒介,如電纜連線連接器。具體接口標(biāo)準(zhǔn)有RS232、V35、RJ-45、FDDI。
(2)數(shù)據(jù)鏈路層。其主要作用是將從網(wǎng)絡(luò)層接收到的數(shù)據(jù)分割成特定的可被物理層傳輸?shù)膸?,并在物理層提供的傳輸介質(zhì)上可靠地傳輸。常見(jiàn)的協(xié)議有有線以太網(wǎng)標(biāo)準(zhǔn)IEEE802.3、高級(jí)數(shù)據(jù)鏈路控制HDLC、點(diǎn)對(duì)點(diǎn)協(xié)議PPP、串行線路網(wǎng)際協(xié)議SLIP。
(3)網(wǎng)絡(luò)層。其主要是數(shù)據(jù)包的路由和轉(zhuǎn)發(fā),將數(shù)據(jù)包從源主機(jī)傳輸?shù)侥繕?biāo)主機(jī)。典型的協(xié)議是網(wǎng)際互聯(lián)協(xié)議IP、互聯(lián)網(wǎng)控制報(bào)文協(xié)議(InternetControlMessageProtocol,ICMP)。
(4)傳輸層。其主要是提供端到端的可靠數(shù)據(jù)傳輸服務(wù),確保數(shù)據(jù)在源和目標(biāo)應(yīng)用程序之間的可靠傳輸。常見(jiàn)的協(xié)議有傳輸控制協(xié)議TCP、用戶數(shù)據(jù)報(bào)協(xié)議(UserDatagramProtocol,UDP)、序列分組交換協(xié)議(SequencedPacketExchange,SPX)。
(5)會(huì)話層。其主要是在網(wǎng)絡(luò)中的兩節(jié)點(diǎn)之間建立和維持通信,以及提供交互會(huì)話的管理功能。常見(jiàn)的協(xié)議有遠(yuǎn)程過(guò)程調(diào)用協(xié)議(RemoteProcedureCallProtocol,RPC)、網(wǎng)絡(luò)文件系統(tǒng)(NetworkFileSystem,NFS)。
(6)表示層。其主要進(jìn)行數(shù)據(jù)的格式化和轉(zhuǎn)換,以確保不同計(jì)算機(jī)系統(tǒng)之間的數(shù)據(jù)能夠正確解釋和使用。常見(jiàn)的協(xié)議有圖像文件格式標(biāo)準(zhǔn)JPEG、美國(guó)信息交換標(biāo)準(zhǔn)代碼ASCII、圖形交換格式標(biāo)準(zhǔn)GIF、安全套接層/安全傳輸層協(xié)議SSL/TLS、視頻音頻數(shù)據(jù)壓縮標(biāo)準(zhǔn)MPEG。
(7)應(yīng)用層。其主要提供了用戶與網(wǎng)絡(luò)服務(wù)之間的接口。常見(jiàn)的協(xié)議有超文本傳輸協(xié)議HTTP、遠(yuǎn)程終端協(xié)議Telnet、文件傳輸協(xié)議(FileTransferProtocol,F(xiàn)TP)、簡(jiǎn)單郵件傳輸協(xié)議(SimpleMailTransferProtocol,SMTP)。
4.網(wǎng)絡(luò)協(xié)議與標(biāo)準(zhǔn)
網(wǎng)絡(luò)協(xié)議是為計(jì)算機(jī)網(wǎng)絡(luò)中進(jìn)行數(shù)據(jù)交換而建立的規(guī)則、標(biāo)準(zhǔn)或約定的集合。針對(duì)不同的網(wǎng)絡(luò)層次,存在不同的計(jì)算機(jī)網(wǎng)絡(luò)協(xié)議,如圖2-1所示。圖2-1網(wǎng)絡(luò)協(xié)議與標(biāo)準(zhǔn)示意圖
常見(jiàn)的計(jì)算機(jī)網(wǎng)絡(luò)協(xié)議有IEEE802系列標(biāo)準(zhǔn)、TCP/IP協(xié)議等,具體內(nèi)容如下:
1)?IEEE802系列標(biāo)準(zhǔn)
IEEE802系列標(biāo)準(zhǔn)是LAN/MAN標(biāo)準(zhǔn)委員會(huì)制定的一系列局域網(wǎng)和城域網(wǎng)技術(shù)標(biāo)準(zhǔn),如802.1(802協(xié)議概論)、802.2(邏輯鏈路控制層LLC協(xié)議)、802.3(以太網(wǎng)的CSMA/CD載波監(jiān)聽(tīng)多路訪問(wèn)/沖突檢測(cè)協(xié)議)、802.4(令牌總線TokenBus協(xié)議)、802.5(令牌環(huán)TokenRing協(xié)議)、802.6(城域網(wǎng)MAN協(xié)議)、802.7(FDDI寬帶技術(shù)協(xié)議)、802.8(光纖技術(shù)協(xié)議)、802.9(局域網(wǎng)上的語(yǔ)音/數(shù)據(jù)集成規(guī)范)、802.10(局域網(wǎng)安全操作標(biāo)準(zhǔn))、802.11(無(wú)線局域網(wǎng)WLAN標(biāo)準(zhǔn)協(xié)議)。
2)?TCP/IP模型
TCP/IP(TransmissionControlProtocol/InternetProtocol)協(xié)議包含了一系列構(gòu)成互聯(lián)網(wǎng)基礎(chǔ)的網(wǎng)絡(luò)協(xié)議。利用TCP/IP協(xié)議可以方便地實(shí)現(xiàn)多個(gè)網(wǎng)絡(luò)的無(wú)縫連接。TCP/IP模型分為五層,如圖2-2所示。圖2-2TCP/IP模型示意圖
2.1.3主要技術(shù)
網(wǎng)絡(luò)系統(tǒng)集成過(guò)程包含邏輯網(wǎng)絡(luò)設(shè)計(jì)、物理網(wǎng)絡(luò)設(shè)計(jì)、網(wǎng)絡(luò)集成管理、網(wǎng)絡(luò)集成測(cè)試等階段,涉及網(wǎng)絡(luò)結(jié)構(gòu)、傳輸互聯(lián)、可靠性、安全性與管理測(cè)試等多方面內(nèi)容,具體技術(shù)內(nèi)容見(jiàn)表2-1。
2.2邏輯網(wǎng)絡(luò)設(shè)計(jì)
2.2.1性能需求分析性能需求分析是指根據(jù)用戶調(diào)研結(jié)果,結(jié)合用戶的地理分布情況、應(yīng)用類型與業(yè)務(wù)密集度,分析所建設(shè)網(wǎng)絡(luò)的數(shù)據(jù)負(fù)載、信息包流量、信息流特征等元素,從而得出網(wǎng)絡(luò)帶寬、拓?fù)浣Y(jié)構(gòu)與技術(shù)應(yīng)用等內(nèi)容。
具體網(wǎng)絡(luò)性能需求分析內(nèi)容如下所述。
(1)網(wǎng)絡(luò)數(shù)據(jù)負(fù)載分析。
(2)信息包流量及流向分析。
(3)信息流特征分析。
(4)拓?fù)浣Y(jié)構(gòu)分析。
(5)網(wǎng)絡(luò)可靠性分析。
(6)網(wǎng)絡(luò)安全性設(shè)計(jì)。
根據(jù)網(wǎng)絡(luò)功能需求與性能要求,其網(wǎng)絡(luò)的主要性能指標(biāo)如表2-2所示。
2.2.2拓?fù)浣Y(jié)構(gòu)設(shè)計(jì)
1.簡(jiǎn)單網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)
對(duì)于信息點(diǎn)少、用戶需求簡(jiǎn)單、網(wǎng)絡(luò)互聯(lián)類型單一的網(wǎng)絡(luò),通常采用平面網(wǎng)絡(luò)結(jié)構(gòu)或二層網(wǎng)絡(luò)結(jié)構(gòu)。
1)平面網(wǎng)絡(luò)結(jié)構(gòu)
平面網(wǎng)絡(luò)結(jié)構(gòu)就是沒(méi)有層次的網(wǎng)絡(luò),網(wǎng)絡(luò)中的每個(gè)信息點(diǎn)的工作地位相等,完成的是相同性質(zhì)的工作。在局域網(wǎng)中,平面網(wǎng)絡(luò)結(jié)構(gòu)的實(shí)現(xiàn)通常是將多個(gè)計(jì)算機(jī)/服務(wù)器與集線器/交換機(jī)相連。如圖2-3(a)所示,將服務(wù)器、工作站、客戶機(jī)(PC、筆記本)、路由器、網(wǎng)絡(luò)打印機(jī)等硬件設(shè)備與交換機(jī)直連,構(gòu)成星形網(wǎng)絡(luò)結(jié)構(gòu)。由于多個(gè)硬件處于一個(gè)沖突域與廣播域,平面網(wǎng)絡(luò)結(jié)構(gòu)容易產(chǎn)生通信延遲、吞吐量限制等問(wèn)題。在廣域網(wǎng)中,平面結(jié)構(gòu)由在各地的幾個(gè)網(wǎng)絡(luò)組成,每個(gè)網(wǎng)絡(luò)構(gòu)成一個(gè)節(jié)點(diǎn),形成一個(gè)平面的回路結(jié)構(gòu),如圖2-3(b)所示。如果節(jié)點(diǎn)較多,采用平面回路結(jié)構(gòu)容易產(chǎn)生路由環(huán),導(dǎo)致網(wǎng)絡(luò)時(shí)延增大,出錯(cuò)率增加。圖2-3平面網(wǎng)絡(luò)結(jié)構(gòu)示意圖
2)二層網(wǎng)絡(luò)結(jié)構(gòu)
二層網(wǎng)絡(luò)結(jié)構(gòu)就是將網(wǎng)絡(luò)通過(guò)交換機(jī)分割成兩層結(jié)構(gòu),底層交換機(jī)帶寬較低,分別與若干個(gè)工作站和個(gè)人計(jì)算機(jī)連接,上層的交換機(jī)帶寬較高。在局域網(wǎng)中,二層網(wǎng)絡(luò)結(jié)構(gòu)由于將原來(lái)平面結(jié)構(gòu)的一個(gè)沖突域分割成多個(gè)沖突域,較好地解決了節(jié)點(diǎn)規(guī)模較大時(shí)帶來(lái)的通信時(shí)延問(wèn)題,以及服務(wù)器高帶寬的需求;在廣域網(wǎng)中,二層網(wǎng)絡(luò)結(jié)構(gòu)可以減少回路結(jié)構(gòu)帶來(lái)的冗余流量,如圖2-4所示。圖2-4二層網(wǎng)絡(luò)結(jié)構(gòu)示意圖
2.復(fù)雜網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)
當(dāng)網(wǎng)絡(luò)規(guī)模大、信息點(diǎn)數(shù)目多、用戶需求復(fù)雜時(shí),就必須采用網(wǎng)絡(luò)分層設(shè)計(jì)模型。復(fù)雜網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)一般采用三層分級(jí)結(jié)構(gòu),按照核心層、匯聚層、接入層進(jìn)行分組,如圖2-5所示。其中,核心層提供網(wǎng)絡(luò)節(jié)點(diǎn)之間的傳輸通道,匯聚層提供基于策略的連接控制,接入層提供用戶接入網(wǎng)絡(luò)的通道。圖2-5復(fù)雜網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)示意圖圖2-5復(fù)雜網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)示意圖
1)核心層
核心層是網(wǎng)絡(luò)高速交換的主干,通過(guò)高速轉(zhuǎn)發(fā)通信提供優(yōu)化的、可靠的傳輸結(jié)構(gòu)。核心層可以通過(guò)路由器接入或者直接通過(guò)交換機(jī)連接到服務(wù)商,用來(lái)提供Internet接入,與核心層連接的設(shè)備主要包括匯聚層設(shè)備和企業(yè)級(jí)服務(wù)器。由于數(shù)據(jù)處理量大且與國(guó)家數(shù)據(jù)骨干網(wǎng)直接相連,核心層對(duì)數(shù)據(jù)的處理應(yīng)采用獨(dú)立的核心路由器或三層交換機(jī),以充分利用集中交換的優(yōu)勢(shì)。
核心層負(fù)責(zé)整個(gè)網(wǎng)絡(luò)系統(tǒng)數(shù)據(jù)的快速轉(zhuǎn)發(fā),從功能上又分為核心骨干網(wǎng)、服務(wù)器區(qū)與網(wǎng)絡(luò)出口區(qū)。
2)匯聚層
匯聚層負(fù)責(zé)核心層與接入層之間的連接,負(fù)責(zé)定義網(wǎng)絡(luò)的管理策略,提供流量控制和用戶管理功能。該層把核心層同網(wǎng)絡(luò)的其他部分區(qū)分開(kāi),并對(duì)潛在的復(fù)雜數(shù)據(jù)包操作進(jìn)行處理。匯聚層是多臺(tái)接入層交換機(jī)的匯聚點(diǎn),必須能夠處理來(lái)自接入層設(shè)備的所有通信量,并提供到核心層的上行鏈路,因此匯聚層的交換機(jī)需具備交換容量大、端口密度高、可靠性高等特點(diǎn)。
3)接入層
接入層是終端用戶接入網(wǎng)絡(luò)的點(diǎn),主要功能是為最終用戶提供網(wǎng)絡(luò)接入,實(shí)現(xiàn)網(wǎng)絡(luò)入口控制,并通過(guò)過(guò)濾和訪問(wèn)控制列表提供對(duì)用戶流量的進(jìn)一步控制。
2.2.3出口路由規(guī)劃
絕大部分網(wǎng)絡(luò)集成項(xiàng)目中,都會(huì)有訪問(wèn)Internet的需求,因此需要對(duì)路由協(xié)議(GatewayProtocol,GP)進(jìn)行考慮與設(shè)計(jì)。路由可分為靜態(tài)路由和動(dòng)態(tài)路由兩類。靜態(tài)路由是指所有路由器中的路由表必須手工配置,在所有路由中,靜態(tài)路由優(yōu)先級(jí)最高。動(dòng)態(tài)路由是路由器之間交換信息時(shí)自動(dòng)建立路由表,并根據(jù)節(jié)點(diǎn)與鏈路的變化動(dòng)態(tài)調(diào)整。靜態(tài)路由和動(dòng)態(tài)路由可以在網(wǎng)絡(luò)中并存,可以在邊界網(wǎng)絡(luò)配置靜態(tài)路由,而骨干網(wǎng)絡(luò)使用動(dòng)態(tài)路由協(xié)議,如表2-3所示。
2.2.4網(wǎng)絡(luò)與IP地址規(guī)劃
當(dāng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)設(shè)計(jì)完成后,需要進(jìn)行網(wǎng)絡(luò)規(guī)劃與IP地址劃分。網(wǎng)絡(luò)規(guī)劃是對(duì)網(wǎng)絡(luò)/子網(wǎng)/虛網(wǎng)的數(shù)量與配置內(nèi)容進(jìn)行規(guī)劃,并分配相應(yīng)的網(wǎng)絡(luò)號(hào)、網(wǎng)絡(luò)掩碼、網(wǎng)關(guān)地址。IP地址劃分是根據(jù)網(wǎng)絡(luò)規(guī)劃方案,為每個(gè)網(wǎng)絡(luò)/子網(wǎng)/虛網(wǎng)中的IP設(shè)備分配相應(yīng)的IP地址,并明確相應(yīng)的網(wǎng)絡(luò)掩碼、默認(rèn)網(wǎng)關(guān)地址。
1.IP地址規(guī)劃基本方法
在IPv4協(xié)議中,IP地址的長(zhǎng)度是32位,IP地址采用網(wǎng)絡(luò)號(hào)加主機(jī)號(hào)的層次結(jié)構(gòu)來(lái)組織。當(dāng)企業(yè)內(nèi)部網(wǎng)絡(luò)復(fù)雜,有多個(gè)獨(dú)立部門(mén)時(shí),僅憑分配的網(wǎng)絡(luò)號(hào)無(wú)法進(jìn)行有效的層次化管理。因此,需要采用子網(wǎng)劃分技術(shù),從主機(jī)號(hào)借用若干個(gè)比特位作為子網(wǎng)號(hào),劃分成多個(gè)子網(wǎng)。因此,IP地址雖然長(zhǎng)度沒(méi)變,但是IP地址結(jié)構(gòu)從二級(jí)結(jié)構(gòu)變?yōu)槿?jí)結(jié)構(gòu),如圖2-6所示。圖2-6子網(wǎng)劃分技術(shù)示意圖
2.無(wú)類別域間路由技術(shù)
當(dāng)有較多的子網(wǎng)劃分時(shí),路由器的處理能力和路由效率是必須考慮的問(wèn)題,需要盡量降低路由表的數(shù)量,即盡量減少下級(jí)網(wǎng)絡(luò)中的邏輯網(wǎng)絡(luò)數(shù)量。因此,需要讓路由選擇協(xié)議能夠用一個(gè)地址通告眾多網(wǎng)絡(luò),使多個(gè)邏輯網(wǎng)絡(luò)在高層路由器中使用一條路由,即路由聚合技術(shù)。通過(guò)路由聚合,網(wǎng)絡(luò)和子網(wǎng)大小不同的復(fù)雜分層體系通過(guò)共享的網(wǎng)絡(luò)前綴在各點(diǎn)進(jìn)行匯總,有效地減少了上級(jí)路由器的路由選擇表項(xiàng),減輕了上級(jí)路由器的負(fù)擔(dān)
3.可變長(zhǎng)子網(wǎng)掩碼技術(shù)
由于網(wǎng)絡(luò)中各個(gè)末梢網(wǎng)絡(luò)包含的主機(jī)數(shù)量不等,在傳統(tǒng)的定長(zhǎng)子網(wǎng)劃分中,只能采用一個(gè)子網(wǎng)掩碼,一旦子網(wǎng)掩碼的長(zhǎng)度確定,子網(wǎng)的數(shù)量和每個(gè)子網(wǎng)中可用IP地址的數(shù)量就都確定了。而在實(shí)際的網(wǎng)絡(luò)規(guī)劃中,每個(gè)子網(wǎng)的大小要求往往并不相同,如果采用定長(zhǎng)子網(wǎng)掩碼,則可能造成大量IP地址浪費(fèi),不能適應(yīng)實(shí)際工程需要。
4.網(wǎng)絡(luò)地址轉(zhuǎn)換技術(shù)
當(dāng)前,越來(lái)越多的組織或公司在TCP/IP協(xié)議基礎(chǔ)上組建自己的私有網(wǎng)絡(luò),這要求私有網(wǎng)絡(luò)中每個(gè)節(jié)點(diǎn)都要獲得一個(gè)IP地址。為了節(jié)約合法的IP地址,緩解IP地址緊張問(wèn)題,引入私有IP地址。一般一個(gè)組織或公司的私有網(wǎng)絡(luò)都是末梢網(wǎng)絡(luò),為節(jié)約IP地址,往往為私有網(wǎng)絡(luò)內(nèi)部的主機(jī)分配私有IP地址,網(wǎng)絡(luò)內(nèi)部通信均由私有IP地址來(lái)實(shí)現(xiàn)。當(dāng)私有網(wǎng)絡(luò)內(nèi)部主機(jī)需要與Internet進(jìn)行通信時(shí),由于私有IP地址不能在Internet上被路由,必須在末梢網(wǎng)絡(luò)的邊界網(wǎng)關(guān)路由器上將內(nèi)部主機(jī)的私有IP地址轉(zhuǎn)換為可以在Internet上被路由的合法IP地址,如圖2-7所示。圖2-7網(wǎng)絡(luò)地址轉(zhuǎn)換技術(shù)示意圖
5.動(dòng)態(tài)IP地址分配技術(shù)
在一個(gè)網(wǎng)絡(luò)中,路由器、交換機(jī)等網(wǎng)絡(luò)設(shè)備以及服務(wù)器等關(guān)鍵節(jié)點(diǎn)通常需要一個(gè)特定的IP地址。但對(duì)于大量的客戶端主機(jī)而言,并不需要固定某一個(gè)IP地址,尤其對(duì)經(jīng)常變化位置的客戶端主機(jī),靜態(tài)分配IP地址的方法在大型網(wǎng)絡(luò)中增加了工作量,并且當(dāng)可用的IP地址少于網(wǎng)絡(luò)中的主機(jī)數(shù)量時(shí)將無(wú)法進(jìn)行有效分配,從而造成IP地址浪費(fèi)。
6.虛擬局域網(wǎng)劃分技術(shù)
局域網(wǎng)LAN常常作為一個(gè)單獨(dú)的廣播域,使用集線器和二層交換機(jī)連接在一起的主機(jī)或服務(wù)器處于同一個(gè)廣播域,當(dāng)同一廣播域內(nèi)節(jié)點(diǎn)數(shù)量很多時(shí),容易占用帶寬,廣播包將嚴(yán)重影響網(wǎng)絡(luò)通信效率,從而產(chǎn)生廣播風(fēng)暴。因此,出現(xiàn)了虛擬局域網(wǎng)(VirtualLocalAreaNetwork,VLAN)。
2.3物理網(wǎng)絡(luò)設(shè)計(jì)
2.3.1網(wǎng)絡(luò)傳輸介質(zhì)
1.有線傳輸介質(zhì)局域網(wǎng)中常用的有線傳輸介質(zhì)主要包括雙絞線、同軸電纜和光纜等。不同傳輸介質(zhì)的傳輸距離、帶寬、施工難度和費(fèi)用等都不相同,具體如表2-4所示。
如圖2-8所示,接入層設(shè)備與用戶層機(jī)器之間的連接以及接入層設(shè)備與匯聚層之間的連接可以考慮采用雙絞線,但是它們之間的距離不能大于100?m。匯聚層與核心層設(shè)備的連接可以考慮采用光纜,如果是百兆標(biāo)準(zhǔn)的單模光纜,距離不能超過(guò)2?km。圖2-8局域網(wǎng)傳輸介質(zhì)選擇案例圖
2.無(wú)線傳輸介質(zhì)
有線傳輸容易受到地理?xiàng)l件及臨時(shí)組網(wǎng)需求等因素的限制,因此就需要用到無(wú)線傳輸技術(shù)。無(wú)線傳輸介質(zhì)的特點(diǎn)就是抗干擾能力相比有線傳輸介質(zhì)弱,但傳輸信號(hào)容易。常用的無(wú)線傳輸介質(zhì)主要包括無(wú)線電波、微波、紅外線等。隨著網(wǎng)絡(luò)范圍的不同,無(wú)線網(wǎng)絡(luò)采用的技術(shù)也各不相同,如表2-5所示。
2.3.2網(wǎng)絡(luò)互聯(lián)設(shè)備
1.網(wǎng)絡(luò)互聯(lián)設(shè)備的功能與選型
網(wǎng)絡(luò)互聯(lián)設(shè)備是網(wǎng)絡(luò)互聯(lián)的核心,主要包括局域網(wǎng)與局域網(wǎng)的互聯(lián)、局域網(wǎng)與廣域網(wǎng)的互聯(lián)以及廣域網(wǎng)與廣域網(wǎng)的互聯(lián)等,其設(shè)備包括中繼器、集線器、網(wǎng)橋、交換機(jī)、路由器、網(wǎng)關(guān)等,如表2-6所示。
在進(jìn)行網(wǎng)絡(luò)系統(tǒng)集成時(shí),選擇網(wǎng)絡(luò)互聯(lián)設(shè)備的一般原則如下:
(1)選用主流廠家、主流型號(hào)的設(shè)備;
(2)選用技術(shù)先進(jìn)、性能成熟穩(wěn)定的產(chǎn)品;
(3)選用性能/價(jià)格比高的產(chǎn)品;
(4)選用行業(yè)慣例產(chǎn)品;
(5)選用用戶熟悉的或已用過(guò)的廠家設(shè)備;
(6)盡量選用同一廠家的設(shè)備,型號(hào)不宜太多,以便管理與維護(hù)。
2.交換機(jī)設(shè)備選型
交換機(jī)(Switch)作為網(wǎng)絡(luò)互聯(lián)設(shè)備的核心設(shè)備,其性能及功能決定著局域網(wǎng)的可管理性和數(shù)據(jù)轉(zhuǎn)發(fā)性能。選擇交換機(jī)時(shí)應(yīng)該從以下幾方面來(lái)考慮:
(1)網(wǎng)絡(luò)應(yīng)用層次。交換機(jī)設(shè)備選型首先需要判斷其應(yīng)用屬于網(wǎng)絡(luò)層次結(jié)構(gòu)的哪一層,屬于核心層交換機(jī)、匯聚層交換機(jī)和接入層交換機(jī)等的哪一類交換機(jī)。根據(jù)其網(wǎng)絡(luò)規(guī)模與所在的層次結(jié)構(gòu),選取交換機(jī)的類型,具體內(nèi)容參考表2-7。
(2)交換機(jī)帶機(jī)量。交換機(jī)的帶機(jī)量主要體現(xiàn)在交換機(jī)的MAC地址(MediaAccessControlAddress,媒體訪問(wèn)控制地址,也稱為局域網(wǎng)地址,以太網(wǎng)地址或物理地址)表深度。對(duì)于三層交換機(jī),需要關(guān)注主機(jī)路由條目數(shù),其所有接入終端的個(gè)數(shù)應(yīng)小于三層交換機(jī)的主機(jī)路由條目數(shù)。
(3)背板帶寬。背板帶寬標(biāo)志著一個(gè)交換機(jī)總的吞吐能力,是交換機(jī)接口處理器或接口卡和數(shù)據(jù)總線間所能吞吐的最大數(shù)據(jù)量。對(duì)于匯聚層和核心層交換機(jī),背板帶寬越大越好。若要實(shí)現(xiàn)網(wǎng)絡(luò)的全雙工無(wú)阻塞傳輸,必須滿足最小背板帶寬要求,即所有端口速率兩倍之和。
(4)包轉(zhuǎn)發(fā)率。包轉(zhuǎn)發(fā)率標(biāo)志著交換機(jī)的交換能力,以數(shù)據(jù)包為單位,即Mp/s(百萬(wàn)包/秒)。這里需要注意的是各廠商公布的包轉(zhuǎn)發(fā)率都是以64字節(jié)定長(zhǎng)包在設(shè)備上的傳輸為測(cè)試標(biāo)準(zhǔn)給出的,并且部分核心層交換機(jī)的包轉(zhuǎn)發(fā)率指標(biāo)設(shè)計(jì)會(huì)低于其提供的所有端口無(wú)阻塞工作方式的速率之和。
(5)端口數(shù)量。交換機(jī)支持的物理端口數(shù)量決定該交換機(jī)接入終端或二級(jí)設(shè)備的數(shù)量。交換機(jī)的接入端口用于連接內(nèi)網(wǎng)終端,上聯(lián)端口用于連接上級(jí)設(shè)備,需要根據(jù)實(shí)際需求結(jié)合后期網(wǎng)絡(luò)擴(kuò)展等因素進(jìn)行綜合選擇。
(6)端口參數(shù)。交換機(jī)的端口參數(shù)主要考慮端口速率(百兆、千兆、萬(wàn)兆)和端口類型(RJ45、SFP/光口、PoE供電網(wǎng)口等),需要根據(jù)交換機(jī)層次、部署位置和應(yīng)用類型等內(nèi)容進(jìn)行綜合選擇。
(7)功能支持。大中型局域網(wǎng)交換機(jī)需要考慮VLAN支持與配置管理、DHCP偵聽(tīng)及相關(guān)安全性功能支持。
2.3.3Internet網(wǎng)絡(luò)接入
1.有線接入
1)電話撥號(hào)
基于公共交換電話網(wǎng)(PublicSwitchTelephoneNetwork,PSTN)將用戶計(jì)算機(jī)接入Internet網(wǎng)絡(luò),用戶計(jì)算機(jī)和Internet中的遠(yuǎn)程訪問(wèn)服務(wù)器(RemoteAccessServer,RAS)均通過(guò)調(diào)制解調(diào)器(Modem)與電話網(wǎng)相連。用戶在訪問(wèn)Internet時(shí),通過(guò)撥號(hào)方式與Internet中的RAS建立連接,借助RAS訪問(wèn)整個(gè)Internet,如圖2-9所示。圖2-9PSTN技術(shù)原理圖
2)數(shù)字用戶線路
數(shù)字用戶線路(DigitalSubscriberLine,DSL)是以銅質(zhì)電話線為傳輸介質(zhì)的傳輸技術(shù)組合,包括HDSL(High-SpeedDSL,高速率數(shù)字用戶線路)、SDSL(SymmetricDSL,對(duì)稱數(shù)字用戶線路)、VDSL(Very-high-bit-rateDSL,超高速數(shù)字用戶線路)、ADSL(AsymmetricDSL,非對(duì)稱數(shù)字用戶線)和RADSL(RateAdaptireDSL,速率自適應(yīng)數(shù)字用戶線)等,一般稱為xDSL技術(shù),一般由用戶端、電話線路和電話局端等部分組成。其中電話線路可以利用現(xiàn)有的電話網(wǎng)資源,不需要做任何變動(dòng),如圖2-10所示。圖2-10DSL技術(shù)原理圖
3)有線電視網(wǎng)
光纜同軸電纜混合網(wǎng)(HybridFiberCoaxial,HFC)是通過(guò)有線電視(CableTelevision,CATV)的電纜系統(tǒng),采用模擬頻分復(fù)用技術(shù),通過(guò)電纜調(diào)制解調(diào)器,綜合應(yīng)用模擬/數(shù)字傳輸與射頻技術(shù)接入Internet。由于其應(yīng)用了有線電視的電纜系統(tǒng),可以提供電視廣播(模擬及數(shù)字電視)、影視點(diǎn)播、數(shù)據(jù)通信、電信服務(wù)(電話、傳真等)以及豐富的增值服務(wù)等,如圖2-11所示。圖2-11有線電視網(wǎng)技術(shù)原理圖
4)數(shù)據(jù)通信網(wǎng)
數(shù)據(jù)通信網(wǎng)是專門(mén)為數(shù)據(jù)信息傳輸建設(shè)的網(wǎng)絡(luò),通常是利用光纖傳輸技術(shù),以以太網(wǎng)架構(gòu)寬帶IP接入Internet,如圖2-12所示。由于以太網(wǎng)的幀格式和IP數(shù)據(jù)格式是一致的,用以太網(wǎng)傳輸IP數(shù)據(jù)業(yè)務(wù),中間沒(méi)有任何格式轉(zhuǎn)換問(wèn)題,并且配合光纖傳輸技術(shù)使得傳輸性能與傳輸質(zhì)量更高,如表2-8所示。圖2-12數(shù)據(jù)通信網(wǎng)技術(shù)原理圖
2.無(wú)線接入
無(wú)線接入技術(shù)主要有移動(dòng)通信、數(shù)字微波和衛(wèi)星通信等,主要以本地多點(diǎn)分配業(yè)務(wù)、無(wú)線寬帶大范圍接入等方式實(shí)現(xiàn),如表2-9所示。
1)移動(dòng)通信網(wǎng)
移動(dòng)通信技術(shù)是把一個(gè)地理區(qū)域分成若干個(gè)小區(qū),充分利用無(wú)線傳輸在每一組連接內(nèi)進(jìn)行數(shù)據(jù)通信,一般用于手機(jī)、智能平板、智能手表等終端接入Internet網(wǎng)絡(luò)。
2)微波無(wú)線網(wǎng)
微波無(wú)線網(wǎng)是通過(guò)地面微波通信方式,即在源、目?jī)啥私⑽⒉ㄔO(shè)備無(wú)線塔及在傳輸鏈路之間設(shè)立若干個(gè)中繼站,主要應(yīng)用于有線難以布線與維護(hù)等的場(chǎng)景。
3)衛(wèi)星通信網(wǎng)
衛(wèi)星通信網(wǎng)是利用人造地球衛(wèi)星作為空中微波中繼站實(shí)現(xiàn)地球上兩個(gè)或多個(gè)地球站之間的通信,主要應(yīng)用于偏遠(yuǎn)地區(qū)用戶分散的場(chǎng)景,但隨著近年來(lái)衛(wèi)星互聯(lián)網(wǎng)技術(shù)的發(fā)展,亦可應(yīng)用在覆蓋面積大、規(guī)模大的互聯(lián)網(wǎng)主干網(wǎng)環(huán)境。
2.3.4網(wǎng)絡(luò)可靠性技術(shù)
1.鏈路冗余
在網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的設(shè)計(jì)中,大部分系統(tǒng)采用以樹(shù)型結(jié)構(gòu)為主的層次結(jié)構(gòu)。如果上下層設(shè)備只有一條鏈路,在鏈路發(fā)生故障時(shí),將導(dǎo)致系統(tǒng)不可用。因此,適當(dāng)在核心層、匯聚層之間引入冗余鏈路,如圖2-13所示,避免單點(diǎn)故障,以提高系統(tǒng)的可靠性。
圖2-13鏈路冗余示意圖
2.鏈路聚合
鏈路聚合用于將多個(gè)物理鏈路組合成一個(gè)邏輯鏈路,以增加帶寬和提高可靠性。在核心交換機(jī)上實(shí)現(xiàn)鏈路聚合時(shí),通常使用的協(xié)議是以太網(wǎng)聚合協(xié)議,并且當(dāng)一個(gè)物理鏈路出現(xiàn)故障時(shí),鏈路聚合可以自動(dòng)將數(shù)據(jù)流量切換到其他正常工作的鏈路,實(shí)現(xiàn)無(wú)縫的故障轉(zhuǎn)移,如圖2-14所示。圖2-14鏈路聚合示意圖
3.交換機(jī)冗余
核心交換機(jī)作為網(wǎng)絡(luò)的中樞,其高可用性是至關(guān)重要的。冗余技術(shù)用于提供故障轉(zhuǎn)移和容錯(cuò)能力,確保即使在某個(gè)組件或鏈路出現(xiàn)故障時(shí),網(wǎng)絡(luò)仍然可用。常見(jiàn)的冗余技術(shù)如下:
(1)冗余電源:核心交換機(jī)通常配備多個(gè)電源模塊,當(dāng)其中一個(gè)電源出現(xiàn)故障時(shí),其他電源可以自動(dòng)接管,確保交換機(jī)的穩(wěn)定運(yùn)行。
(2)冗余風(fēng)扇:交換機(jī)的風(fēng)扇模塊通常也采用冗余設(shè)計(jì),當(dāng)一個(gè)風(fēng)扇出現(xiàn)故障時(shí),其他風(fēng)扇可以保持散熱效果,防止交換機(jī)過(guò)熱。
(3)冗余模塊:核心交換機(jī)還可以使用其他冗余模塊,如冗余控制板或冗余轉(zhuǎn)發(fā)模塊,以確保交換機(jī)的正常運(yùn)行。
4.交換機(jī)堆疊
堆疊是一種將多個(gè)交換機(jī)物理連接成一個(gè)邏輯單元的技術(shù)。在堆疊模式下,多個(gè)交換機(jī)被視為一個(gè)整體,作為一個(gè)邏輯交換機(jī)進(jìn)行管理和配置。在核心交換機(jī)堆疊中,通常使用的協(xié)議是堆疊協(xié)議,通過(guò)該協(xié)議在多個(gè)交換機(jī)之間建立邏輯連接,并管理堆疊中的配置和狀態(tài)信息。采用堆疊技術(shù)可簡(jiǎn)化交換機(jī)的配置和監(jiān)控的復(fù)雜性,提供冗余和故障轉(zhuǎn)移功能,其他交換機(jī)可接管故障交換機(jī)的業(yè)務(wù),并且可以較為便捷地?cái)U(kuò)展網(wǎng)絡(luò)規(guī)模和帶寬,如圖2-15所示。圖2-15交換機(jī)堆疊示意圖
2.3.5網(wǎng)絡(luò)安全性技術(shù)
網(wǎng)絡(luò)信息系統(tǒng)是一個(gè)開(kāi)放的系統(tǒng),容易產(chǎn)生各種安全漏洞和隱患。當(dāng)網(wǎng)絡(luò)存在安全漏洞時(shí),容易使網(wǎng)絡(luò)信息系統(tǒng)發(fā)生人為的故障,破壞信息的機(jī)密性、完整性、可用性,帶來(lái)不可彌補(bǔ)的損失。因此,網(wǎng)絡(luò)系統(tǒng)集成時(shí)必須考慮網(wǎng)絡(luò)安全問(wèn)題,通常可以考慮采用防火墻、入侵檢測(cè)和漏洞掃描等技術(shù)措施。
1.防火墻
防火墻是將一個(gè)或一組網(wǎng)絡(luò)設(shè)備部署于網(wǎng)絡(luò)邊界,通過(guò)執(zhí)行安全策略,在兩個(gè)或多個(gè)網(wǎng)絡(luò)間加強(qiáng)訪問(wèn)控制,對(duì)進(jìn)出網(wǎng)絡(luò)邊界的數(shù)據(jù)進(jìn)行保護(hù),以防止惡意入侵、惡意代碼的傳播等,保障內(nèi)部網(wǎng)絡(luò)數(shù)據(jù)的安全。防火墻工作原理如圖2-16所示。圖2-16防火墻工作原理圖
在選擇防火墻時(shí),重點(diǎn)關(guān)注網(wǎng)絡(luò)功能支持與安全功能支持兩個(gè)方面的指標(biāo),具體內(nèi)容見(jiàn)表2-10。
2.入侵檢測(cè)
防火墻只能防范來(lái)自外部網(wǎng)絡(luò)的攻擊,無(wú)法防范來(lái)自網(wǎng)絡(luò)的內(nèi)部入侵者。因此,需要應(yīng)用入侵檢測(cè)系統(tǒng)(IntrusionDetectionSystem,IDS)實(shí)時(shí)監(jiān)測(cè)內(nèi)部的網(wǎng)絡(luò)訪問(wèn)流量、應(yīng)用進(jìn)程狀態(tài)、系統(tǒng)事件和日志等信息,一旦發(fā)現(xiàn)非法用戶訪問(wèn)和安全事件,即采取切斷連接、重啟服務(wù)進(jìn)程、報(bào)警、記錄入侵軌跡等安全措施,從而縮短黑客入侵時(shí)間。根據(jù)部署位置不同,入侵檢測(cè)系統(tǒng)可以分為基于主機(jī)的IDS、基于網(wǎng)絡(luò)的IDS和混合方式的IDS。
1)基于主機(jī)的IDS
基于主機(jī)的IDS主要監(jiān)視主機(jī)上的事件、系統(tǒng)日志和敏感資源的狀態(tài),一旦發(fā)生變化,IDS將其與攻擊特征比較分析,如果匹配的話,發(fā)出入侵報(bào)警并采取相應(yīng)的行動(dòng)?;谥鳈C(jī)的IDS適用于任何網(wǎng)絡(luò)環(huán)境,不需要額外的硬件,但不能檢測(cè)利用網(wǎng)絡(luò)包的攻擊行為,如DoS攻擊。
2)基于網(wǎng)絡(luò)的IDS
基于網(wǎng)絡(luò)的IDS主要監(jiān)視網(wǎng)絡(luò)傳輸數(shù)據(jù),一旦檢測(cè)到攻擊,采取通知、報(bào)警以及中斷連接等方式來(lái)對(duì)攻擊做出反應(yīng)?;诰W(wǎng)絡(luò)的IDS獨(dú)立于操作系統(tǒng),成本低,不需在每臺(tái)設(shè)備上單獨(dú)部署,攻擊者轉(zhuǎn)移證據(jù)很困難,可實(shí)時(shí)檢測(cè)和快速響應(yīng),將入侵破壞減到最低,但不能檢測(cè)非網(wǎng)絡(luò)協(xié)議的攻擊行為。
3)混合方式的IDS
由于基于主機(jī)的IDS和基于網(wǎng)絡(luò)的IDS各有特點(diǎn),通常采用混合的方式進(jìn)行IDS部署。入侵檢測(cè)系統(tǒng)的部署方式如圖2-17所示,在核心網(wǎng)段安裝入侵檢測(cè)服務(wù)器系統(tǒng),在重點(diǎn)保護(hù)網(wǎng)段安裝檢測(cè)代理,實(shí)行分布檢測(cè)與集中管理。圖2-17入侵檢測(cè)系統(tǒng)工作原理圖
3.漏洞掃描
漏洞掃描技術(shù)通過(guò)對(duì)網(wǎng)絡(luò)設(shè)備、系統(tǒng)軟件、應(yīng)用軟件等的配置信息和運(yùn)行情況進(jìn)行分析和模擬攻擊,以了解網(wǎng)絡(luò)的安全設(shè)置和運(yùn)行的應(yīng)用服務(wù),及時(shí)發(fā)現(xiàn)安全漏洞,客觀評(píng)估網(wǎng)絡(luò)風(fēng)險(xiǎn)等級(jí)。網(wǎng)絡(luò)管理員能根據(jù)掃描的結(jié)果更正網(wǎng)絡(luò)安全漏洞和系統(tǒng)中的錯(cuò)誤設(shè)置,在黑客攻擊前進(jìn)行防范。
漏洞掃描系統(tǒng)一般部署于專門(mén)的掃描服務(wù)器中,掃描服務(wù)器在網(wǎng)絡(luò)中的部署方式如圖2-18所示。與入侵檢測(cè)系統(tǒng)類似,一般也是在核心網(wǎng)段安裝漏洞掃描服務(wù)器,對(duì)重點(diǎn)保護(hù)網(wǎng)段的關(guān)鍵設(shè)備進(jìn)行漏洞掃描,將掃描信息存儲(chǔ)到掃描數(shù)據(jù)庫(kù),分析這些數(shù)據(jù)便可以發(fā)現(xiàn)可能存在的漏洞。圖2-18漏洞掃描系統(tǒng)工作原理圖
2.4網(wǎng)絡(luò)集成管理
2.4.1網(wǎng)絡(luò)管理系統(tǒng)網(wǎng)絡(luò)集成系統(tǒng)的網(wǎng)絡(luò)管理功能一般依托于專業(yè)的網(wǎng)絡(luò)管理系統(tǒng)完成。一個(gè)完整的網(wǎng)絡(luò)管理系統(tǒng)由網(wǎng)絡(luò)管理協(xié)議、網(wǎng)絡(luò)管理工作站、被管代理和管理信息庫(kù)等多個(gè)部件組成。各部件分別介紹如下:
(1)網(wǎng)絡(luò)管理協(xié)議。
(2)網(wǎng)絡(luò)管理工作站。
(3)被管代理。
(4)管理信息庫(kù)。
2.4.2網(wǎng)絡(luò)管理功能
網(wǎng)絡(luò)管理涉及網(wǎng)絡(luò)資源和應(yīng)用的諸多方面,ISO將網(wǎng)絡(luò)管理劃分為性能、安全、計(jì)費(fèi)、配置和故障五大部分。各功能分別介紹如下:
(1)性能管理。性能管理是指周期性地收集,并向網(wǎng)管中心報(bào)告被監(jiān)控網(wǎng)絡(luò)資源的性能測(cè)量數(shù)據(jù)。該數(shù)據(jù)作為性能歷史記錄在網(wǎng)管中心保存一段時(shí)間,以便分析網(wǎng)絡(luò)運(yùn)行效率并及時(shí)發(fā)現(xiàn)瓶頸,為優(yōu)化系統(tǒng)性能提供依據(jù)。
(2)安全管理。安全管理是保護(hù)網(wǎng)絡(luò)資源與設(shè)備不被非法訪問(wèn),控制用戶對(duì)資源的存取以及對(duì)加密機(jī)構(gòu)中的密鑰進(jìn)行管理。安全管理包括數(shù)據(jù)鏈路加密、密鑰分配、病毒免疫、災(zāi)難恢復(fù)措施等方面。
(3)計(jì)費(fèi)管理。計(jì)費(fèi)管理是監(jiān)視和記錄用戶對(duì)網(wǎng)絡(luò)資源的使用情況,并計(jì)算網(wǎng)絡(luò)運(yùn)行成本,主要涉及收集計(jì)費(fèi)記錄、計(jì)算用戶賬單、網(wǎng)絡(luò)經(jīng)營(yíng)預(yù)算等方面。
(4)配置管理。配置管理是負(fù)責(zé)控制網(wǎng)絡(luò)中各個(gè)設(shè)備的配置信息,提供有關(guān)工具手段,使網(wǎng)絡(luò)管理者可以生成、查詢及修改網(wǎng)絡(luò)各部分運(yùn)行參數(shù)和條件。
(5)故障管理。故障管理是對(duì)來(lái)自硬件設(shè)備或路徑節(jié)點(diǎn)的報(bào)警信息進(jìn)行監(jiān)控、報(bào)告和存儲(chǔ),以及進(jìn)行故障的診斷、定位與處理。
2.4.3網(wǎng)絡(luò)管理方式
網(wǎng)絡(luò)管理系統(tǒng)的基本工作流程為:在被管理部件上預(yù)置代理,網(wǎng)絡(luò)管理者使用網(wǎng)絡(luò)管理協(xié)議從代理的MIB中取得被管網(wǎng)絡(luò)部件的管理信息,并加入自己的MIB中。管理軟件通過(guò)對(duì)MIB的分析和處理,達(dá)到網(wǎng)絡(luò)監(jiān)控管理的目的。
1.集中式管理
集中式管理方式具有一對(duì)多關(guān)系。采用此種模式的網(wǎng)絡(luò)中設(shè)置一臺(tái)功能強(qiáng)大的管理計(jì)算機(jī),它集成了管理軟件和數(shù)據(jù)庫(kù),負(fù)責(zé)監(jiān)控網(wǎng)絡(luò)的運(yùn)行、收集網(wǎng)絡(luò)運(yùn)行數(shù)據(jù)、配置管理網(wǎng)絡(luò)運(yùn)行條件等;網(wǎng)絡(luò)中的其他節(jié)點(diǎn)(計(jì)算機(jī)、網(wǎng)絡(luò)打印機(jī)、路由器、交換機(jī)等)作為被管設(shè)備只需加載預(yù)置代理程序,并統(tǒng)一由中心管理計(jì)算機(jī)管理,如圖2-19所示。圖2-19集中式管理示意圖
2.分布式管理
分布式管理方式將網(wǎng)絡(luò)分為多個(gè)管理域,每個(gè)管理域配備一個(gè)網(wǎng)絡(luò)管理系統(tǒng)與一個(gè)管理數(shù)據(jù)庫(kù)。多個(gè)管理域之間對(duì)等,域之間的通信在系統(tǒng)內(nèi)部進(jìn)行。分布式網(wǎng)絡(luò)管理模式不會(huì)因一臺(tái)管理設(shè)備出現(xiàn)故障而影響整個(gè)網(wǎng)絡(luò)的管理,穩(wěn)定性更高;被管設(shè)備具有一定的數(shù)據(jù)處理和存儲(chǔ)能力,網(wǎng)絡(luò)管理系統(tǒng)負(fù)荷較小,對(duì)管理設(shè)備性能要求較低,如圖2-20所示。圖2-20分布式管理示意圖
3.分層式管理
為了兼顧解決集中式管理中數(shù)據(jù)/業(yè)務(wù)過(guò)于集中及分布式管理中難以擴(kuò)展的問(wèn)題,分層式管理方式將管理內(nèi)容分為總管理節(jié)點(diǎn)、域管理節(jié)點(diǎn)和域設(shè)備三層,其中域管理節(jié)點(diǎn)之間不再相互通信,由總管理節(jié)點(diǎn)收集各域管理節(jié)點(diǎn)上的數(shù)據(jù),負(fù)責(zé)整個(gè)網(wǎng)絡(luò)的總體管理工作。分層式網(wǎng)絡(luò)管理模式的體系結(jié)構(gòu)如圖2-21所示。圖2-21分層次管理示意圖
4.管理方式對(duì)比分析
各類型網(wǎng)絡(luò)管理方式對(duì)比分析如表2-11所示。
5.網(wǎng)絡(luò)管理系統(tǒng)的基本結(jié)構(gòu)
網(wǎng)絡(luò)管理系統(tǒng)的基本結(jié)構(gòu)包括多任務(wù)操作系統(tǒng)、網(wǎng)絡(luò)通信協(xié)議棧、網(wǎng)絡(luò)管理協(xié)議平臺(tái)、網(wǎng)絡(luò)管理應(yīng)用程序集、數(shù)據(jù)庫(kù)及圖形化用戶接口等,如圖2-22所示。
圖2-22網(wǎng)絡(luò)管理系統(tǒng)的基本結(jié)構(gòu)示意圖
在這種體系結(jié)構(gòu)中,網(wǎng)絡(luò)管理系統(tǒng)通過(guò)各種管理應(yīng)用提供的管理能力來(lái)實(shí)現(xiàn)網(wǎng)絡(luò)管理功能。網(wǎng)絡(luò)管理人員利用圖形化用戶接口與網(wǎng)絡(luò)管理系統(tǒng)交互通信,網(wǎng)絡(luò)管理系統(tǒng)通過(guò)網(wǎng)絡(luò)通信接口實(shí)現(xiàn)與各網(wǎng)絡(luò)元素及其他網(wǎng)管系統(tǒng)間的管理信息交換。
2.5網(wǎng)絡(luò)集成測(cè)試
2.5.1測(cè)試流程網(wǎng)絡(luò)集成測(cè)試是網(wǎng)絡(luò)集成項(xiàng)目的最后一環(huán),測(cè)試需要檢驗(yàn)采購(gòu)設(shè)備與系統(tǒng)中的缺陷、工程施工過(guò)程中的問(wèn)題、網(wǎng)絡(luò)系統(tǒng)技術(shù)指標(biāo)達(dá)標(biāo)情況、網(wǎng)絡(luò)工程的設(shè)計(jì)方案滿足情況等內(nèi)容。測(cè)試流程包括以下三個(gè)步驟:
(1)測(cè)試準(zhǔn)備。
(2)實(shí)施測(cè)試。
(3)測(cè)試評(píng)估。
2.5.2測(cè)試內(nèi)容
測(cè)試內(nèi)容主要分為功能測(cè)試和性能測(cè)試兩個(gè)方面的指標(biāo)要求,具體如表2-12所示。第3章
數(shù)據(jù)集成技術(shù)3.1數(shù)據(jù)集成概論3.2數(shù)據(jù)采集技術(shù)3.3數(shù)據(jù)轉(zhuǎn)換技術(shù)3.4數(shù)據(jù)存儲(chǔ)技術(shù)3.5數(shù)據(jù)應(yīng)用技術(shù)
3.1數(shù)據(jù)集成概論
3.1.1需求分析隨著信息系統(tǒng)應(yīng)用技術(shù)的發(fā)展,同一個(gè)組織內(nèi)部應(yīng)用了各種信息系統(tǒng),構(gòu)建了內(nèi)部網(wǎng)絡(luò),建立了門(mén)戶網(wǎng)址等。由于各系統(tǒng)建設(shè)時(shí)間的不一致、業(yè)務(wù)需求的不同、管理模式的變化等因素,致使相互之間不能進(jìn)行信息共享,業(yè)務(wù)不能順利進(jìn)行和有效控制,形成了許多“信息孤島”,數(shù)據(jù)分布在不同的物理空間與信息系統(tǒng)中,并以不同的格式表示和不同的介質(zhì)存儲(chǔ),導(dǎo)致存在如下弊端:
(1)數(shù)據(jù)一致性問(wèn)題。信息的多口采集、重復(fù)輸入以及多頭使用和維護(hù),使信息更新的同步性差,從而影響了數(shù)據(jù)的一致性和正確性,并使信息資源拆亂分散,信息使用和管理效率低下且失去了準(zhǔn)確的依據(jù)。
(2)數(shù)據(jù)重復(fù)管理問(wèn)題。缺乏業(yè)務(wù)功能交互與信息共享,難以對(duì)業(yè)務(wù)過(guò)程及業(yè)務(wù)標(biāo)準(zhǔn)實(shí)施有效監(jiān)控,同一業(yè)務(wù)數(shù)據(jù)被多個(gè)系統(tǒng)重復(fù)管理,進(jìn)而帶來(lái)了無(wú)效勞動(dòng)、數(shù)據(jù)混亂、資源浪費(fèi)等問(wèn)題。
(3)數(shù)據(jù)共享使用問(wèn)題。孤立的信息系統(tǒng)無(wú)法有效地提供部門(mén)跨系統(tǒng)的綜合性信息,各類數(shù)據(jù)不能形成有價(jià)值的信息,局部的信息不能被提升為管理知識(shí),無(wú)法形成決策支持。
3.1.2相關(guān)概念
1.異構(gòu)數(shù)據(jù)的定義
異構(gòu)數(shù)據(jù)通常是指數(shù)據(jù)結(jié)構(gòu)、存取方式、形式不一樣的多個(gè)數(shù)據(jù)集和數(shù)據(jù)源,包含關(guān)系型數(shù)據(jù)庫(kù)(Oracle/SQLServer/MySQL等)、Excel文件、txt文本數(shù)據(jù)、XML數(shù)據(jù)等不同數(shù)據(jù)集或數(shù)據(jù)源。異構(gòu)數(shù)據(jù)通常具備以下特性:
(1)異構(gòu)性。
(2)分布性。
(3)各個(gè)數(shù)據(jù)源有很強(qiáng)的自治性,它們可以在不通知集成系統(tǒng)的前提下改變。
2.數(shù)據(jù)集成的定義
數(shù)據(jù)集成是把不同來(lái)源、格式、特點(diǎn)性質(zhì)的數(shù)據(jù)在邏輯上或物理上進(jìn)行有機(jī)集中,面向平臺(tái)上運(yùn)行的各種應(yīng)用、系統(tǒng)、服務(wù),提供完整、一致和安全的數(shù)據(jù)訪問(wèn)、信息查詢及決策支持服務(wù)。數(shù)據(jù)集成主要是為了解決不同應(yīng)用和系統(tǒng)間的數(shù)據(jù)共享和交換需求。
數(shù)據(jù)集成的核心任務(wù)是將互相關(guān)聯(lián)的分布式異構(gòu)數(shù)據(jù)源集成到一起,使整體上的數(shù)據(jù)保持一致性與完整性,為用戶提供統(tǒng)一的數(shù)據(jù)源訪問(wèn)接口,執(zhí)行用戶對(duì)數(shù)據(jù)源的訪問(wèn)請(qǐng)求,使用戶無(wú)須關(guān)心如何實(shí)現(xiàn)對(duì)異構(gòu)數(shù)據(jù)源的訪問(wèn),只關(guān)心以何種方式訪問(wèn)何種數(shù)據(jù),如圖3-1所示。圖3-1數(shù)據(jù)集成系統(tǒng)模型
3.2數(shù)據(jù)采集技術(shù)
3.2.1數(shù)據(jù)采集應(yīng)用數(shù)據(jù)采集需要將計(jì)算機(jī)系統(tǒng)、網(wǎng)絡(luò)設(shè)備、通信設(shè)備、環(huán)境設(shè)備、數(shù)據(jù)庫(kù)系統(tǒng)以及傳感器設(shè)備等位置分散、動(dòng)態(tài)產(chǎn)生的數(shù)據(jù),通過(guò)各種通信手段(以太網(wǎng)接口、串行接口)進(jìn)行收集,轉(zhuǎn)換成信息系統(tǒng)能夠處理的格式并采用各種物理介質(zhì)保存起來(lái),如圖3-2所示。圖3-2數(shù)據(jù)采集應(yīng)用示意圖
數(shù)據(jù)采集框架如圖3-3所示,數(shù)據(jù)采集終端設(shè)備是一種具有現(xiàn)場(chǎng)實(shí)時(shí)數(shù)據(jù)采集處理功能的自動(dòng)化設(shè)備,具備實(shí)時(shí)采集、自動(dòng)存儲(chǔ)、即時(shí)顯示、即時(shí)反饋、自動(dòng)處理、自動(dòng)傳輸?shù)裙δ?。?shù)據(jù)采集的方式包括人工采集、WiFi與以太網(wǎng)數(shù)據(jù)采集、設(shè)備傳感數(shù)據(jù)采集、RFID(RadioFrequencyIdentification,射頻識(shí)別)數(shù)據(jù)采集、條碼數(shù)據(jù)采集、攝像頭采集、麥克風(fēng)語(yǔ)音采集等。數(shù)據(jù)采集階段中要考慮的主要問(wèn)題有與信息源的接口、原始數(shù)據(jù)格式、采集頻率/粒度、通信協(xié)議以及數(shù)據(jù)丟失后如何擬合等。圖3-3數(shù)據(jù)采集框架示意圖
3.2.2采集系統(tǒng)設(shè)計(jì)
傳感器是信息采集系統(tǒng)的首要部件。按照被測(cè)信息的不同,傳感器分為物理量傳感器、化學(xué)量傳感器和生物量傳感器等三類,如表3-1所示。
數(shù)據(jù)采集系統(tǒng)設(shè)計(jì)的主要工作是誤差的合成與分配、系統(tǒng)結(jié)構(gòu)的選擇、硬軟件的合理配置。設(shè)計(jì)數(shù)據(jù)采集系統(tǒng)時(shí),首先根據(jù)被測(cè)信號(hào)的特點(diǎn)及對(duì)系統(tǒng)性能的要求,選擇系統(tǒng)的結(jié)構(gòu)形式。進(jìn)行結(jié)構(gòu)設(shè)計(jì)時(shí),主要考慮被測(cè)信號(hào)的變化速率和通道數(shù)以及對(duì)測(cè)量精度、分辨率的要求等。數(shù)據(jù)采集系統(tǒng)比較適合采用分布式架構(gòu)開(kāi)展建設(shè),一般由數(shù)據(jù)采集站、上位機(jī)及通信接口組成,如圖3-4所示。圖3-4數(shù)據(jù)采集系統(tǒng)設(shè)計(jì)示意圖
3.3數(shù)據(jù)轉(zhuǎn)換技術(shù)
3.3.1數(shù)據(jù)轉(zhuǎn)換應(yīng)用數(shù)據(jù)轉(zhuǎn)換是將數(shù)據(jù)從一種格式/結(jié)構(gòu)轉(zhuǎn)換為另一種格式/結(jié)構(gòu)的過(guò)程。數(shù)據(jù)轉(zhuǎn)換對(duì)于數(shù)據(jù)集成和數(shù)據(jù)管理等活動(dòng)至關(guān)重要。數(shù)據(jù)轉(zhuǎn)換包含數(shù)據(jù)結(jié)構(gòu)類型轉(zhuǎn)換、刪除空值數(shù)據(jù)、清理重復(fù)數(shù)據(jù)、豐富數(shù)據(jù)或執(zhí)行聚合。數(shù)據(jù)遷移、數(shù)據(jù)集成、數(shù)據(jù)倉(cāng)庫(kù)和數(shù)據(jù)整理都涉及數(shù)據(jù)轉(zhuǎn)換。數(shù)據(jù)轉(zhuǎn)換過(guò)程中一般采用兩種方法:一是借助專業(yè)的ETL(ExtractTransformLoad,抽取-轉(zhuǎn)換-加載)工具,二是采用SQL編程方式。
3.3.2數(shù)據(jù)庫(kù)轉(zhuǎn)換方法
ETL過(guò)程即數(shù)據(jù)從異構(gòu)的數(shù)據(jù)源經(jīng)過(guò)抽取與轉(zhuǎn)換,最終加載到目標(biāo)數(shù)據(jù)源的過(guò)程,如圖3-5所示。ETL負(fù)責(zé)對(duì)分布、異構(gòu)的源數(shù)據(jù)進(jìn)行抽取,按照預(yù)先設(shè)計(jì)的規(guī)則對(duì)不完整數(shù)據(jù)、重復(fù)數(shù)據(jù)以及錯(cuò)誤數(shù)據(jù)等“臟”數(shù)據(jù)內(nèi)容進(jìn)行清洗,得到符合要求的數(shù)據(jù),作為數(shù)據(jù)挖掘的基礎(chǔ)。圖3-5ETL轉(zhuǎn)換方法原理圖
需要對(duì)業(yè)務(wù)支撐系統(tǒng)的原始操作數(shù)據(jù)進(jìn)行相應(yīng)清洗轉(zhuǎn)換,ETL技術(shù)就是解決該類問(wèn)題的。
1.數(shù)據(jù)抽取
數(shù)據(jù)抽取是從各種原始的業(yè)務(wù)系統(tǒng)中將原始數(shù)據(jù)讀取出來(lái)。在實(shí)際應(yīng)用中數(shù)據(jù)源多采用的是關(guān)系數(shù)據(jù)庫(kù),從數(shù)據(jù)庫(kù)中抽取數(shù)據(jù)有全量抽取和增量抽取兩種方式。全量抽取是將數(shù)據(jù)源中的表或視圖的數(shù)據(jù)原封不動(dòng)地從數(shù)據(jù)庫(kù)中抽取出來(lái),增量抽取只抽取自上次抽取以來(lái)新增或修改的數(shù)據(jù)。
1)觸發(fā)器
觸發(fā)器是在要抽取的表上建立觸發(fā)機(jī)制,一般要建立插入、修改、刪除3個(gè)觸發(fā)器。每當(dāng)源表中的數(shù)據(jù)發(fā)生變化時(shí),相應(yīng)的觸發(fā)器將變化的數(shù)據(jù)寫(xiě)入一個(gè)臨時(shí)表,抽取線程從臨時(shí)表中抽取數(shù)據(jù),臨時(shí)表中抽取過(guò)的數(shù)據(jù)被標(biāo)記或刪除。觸發(fā)器方式的優(yōu)點(diǎn)是數(shù)據(jù)抽取的性能較高,缺點(diǎn)是要求業(yè)務(wù)表建立觸發(fā)器,對(duì)業(yè)務(wù)系統(tǒng)有一定的影響。
2)時(shí)間戳
時(shí)間戳是一種基于快照比較變化數(shù)據(jù)的捕獲方式,在源表上增加一個(gè)時(shí)間戳字段,在系統(tǒng)中更新修改表數(shù)據(jù)時(shí),同時(shí)修改時(shí)間戳字段的值。當(dāng)進(jìn)行數(shù)據(jù)抽取時(shí),通過(guò)比較系統(tǒng)時(shí)間與時(shí)間戳字段的值來(lái)定位數(shù)據(jù)抽取內(nèi)容。
3)全表比對(duì)
典型的全表比對(duì)的方式是采用MD5(MessageDigestAlgorithm5,信息-摘要算法)校驗(yàn)碼方法。ETL工具事先為要抽取的表建立一個(gè)結(jié)構(gòu)類似的MD5臨時(shí)表,記錄源表主鍵以及根據(jù)所有字段的數(shù)據(jù)計(jì)算出來(lái)的MD5校驗(yàn)碼。每次進(jìn)行數(shù)據(jù)抽取時(shí),對(duì)源表和MD5臨時(shí)表進(jìn)行MD5校驗(yàn)碼的比對(duì),從而決定源表中的數(shù)據(jù)是新增、修改還是刪除,同時(shí)更新MD5校驗(yàn)碼。MD5校驗(yàn)碼方法的優(yōu)點(diǎn)是對(duì)于源數(shù)據(jù)庫(kù),僅需要建立MD5臨時(shí)表,對(duì)系統(tǒng)的侵入性較小。但是由于抽取時(shí)MD5臨時(shí)表的建立涉及比較計(jì)算,導(dǎo)致抽取時(shí)性能較差,并且當(dāng)表中沒(méi)有主鍵或唯一列且含有重復(fù)記錄時(shí),MD5校驗(yàn)碼方法的準(zhǔn)確性較差。
4)日志對(duì)比
日志對(duì)比是通過(guò)分析數(shù)據(jù)庫(kù)自身的日志來(lái)判斷變化的數(shù)據(jù)。Oracle的數(shù)據(jù)改變捕獲技術(shù)(ChangedDataCapture,CDC)是該方面的主流技術(shù),通過(guò)識(shí)別從上次抽取之后數(shù)據(jù)的變化內(nèi)容,對(duì)源數(shù)據(jù)表進(jìn)行新增、修改、刪除等操作,并且將變化的數(shù)據(jù)保存在數(shù)據(jù)庫(kù)的變化表中。最終將發(fā)生變化的數(shù)據(jù)利用數(shù)據(jù)庫(kù)視圖的方式提供給目標(biāo)系統(tǒng)。
2.數(shù)據(jù)轉(zhuǎn)換
數(shù)據(jù)轉(zhuǎn)換是將數(shù)據(jù)按照預(yù)先設(shè)計(jì)好的規(guī)則進(jìn)行轉(zhuǎn)換、清洗,處理一些冗余、歧義、不完整、違反業(yè)務(wù)規(guī)則的數(shù)據(jù),統(tǒng)一數(shù)據(jù)的格式、內(nèi)容與粒度。數(shù)據(jù)的轉(zhuǎn)換和加工可以在ETL引擎中進(jìn)行,也可以在數(shù)據(jù)抽取過(guò)程中利用關(guān)系數(shù)據(jù)庫(kù)的特性同時(shí)進(jìn)行。
數(shù)據(jù)轉(zhuǎn)換的操作如下:
(1)直接映射:數(shù)據(jù)源字段和目標(biāo)字段長(zhǎng)度或精度相同,則無(wú)須做任何處理。
(2)字符串處理:從數(shù)據(jù)源的字符串字段中進(jìn)行類型轉(zhuǎn)換、字符串截取等操作,以獲取特定信息作為目標(biāo)數(shù)據(jù)庫(kù)的某個(gè)字段。
(3)字段運(yùn)算:將數(shù)據(jù)源的一個(gè)或多個(gè)字段進(jìn)行數(shù)學(xué)運(yùn)算而得到目標(biāo)字段。
(4)空值判斷:對(duì)數(shù)據(jù)源中的空值字段進(jìn)行判斷,并轉(zhuǎn)換成特定的值。
(5)日期轉(zhuǎn)換:對(duì)數(shù)據(jù)源字段的日期格式進(jìn)行統(tǒng)一格式轉(zhuǎn)換。
(6)聚集運(yùn)算:對(duì)數(shù)據(jù)源一個(gè)或多個(gè)字段運(yùn)用sum、count、avg、min、max等聚集函數(shù)得到目標(biāo)數(shù)據(jù)庫(kù)表中的一些度量字段。
(7)既定取值:對(duì)目標(biāo)字段取一個(gè)固定的或依賴系統(tǒng)的值,而不依賴于數(shù)據(jù)源字段。
3.數(shù)據(jù)加載
數(shù)據(jù)加載是轉(zhuǎn)換后的數(shù)據(jù)按照計(jì)劃增量或全部導(dǎo)入到目標(biāo)庫(kù)中。一般來(lái)說(shuō)有兩種裝載方式:
一是直接采用SQL語(yǔ)言進(jìn)行新增、刪除、修改等操作;
二是采用特有的批量裝載工具或API(ApplicationProgramInterface,應(yīng)用程序接口)。第一種方法由于進(jìn)行了SQL命令的日志記錄,具備一定的數(shù)據(jù)恢復(fù)性;第二種方法的批量裝載工具易于操作使用,在裝入大量數(shù)據(jù)時(shí)效率較高。
3.3.3ETL工具介紹
ETL工具根據(jù)其提供廠商分為兩種:
一種是數(shù)據(jù)庫(kù)廠商自帶的ETL工具,典型的代表產(chǎn)品有Oracle的ODI、SQLServer的SSIS等;
另一種是第三方工具提供商,如InformaticaEnterpriseDataIntegration、Kettle等。
下面介紹四種常用的ETL工具。
(1)?OracleDataIntegrator(ODI)。ODI是Oracle在2006年收購(gòu)Sunopsis公司后整合推出的一款數(shù)據(jù)集成工具,現(xiàn)在是OracleFusionMiddleware的組件。ODI是一個(gè)全面的數(shù)據(jù)集成平臺(tái),涉及領(lǐng)域包括高容量、高性能、批處理、事件驅(qū)動(dòng)的少量傳送集成過(guò)程以及支持SOA的數(shù)據(jù)服務(wù)。與常見(jiàn)的ETL工具不同,ODI不是采用獨(dú)立的引擎而是采用數(shù)據(jù)庫(kù)管理系統(tǒng)進(jìn)行數(shù)據(jù)轉(zhuǎn)換。ODI是以圖形模塊設(shè)計(jì)工具和調(diào)度代理訪問(wèn)信息庫(kù)為中心進(jìn)行組織的。
(2)?MicrosoftSQLServerIntegrationServices(SSIS)。SSIS的前身是MicrosoftSQLServer的DTS(數(shù)據(jù)轉(zhuǎn)換服務(wù)),是用于生成企業(yè)級(jí)數(shù)據(jù)集成和數(shù)據(jù)轉(zhuǎn)換解決方案的平臺(tái)。SSIS具備許多現(xiàn)成的標(biāo)準(zhǔn)任務(wù),如TransformData(數(shù)據(jù)轉(zhuǎn)換)、ExecuteProcess(執(zhí)行處理)、ActiveXScript(動(dòng)態(tài)腳本)、ExecuteSQL(執(zhí)行SQL)和BulkInsertTasks(塊插入任務(wù))。SSIS包含一組豐富的內(nèi)置任務(wù)和轉(zhuǎn)換、用于構(gòu)造包的工具以及用于運(yùn)行和管理包的服務(wù)。SSIS可以使用圖形工具來(lái)創(chuàng)建解決方案,也可以對(duì)各種對(duì)象模型進(jìn)行編程,通過(guò)編程方式創(chuàng)建包,并編寫(xiě)自定義任務(wù)以及其他包對(duì)象的代碼。
(3)?InformaticaEnterpriseDataIntegration。Informatica是Informatica公司旗下的數(shù)據(jù)集成與應(yīng)用解決方案,包括InformaticaPowerCenter和InformaticaPowerExchange兩大產(chǎn)品,具備數(shù)據(jù)集成工具、數(shù)據(jù)質(zhì)量工具、元數(shù)據(jù)管理解決方案、主數(shù)據(jù)管理解決方案及企業(yè)級(jí)集成平臺(tái)等系列解決方案。InformaticaPowerCenter是一個(gè)功能強(qiáng)大的數(shù)據(jù)整合引擎,具備數(shù)據(jù)清洗和匹配、數(shù)據(jù)屏蔽、數(shù)據(jù)驗(yàn)證、負(fù)載均衡、企業(yè)網(wǎng)格、元數(shù)據(jù)交換、下推優(yōu)化、團(tuán)隊(duì)開(kāi)發(fā)和非結(jié)構(gòu)化數(shù)據(jù)等組件功能,不需要開(kāi)發(fā)者手工編寫(xiě)這些過(guò)程的代碼。
(4)?Kettle。Kettle是Pentaho公司旗下的開(kāi)源元數(shù)據(jù)驅(qū)動(dòng)ETL工具軟件。Kettle支持Windows、Linux等多個(gè)操作系統(tǒng)平臺(tái),具備無(wú)代碼拖拽式構(gòu)建數(shù)據(jù)管道、數(shù)據(jù)管道可視化、模板化開(kāi)發(fā)數(shù)據(jù)管道、深度Hadoop支持、數(shù)據(jù)任務(wù)下Spark集群、支持?jǐn)?shù)據(jù)挖掘與機(jī)器學(xué)習(xí)等特點(diǎn)。Kettle主要包含Spoon、Pan、Chef、Kitchen等四個(gè)工具。其中:Spoon是數(shù)據(jù)轉(zhuǎn)換工作的圖形化設(shè)計(jì)工具;Pan是由Spoon設(shè)計(jì)ETL轉(zhuǎn)換的后臺(tái)運(yùn)行程序;Chef是任務(wù)管理工具,負(fù)責(zé)完成任務(wù)內(nèi)容配置、轉(zhuǎn)換與腳本設(shè)計(jì);Kitchen是遠(yuǎn)程執(zhí)行數(shù)據(jù)任務(wù)的服務(wù)調(diào)度程序。
上述四種ETL工具對(duì)比分析如表3-2所示。
3.4數(shù)據(jù)存儲(chǔ)技術(shù)3.4.1數(shù)據(jù)庫(kù)中間件技術(shù)在對(duì)編程語(yǔ)言與數(shù)據(jù)庫(kù)種類版本的適配性問(wèn)題,如圖3-6(a)、(b)所示。對(duì)于不同編程語(yǔ)言與不同數(shù)據(jù)庫(kù)版本,都需要使用不同的驅(qū)動(dòng)程序,其API的調(diào)用方法都會(huì)存在差異性,增加了開(kāi)發(fā)成本。為解決該問(wèn)題,發(fā)展出了ODBC(OpenDatabaseConnectivity,開(kāi)放數(shù)據(jù)庫(kù)連接)、JDBC(JavaDatabaseConnectivity,Java數(shù)據(jù)庫(kù)連接)、ADO(ActiveXDataObject,ActiveX數(shù)據(jù)對(duì)象)等數(shù)據(jù)庫(kù)中間件技術(shù)。通過(guò)該技術(shù)打通異構(gòu)數(shù)據(jù)庫(kù)和應(yīng)用系統(tǒng)的關(guān)系,向下協(xié)調(diào)各異構(gòu)數(shù)據(jù)庫(kù)系統(tǒng)之間的數(shù)據(jù)關(guān)聯(lián)關(guān)系,向上為應(yīng)用系統(tǒng)提供統(tǒng)一的API調(diào)用方法,從而可以屏蔽數(shù)據(jù)庫(kù)的分布地點(diǎn)、平臺(tái)版本、SQL擴(kuò)展語(yǔ)句、特殊的本地API等差異,如圖3-6(c)所示。圖3-6數(shù)據(jù)庫(kù)中間件技術(shù)示意圖
1.ODBC連接件
ODBC是1992年Microsoft與Sybase、Digital等公司共同制定的中間件標(biāo)準(zhǔn),進(jìn)而發(fā)展為Windows開(kāi)放服務(wù)結(jié)構(gòu)(WindowsOpenServicesArchitecture,WOSA)中有關(guān)數(shù)據(jù)庫(kù)的一個(gè)組成部分。它為應(yīng)用程序開(kāi)發(fā)提供了一組對(duì)數(shù)據(jù)庫(kù)訪問(wèn)的標(biāo)準(zhǔn)API,并且具備對(duì)SQL語(yǔ)言的支持。使用ODBCAPI的應(yīng)用程序可以與任何具有ODBC驅(qū)動(dòng)程序的關(guān)系數(shù)據(jù)庫(kù)進(jìn)行通信,如圖3-7所示。圖3-7ODBC的總體結(jié)構(gòu)
ODBC總體結(jié)構(gòu)主要有以下6個(gè)組件:
(1)應(yīng)用程序:執(zhí)行處理并調(diào)用ODBCAPI函數(shù),提交SQL語(yǔ)句并獲得結(jié)果。
(2)?ODBCAPI:ODBC的應(yīng)用程序接口。
(3)驅(qū)動(dòng)程序管理器(DriverManager):根據(jù)應(yīng)用程序的開(kāi)發(fā)語(yǔ)言及訪問(wèn)數(shù)據(jù)源的不同,選擇性地加載/卸載驅(qū)動(dòng)程序,處理ODBC函數(shù)調(diào)用。
(4)?ODBC驅(qū)動(dòng)程序:處理ODBC函數(shù)調(diào)用,提交SQL請(qǐng)求到一個(gè)指定的數(shù)據(jù)源,并把結(jié)果返回到應(yīng)用程序。
(5)數(shù)據(jù)源:包括用戶要訪問(wèn)的數(shù)據(jù)庫(kù)管理系統(tǒng)。
(6)?ODBC管理器:管理安裝的ODBC驅(qū)動(dòng)程序和管理數(shù)據(jù)源的工具軟件。
2.?OLEDB/ADO連接件
ODBC雖然已經(jīng)是一個(gè)穩(wěn)定并且執(zhí)行效率良好的數(shù)據(jù)連接件,但是存在無(wú)法獨(dú)立運(yùn)行、不支持非結(jié)構(gòu)化數(shù)據(jù)、無(wú)法支持腳本文件等缺點(diǎn),因此,Microsoft開(kāi)發(fā)了OLEDB、ADO等連接件,以滿足不同需求,如圖3-8所示。圖3-8ADO、OLEDB以及ODBC之間的關(guān)系
3.JDBC連接件
JDBC是Java語(yǔ)言中客戶端程序訪問(wèn)數(shù)據(jù)庫(kù)的應(yīng)用程序接口規(guī)范,可以為多種關(guān)系數(shù)據(jù)庫(kù)提供統(tǒng)一訪問(wèn),由一組用Java語(yǔ)言編寫(xiě)的類和接口組成。與ODBC數(shù)據(jù)庫(kù)驅(qū)動(dòng)需要高度規(guī)范化與定制化不同,JDBC數(shù)據(jù)庫(kù)驅(qū)動(dòng)的實(shí)現(xiàn)方式較為靈活,可以通過(guò)ODBC橋接、本地驅(qū)動(dòng)與網(wǎng)絡(luò)驅(qū)動(dòng)等多種方式。
JDBC的設(shè)計(jì)在思想上沿襲了ODBC,總體結(jié)構(gòu)類似于ODBC。JDBC除了具有ODBC的上述特點(diǎn)外,還支持硬件平臺(tái)和操作系統(tǒng)的異構(gòu)性。利用Java的平臺(tái)無(wú)關(guān)性,JDBC應(yīng)用程序擁有更好的跨平臺(tái)特性,因而更適合異構(gòu)環(huán)境的數(shù)據(jù)庫(kù)應(yīng)用。
3.4.2數(shù)據(jù)倉(cāng)庫(kù)方法
隨著信息系統(tǒng)記錄管理的數(shù)據(jù)越來(lái)越多,通過(guò)數(shù)據(jù)進(jìn)行決策支持已經(jīng)成為必然趨勢(shì)。利用關(guān)系數(shù)據(jù)庫(kù)進(jìn)行聯(lián)機(jī)處理分析僅能解決單一或局部的統(tǒng)計(jì)與分析問(wèn)題。但對(duì)于整個(gè)領(lǐng)域或行業(yè)的宏觀決策,涉及的數(shù)據(jù)和信息范疇較廣,這就要同時(shí)啟動(dòng)大量數(shù)據(jù)庫(kù)表,并且要將眾多表中的數(shù)據(jù)按一定的規(guī)律擬合起來(lái),形成針對(duì)某一主題的數(shù)據(jù)內(nèi)容。如果利用關(guān)系數(shù)據(jù)庫(kù)進(jìn)行聯(lián)機(jī)處理分析,則會(huì)出現(xiàn)三方面問(wèn)題:一是數(shù)據(jù)分析處理會(huì)消耗大量計(jì)算資源,從而影響業(yè)務(wù)系統(tǒng)的業(yè)務(wù)處理效率;二是聯(lián)機(jī)事務(wù)處理(On-lineTransactionProcessing,OLTP)缺少針對(duì)比較、趨勢(shì)分析與預(yù)測(cè)等的數(shù)據(jù)處理模板,導(dǎo)致開(kāi)發(fā)應(yīng)用困難;三是會(huì)不斷積累產(chǎn)生與業(yè)務(wù)無(wú)關(guān)的分析數(shù)據(jù),影響關(guān)系數(shù)據(jù)庫(kù)的性能。
因此,數(shù)據(jù)倉(cāng)庫(kù)技術(shù)就成為解決上述問(wèn)題的良好方案。尹蒙(W.H.Inmon)于1993年在《構(gòu)建數(shù)據(jù)倉(cāng)庫(kù)》(BuildingtheDataWarehouse)中系統(tǒng)地對(duì)數(shù)據(jù)倉(cāng)庫(kù)進(jìn)行了定義:數(shù)據(jù)倉(cāng)庫(kù)是為決策支持服務(wù)的,是面向主題的、集成的、相對(duì)穩(wěn)定的、隨時(shí)間變化的數(shù)據(jù)集合。數(shù)據(jù)倉(cāng)庫(kù)具備以下特征:
(1)面向主題。傳統(tǒng)的數(shù)據(jù)庫(kù)是面向應(yīng)用而設(shè)計(jì)的,按照業(yè)務(wù)處理流程來(lái)組織數(shù)據(jù),一般依托關(guān)聯(lián)關(guān)系來(lái)描述相關(guān)事務(wù)與應(yīng)用,目的在于提高數(shù)據(jù)處理的速度。
(2)集成性。數(shù)據(jù)倉(cāng)庫(kù)的數(shù)據(jù)主要用于進(jìn)行分析決策,要對(duì)來(lái)自多個(gè)應(yīng)用系統(tǒng)的數(shù)據(jù)進(jìn)行抽取、篩選、清理、綜合。需要統(tǒng)一原始數(shù)據(jù)中的所有矛盾,如同名異義、異名同義、單位不統(tǒng)一等,而且要將這些數(shù)據(jù)統(tǒng)一到數(shù)據(jù)倉(cāng)庫(kù)的數(shù)據(jù)模式上,還要監(jiān)視數(shù)據(jù)源的數(shù)據(jù)變化,以便擴(kuò)充和更新數(shù)據(jù)倉(cāng)庫(kù)。
(3)相對(duì)穩(wěn)定。數(shù)據(jù)倉(cāng)庫(kù)穩(wěn)定性是指數(shù)據(jù)進(jìn)入數(shù)據(jù)倉(cāng)庫(kù)以后將被長(zhǎng)期保留。倉(cāng)庫(kù)內(nèi)數(shù)據(jù)主要是為了分析決策,所涉及的數(shù)據(jù)操作主要是數(shù)據(jù)查詢,一般情況下并不進(jìn)行數(shù)據(jù)修改和刪除操作。
(4)具備時(shí)間特性。由于數(shù)據(jù)倉(cāng)庫(kù)常用作趨勢(shì)預(yù)測(cè)分析,因此需要保留足夠長(zhǎng)時(shí)間的歷史數(shù)據(jù),數(shù)據(jù)倉(cāng)庫(kù)中的數(shù)據(jù)時(shí)間期限遠(yuǎn)長(zhǎng)于傳統(tǒng)操作型數(shù)據(jù)系統(tǒng)中的數(shù)據(jù)時(shí)間期限。傳統(tǒng)操作型數(shù)據(jù)系統(tǒng)中的數(shù)據(jù)含有“當(dāng)前值”的數(shù)據(jù),這些數(shù)據(jù)在訪問(wèn)時(shí)即使是有效的也能被更新,但數(shù)據(jù)倉(cāng)庫(kù)中的數(shù)據(jù)是一系列某一時(shí)刻生成的快照。傳統(tǒng)操作型數(shù)據(jù)系統(tǒng)中可能包含也可能不包含時(shí)間元素,而數(shù)據(jù)倉(cāng)庫(kù)中一定會(huì)包含時(shí)間元素。
總之,數(shù)據(jù)倉(cāng)庫(kù)的概念可以從兩個(gè)層次予以理解:首先,數(shù)據(jù)倉(cāng)庫(kù)用于支持決策,面向分析型數(shù)據(jù)處理,不同于傳統(tǒng)操作型數(shù)據(jù)庫(kù);其次,數(shù)據(jù)倉(cāng)庫(kù)是對(duì)多個(gè)異構(gòu)的數(shù)據(jù)源進(jìn)行有效集成,集成后按照主題進(jìn)行重組,并包含歷史數(shù)據(jù),而且存放在數(shù)據(jù)倉(cāng)庫(kù)中的數(shù)據(jù)一般不再修改。
1.數(shù)據(jù)倉(cāng)庫(kù)的體系結(jié)構(gòu)
數(shù)據(jù)倉(cāng)庫(kù)一般采用三層結(jié)構(gòu),如圖3-9所示。底層是數(shù)據(jù)倉(cāng)庫(kù)服務(wù)器,通過(guò)異構(gòu)數(shù)據(jù)源的轉(zhuǎn)換集成形成主題數(shù)據(jù)集;中間層是OLAP(On-lineAnalysisProcessing,聯(lián)機(jī)分析處理)應(yīng)用工具,針對(duì)主題數(shù)據(jù)集實(shí)現(xiàn)多維數(shù)據(jù)分析;頂層是前端工具,包括查詢和報(bào)告工具、分析工具或數(shù)據(jù)挖掘工具。圖3-9數(shù)據(jù)倉(cāng)庫(kù)的系統(tǒng)組成
(1)數(shù)據(jù)源:它來(lái)自現(xiàn)有的多項(xiàng)用戶管理系統(tǒng),即內(nèi)部數(shù)據(jù)源,也可以來(lái)自其他數(shù)據(jù)源,如其他數(shù)據(jù)庫(kù)、電子表格、文檔、其他類型的信息庫(kù),還包括多種非結(jié)構(gòu)化的數(shù)據(jù)信息,如業(yè)務(wù)規(guī)則和流程邏輯、整理歸納出的知識(shí)經(jīng)驗(yàn)等。
(2)數(shù)據(jù)倉(cāng)庫(kù)服務(wù)器:它支持海量數(shù)據(jù)存儲(chǔ)和快速檢索。根據(jù)數(shù)據(jù)倉(cāng)庫(kù)的分析主題與處理需求,通過(guò)ODBC、OLEDB、ADO、JDBC等數(shù)據(jù)庫(kù)中間件訪問(wèn)數(shù)據(jù)源,設(shè)計(jì)對(duì)數(shù)據(jù)源進(jìn)行ETL的處理策略,對(duì)數(shù)據(jù)進(jìn)行接收、分析、抽取、凈化、匯總、變換、存儲(chǔ)等操作,從而形成主題數(shù)據(jù)集。
(3)?OLAP服務(wù):OLAP是將預(yù)先設(shè)定的主題數(shù)據(jù)集通過(guò)各種分析操作,產(chǎn)生多維分析立方體供業(yè)務(wù)人員分析使用。
(4)前端工具:它面向用戶的需求,將分析結(jié)果以方便用戶理解的方式呈現(xiàn)給用戶,以支持用戶進(jìn)行決策,包括各種報(bào)表工具、查詢工具、數(shù)據(jù)分析工具、數(shù)據(jù)挖掘工具及各種基于數(shù)據(jù)倉(cāng)庫(kù)的開(kāi)發(fā)工具。
2.數(shù)據(jù)倉(cāng)庫(kù)的建立
數(shù)據(jù)倉(cāng)庫(kù)的建立從分析業(yè)務(wù)需求出發(fā),結(jié)合現(xiàn)有信息系統(tǒng)數(shù)據(jù)模型,設(shè)計(jì)ETL執(zhí)行策略,形成主題數(shù)據(jù)庫(kù),根據(jù)業(yè)務(wù)分析需求構(gòu)建OLAP數(shù)據(jù)處理策略,根據(jù)主題進(jìn)行數(shù)據(jù)分析,更新數(shù)據(jù)倉(cāng)庫(kù)。建立數(shù)據(jù)倉(cāng)庫(kù)的具體步驟如下:
(1)確定分析的業(yè)務(wù)主題需求。
(2)設(shè)計(jì)硬件資源平臺(tái)。
(3)設(shè)計(jì)主題數(shù)據(jù)庫(kù)策略。
(4)選擇商用平臺(tái)工具。
(5)數(shù)據(jù)加載和清洗。
(6)根據(jù)主題進(jìn)行數(shù)據(jù)分析。
(7)更新數(shù)據(jù)倉(cāng)庫(kù)。
3.數(shù)據(jù)集市
數(shù)據(jù)集市是完整的數(shù)據(jù)倉(cāng)庫(kù)的一個(gè)邏輯子集,而數(shù)據(jù)倉(cāng)庫(kù)正是由其所有的數(shù)據(jù)集市有機(jī)組合而成的。數(shù)據(jù)倉(cāng)庫(kù)是針對(duì)企業(yè)級(jí)的,能為整個(gè)企業(yè)各個(gè)部門(mén)的運(yùn)行提供決策支持手段;數(shù)據(jù)集市是針對(duì)某個(gè)部門(mén)進(jìn)行的、范圍相對(duì)較小的數(shù)據(jù)倉(cāng)庫(kù)。
(1)自上而下的實(shí)施。首先在原始數(shù)據(jù)源的基礎(chǔ)上導(dǎo)出數(shù)據(jù),建立企業(yè)級(jí)數(shù)據(jù)倉(cāng)庫(kù),然后根據(jù)需要導(dǎo)出部門(mén)和個(gè)人倉(cāng)庫(kù)。自上而下有利于保證各級(jí)數(shù)據(jù)倉(cāng)庫(kù)的一致性,但是周期長(zhǎng)、費(fèi)用高、難度大。在這種形式下,主題數(shù)據(jù)集和面向應(yīng)用的數(shù)據(jù)環(huán)境共同構(gòu)成一個(gè)多層次的體系化環(huán)境,可以進(jìn)行從OLTP到?jīng)Q策支持系統(tǒng)的所有應(yīng)用,如圖3-10所示。圖3-10自上向下的體
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2026年消防條令綱要知識(shí)考試題庫(kù)附完整答案【奪冠】
- 2026年投資項(xiàng)目管理師之投資建設(shè)項(xiàng)目實(shí)施考試題庫(kù)200道有答案
- 2026年勞務(wù)員之勞務(wù)員基礎(chǔ)知識(shí)考試題庫(kù)200道(預(yù)熱題)
- 2026年公用設(shè)備工程師之專業(yè)基礎(chǔ)知識(shí)(暖通空調(diào)+動(dòng)力)考試題庫(kù)300道含答案【奪分金卷】
- 2026年網(wǎng)絡(luò)預(yù)約出租汽車駕駛員從業(yè)資格考試題庫(kù)附參考答案(a卷)
- 坯料機(jī)加工崗前理論評(píng)估考核試卷含答案
- 2026年公用設(shè)備工程師之專業(yè)基礎(chǔ)知識(shí)(暖通空調(diào)+動(dòng)力)考試題庫(kù)300道及參考答案【綜合題】
- 英文書(shū)寫(xiě)規(guī)范標(biāo)準(zhǔn)化練習(xí)冊(cè)
- 2026年監(jiān)理工程師之交通工程目標(biāo)控制考試題庫(kù)300道含答案(培優(yōu)b卷)
- 2026年質(zhì)量員之土建質(zhì)量基礎(chǔ)知識(shí)考試題庫(kù)附參考答案(模擬題)
- 企業(yè)業(yè)務(wù)合規(guī)審查參考模版
- 私人防水合同范本
- 醫(yī)療器械質(zhì)量管理自查報(bào)告
- 壓瘡護(hù)理健康宣教
- 中醫(yī)科宣教課件
- 2025湖南懷化中方縣高新產(chǎn)業(yè)投資有限公司招聘10人備考題庫(kù)有完整答案詳解
- 華為干部管理體系
- 2024年基本級(jí)執(zhí)法資格考試題庫(kù)及解析(200題)
- 2026中國(guó)二手醫(yī)療設(shè)備進(jìn)出口貿(mào)易現(xiàn)狀與未來(lái)發(fā)展預(yù)測(cè)報(bào)告
- 身邊的工匠精神的事例
- 2025安徽宿州市第四人民醫(yī)院(宿馬醫(yī)院)(浙江大學(xué)醫(yī)學(xué)院附屬第一醫(yī)院宿州分院)引進(jìn)專業(yè)技術(shù)人才34人考試筆試模擬試題及答案解析
評(píng)論
0/150
提交評(píng)論