版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、CMNET網(wǎng)絡(luò)結(jié)構(gòu)和路由策略,2012年6月,目錄,骨干網(wǎng)絡(luò)架構(gòu)與路由策略 省內(nèi)網(wǎng)絡(luò)架構(gòu)和路由策略 省網(wǎng)組織結(jié)構(gòu)與路由交換方式 高價(jià)值業(yè)務(wù)的區(qū)分、標(biāo)識(shí)原則及保障方法,骨干網(wǎng)絡(luò)架構(gòu)與路由策略 網(wǎng)絡(luò)概述 網(wǎng)絡(luò)現(xiàn)狀 路由組織策略 網(wǎng)絡(luò)演進(jìn),骨干網(wǎng)絡(luò)架構(gòu)與路由策略,網(wǎng)絡(luò):中國(guó)移動(dòng)的互聯(lián)網(wǎng)網(wǎng)絡(luò)發(fā)展情況,04年,鏈路:2.5G、155M為主 節(jié)點(diǎn):核心匯聚增設(shè)第二節(jié)點(diǎn)(一般骨干) 其他節(jié)點(diǎn):雙節(jié)點(diǎn)、雙設(shè)備、雙上聯(lián),節(jié)點(diǎn):核心、匯聚單節(jié)點(diǎn)、雙設(shè)備 一般骨干單節(jié)點(diǎn)、單設(shè)備、雙上聯(lián) 鏈路:少量2.5G、部分155M,建設(shè)3大核心5大匯聚及一般骨干節(jié)點(diǎn),雙節(jié)點(diǎn)改造及設(shè)備替換,網(wǎng)內(nèi)網(wǎng)間鏈路擴(kuò)容 全網(wǎng)優(yōu)化,涉及31個(gè)
2、省份,設(shè)備替換、版卡擴(kuò)容、網(wǎng)內(nèi)、省網(wǎng)、出口鏈路擴(kuò)容、全網(wǎng)優(yōu)化 鏈路:10G、2.5G為主,少量155M 節(jié)點(diǎn): 核心、匯聚:?jiǎn)喂?jié)點(diǎn)、雙設(shè)備、建設(shè)第二節(jié)點(diǎn) 其他節(jié)點(diǎn):雙節(jié)點(diǎn)、雙設(shè)備、雙上聯(lián),技術(shù)及網(wǎng)絡(luò) 結(jié)構(gòu) 發(fā)展,時(shí)間,CMNET一期,CMNET二期,全面建設(shè)移動(dòng)骨干網(wǎng),10年,00年,07年,CMNET5期網(wǎng)絡(luò)結(jié)構(gòu)調(diào)整: 1、 北京、上海、廣州分別設(shè)置2個(gè)節(jié)點(diǎn),每節(jié)點(diǎn)1臺(tái)集群路由器 2、五大匯聚設(shè)置第二匯聚節(jié)點(diǎn) 3、北京、西安、武漢、廣州、上海設(shè)置獨(dú)立的IP RR 4、除8大核心匯聚節(jié)點(diǎn)外其他25個(gè)一般骨干節(jié)點(diǎn)設(shè)置雙節(jié)點(diǎn) 5、北京、上海、廣州國(guó)內(nèi)互聯(lián)設(shè)置雙節(jié)點(diǎn) 6、北京、廣州國(guó)際互聯(lián)設(shè)置雙節(jié)點(diǎn)
3、、上海設(shè)置單節(jié)點(diǎn),奧運(yùn)WLAN: 涉及北京、上海、沈陽(yáng)、青島、天津、秦皇島6個(gè)奧運(yùn)城市,設(shè)置WLAN專用國(guó)內(nèi)、國(guó)際出口,承載奧運(yùn)WLAN業(yè)務(wù),新奧VPN一期: 涉及13個(gè)省份31個(gè)地市,新增52臺(tái)PE設(shè)備路由器,上聯(lián)至CMNET骨干網(wǎng)設(shè)備,CMNET網(wǎng)間互聯(lián): 上海廣州新增第二國(guó)內(nèi)出口T1600 廣州新增第二國(guó)際出口CRS-1 擴(kuò)容國(guó)內(nèi)、國(guó)際網(wǎng)間鏈路,全網(wǎng)大力建設(shè)IDC中心,主要包括7個(gè)一級(jí)IDC和5個(gè)二級(jí)IDC。,網(wǎng)絡(luò)雛形,雙節(jié)點(diǎn)改造,引入10G鏈路,建設(shè)VPN專用網(wǎng),引入集群,大力發(fā)展IDC,內(nèi)容:中國(guó)移動(dòng)的互聯(lián)網(wǎng)內(nèi)容發(fā)展情況,07年,音樂(lè)隨身聽(tīng) 全曲下載,飛信,音樂(lè)搜索,短信轉(zhuǎn)移 /過(guò)濾
4、/倉(cāng)庫(kù),基本語(yǔ)音,短信 前傳等補(bǔ)充業(yè)務(wù),以品牌為基礎(chǔ)解決基本通信需求,增值業(yè)務(wù)提升用戶體驗(yàn),數(shù)據(jù)業(yè)務(wù)大爆炸,手機(jī)動(dòng)漫,可視電話,MM,SP,截至2009年9月共有合作SP7258家,其中全網(wǎng)SP共879家,開(kāi)展合作業(yè)務(wù)8.3萬(wàn)個(gè),移動(dòng)智能網(wǎng),業(yè)務(wù) 種類,時(shí)間,基本業(yè)務(wù):9種 補(bǔ)充業(yè)務(wù):7種,話音增值業(yè)務(wù): 18余種,數(shù)據(jù)增值業(yè)務(wù):70余種,條碼識(shí)別 條碼憑證,全業(yè)務(wù)運(yùn)營(yíng),公共安全,綠色農(nóng)業(yè),工業(yè)監(jiān)控,智能交通,環(huán)境監(jiān)測(cè),電子廣告,遠(yuǎn)程醫(yī)療,智能家居,多媒體化、定制化,11年,02年,基地業(yè)務(wù),互聯(lián)網(wǎng)業(yè)務(wù),互聯(lián)網(wǎng)化,用戶:中國(guó)移動(dòng)的互聯(lián)網(wǎng)用戶發(fā)展情況,CSD,GPRS,WLAN,專線,家庭寬帶,
5、集團(tuán)客戶,TD,VIP客戶,2000,2012,2003,WAP,手機(jī)用戶發(fā)展:手機(jī)用戶數(shù)從不足2000萬(wàn)增長(zhǎng)到4 .5億。 寬帶用戶發(fā)展:寬帶用戶數(shù)從100萬(wàn)左右發(fā)展到目前的近1000萬(wàn),網(wǎng)絡(luò)承載的流量增加超過(guò)12倍。 WLAN大發(fā)展:WLAN網(wǎng)絡(luò)經(jīng)歷了巨大發(fā)展,AP數(shù)量20萬(wàn)到200萬(wàn)。Wlan用戶從不足10萬(wàn)增長(zhǎng)到3000萬(wàn)。,用戶種類,骨干網(wǎng)絡(luò)架構(gòu)與路由策略 網(wǎng)絡(luò)演進(jìn) 網(wǎng)絡(luò)現(xiàn)狀 路由組織策略 網(wǎng)絡(luò)演進(jìn),骨干網(wǎng)絡(luò)架構(gòu)與路由策略,CMNET網(wǎng)絡(luò)概況,骨干核心層(北京、上海、廣州):負(fù)責(zé)中轉(zhuǎn)省際流量、網(wǎng)間流量;,骨干匯聚層(西安、成都、武漢、南京、沈陽(yáng)5省):負(fù)責(zé)中轉(zhuǎn)省際流量;,骨干接入層(
6、23個(gè)?。贺?fù)責(zé)匯聚本省流量。,省網(wǎng)核心層,CMNET網(wǎng)總體分為兩層結(jié)構(gòu),分為骨干網(wǎng)、省網(wǎng)。 骨干網(wǎng)按功能層次分為骨干核心層、骨干匯聚層、骨干接入層。 省網(wǎng)分為兩種結(jié)構(gòu)。其中29省采用一個(gè)自治域,分為省網(wǎng)核心、省網(wǎng)接入、城域網(wǎng)接入三層。,全網(wǎng)組網(wǎng)原則:無(wú)論骨干和省網(wǎng)、城域網(wǎng),一般接入節(jié)點(diǎn)至少連接兩個(gè)上級(jí)節(jié)點(diǎn)(匯聚和核心)。城域網(wǎng)核心至少連接兩個(gè)省網(wǎng)核心,省網(wǎng)核心至少連接兩個(gè)以上骨干核心(或匯聚)。,城域網(wǎng)接入層,省網(wǎng)接入層/城域網(wǎng)核心,CMNET骨干網(wǎng)的結(jié)構(gòu),總體分層 CMNET骨干網(wǎng)網(wǎng)絡(luò)層次目前分為核心骨干層、匯接骨干層、一般骨干層三層結(jié)構(gòu)。另外與核心層還連接有國(guó)際出入口層、互聯(lián)互通層。一般
7、接入層及以上即為省際骨干部分。(流量小情況下,分層匯聚能夠節(jié)省端口。) 骨干網(wǎng)按照地域分為3大片區(qū),3大片區(qū)又細(xì)分為8個(gè)大區(qū): 北京片區(qū):北京大區(qū)、沈陽(yáng)大區(qū)、西安大區(qū) 上海片區(qū):上海大區(qū)、南京大區(qū)、武漢大區(qū) 廣州片區(qū):廣州大區(qū)、成都大區(qū) 當(dāng)前各片區(qū)向外發(fā)布路由優(yōu)選情況如下(條數(shù)): 電信互聯(lián),北京:上海:廣州=300:287:359 聯(lián)通互聯(lián),北京:上海:廣州=374:223:393,9,CMNET骨干網(wǎng)國(guó)內(nèi)拓?fù)浣Y(jié)構(gòu),核心層 北京、上海、廣州3個(gè)節(jié)點(diǎn)及其相連鏈路構(gòu)成骨干核心層。其中,北京、上海、廣州為核心節(jié)點(diǎn),核心層北上廣提供大區(qū)內(nèi)省份流量的交換,并負(fù)責(zé)全網(wǎng)與國(guó)際Internet、國(guó)內(nèi)其他運(yùn)營(yíng)
8、商的互聯(lián)。 CMNET六期之后,部分省增加了到核心的連接。比如,青島上海;福州上海。 匯聚層 匯接層負(fù)責(zé)匯接各省到骨干網(wǎng)的連接。南京、武漢、成都、西安、沈陽(yáng)節(jié)點(diǎn)為匯聚節(jié)點(diǎn)(相當(dāng)于中國(guó)電信的普通核心),負(fù)責(zé)本大區(qū)內(nèi)省份流量之間的交換 原則上同省的兩個(gè)接入節(jié)點(diǎn)同時(shí)連至三個(gè)核心節(jié)點(diǎn)中的一個(gè)、按區(qū)域連至五個(gè)匯聚節(jié)點(diǎn)的一個(gè)或多個(gè)。只有杭州連接至三個(gè)核心,并連接到南京。 CMNET六期后將增加到核心以及匯聚的多個(gè)方向連接,比如濟(jì)南武漢、廈門(mén)武漢等。 接入層 接入層按照一個(gè)省份兩個(gè)骨干接入節(jié)點(diǎn)設(shè)置,只負(fù)責(zé)匯聚本省省際流量和出網(wǎng)流量。,10,CMNET骨干網(wǎng)絡(luò)節(jié)點(diǎn)概述,網(wǎng)絡(luò)節(jié)點(diǎn):2011 年底后,覆蓋全國(guó)31
9、 個(gè)?。▍^(qū)市)36 節(jié)點(diǎn)城市,劃分片區(qū)負(fù)責(zé)網(wǎng)間入流量調(diào)整:即按照片區(qū)廣播網(wǎng)間路由,吸引入流量; 劃分大區(qū)負(fù)責(zé)網(wǎng)內(nèi)流量調(diào)整,中國(guó)移動(dòng)大區(qū)內(nèi)流量?jī)?yōu)先通過(guò)匯聚節(jié)點(diǎn)轉(zhuǎn)發(fā)。,11,CMNET骨干國(guó)際網(wǎng)絡(luò)結(jié)構(gòu),國(guó)際出口層 北京、上海、廣州的路由器組成,是國(guó)際網(wǎng)絡(luò)的核心部分,面向國(guó)內(nèi)連接骨干核心層,面向國(guó)外連接海外POP點(diǎn),用來(lái)匯聚CMNET出入國(guó)內(nèi)的國(guó)際流量,建立出國(guó)流量的緩沖區(qū),設(shè)立這個(gè)層面的一個(gè)重要目的是方便國(guó)際出口配套工程實(shí)施。目前北京出口配套工程原因暫停使用。 國(guó)際接入層 國(guó)際接入層主要是指海外POP,主要用來(lái)接入海外網(wǎng)絡(luò),及與其他海外ISP間的互聯(lián)鏈路(包括部分PEER電路和購(gòu)買(mǎi)的TRANSIT
10、電路)。它的主要作用是降低PEER互聯(lián)成本和購(gòu)買(mǎi)Transit的成本。每個(gè)節(jié)點(diǎn)規(guī)劃兩臺(tái)路由器。 美國(guó)POP點(diǎn):洛杉磯、舊金山的國(guó)際互聯(lián)網(wǎng)接入。 香港POP點(diǎn):負(fù)責(zé)香港本地和部分東南亞、歐洲的互聯(lián)網(wǎng)接入。 倫敦POP點(diǎn):英國(guó)倫敦,負(fù)責(zé)歐洲國(guó)際互聯(lián)網(wǎng)接入。(目前1臺(tái),未啟用),12,CMNET骨干網(wǎng)網(wǎng)絡(luò)現(xiàn)狀網(wǎng)間互聯(lián)節(jié)點(diǎn)設(shè)置,國(guó)內(nèi)互聯(lián)節(jié)點(diǎn): 北京、上海、廣州,均為雙節(jié)點(diǎn)設(shè)置。 國(guó)際互聯(lián)路由器: 北京、上海、廣州,均為雙節(jié)點(diǎn)設(shè)置,由于安全配套尚未到位,故北京國(guó)際出口、上海國(guó)際出口2、廣州國(guó)際出口1暫未上線。 NAP互聯(lián)路由器: 北京、上海、廣州;均為單節(jié)點(diǎn)設(shè)置。 海外POP點(diǎn) 由中國(guó)移動(dòng)國(guó)際公司運(yùn)營(yíng)的
11、CMNET國(guó)際網(wǎng)(CMI)提供,擁有獨(dú)立的自制系統(tǒng),為CMNET提供國(guó)際互聯(lián)業(yè)務(wù)?,F(xiàn)有北美POP點(diǎn)(單局址雙設(shè)備)、香港POP點(diǎn)(單局址雙設(shè)備)及歐洲POP點(diǎn)(尚未承載業(yè)務(wù)),網(wǎng)間互聯(lián),電信、聯(lián)通等國(guó)內(nèi)運(yùn)營(yíng)商,北京1,上海1,廣州1,北京2,北美,香港,Sprint、AT省網(wǎng)分裂為大 城域網(wǎng);大內(nèi)容城域網(wǎng)上聯(lián)核心平面,城域網(wǎng)2,核心,核心,西安,北京,杭州,廣東,武漢,天津,成都,重慶,安徽,福建,廣西,湖南,江西,云南,南京,。,城域網(wǎng)1,省網(wǎng)2,為高清視頻和大帶寬應(yīng)用建設(shè)CDN,城域網(wǎng)2,互聯(lián)出口 大型IDC CP互聯(lián),互聯(lián)出口 大型IDC CP互聯(lián),扁平化 簡(jiǎn)單化 拓?fù)浞€(wěn)定,易于擴(kuò)展 高
12、轉(zhuǎn)發(fā)效率,高清視頻 內(nèi)容本地化,42,網(wǎng)絡(luò)結(jié)構(gòu)問(wèn)題1:骨干匯聚節(jié)點(diǎn)未設(shè)置國(guó)內(nèi)出口,造成核心流量過(guò)集中-迂回和繞轉(zhuǎn)造成端口和帶寬浪費(fèi),隨著業(yè)務(wù)的增長(zhǎng),由于匯聚節(jié)點(diǎn)未設(shè)置互聯(lián)出口,流量過(guò)于集中于現(xiàn)有三個(gè)骨干核心節(jié)點(diǎn),匯聚節(jié)點(diǎn)未充分發(fā)揮效率。問(wèn)題后果:導(dǎo)致核心節(jié)點(diǎn)的升級(jí)調(diào)整和故障影響大。,核心、匯聚節(jié)點(diǎn)承擔(dān)的流量,網(wǎng)內(nèi)74.3%骨干網(wǎng)流量需要通過(guò)核心節(jié)點(diǎn)承載,核心和匯聚節(jié)點(diǎn)之間流量疏通不均衡。 根本原因是因?yàn)榛ヂ?lián)互通的節(jié)點(diǎn)只設(shè)置在北上廣,且CMNET對(duì)外網(wǎng)互訪依賴較為嚴(yán)重。(中國(guó)電信:10%以內(nèi),中國(guó)移動(dòng)50%),數(shù)據(jù)來(lái)源:數(shù)據(jù)網(wǎng)管,網(wǎng)絡(luò)結(jié)構(gòu)現(xiàn)狀:西安無(wú)國(guó)內(nèi)出口,山西省36.2G的流量90%通過(guò)北京
13、疏通。為保障安全,西安1到北京1之間需預(yù)留40G備份帶寬資源。,目標(biāo)方案:西安增加國(guó)內(nèi)出口20G后,西安1到北京1之間只需預(yù)留20G備份帶寬。,解決方案:將西安等5個(gè)匯聚節(jié)點(diǎn)和浙江節(jié)點(diǎn)逐步按需增加網(wǎng)間出口,方案效果:如果在西安增加疏通20G國(guó)內(nèi)出口,就可節(jié)省北京到西安之間的傳輸鏈路2條10G,4個(gè)10G端口,同時(shí)也能提升北京到太原之間的質(zhì)量。,網(wǎng)間互聯(lián)出口并非越多越好,要有適當(dāng)?shù)亩龋吭黾右粋€(gè)互聯(lián)出口: 1、跨運(yùn)營(yíng)商業(yè)務(wù)的路徑增加,排障時(shí)間成倍增加。 2、多出口流量調(diào)控的難度增加,利用率和平衡效果變差。同一個(gè)出口的鏈路負(fù)荷分擔(dān)的效果非常好,不同出口之間負(fù)荷分擔(dān)需依靠維護(hù)員手工不斷嘗試調(diào)整,由于
14、40萬(wàn)條路由的復(fù)雜性,過(guò)多核心將導(dǎo)致同樣的質(zhì)量保障情況下,互聯(lián)出口平均利用效率下降。 3、IP技術(shù)采用統(tǒng)計(jì)復(fù)用原理,適當(dāng)匯聚后的抗突發(fā)能力、冗余備份能力更強(qiáng)。,網(wǎng)絡(luò)結(jié)構(gòu)問(wèn)題1:骨干匯聚節(jié)點(diǎn)未設(shè)置國(guó)內(nèi)出口,造成核心流量過(guò)集中-迂回和繞轉(zhuǎn)造成端口和帶寬浪費(fèi),核心節(jié)點(diǎn)逐步增至9個(gè),網(wǎng)絡(luò)結(jié)構(gòu)問(wèn)題1解決方案:適當(dāng)增加核心節(jié)點(diǎn)數(shù)量,將匯聚節(jié)點(diǎn)增加網(wǎng)間出口,升級(jí)為核心節(jié)點(diǎn),同樣也推動(dòng)了骨干核心和匯聚節(jié)點(diǎn)扁平化,使得CMNET骨干從三層變?yōu)閮蓪樱瑴p少了網(wǎng)內(nèi)訪問(wèn)跳數(shù),現(xiàn)狀,核心扁平化,演進(jìn)前:核心、匯聚、接入節(jié)點(diǎn),方案效果:每個(gè)核心節(jié)點(diǎn)承擔(dān)的流量將降低到10%以內(nèi),有效減少網(wǎng)絡(luò)升級(jí)和故障發(fā)生時(shí)的業(yè)務(wù)影響。,備注
15、:定義核心節(jié)點(diǎn)的兩個(gè)要素 1、有匯聚轉(zhuǎn)發(fā)周邊省份流量的需求。(核心節(jié)點(diǎn)自身處于傳輸網(wǎng)匯聚點(diǎn),且周邊省份流量相對(duì)較小,有經(jīng)過(guò)自身中轉(zhuǎn)提升效率的需求)。 2、由負(fù)責(zé)疏通網(wǎng)間流量的需求。,45,目標(biāo),網(wǎng)絡(luò)結(jié)構(gòu)問(wèn)題問(wèn)題2:部分大流量省際節(jié)點(diǎn)之間未設(shè)直達(dá) -當(dāng)前結(jié)構(gòu)造成大流量經(jīng)過(guò)核心中轉(zhuǎn),效率低,調(diào)整直連的本質(zhì):隨著網(wǎng)內(nèi)流量增大,接口技術(shù)未升級(jí),使得部分大流量省之間經(jīng)過(guò)核心轉(zhuǎn)發(fā)不再合理,需要根據(jù)流量增長(zhǎng)和端口技術(shù)不斷優(yōu)化直連鏈路。,解決方案:增加大流量省份之間的跨省直連鏈路。本質(zhì)是骨干網(wǎng)層面扁平化,“該直連,就直連”。,網(wǎng)絡(luò)結(jié)構(gòu)現(xiàn)狀:南昌-南京流量需中轉(zhuǎn),在2012年中轉(zhuǎn)流量超過(guò)16G后,上海需要為南昌
16、多設(shè)置4個(gè)10G端口。,目標(biāo)方案:增加南京-南昌直連鏈路,能夠節(jié)省4個(gè)10G端口,在保障冗余能力的情況下,提高了中轉(zhuǎn)效率。,方案效果:增加跨省直連后,能夠節(jié)省端口,提高中轉(zhuǎn)效率。,大流量時(shí)設(shè)置直連:省端口、增加了骨干路由,減少了冗余程度。 小流量時(shí)設(shè)置直連:費(fèi)端口、增路由。大流量和小流量的標(biāo)準(zhǔn)隨技術(shù)在不斷變化,結(jié)構(gòu)也要隨之變化,通常設(shè)計(jì)一個(gè)超過(guò)3年的網(wǎng)絡(luò)結(jié)構(gòu)是沒(méi)有意義的。 增加直連要保證一定程度的冗余:要保證直連中斷時(shí),所歸屬的核心節(jié)點(diǎn)能夠作一定的備份。,適度增加直連的原因:,網(wǎng)絡(luò)結(jié)構(gòu)問(wèn)題3:出省流量大的城域網(wǎng)未直連骨干網(wǎng)-造成經(jīng)過(guò)省網(wǎng)核心中轉(zhuǎn)效率低,解決方案:增加出省流量大的城域網(wǎng)雙跨省網(wǎng)和
17、骨干的力度。本質(zhì)是大流量的城域網(wǎng)扁平化,“該雙跨,就雙跨”。,方案效果:出省流量大的城域網(wǎng)雙跨,能夠節(jié)省端口,提高中轉(zhuǎn)效率。,網(wǎng)絡(luò)結(jié)構(gòu)現(xiàn)狀:太原城域網(wǎng)出省流量超過(guò)20G后,山西省網(wǎng)核心需要為之多設(shè)置8個(gè)10G端口。,目標(biāo)方案:城域網(wǎng)雙跨,能夠節(jié)省8個(gè)10G端口,在保障冗余能力的情況下,提高了中轉(zhuǎn)效率。,15G/20G,15G/20G,解決方案:增加出省流量大的IDC雙跨省網(wǎng)和骨干的力度。本質(zhì)是大流量的IDC扁平化,“該雙跨,就雙跨”。,方案效果:出省流量大的IDC雙跨,能夠節(jié)省端口,提高中轉(zhuǎn)效率。,網(wǎng)絡(luò)結(jié)構(gòu)現(xiàn)狀:北京IDC出省流量超過(guò)20G后,北京省網(wǎng)核心需要為之多設(shè)置8個(gè)10G端口。,目標(biāo)方
18、案:城域網(wǎng)雙跨,能夠節(jié)省8個(gè)10G端口,在保障冗余能力的情況下,提高了中轉(zhuǎn)效率。,15G/20G,15G/20G,CMNET骨干網(wǎng),北京IDC,其他接入節(jié)點(diǎn),北京省網(wǎng)核心,CMNET省網(wǎng),15G/20G,15G/20G,網(wǎng)絡(luò)結(jié)構(gòu)問(wèn)題4:出省流量大IDC未直連骨干網(wǎng)-造成經(jīng)過(guò)省網(wǎng)核心中轉(zhuǎn)效率低,CMNET演進(jìn)原則總結(jié),互聯(lián)網(wǎng)組網(wǎng)結(jié)構(gòu)是動(dòng)態(tài),伴隨流量和端口技術(shù)等需要針對(duì)性優(yōu)化。針對(duì)CMNET演進(jìn)優(yōu)化建議如下:,增加骨干核心節(jié)點(diǎn)的數(shù)量:將南京、武漢、成都、沈陽(yáng)、西安5個(gè)匯聚節(jié)點(diǎn)和杭州節(jié)點(diǎn)升級(jí)為核心節(jié)點(diǎn),推動(dòng)扁平化,提高疏通效率。 增加骨干網(wǎng)網(wǎng)間出口:在出網(wǎng)流量大于30G的匯聚節(jié)點(diǎn)增加網(wǎng)間出口,節(jié)省核
19、心節(jié)點(diǎn)間的傳輸鏈路和端口資源。出口地點(diǎn):南京、武漢、成都、沈陽(yáng)、西安、杭州。 大流量省份骨干節(jié)點(diǎn)之間增設(shè)直連:業(yè)務(wù)量大于14G的可設(shè)直連(閥值隨技術(shù)變化,如40G應(yīng)用后,閥值可相應(yīng)提升;14G=10*2*70%)。省間直連僅疏通兩省直達(dá)流量。同時(shí)考慮適度增加直連的原則,所在省的歸屬核心要能夠?qū)崿F(xiàn)業(yè)務(wù)備份(建議備份比例超過(guò)50%)。 大流量城域網(wǎng)節(jié)點(diǎn)增設(shè)和骨干網(wǎng)的直連,同時(shí)連接骨干網(wǎng)和省網(wǎng):大流量的城域和IDC節(jié)點(diǎn)(例如下期規(guī)劃的南京、深圳),可以雙連省網(wǎng)和骨干。 大流量IDC節(jié)點(diǎn)雙跨骨干網(wǎng)和省網(wǎng):IDC節(jié)點(diǎn)雙跨骨干和省網(wǎng),即省外流量直接骨干轉(zhuǎn)發(fā),省內(nèi)流量由省網(wǎng)核心轉(zhuǎn)發(fā)。 推進(jìn)三角型組網(wǎng)向口字型
20、組網(wǎng)轉(zhuǎn)變,增強(qiáng)后期網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化擴(kuò)展性。滿足業(yè)務(wù)發(fā)展需求。,目錄,骨干網(wǎng)絡(luò)架構(gòu)與路由策略 省內(nèi)網(wǎng)絡(luò)架構(gòu)和路由策略 省網(wǎng)組織結(jié)構(gòu)與路由交換方式 高價(jià)值業(yè)務(wù)的區(qū)分、標(biāo)識(shí)原則及保障方法,省內(nèi)CMNET網(wǎng)絡(luò)概況,省內(nèi)CMNET網(wǎng)絡(luò)路由規(guī)劃,1、 CMNET省內(nèi)網(wǎng)絡(luò)IGP使用ISIS協(xié)議實(shí)現(xiàn)省內(nèi)設(shè)備loopback和互聯(lián)地址可達(dá)。 2、省干核心NE5KE-1和NE5KE-2接收國(guó)干設(shè)備通過(guò)EBGP下發(fā)的默認(rèn)路由。 3、省干核心NE5KE-1和NE5KE-2同各個(gè)地市的出口設(shè)備RT01和RT02之間建立IBGP鄰居關(guān)系,省干核心NE5KE作為路由反射器反射地市出口設(shè)備發(fā)布的BGP路由。 4、地市核心設(shè)備RT
21、01/02作為地市SR及BRAS設(shè)備的路由反射器反射從省干學(xué)來(lái)的BGP默認(rèn)路由,轉(zhuǎn)發(fā)地市內(nèi)部SR及BRAS設(shè)備發(fā)布的BGP明細(xì)路由。 5、側(cè)掛在地市出口的防火墻作為RT01/02的客戶機(jī)同RT01/02之間建立IBGP鄰居關(guān)系,接收RT01/02反射的默認(rèn)路由。 6、SR及BRAS設(shè)備接收RT01/02反射的默認(rèn)路由并通過(guò)在BGP中network+靜態(tài)路由的方式發(fā)布下掛業(yè)務(wù)地址網(wǎng)段的路由。 7、SR或BRAS上通過(guò)直連或靜態(tài)路由方式實(shí)現(xiàn)到下掛業(yè)務(wù)地址的互通。,IBGP,IGP和BGP規(guī)劃,BRAS,SR,NE5000E-1,NE5000E-2,RT02,1、專線用戶的上網(wǎng)流量通過(guò)接入側(cè)交換機(jī)進(jìn)
22、行帶VLAN TAG的二層透?jìng)?,SR作為網(wǎng)關(guān)設(shè)備對(duì)到達(dá)設(shè)備的專線流量根據(jù)VLAN TAG進(jìn)行三層終結(jié)。 2、SR查找路由表進(jìn)行數(shù)據(jù)報(bào)文的轉(zhuǎn)發(fā),將訪問(wèn)非城域網(wǎng)內(nèi)部的流量上送至地市出口設(shè)備RT01/02。 3、流量到達(dá)RT01/02的接口時(shí)執(zhí)行入方向的策略路由,將流量重定向到側(cè)掛的防火墻。 4、防火墻對(duì)進(jìn)入的報(bào)文進(jìn)行NAT地址轉(zhuǎn)換后查找路由表轉(zhuǎn)發(fā),將流量送回地市出口設(shè)備RT01/02。 5、地市出口設(shè)備RT01/02收到防火墻發(fā)來(lái)的轉(zhuǎn)換地址后的報(bào)文時(shí),查找路由表進(jìn)行轉(zhuǎn)發(fā),將流量上送至省干設(shè)備。至此完成城域網(wǎng)內(nèi)部的流量上送。,私網(wǎng)地址上行流量,私網(wǎng)地址業(yè)務(wù)流量規(guī)劃,SR/BRAS,私網(wǎng)地址業(yè)務(wù)流量規(guī)
23、劃,1、目的地址為防火墻轉(zhuǎn)換后的公網(wǎng)地址的回程流量回到省干設(shè)備NE5KE-1/5KE-2后查找路由表轉(zhuǎn)發(fā),將回程流量發(fā)送至地市出口設(shè)備RT01/02。 2、盟市出口設(shè)備RT01/02收到回程流量后查找路由表,根據(jù)路由表將報(bào)文發(fā)送至側(cè)掛的防火墻。 3、防火墻收到報(bào)文后根據(jù)已經(jīng)建立的NAT SESSION表進(jìn)行公網(wǎng)到私網(wǎng)的地址轉(zhuǎn)換并查找路由表進(jìn)行轉(zhuǎn)發(fā)。將轉(zhuǎn)換后的報(bào)文發(fā)回地市出口設(shè)備RT01/02。 4、RT01/02收到回程流量的報(bào)文(目的地址已經(jīng)為私網(wǎng)),查找路由表后將報(bào)文轉(zhuǎn)發(fā)至下掛的SR設(shè)備。 5、SR收到報(bào)文后查找路由表進(jìn)行轉(zhuǎn)發(fā),做相應(yīng)的VLAN封裝后將報(bào)文送至接入側(cè)交換機(jī)。 6、接入側(cè)交換
24、機(jī)進(jìn)行二層流量轉(zhuǎn)發(fā),將流量送回專線用戶。,私網(wǎng)地址回程流量,SR/BRAS,公網(wǎng)地址業(yè)務(wù)流量規(guī)劃,1、專線用戶的上網(wǎng)流量通過(guò)接入側(cè)交換機(jī)進(jìn)行帶VLAN TAG的二層透?jìng)鳎琒R作為網(wǎng)關(guān)設(shè)備對(duì)到達(dá)設(shè)備的專線流量根據(jù)VLAN TAG進(jìn)行三層終結(jié)。 2、SR查找路由表進(jìn)行數(shù)據(jù)報(bào)文的轉(zhuǎn)發(fā),將訪問(wèn)非城域網(wǎng)內(nèi)部的流量上送至地市出口設(shè)備RT01/02。 3、地市出口設(shè)備RT01/02收到報(bào)文后,查找路由表進(jìn)行轉(zhuǎn)發(fā),將流量上送至省干設(shè)備。至此完成城域網(wǎng)內(nèi)部的流量上送。,公網(wǎng)地址上行流量,SR/BRAS,公網(wǎng)地址業(yè)務(wù)流量規(guī)劃,1、目的地址為專線業(yè)務(wù)公網(wǎng)地址的回程流量回到省干設(shè)備NE5KE-1/5KE-2,省干設(shè)備
25、查找路由表轉(zhuǎn)發(fā),將回程流量發(fā)送至地市出口設(shè)備RT01/02。 2、盟市出口設(shè)備RT01/02收到回程流量后查找路由表,根據(jù)路由表將報(bào)文發(fā)送至下掛的SR設(shè)備。 3、SR收到報(bào)文后查找路由表進(jìn)行轉(zhuǎn)發(fā),做相應(yīng)的VLAN封裝后將報(bào)文送至接入側(cè)交換機(jī)。 4、接入側(cè)交換機(jī)進(jìn)行二層流量轉(zhuǎn)發(fā),將流量送回專線用戶。 5、專線用戶收到數(shù)據(jù)包后解封裝讀取相關(guān)信息,至此完成回程流量的轉(zhuǎn)發(fā)。,公網(wǎng)地址回程流量,SR/BRAS,VPN業(yè)務(wù)流量規(guī)劃,1、省內(nèi)配置2臺(tái)VPN路由反射器RR1/RR2,分別側(cè)掛在省干設(shè)備NE5KE-1和NE5KE-2上。 2、地市的SR設(shè)備作為PE設(shè)備和2臺(tái)反射器之間建立BGP VPNV4鄰居關(guān)
26、系,通過(guò)RR1和RR2反射VPNV4路由,實(shí)現(xiàn)VPNV4路由的全網(wǎng)傳遞。 3、當(dāng)?shù)厥?的1臺(tái)SR設(shè)備上發(fā)布在VPNV4中發(fā)布了一條路由時(shí),該路由傳遞給RR1/RR2,并經(jīng)過(guò)RR1/RR2的反射,傳遞給全網(wǎng)的PE設(shè)備。 4、PE設(shè)備根據(jù)配置的不同的RT值進(jìn)行私網(wǎng)路由迭代,將匹配的路由放到對(duì)應(yīng)的路由表中,至此完成VPNV4路由的發(fā)布。,VPN用戶路由發(fā)布,地市2,地市1,RR1,RR2,VPN業(yè)務(wù)流量規(guī)劃,假設(shè)地市1的SR1下用戶A訪問(wèn)地市2的SR2下的用戶B,這兩個(gè)用戶在同一個(gè)VPN中。 1、A用戶將報(bào)文通過(guò)接入側(cè)的交換機(jī)發(fā)送至SR1。 2、SR1收到報(bào)文后查找VPN路由表,發(fā)現(xiàn)要訪問(wèn)的目的地址
27、B的下一跳為SR2的loopback地址,且轉(zhuǎn)發(fā)為MPLS LSP形式的標(biāo)簽轉(zhuǎn)發(fā),于是將報(bào)文送入上行的MPLS網(wǎng)絡(luò),打標(biāo)簽后進(jìn)行MPLS轉(zhuǎn)發(fā)。 3、SR2收到A發(fā)來(lái)的報(bào)文后彈出MPLS標(biāo)簽,查找VPN路由表,將流量通過(guò)接入側(cè)交換機(jī)送至下掛的用戶B。 4、回程流量設(shè)備處理方式和步驟1、2、3一致。,VPN用戶流量模型,地市2,地市1,RR1,RR2,目錄,骨干網(wǎng)絡(luò)架構(gòu)與路由策略 省內(nèi)網(wǎng)絡(luò)架構(gòu)和路由策略 省網(wǎng)組織結(jié)構(gòu)與路由交換方式 高價(jià)值業(yè)務(wù)的區(qū)分、標(biāo)識(shí)原則及保障方法,省網(wǎng)組織結(jié)構(gòu)與路由交換方式,一、網(wǎng)絡(luò)定位,CMNET省網(wǎng)采用核心、接入兩個(gè)層次,CMNet城域網(wǎng)分為核心層和業(yè)務(wù)接入控制層兩個(gè)層次
28、;業(yè)務(wù)發(fā)展初期,CMNET省網(wǎng)接入層兼做本地市CMNET城域網(wǎng)的核心層,CMNet省網(wǎng)與CMNet城域網(wǎng)共自治域。CMNET省網(wǎng)與骨干網(wǎng)采用不同的自治域進(jìn)行網(wǎng)絡(luò)組織。如下圖:,省網(wǎng)組織結(jié)構(gòu)與路由交換方式,二、網(wǎng)絡(luò)規(guī)劃原則 在網(wǎng)絡(luò)層次上,CMNet省網(wǎng)分為核心層、接入層兩個(gè)層次。 核心層主要由核心路由器組成,現(xiàn)階段核心路由器兼做省網(wǎng)出口路由器,主要作用是匯接出省業(yè)務(wù)量,轉(zhuǎn)發(fā)省網(wǎng)內(nèi)各接入節(jié)點(diǎn)之間業(yè)務(wù)量,并提供CMNet省網(wǎng)到CMNet骨干網(wǎng)的出口。 接入層主要由接入路由器組成,實(shí)現(xiàn)城域內(nèi)的業(yè)務(wù)匯聚,提供城市的高速I(mǎi)P數(shù)據(jù)出口。,省網(wǎng)組織結(jié)構(gòu)與路由交換方式,三、網(wǎng)絡(luò)節(jié)點(diǎn)設(shè)置原則 CMNET省網(wǎng)節(jié)點(diǎn)地
29、址的選擇應(yīng)考慮傳輸、機(jī)房、電源等各種條件,同時(shí)也應(yīng)考慮省內(nèi)的維護(hù)、支持力量來(lái)綜合考慮,應(yīng)保證故障發(fā)生時(shí)快速響應(yīng)、及時(shí)排障處理。 省網(wǎng)核心節(jié)點(diǎn)的設(shè)置:省網(wǎng)核心節(jié)點(diǎn)應(yīng)采取大容量、少節(jié)點(diǎn)的方式進(jìn)行建設(shè),原則上省網(wǎng)內(nèi)設(shè)置個(gè)核心節(jié)點(diǎn); 省網(wǎng)接入節(jié)點(diǎn)的設(shè)置:省網(wǎng)接入節(jié)點(diǎn)應(yīng)設(shè)置在業(yè)務(wù)相對(duì)比較大且集中的地市級(jí)城市的通信樞紐樓,為保障節(jié)點(diǎn)的可靠性,一般異局址成對(duì)設(shè)置接入路由器;,省網(wǎng)組織結(jié)構(gòu)與路由交換方式,五、網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)設(shè)計(jì)原則 CMNET省網(wǎng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)設(shè)計(jì)時(shí)應(yīng)統(tǒng)籌考慮節(jié)點(diǎn)地域分布、光纜傳輸路由、被承載業(yè)務(wù)的業(yè)務(wù)量情況、業(yè)務(wù)相關(guān)性等因素; CMNET省網(wǎng)核心層宜以口字型結(jié)構(gòu)接入本省的CMNET骨干網(wǎng)節(jié)點(diǎn);
30、CMNET省網(wǎng)接入層以雙星型結(jié)構(gòu)接入省網(wǎng)核心層,成對(duì)的接入路由器之間直連并構(gòu)成口字型組網(wǎng); 原則上,不同地市節(jié)點(diǎn)路由器之間暫不設(shè)置直連鏈路;,省網(wǎng)組織結(jié)構(gòu)與路由交換方式,六、路由組織原則,CMnet省網(wǎng),Cmnet骨干網(wǎng),AS: CMNET省網(wǎng)與骨干網(wǎng)采用不同的自治域進(jìn)行網(wǎng)絡(luò)組織;目前CMnet省網(wǎng)采用公有或私有AS號(hào)。,IGP: 省網(wǎng)內(nèi)采用IGP路由協(xié)議(ISIS或OSPF),并設(shè)置與城域網(wǎng)獨(dú)立的IGP區(qū)域(level或者area),,區(qū)域間: CMNET骨干網(wǎng)與國(guó)際、國(guó)內(nèi)互聯(lián)網(wǎng)以及與中國(guó)移動(dòng)互聯(lián)網(wǎng)CMNET省網(wǎng)之間運(yùn)行BGP-4路由協(xié)議。,接入網(wǎng),接入網(wǎng),接入網(wǎng),網(wǎng)內(nèi)路由: 省網(wǎng)內(nèi)部互聯(lián)網(wǎng)
31、業(yè)務(wù)的路由(公網(wǎng)路由)可通過(guò)IBGP或IGP承載。 若通過(guò)IBGP承載,則在省網(wǎng)接入層對(duì)互聯(lián)網(wǎng)業(yè)務(wù)路由進(jìn)行匯聚; 通過(guò)IBGP宣告給省網(wǎng)核心層,最后在省網(wǎng)核心層對(duì)省內(nèi)路由進(jìn)行匯聚后宣告給CMnet骨干網(wǎng)。若通過(guò)IGP承載,則在CMnet省網(wǎng)核心層對(duì)業(yè)務(wù)路由進(jìn)行匯聚,并通過(guò)EBGP宣告給CMnet骨干網(wǎng);,省網(wǎng)核心路由器,接入路由器,網(wǎng)間路由:省網(wǎng)與骨干網(wǎng)之間采用外部路由協(xié)議EBGP-4。 CMNET省網(wǎng)接收互聯(lián)網(wǎng)全路由表,省網(wǎng)內(nèi)部通過(guò)細(xì)化路由訪問(wèn)CMNET網(wǎng)內(nèi)、網(wǎng)外資源。,RR:省網(wǎng)設(shè)置路由反射器RR以反射全省業(yè)務(wù)的路由。一級(jí)RR可以由省網(wǎng)匯接路由器兼做;二級(jí)RR,可以由省網(wǎng)接入路由器兼做。,
32、VPN: CMNet省網(wǎng)內(nèi)匯接路由器、接入路由器均啟動(dòng)MPLS和LDP,并作為MPLS VPN的P設(shè)備,城域網(wǎng)內(nèi)業(yè)務(wù)接入控制設(shè)備作為PE設(shè)備提供MPLS VPN接入。,骨干路由器,省網(wǎng)組織結(jié)構(gòu)與路由交換方式,七、城域網(wǎng)網(wǎng)絡(luò)協(xié)議規(guī)劃,目錄,骨干網(wǎng)絡(luò)架構(gòu)與路由策略 省內(nèi)網(wǎng)絡(luò)架構(gòu)和路由策略 省網(wǎng)組織結(jié)構(gòu)與路由交換方式 高價(jià)值業(yè)務(wù)的區(qū)分、標(biāo)識(shí)原則及保障方法,高價(jià)值業(yè)務(wù)的區(qū)分、標(biāo)識(shí)原則及保障方法,在中國(guó)移動(dòng)CMnet骨干網(wǎng)網(wǎng)中,QoS的實(shí)施分為兩個(gè)部分:邊緣和骨干。 在邊緣主要完成以下功能: 指定業(yè)務(wù)類型與級(jí)別的策略; 指定資源分配與控制的策略; 業(yè)務(wù)分類與安全策略的實(shí)施; 在邊緣采用的技術(shù)包括: 業(yè)務(wù)
33、分類(Classification:IP Precedence/DSCP, MPLS EXP); 速率限制(Rate-limit:CAR); 在骨干主要完成以下功能: 提供大容量、高性能和高可靠性; 提供策略的管理與實(shí)施; 提供流式排隊(duì)與擁塞管理; 在骨干采用的技術(shù)包括: 帶寬分配與擁塞避免(Bandwidth & Congestion Avoid:WRED); 帶寬分配與擁塞控制(Bandwidth & Congestion Control:WFQ);,高價(jià)值業(yè)務(wù)的區(qū)分、標(biāo)識(shí)原則及保障方法,總體原則:接入層實(shí)現(xiàn)業(yè)務(wù)標(biāo)識(shí)(著色),網(wǎng)絡(luò)層實(shí)現(xiàn)分級(jí)別轉(zhuǎn)發(fā),接入網(wǎng)A,骨干網(wǎng),高優(yōu)先級(jí),中優(yōu)先級(jí),低優(yōu)先級(jí),接入網(wǎng)B,省網(wǎng),全部節(jié)點(diǎn):分級(jí)別按顏色轉(zhuǎn)發(fā),C,A,B,部署QOS策略,所有業(yè)務(wù),銀業(yè)務(wù),金業(yè)務(wù),銅業(yè)務(wù),網(wǎng)絡(luò)邊界:分業(yè)務(wù)等級(jí)按金銀銅著色,特殊鏈路:區(qū)分ABC口高級(jí)別高保障,HTML Web網(wǎng)頁(yè),管道資源按價(jià)值調(diào)度,金牌業(yè)務(wù) 銀牌業(yè)務(wù) 銅牌業(yè)務(wù),按需管道,盡力而為,實(shí)現(xiàn)目標(biāo),網(wǎng)內(nèi)質(zhì)量保障:QOS保障方案,WLAN,GPRS,傳輸網(wǎng),移動(dòng)互聯(lián)網(wǎng),集團(tuán)大客戶,個(gè)人寬帶,CMnet省網(wǎng)/城域網(wǎng),CMnet骨干網(wǎng),接入層,匯聚層,核心/出口層,一般骨干層,核心/匯聚骨干層,網(wǎng)間互聯(lián)層,國(guó)內(nèi)、國(guó)際運(yùn)營(yíng)商,骨干智能管道,省內(nèi)智能
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 醫(yī)院物資管理系統(tǒng)建設(shè)方案
- 鋼結(jié)構(gòu)施工進(jìn)度跟蹤方案
- 婦幼保健院給排水系統(tǒng)改造方案
- 航天器研制與發(fā)射流程手冊(cè)(標(biāo)準(zhǔn)版)
- 2026福建莆田市第一醫(yī)院南日分院(秀嶼區(qū)南日鎮(zhèn)衛(wèi)生院)第三輪編外人員招聘1人備考題庫(kù)及完整答案詳解一套
- 金融機(jī)構(gòu)風(fēng)險(xiǎn)控制操作手冊(cè)
- 2025-2030中國(guó)酒店發(fā)展分析及發(fā)展趨勢(shì)與投資前景研究報(bào)告
- 2026湖南長(zhǎng)沙市長(zhǎng)郡雙語(yǔ)白石湖實(shí)驗(yàn)中學(xué)春季校聘教師招聘?jìng)淇碱}庫(kù)帶答案詳解
- 2026甘肅嘉峪關(guān)市文化館開(kāi)發(fā)公益性崗位招聘2人備考題庫(kù)及答案詳解(奪冠系列)
- 2026河南省12356中心招聘?jìng)淇碱}庫(kù)及一套參考答案詳解
- 2026海南安??毓捎邢挢?zé)任公司招聘11人筆試模擬試題及答案解析
- 裝飾裝修工程施工組織設(shè)計(jì)方案(二)
- 2026上海碧海金沙投資發(fā)展有限公司社會(huì)招聘參考題庫(kù)必考題
- 保險(xiǎn)業(yè)客戶服務(wù)手冊(cè)(標(biāo)準(zhǔn)版)
- 檢驗(yàn)科內(nèi)控制度
- DB44-T 2771-2025 全域土地綜合整治技術(shù)導(dǎo)則
- 淺談醫(yī)藥價(jià)格管理現(xiàn)狀透析
- 全屋定制合同協(xié)議模板2025年標(biāo)準(zhǔn)版
- 2025年數(shù)字人民幣應(yīng)用基礎(chǔ)考試模擬試卷及答案
- 孕婦監(jiān)護(hù)和管理課件
- 2026年安全員之A證考試題庫(kù)500道(必刷)
評(píng)論
0/150
提交評(píng)論