1、中煙集團數(shù)據(jù)中心網絡項目割接方案HUAWEI華為技術服務有限公司HuaweiTechnologiesCo.,Ltd.2017年6月文檔名稱中煙集團數(shù)據(jù)中心網絡項目設備割接方案陽*技術文檔工程文檔口培訓文檔口運維文檔口乂怕欠力U項目文檔口服務文檔口其他口當刖版本1.1創(chuàng)建日期2017.6.7文檔主送部門中煙集團數(shù)據(jù)中心文檔作者聯(lián)系方式修訂記錄修改記錄日期修改人審閱人摘要V1.02017.6.1建立文檔V1.12017.6.8建立文檔目錄第一章割接說明41.1 總體說明41.2 人員安排41.3 物料備件準備51.4 組網結構71.4.1 割接前組網結構71.4.2 割接后組網結構7第二章割接規(guī)劃

2、92.1 設備端口規(guī)劃92.2 設備標簽以及描述9第三章割接步驟113.1 離線測試113.2 運行情況信息收集113.3 備份數(shù)據(jù)113.4 割接動作11第四章測試驗證194.1 測試驗證內容194.1.1 設備狀態(tài)檢查19第五章回退機制205.1 故障判斷205.2 緊急回退21第六章風險評估226.1風險評估22第七章守局方案221、守局目的：222、職守方式223、管理制度224、守局值班安排23第八章配置模板24第一章割接說明1.1 總體說明建設單位集團施工單位華為技術有限公司、北京銀信長遠科技股份有限公司割接局點中煙集團數(shù)據(jù)中心網絡和營銷中心涉及設備及版本號CE12804V200R

3、001USG660V500R001CE6851V200R001割接及測試時間段2017-6-1708:00至2017-6-1813:00回退時間段13:00-21:00升級/割接簡述：本次設備替換為，我司的CE12804替換現(xiàn)網的CiscoCatalyst6509設備，USG6600替換現(xiàn)網的juniper設備。對原有硬件設備進行替換，涉及業(yè)務改變，原來的OTV各采用VXALNBW代，其它配置原則上采用原有配置，接口地址有部分改變，由于設備軟件版本不同命令會有變化，不對網絡結構以及流量走向做改變。升級/割接影響：此次操作將會影中斷網絡約2天。1.2 人員安排客戶配合人員：小組編號割接人員單位聯(lián)

4、系電話123華為公司人員:小組編號割接人員施工單位聯(lián)系電話1234北京銀信人員:小組編號割接人員施工單位聯(lián)系電話1234其它人員:小組編號割接人員施工單位聯(lián)系電話12245678后端保障人員小組編號保障人員施工單位聯(lián)系電話1231.3 物料備件準備物料名稱數(shù)量提供方備注（物料Bom編碼）光纖跳線若干條客戶需要根據(jù)現(xiàn)場機房情況確定（單模/多模/長度/接口光功率計1客戶/集成商備用光模塊10客戶使用本期米購未使用模塊備用網線客戶/集成商原有網線長度不夠或失效情況卜使用線纜標簽集成商1.4 組網結構1.4.1 割接前組網結構原中煙數(shù)據(jù)中心和營銷中心現(xiàn)有核心交換機CiscoCatalyst6509和廣

5、域網路由器Cisco7606已運行多年，系統(tǒng)容量不足、故障率升高。組網如下圖：”3乜T&*Ti”f-EXPlJAIl,*1.4.2 割接后組網結構核心區(qū)兩臺CE12804（數(shù)據(jù)中心級交換機）橫向堆疊成一臺設備，然后虛擬成兩臺VS,數(shù)據(jù)中心VS與園區(qū)網VS與數(shù)據(jù)中心中間通過兩臺USG6650互聯(lián)，中間USG6650防火墻進行安全控制，USG6650防火墻雙機熱備；數(shù)據(jù)中心VS設備通過波分鏈路與CE6851對接，實現(xiàn)VXLAN的分步式網關。園區(qū)網部署一個VS作為匯聚交換機，與互聯(lián)網USG6650互聯(lián)，提供安全控制。割接后組網圖如下：1、數(shù)據(jù)中心組網圖:VXLAN設計圖:擅心交檄機棺心交檢機

6、CE12倒4CE12SM第二章割接規(guī)劃VLAN,策略等沿用原有數(shù)據(jù)不做新規(guī)劃，IP設備端口互聯(lián)用原有互聯(lián)地址，根據(jù)網絡拓撲做部分規(guī)劃，具體見附件：中煙集團數(shù)據(jù)中心網絡和營銷中心網絡項目LLD1.3。2.1 設備端口規(guī)劃具體接口連接根據(jù)中煙集團數(shù)據(jù)中心網絡和營銷中心網絡項目LLD1.3,現(xiàn)場配置再做具體調整；2.2 設備標簽以及描述設備標簽根據(jù)現(xiàn)有條件制定例如：設備編碼：XXX機房設備用途：線纜標簽模板:集團集團Fr:設備名稱接口To:設備名稱接口例如:集團集團Fr:HW_CE12804X1/0/1/0To:6F_HW_USG66502/0/0第三章割接步驟3.1離線測試在割接前對可預料的風險進

7、行了離線測試，在割接前做好了充足準備規(guī)避相關風險，在未通過以下測試情況下不進行割接：1,驗證Cisco4506千兆光口與CE12800千兆光口對接是否成功。2,CE12800設備多模萬兆單板千兆模塊與USG6650多模千兆光口對接是否成功3,驗證萬兆模塊在千兆多模/多模鏈路運行情況。4,接口地址對應是否正確。5,板卡熱插拔，電源模塊熱插拔。6, VXLAN分步式網關測試，倒換測試，檢查測試是否正常。7, Cisco4506生成樹協(xié)議與華為生成樹協(xié)議對接。3.2 運行情況信息收集1,收集現(xiàn)網C6509C4506juniperC7606ASA5580配置2,接口狀態(tài)3, ARP表，MAC表，路由表

8、3.3 備份數(shù)據(jù)保存現(xiàn)網設備配置至計算機。3.4 割接人員分組及安排由于割接工作跨越了兩個機房，需要安排兩組人員在兩個機房實施，3.5 割接動作序號時間實施內容操作步驟預期結果、檢查方法人員安排1割接前一周割接前準備工作1、設備安裝、調試。2、線路鋪設，完成本部與卷煙廠機房的線路布放，并且在割接前一周確認需要布放的線纜無誤。1.1割接前一周光纖跳線鋪設，線纜做好標簽，設備腳本導入加電待命。1、檢查設備配置，確認配置無誤。2、將需要替換的光纖跳線鋪設至相應機柜，割接線纜做好標簽。細化網線和尾纖的標記方法：網線在配線架側均做好標簽，光纖在主機側做好標簽且要與需要割接的光纖的綁在T,方便力一回滾。1

9、.2割接前一周CE12804CE6851防火墻、各接入交換機聯(lián)通，設備狀態(tài)正常1、設備安裝，線路連接。需要在割接確認完全無任何問題，例如OSPFBG吟2、波分設備安裝配置完成，且完成與卷煙廠機房對接完成。3、光纖交換機需放線至新的OSN180g完成）EMC人員負責成功/PING通對端設備，OSPFBGP鄰居關系正常。（華為）208:00-09:30Vxlan割接完成，集成商、華為、數(shù)據(jù)庫/主機人員2.108:00-08:10C6509,N7000SK端口shutdown,與電。將C6509,N7000互聯(lián)端口shutdowno2.208:10-08:30CE6851N5548對接，N5000二

10、層、生成樹數(shù)據(jù)配置更改。完成CE6851N5548線路對接，將新布線接至N500Q生成樹狀態(tài)檢測2.308:30-09:00Vxlan調通后，安排一組ORACLERAC/DB群集，首先聯(lián)機進行測試，測試內容包括系統(tǒng)狀態(tài)和切換措施，確認RAO群集可正常工作（在此之后需把網口速率升成10GE）OracleRAC、HA環(huán)境接入2、Vxlan聯(lián)通后，將網口連至新裝交換機，oracle工程師確認RAC®群狀態(tài)及業(yè)務是否正常。2、確認業(yè)務正常后，需要把IBMP750網口速率開成10GE2.409:00-09:30ORACLRAC/DB第集業(yè)務觀察，測試結果確認OracleRAC、HA環(huán)境測試。2

11、.5視情況處理問題，時間/、超過2小時如第2.4步測試業(yè)務不止常，進行問題排查。對數(shù)據(jù)進行對比，路由、MACARPS項查看。2.6如不能排除，將進行回退，后面步驟/、再執(zhí)行建議在配置更改時不做保存，等業(yè)務正常后保存，便于回退2.7回退測試2.8割接終止2017-8-9第13頁，共24頁39:30-11:30服務器遷移部分服務器把網卡升至10GE1、部分服務器把網卡升至10GE,需廠家和集成商完成配置，更換光模塊，修改服務器配置。3.19:30-10:30線纜遷移，服務器接入。1、數(shù)據(jù)中心，服務器接至接入交換機上。PC-SERVER配線架側依次跳線。2、小型機需要主機側完成換線操作，有些小型機運

12、行雙機業(yè)務，需維保廠家在完成換線操作后確認主機狀態(tài)。3.29:30-11:00業(yè)務觀察，測試結果確認檢查各項業(yè)務的運行情況。3.3視情況處理問題，時間為1小時如第3.2步中ERRSEME有超過30臺服務器測試業(yè)務/、止常，進行問題排查。對數(shù)據(jù)進行對比，路由、MACARPft項查看。3.4如不能排除，將進行回退，后面步驟/、再執(zhí)行建議在配置更改時不做保存，等業(yè)務正常后保存，便于回退3.5回退測試3.6割接終止410:00-12:00互聯(lián)網割接完成（深信服,集成商、華為）2017-8-9第14頁，共24頁10:00-10:30互聯(lián)網設備線路連接完成USG6650AD4000Cisco3560連線與

13、配置成功/PING通對端設備，OSPF令口居關系正常。（深信服，集成商、華為）10:30-11:00AD4000酉己置將原有ISG1000的PAT/NAT配置轉移到AD4000（周末做好配置，不啟用）深信服11:00-12:00互聯(lián)網業(yè)務測試（各業(yè)務測試人員）3.4如互聯(lián)網業(yè)務測試不通過，預計在1個小時內不能排除，將進行互聯(lián)網割接項目的單獨回退建議在配置更改時不做保存，等業(yè)務正常后保存，便于回退成功/PING通對端設備，OSPFBGF鄰居關系正常。（華為、集成商）3.5回退測試回退后，業(yè)務檢查（各業(yè)務測試人員）512:30-14:00廣域網割接5.112:30-13:00進行廣域網USG665

14、0廣域網設備的割接。將新布線接至CE12804Cisco7606成功/PING通對端設備，OSPF鄰居關系正常。（C7606人員安排、華為）5.213:00-13:30網絡測試測試廣域網鏈路，檢查鄰居關系和鏈路。華為、集成商、各卷煙J網絡管理人員2017-8-9第15頁，共24頁5.313:00-14:00業(yè)務測試檢查各項業(yè)務的運行情況。（各業(yè)務測試人員）5.4視情況處理問題，時間為1小時如第12步測試業(yè)務/、止常，進行問題排查。對數(shù)據(jù)進行對比，路由、MACARPft項查看。是否能解決5.5如不能排除，將進行回退，后面步驟不在執(zhí)行建議在配置更改時不做做存，等業(yè)務正常后保存，便于回退回退后，業(yè)務

15、檢查（各業(yè)務測試人員）614:00-園區(qū)網割接6.114:00-14:30園區(qū)網設備聯(lián)線與配置樓層接入交換機、CE12804無線控制器聯(lián)線華為、集成商6.214:30-15:00園區(qū)網網絡測試測試WLAMk務正常上網，出口業(yè)務訪問與園區(qū)網與數(shù)據(jù)中心的互訪聯(lián)網訪問園區(qū)網與數(shù)據(jù)中心華為、集成商、客戶安排人員測試6.315:00-16:00園區(qū)網業(yè)務測試檢查各項業(yè)務的運行情況。成功（各測試人員）6.4視情況處理問題，時間為1小時對數(shù)據(jù)進行對比，路由、MACARPft項查看。是否能解決6.5建議在配置更改時不做做存，等業(yè)務正常后保存，便于回退回退后，業(yè)務檢查（各業(yè)務測試人員）2017-8-9第16頁，

16、共24頁716:00-17:00對各業(yè)務觀察，再次確認業(yè)務是否正常所有測試結果用表格形勢反饋割接完成2017-8-9第17頁，共24頁割接時間窗為2017-6-1708:00到2017-06-1817:00,保留序號1-7進行，具體時間根據(jù)現(xiàn)場情況作調整。其中分別為VxLan、服務器、互聯(lián)網、廣域網、園區(qū)網各保留2小時、1小時、1小時、1小時、1小時排故時間，總計保留6個小時的排故時間，因此，本次實施原則上斷網時間為D日上午8點至D+1日1點，D+1日1點至17:00為意外應急時間。第四章測試驗證4.1 測試驗證內容目前了解的有數(shù)據(jù)業(yè)務，廣域網接入業(yè)務等。序號測試項目操作及預期備注1互聯(lián)網業(yè)務

17、互聯(lián)網正常訪問各大網站，收發(fā)郵件，登陸各業(yè)務系統(tǒng)辦公，測試WLANk務正常上網，出口業(yè)務訪問與園區(qū)網與數(shù)據(jù)中心的互訪2數(shù)據(jù)業(yè)務數(shù)據(jù)中心VXLANE常訪問，斷開主鏈路后，VXLAN業(yè)務是否正常切換開會時選擇3-4個應用3廣域網接入業(yè)務PING通對端網關IP。4視頻會議業(yè)務實際使用視頻會議系統(tǒng)，圖形無卡頓亂碼，語音清晰。5Vxlan業(yè)務ORACLERAC/D由集，聯(lián)機進行測試，測試內容包括系統(tǒng)狀態(tài)和切換措施，確認RACX群集可止常工作4.1.1 設備狀態(tài)檢查1,設備CPU占用率/內存占用率2,接口錯包統(tǒng)計，接口UP,MAC表，ARP、對比路由表與割接前收集數(shù)據(jù)對比。接口錯包統(tǒng)計:displayth

18、isinterfacebrief在鏈路端口下查看端口狀態(tài)是否UPdisplaythisinterface查看接口下MACfe址學習情況:displaymac-address查看接口下ARPife項:displayarp對比路由表:disiproute-table第五章回退機制為防止割接過程中出現(xiàn)不可預料的異常，我們制定了相應的回退機制。針對割接時間窗內操作預期可能存在的風險項定義應對方案。如果出現(xiàn)以下情況在預定時間窗內不能恢復，則進行回退操作。變更失敗定義：1,波分鏈路、以太網鏈路無法UP。2,各路由協(xié)議狀態(tài)不正常。3,驗證測試不通過。4,所帶業(yè)務出現(xiàn)中斷或者時延較大，在60分鐘之內如不能恢復

19、正常。5、割接計劃中說明的其他事項5.1 故障判斷故障情況操作步驟預期結果、檢查方法波分鏈路、以太網鏈路無法UP檢查鏈路光功率，端口協(xié)商狀態(tài)，更換模塊。檢查網線連通性，更換網線。時間窗內由卜除直接回退。業(yè)務恢復/回退路由協(xié)議不止常檢查配置，根據(jù)狀態(tài)信息排查。時問囪內省卜除直接回退。業(yè)務恢復/回退出現(xiàn)單個電源模塊失效、主控板、業(yè)務板失效。單模塊運行，在24小時內更換。時間窗內由日除直接回退。業(yè)務恢復/回退業(yè)務出現(xiàn)中斷或者時延較大時間窗內由卜除直接回退。業(yè)務恢復/回退VXLAN寸接不成功檢查配置，根據(jù)狀態(tài)信息排查。時間窗內由日除直接回退。業(yè)務恢復/回退VXLAN寸接成功ORACLERAC/DB2I

20、,首先聯(lián)機進行測試，測試內容包括系統(tǒng)狀態(tài)和切換措施，確認RA或群集可止常工作業(yè)務恢復/回退互聯(lián)網USG665副接測試WLAMk務正常上網，出口業(yè)務訪問與園區(qū)網與數(shù)據(jù)中心的互訪聯(lián)網訪問園區(qū)網與數(shù)據(jù)中心，時間窗內排除直接回退。業(yè)務恢復/回退廣域網設備的割接。測試廣域網業(yè)務，測試不成功，時間窗內排除直接回退。業(yè)務恢復/回退5.2 緊急回退具體回退步驟：1,線纜拆除，恢復原有設備線纜連接。2,原設備互聯(lián)端口打開。5.3 應急計劃：廣域網、園區(qū)網割接時出現(xiàn)以下情況且無法在1個小時內解決，將考慮進行應急:1、多個廣域網節(jié)點無法接入2、園區(qū)網接入交換機出現(xiàn)故障，導致多個樓層無法連接網絡3、WLAN（統(tǒng)失效，wifi用戶無法連入4、出現(xiàn)設備不穩(wěn)定或用戶訪問系統(tǒng)速度慢的問題5、其他尚未預見的問題主要措施：1、系統(tǒng)暫時放棄主備架構，修改為單設備或單線