《高性能計(jì)算 分布式存儲(chǔ)文件性能測(cè)試方法》規(guī)范要求_第1頁(yè)
《高性能計(jì)算 分布式存儲(chǔ)文件性能測(cè)試方法》規(guī)范要求_第2頁(yè)
《高性能計(jì)算 分布式存儲(chǔ)文件性能測(cè)試方法》規(guī)范要求_第3頁(yè)
《高性能計(jì)算 分布式存儲(chǔ)文件性能測(cè)試方法》規(guī)范要求_第4頁(yè)
《高性能計(jì)算 分布式存儲(chǔ)文件性能測(cè)試方法》規(guī)范要求_第5頁(yè)
已閱讀5頁(yè),還剩22頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

本文件描述了高性能計(jì)算分布式存儲(chǔ)文件性能測(cè)試方法,包括分布式存儲(chǔ)元數(shù)據(jù)性能、數(shù)據(jù)一致本文件適用于HPC應(yīng)用中分布式存儲(chǔ)文件的IO性能及集群擴(kuò)容能力的測(cè)試下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中,注日期的引用文件,僅該日期對(duì)應(yīng)的版本適用于本文件;不注日期的引用文件,其最新版本(包括所有的修改單)適GB/T37737-2019信息技術(shù)云計(jì)算分布式塊存塊存儲(chǔ)系統(tǒng)中物理空間的邏輯分區(qū),為虛擬機(jī)(VM)或物理機(jī)提供裸設(shè)備方式進(jìn)行數(shù)據(jù)存取。ⅢCPU:中央處理器(CentralProcesHPC:高性能計(jì)算/超算(HighPerformanceCompIOPS:每秒的輸入輸出量(Input/Output4.1概述e)針對(duì)小文件(如大小8K)測(cè)試IOPS性能,為了f)針對(duì)分布式存儲(chǔ)節(jié)點(diǎn)的可擴(kuò)展性測(cè)試線性擴(kuò)容性能模擬大量用戶同時(shí)訪問(wèn)元數(shù)據(jù)節(jié)點(diǎn)的情況,測(cè)試的文件基線為過(guò)億性在分布式文件系統(tǒng)中創(chuàng)建共享目錄,由壓力機(jī)進(jìn)行多線程測(cè)試模擬高性能計(jì)算中多線程高并發(fā)情況下分布式文件系統(tǒng)如何保持讀寫數(shù)生成適合高性能計(jì)算場(chǎng)景的測(cè)試數(shù)據(jù),設(shè)計(jì)測(cè)試用例來(lái)模擬大文件測(cè)試高性能計(jì)算場(chǎng)景下要求在一個(gè)節(jié)點(diǎn)上,創(chuàng)建一個(gè)客戶端,創(chuàng)建測(cè)試用例,測(cè)試單個(gè)計(jì)算節(jié)點(diǎn)和單個(gè)客戶端的帶寬性能。測(cè)試這種場(chǎng)景下的最大帶寬性測(cè)試高性能計(jì)算下小文件的生成適合高性能計(jì)算場(chǎng)景的測(cè)試數(shù)據(jù),多個(gè)計(jì)算節(jié)點(diǎn)和存儲(chǔ)節(jié)存儲(chǔ)集群近線性評(píng)估分布式存儲(chǔ)集群在不同設(shè)置初始節(jié)點(diǎn)數(shù)量,并配置分布式存儲(chǔ)集群,確保集群正常運(yùn)行并滿足測(cè)試需求。逐步增加節(jié)點(diǎn)數(shù)量,按照一定的規(guī)律或步長(zhǎng)進(jìn)測(cè)試HPC應(yīng)用中分布式存儲(chǔ)集群的可靠性能力,即硬盤的故障、節(jié)點(diǎn)的故障和網(wǎng)絡(luò)故障等情況下存儲(chǔ)集群的可考慮實(shí)際的故障情況,如硬盤故障、節(jié)點(diǎn)故障和網(wǎng)絡(luò)故障等。設(shè)計(jì)測(cè)試場(chǎng)景來(lái)模擬這些故障情況,系統(tǒng)的數(shù)據(jù)重構(gòu)時(shí)間測(cè)試,且a)高性能計(jì)算分布式文件性能測(cè)試只針對(duì)文件系統(tǒng)做性能測(cè)試,測(cè)試的系統(tǒng)應(yīng)滿足T/CESAⅢb)存儲(chǔ)設(shè)備集群的節(jié)點(diǎn)數(shù)為3個(gè)節(jié)點(diǎn)起步,數(shù)據(jù)保護(hù)采用多副本或糾刪碼模式;12345b)應(yīng)按照測(cè)試步驟測(cè)試驗(yàn)證,進(jìn)行操作截圖(形成完整的測(cè)試邏輯鏈),并輔以必要的文字說(shuō)61測(cè)試高性能計(jì)算分布式存儲(chǔ)文件系統(tǒng)高并發(fā)2345),6123b)對(duì)若干個(gè)1GB(預(yù)埋數(shù)據(jù),文件類型)文件(文件總?cè)萘砍^(guò)存儲(chǔ)節(jié)點(diǎn)所有內(nèi)存之和的45a)環(huán)境配置應(yīng)包括規(guī)格及詳細(xì)配置、編譯器類型及版本、CPU型號(hào)、內(nèi)存頻率、操作系統(tǒng)版6Ⅲ123在測(cè)試計(jì)算節(jié)點(diǎn)機(jī)啟動(dòng)一個(gè)客戶端,部署測(cè)試工具,設(shè)置負(fù)載參數(shù),對(duì)掛載共享目錄進(jìn)行45a)環(huán)境配置應(yīng)包括規(guī)格及詳細(xì)配置、編譯器類型及版本、CPU型號(hào)、內(nèi)存頻率、操作系統(tǒng)版b)應(yīng)按照測(cè)試步驟測(cè)試驗(yàn)證,進(jìn)行操作截圖(形成完整的測(cè)試邏輯鏈并輔以必要的文字說(shuō)612345a)環(huán)境配置應(yīng)包括規(guī)格及詳細(xì)配置、編譯器類型及版本、CPU型號(hào)、內(nèi)存頻率、操作系統(tǒng)版b)應(yīng)按照測(cè)試步驟測(cè)試驗(yàn)證,進(jìn)行操作截圖(形成完整的測(cè)試邏輯鏈并輔以必要的文字說(shuō)61123a)上架一臺(tái)即將加入存儲(chǔ)集群的存儲(chǔ)物理節(jié)點(diǎn),其物理狀態(tài)及相應(yīng)的IP地址可正常加入原集45a)環(huán)境配置應(yīng)包括規(guī)格及詳細(xì)配置、編譯器類型及版本、CPU型號(hào)、內(nèi)存頻率、操作系統(tǒng)版本、b)應(yīng)按照測(cè)試步驟測(cè)試驗(yàn)證,進(jìn)行操作截圖(形成完整的測(cè)試邏輯鏈),并輔以必要的文字說(shuō)6無(wú)123b)節(jié)點(diǎn)故障測(cè)試:模擬節(jié)點(diǎn)故障場(chǎng)景,例如模擬節(jié)點(diǎn)宕機(jī)或斷電??梢酝ㄟ^(guò)停止節(jié)點(diǎn)的運(yùn)行或模c)網(wǎng)絡(luò)故障測(cè)試:模擬網(wǎng)絡(luò)故障場(chǎng)景,模擬網(wǎng)絡(luò)中斷或高延遲??梢酝ㄟ^(guò)斷開(kāi)網(wǎng)絡(luò)連接或配置網(wǎng)絡(luò)模擬工具來(lái)模擬網(wǎng)絡(luò)故障,觀察集群的容錯(cuò)和恢復(fù)能力。記錄集群的恢復(fù)時(shí)間和數(shù)據(jù)完整性等45a)環(huán)境配置應(yīng)包括規(guī)格及詳細(xì)配置、編譯器類型及版本、CPU型號(hào)、內(nèi)存頻率、操作系統(tǒng)版本、b)應(yīng)按照測(cè)試步驟測(cè)試驗(yàn)證,進(jìn)行操作截圖(形成完整的測(cè)試邏輯鏈),并輔以必要的文字說(shuō)6無(wú)Ⅲ在進(jìn)行高性能計(jì)算分布式存儲(chǔ)文件性能測(cè)試的時(shí)候,建議的測(cè)Laboratory)開(kāi)發(fā)的一種基準(zhǔn)測(cè)試程序,是IOR是一個(gè)用于評(píng)估并行計(jì)算機(jī)系統(tǒng)I/O性能的基準(zhǔn)測(cè)試工具。它是由美國(guó)橡樹(shù)嶺國(guó)家實(shí)驗(yàn)室(OakRidgeNationalLaboratorVDbench是一款由SunMicrosystems(現(xiàn)為Oracle公司)開(kāi)發(fā)的通用存儲(chǔ)性能測(cè)試工具。VDbench提供了一個(gè)模擬環(huán)境,可以在不同的工作負(fù)載模式下測(cè)試存儲(chǔ)系統(tǒng)的讀寫性能、延遲、吞吐量和其他關(guān)鍵性能指標(biāo)。VDbench支持多種工作負(fù)載模式,包括基本的順序訪問(wèn)、隨機(jī)訪問(wèn)以及混合模式,可以配置多個(gè)客戶端并發(fā)執(zhí)行測(cè)試,模擬大規(guī)模1HOSTFILE="./hostfile_lHOSTFILE="./hostfile_lⅢbtl_tcp_if_includeeno2(網(wǎng)卡)--allow-run-as-rootpythonmpi_nto1_fileio.py-b8k(塊大小)-n100(塊數(shù)目)-d/mnt/test/(測(cè)試目錄)-f1(測(cè)試文件的個(gè)數(shù))-l1count=$((FILE_SIZE/$#設(shè)置預(yù)熱時(shí)間,客戶端緩存/存儲(chǔ)端緩存,時(shí)間拉長(zhǎng)內(nèi)CACHE_POLICY=""#客戶端和存儲(chǔ)端緩存策略,根據(jù)具體echo"開(kāi)始預(yù)熱..."echo"開(kāi)始順序?qū)憸y(cè)試..."write_bandwidth.log2>&1Ⅲecho"順序?qū)憸y(cè)試完成,結(jié)果保存在write_echo"開(kāi)始順序讀測(cè)試..."echo"順序讀測(cè)試完成,結(jié)果保存在r1在測(cè)試計(jì)算節(jié)點(diǎn)機(jī)啟一個(gè)客戶端,部署測(cè)試工具,設(shè)置負(fù)載參數(shù)echo"開(kāi)始單流順序?qū)憸y(cè)試..."echo"單流順序?qū)憸y(cè)試完成,結(jié)果保存echo"開(kāi)始單流順序讀測(cè)試..."echo"單流順序讀測(cè)試完成,結(jié)果保Ⅲhd=default,vdbench=/path/to/vdbench,shell=ssh,user=your_ushd=h1,system=192.168hd=h2,system=192.168hd=h3,system=192.168hd=h4,system=192.168hd=h5,system=192.168hd=h6,system=192.168hd=h7,system=192.168hd=h8,system=192.168hd=h9,system=192.168hd=h10,system=192.168.hd=h11,system=192.168.hd=h12,system=192.168.fsd=fsd1,anchor=/path/to/shared/directory,depth=2,width=100,files=f

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論