云存放技術(shù)解析:對(duì)象存放服務(wù)器,分布式存放架構(gòu)

當(dāng)下,AI正與云計(jì)算進(jìn)行深度融合,未來會(huì)變得愈加智能,但在智能化背后是對(duì)海量數(shù)據(jù)存放剛性需求。據(jù)不完全統(tǒng)計(jì),單是一輛無人駕駛汽車每秒產(chǎn)生數(shù)據(jù)容量就在1G左右,相當(dāng)于每秒發(fā)送20萬封純文本電子郵件或上傳100張高清數(shù)碼照片。所以,沒有大容量和超穩(wěn)定存放系統(tǒng),這一切都將無從談起。無存放,不智能。為了愈加清楚了解云存放技術(shù)實(shí)現(xiàn)過程,UCloud存放研發(fā)部將對(duì)云存放——對(duì)象存放（UFile）技術(shù)進(jìn)行深度解析。▌對(duì)象存放UFile概念對(duì)象存放（UFile）是為互聯(lián)網(wǎng)應(yīng)用提供非結(jié)構(gòu)化文件存放服務(wù);相對(duì)于傳統(tǒng)硬盤存放,UFile含有存放無上限、支持高并發(fā)訪問、成本更低等優(yōu)勢(shì);處理業(yè)務(wù)架構(gòu)文件存放問題,有效降低海量文件存放成本,支持熱點(diǎn)數(shù)據(jù)高并發(fā)訪問,提升終端用戶訪問體驗(yàn)。▌單地域UFile存放架構(gòu)六大集群ULB(UCloudLoadBalancer)實(shí)現(xiàn)外網(wǎng)對(duì)接及接入層負(fù)載均衡與容災(zāi)處理,該模塊經(jīng)過定時(shí)向接入層模塊端口發(fā)送心跳以檢測(cè)接入層模塊可用性,發(fā)覺異常模塊立刻進(jìn)行剔除;接入層提供文件訪問服務(wù),該模塊為無狀態(tài)設(shè)計(jì),所以能夠平行擴(kuò)容及縮容;索引層保留文件對(duì)象元數(shù)據(jù)信息,包含對(duì)象名稱、對(duì)象大小、創(chuàng)建時(shí)間、存放位置等;存放層是實(shí)際存放文件數(shù)據(jù)模塊集群,關(guān)鍵實(shí)現(xiàn)文件數(shù)據(jù)多份分布及高可靠存放;數(shù)據(jù)處理層關(guān)鍵實(shí)現(xiàn)UFile圖片及數(shù)據(jù)處理,包含圖片實(shí)時(shí)裁剪、縮放、旋轉(zhuǎn)、水印、格式轉(zhuǎn)換、信息獲取等操作,用戶還能夠使用自己通用計(jì)算鏡像對(duì)數(shù)據(jù)進(jìn)行處理;名字服務(wù)關(guān)鍵實(shí)現(xiàn)索引層及數(shù)據(jù)處理層模塊容災(zāi)剔除,以上3個(gè)集群模塊會(huì)定時(shí)在名字服務(wù)注冊(cè)本身服務(wù),當(dāng)其中有部分模塊因機(jī)器異?；蛘呔W(wǎng)絡(luò)中止造成無法提供服務(wù)時(shí),名字服務(wù)會(huì)將該機(jī)器從名字中剔除,而且通知接入層,從而實(shí)現(xiàn)后臺(tái)模塊容災(zāi)剔除。▌關(guān)鍵設(shè)計(jì)解析UFile索引層設(shè)計(jì)UFile索引層為一套分布式KV存放系統(tǒng),其關(guān)鍵目標(biāo)是確保UFile對(duì)象元數(shù)據(jù)高性能、高可靠、高可用及可擴(kuò)展存放,其關(guān)鍵分成兩層架構(gòu):索引接入集群處理索引存放集群管理及元數(shù)據(jù)分布,這一層模塊為無狀態(tài)設(shè)計(jì),經(jīng)過名字服務(wù)實(shí)現(xiàn)異常狀態(tài)容災(zāi)剔除;索引存放集群實(shí)現(xiàn)對(duì)象元數(shù)據(jù)分布式存放,每個(gè)對(duì)象元數(shù)據(jù)將存放3份,確保數(shù)據(jù)可靠性及高可用性,同時(shí)對(duì)象存放采取SSD（固態(tài)硬盤）作為存放介質(zhì),也確保了元數(shù)據(jù)存放高并發(fā)低延時(shí)訪問特征。另外,該模塊采取固定集群規(guī)模方法進(jìn)行管理,每個(gè)集群支撐存放量、訪問量固定,存放可實(shí)現(xiàn)以集群為單位水平擴(kuò)容,保障業(yè)務(wù)不停增加情況下高性能穩(wěn)定訪問支持。UFile存放層設(shè)計(jì)存放層包含三種類型模塊集群:存放節(jié)點(diǎn),該模塊根據(jù)固定大小集群（稱為“Set”）進(jìn)行組織和管理,每個(gè)集群支撐存放量及訪問量規(guī)格固定,同時(shí)該模塊可依據(jù)存放量需求橫向進(jìn)行無限擴(kuò)展,從而滿足用戶無存放量上限數(shù)據(jù)存放需求。每個(gè)對(duì)象數(shù)據(jù)在存放層存放三份數(shù)據(jù),經(jīng)過對(duì)異常情況立刻處理和壞盤立刻修復(fù),確保數(shù)據(jù)極高可靠性;SetMaster,該模塊進(jìn)行Set狀態(tài)管理,接入集群經(jīng)過SetMaster決定上傳對(duì)象數(shù)據(jù)存放集群,并實(shí)施數(shù)據(jù)存放操作;OsdMaster,該模塊每個(gè)Set有一套,實(shí)現(xiàn)Set內(nèi)部存放路由管理,并對(duì)各塊磁盤狀態(tài)進(jìn)行監(jiān)控,立刻剔除異常磁盤。UFile存放路由算法設(shè)計(jì)UFile存放集群采取去中心化設(shè)計(jì),數(shù)據(jù)存放采取固定路由算法進(jìn)行存放,因?yàn)榇娣偶阂?guī)模為固定,所以路由表也為固定,這就確保了存放系統(tǒng)簡(jiǎn)單性及穩(wěn)定性。下面具體介紹UFile數(shù)據(jù)存放層路由算法設(shè)計(jì)。一步,在存放集群上線時(shí),每個(gè)集群OsdMaster將磁盤信息進(jìn)行組織,生成一個(gè)存放路由表,該路由表每個(gè)項(xiàng)目對(duì)應(yīng)3塊分布在不一樣機(jī)架及存放機(jī)器上磁盤,對(duì)象數(shù)據(jù)將根據(jù)路由表指定位置進(jìn)行存放。第二步,每個(gè)存放在UFile上對(duì)象數(shù)據(jù)將被切分成若干個(gè)4MB數(shù)據(jù)塊,稱為分片。UFile為每個(gè)對(duì)象分配一個(gè)單集群內(nèi)部對(duì)象ID,對(duì)象ID與分片編號(hào)拼接取得分片ID,經(jīng)過字符串哈希算法取得哈希值,并在路由表中找到該分片存放3塊磁盤位置,由UFile接入模塊將該分片數(shù)據(jù)提交到3塊磁盤上。第三步,當(dāng)單塊磁盤出現(xiàn)異常時(shí),OsdMaster會(huì)發(fā)覺這一情況,并將該磁盤標(biāo)識(shí)為異常狀態(tài),當(dāng)接入層寫入此數(shù)據(jù)時(shí),會(huì)只寫入兩份數(shù)據(jù),待磁盤修復(fù)后,再從這兩份數(shù)據(jù)中拷貝一份數(shù)據(jù)到已修復(fù)磁盤,恢復(fù)數(shù)據(jù)多份高可靠存放。在出現(xiàn)一個(gè)哈希表項(xiàng)中有2塊磁盤不可使用情況時(shí),為確保數(shù)據(jù)安全性,該存放集群將不許可寫入操作,寫入操作會(huì)被切換到其她集群提供服務(wù),從而確保UFile讀寫高可用性。▌UFile功效優(yōu)勢(shì)海量存放存放空間無上限,無需考慮存放空間擴(kuò)容問題,單文件最大支持5TB,適適用于音視頻、圖片分享等UGC類應(yīng)用海量文件存放。高并發(fā)支持高并發(fā)訪問,突破傳統(tǒng)磁盤I/O限制,滿足高訪問量及高下載量業(yè)務(wù)需求,適適用于高下載量、高訪問量應(yīng)用文件存放。訪問加速存放文件結(jié)合CDN分發(fā)加速,中國(guó)外500+加速節(jié)點(diǎn),有效降低訪問延遲,提升下載速度,提升全網(wǎng)終端用戶訪問體驗(yàn)。安全可用所存文件保留三份副本,分布存放于不一樣存放集群,即使單份數(shù)據(jù)損壞也不影響存放文件可用性,同時(shí)確保文件安全。內(nèi)容保護(hù)可經(jīng)過身份驗(yàn)證機(jī)制及防盜鏈設(shè)置控制終端用戶訪問權(quán)限,避免因內(nèi)容被盜用產(chǎn)生版權(quán)損失和惡意訪問流量消耗。圖片處理提供圖片處理服務(wù),支持圖片縮放、剪裁、添加水印等功效,并提供多個(gè)尺寸設(shè)置,滿足移動(dòng)端、PC端等多終端訪問需求。更低成本存放單價(jià)僅為云硬盤1/2,下載由CDN分發(fā),降低存放及網(wǎng)絡(luò)成本,按實(shí)際使用量計(jì)費(fèi),無存放及帶寬資源閑置浪費(fèi)。開發(fā)支持完備API接口及SDK開發(fā)包支持,適合多個(gè)語言,與原有業(yè)務(wù)無縫結(jié)合,能夠極大縮短開發(fā)周期,幫助業(yè)務(wù)快速上線。▌總結(jié)在大