區(qū)塊鏈分布式存儲(chǔ)產(chǎn)業(yè)發(fā)展專(zhuān)題報(bào)告_第1頁(yè)
區(qū)塊鏈分布式存儲(chǔ)產(chǎn)業(yè)發(fā)展專(zhuān)題報(bào)告_第2頁(yè)
區(qū)塊鏈分布式存儲(chǔ)產(chǎn)業(yè)發(fā)展專(zhuān)題報(bào)告_第3頁(yè)
區(qū)塊鏈分布式存儲(chǔ)產(chǎn)業(yè)發(fā)展專(zhuān)題報(bào)告_第4頁(yè)
區(qū)塊鏈分布式存儲(chǔ)產(chǎn)業(yè)發(fā)展專(zhuān)題報(bào)告_第5頁(yè)
已閱讀5頁(yè),還剩10頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、 區(qū)塊鏈分布式存儲(chǔ)產(chǎn)業(yè)發(fā)展專(zhuān)題報(bào)告分布式存儲(chǔ)給互聯(lián)網(wǎng)帶來(lái)了什么 1 、核心觀點(diǎn)1.1 核心邏輯基于分布式存儲(chǔ),將開(kāi)辟新的存儲(chǔ)應(yīng)用市場(chǎng)。分布式存儲(chǔ)采用不同于傳統(tǒng)中心化存儲(chǔ)的 資源和市場(chǎng)激勵(lì)方式,不僅僅是充分利用分布式節(jié)點(diǎn)資源,而是為個(gè)人節(jié)點(diǎn)貢獻(xiàn)的內(nèi)容 投入市場(chǎng)交換創(chuàng)造了基礎(chǔ),從而深度挖掘數(shù)據(jù)內(nèi)容價(jià)值、開(kāi)辟全新的應(yīng)用市場(chǎng),這在傳 統(tǒng)的互聯(lián)網(wǎng)公司控制中心云平臺(tái)數(shù)據(jù)的情況下是無(wú)法實(shí)現(xiàn)的。同時(shí),分布式存儲(chǔ)與中心 化存儲(chǔ)將不斷融合,改變現(xiàn)有的互聯(lián)網(wǎng)構(gòu)架和商業(yè)模式。1.2 我們區(qū)別于市場(chǎng)的觀點(diǎn)市場(chǎng)低估了分布式存儲(chǔ)為互聯(lián)網(wǎng)基礎(chǔ)構(gòu)架和商業(yè)模式帶來(lái)的變革與創(chuàng)新空間。市場(chǎng)通常 將分布式存儲(chǔ)視為一種新的技術(shù),而忽略了

2、分布式存儲(chǔ)帶來(lái)的個(gè)人存儲(chǔ)資源、用戶內(nèi)容 貢獻(xiàn)價(jià)值挖掘和市場(chǎng)交換的潛力。在分布式文件系統(tǒng)的互聯(lián)網(wǎng)上,個(gè)人存儲(chǔ)資源可以投 入到市場(chǎng)進(jìn)行資源交換,為用戶貢獻(xiàn)的內(nèi)容在數(shù)據(jù)確權(quán)、安全的基礎(chǔ)上進(jìn)行內(nèi)容價(jià)值提 供市場(chǎng)交換的平臺(tái)。因此,分布式文件系統(tǒng)將會(huì)催生更多的全新的互聯(lián)網(wǎng)應(yīng)用,而非傳 統(tǒng)互聯(lián)網(wǎng)的技術(shù)迭代。2、 分布式存儲(chǔ)將成為下一代互聯(lián)網(wǎng)基礎(chǔ)設(shè)施目前,互聯(lián)網(wǎng)將海量計(jì)算機(jī)(智能移動(dòng))終端連接在一起,使得用戶能夠訪問(wèn)存儲(chǔ)其他 計(jì)算機(jī)終端上的海量數(shù)據(jù)。數(shù)據(jù)的傳輸與訪問(wèn),是基于 HTTP(超文本傳輸協(xié)議)為代 表的互聯(lián)網(wǎng)協(xié)議實(shí)現(xiàn)的,數(shù)據(jù)是以計(jì)算機(jī)(服務(wù)器)終端 IP(或者說(shuō)域名)為地址進(jìn)行 中心化存儲(chǔ)的,具體存儲(chǔ)

3、數(shù)據(jù)的服務(wù)器節(jié)點(diǎn)就像一個(gè)集中式的倉(cāng)庫(kù),要承擔(dān)巨大流量訪 問(wèn)、數(shù)據(jù)傳輸壓力。能否將數(shù)據(jù)文件分散存在網(wǎng)絡(luò)不同服務(wù)器節(jié)點(diǎn)上,革新互聯(lián)網(wǎng)基礎(chǔ) 構(gòu)架?類(lèi)似 IPFS 這種分布式存儲(chǔ)協(xié)議逐漸興起,作為 HTTP 的補(bǔ)充,打造面向全球、點(diǎn)對(duì)點(diǎn)的 分布式版本文件系統(tǒng),能將所有具有相同文件系統(tǒng)的計(jì)算設(shè)備連接在一起。就 IPFS 而言, 用戶尋找的是存儲(chǔ)在某地方的內(nèi)容(這些內(nèi)容分散在不同的服務(wù)器節(jié)點(diǎn)),而不是某地址, 就只需確認(rèn)驗(yàn)證內(nèi)容的哈希,這樣就能過(guò)獲得速度更快、安全、健壯、持久的網(wǎng)頁(yè)。我們將探討分布式存儲(chǔ)將如何帶來(lái)互聯(lián)網(wǎng)基礎(chǔ)構(gòu)架的變革,將創(chuàng)造怎樣的新的應(yīng)用場(chǎng)景 和市場(chǎng)。2.1 以 IPFS 協(xié)議為代表的分布

4、式存儲(chǔ)帶來(lái)新思路IPFS 協(xié)議是一個(gè)將多種成功的分布式系統(tǒng)思路與區(qū)塊鏈相結(jié)合的文件存儲(chǔ)和內(nèi)容分發(fā) 網(wǎng)絡(luò)協(xié)議,為用戶提供統(tǒng)一的可尋址數(shù)據(jù)存儲(chǔ)。IPFS(Inter-Planetary File System)由 Protocol Lab 提出,字面意義是星際文件系統(tǒng)。其本質(zhì)是一個(gè) P2P 的分布式存儲(chǔ)系統(tǒng), 將所有具有相同文件系統(tǒng)的計(jì)算設(shè)備連接在一起,目標(biāo)是補(bǔ)充甚至替代超文本傳輸協(xié)議 HTTP。與現(xiàn)有 Web 協(xié)議不同的是,對(duì)于一個(gè)存放在 IPFS 網(wǎng)絡(luò)的文件資源,不是用基于 域名的地址去訪問(wèn),而是通過(guò)基于文件內(nèi)容生成的唯一編碼去訪問(wèn),不需要驗(yàn)證發(fā)送者 的身份,只需要驗(yàn)證內(nèi)容的哈希,可以讓網(wǎng)頁(yè)的

5、速度更快、更安全。IPFS 的網(wǎng)絡(luò)上運(yùn)行著一條區(qū)塊鏈,即用來(lái)存儲(chǔ)互聯(lián)網(wǎng)文件的哈希值表,每次有網(wǎng)絡(luò)訪問(wèn),即要在鏈上查詢 該內(nèi)容(文件)的地址。IPFS 協(xié)議最大的特色是系統(tǒng)的耦合及設(shè)計(jì)的綜合性,其整合的 分布式技術(shù)包括 BitTorrent 協(xié)議、版本控制系統(tǒng) Git、MerkelDAG、分布式哈希表 DHT 和自認(rèn)證文件系統(tǒng) SFS。因此在 IPFS 系統(tǒng)中,人人都可以作為存儲(chǔ)文件的服務(wù)器。IPFS 協(xié)議借鑒了 BitTorrent 協(xié)議諸多優(yōu)點(diǎn),并進(jìn)行了創(chuàng)新,打造持久且分布式存儲(chǔ)和 共享文件的網(wǎng)絡(luò)傳輸協(xié)議。BitTorrent(簡(jiǎn)稱(chēng) BT)是一種廣泛應(yīng)用的內(nèi)容分發(fā)協(xié)議,特 點(diǎn)是充分利用用戶的

6、上載帶寬,使得下載用戶越多,下載速度越快。在中心化存儲(chǔ)的 FTP、 HTTP 協(xié)議中,每個(gè)用戶下載所需文件,各個(gè)用戶之間沒(méi)有交互。如 HTTP,每次當(dāng)同時(shí) 訪問(wèn)和下載文件的用戶過(guò)多時(shí),由于服務(wù)器處理能力和帶寬的限制,下載速度會(huì)急劇下 降,部分用戶甚至?xí)o(wú)法訪問(wèn)服務(wù)器。而 BT 協(xié)議下,分配器或文件持有者將文件發(fā)送 給一名用戶,再由這名用戶轉(zhuǎn)發(fā)給其它用戶,用戶之間相互轉(zhuǎn)發(fā)自己所擁有的文件部分, 直到每個(gè)用戶的下載全部完成。這種方法可以使下載服務(wù)器同時(shí)處理多個(gè)大體積文件的 下載請(qǐng)求,而無(wú)須占用大量帶寬,因此常用于大型文檔和自由軟件的發(fā)布以降低服務(wù)器 負(fù)擔(dān)。IPFS團(tuán)隊(duì)對(duì)BitTorrent進(jìn)行了創(chuàng)

7、新,增加了信用和帳單體系來(lái)激勵(lì)每個(gè)節(jié)點(diǎn)分享數(shù)據(jù), 稱(chēng)為 BitSwap 協(xié)議。用戶在 BitSwap 里分享數(shù)據(jù)會(huì)增加信用分,從其他節(jié)點(diǎn)接受數(shù)據(jù) 則會(huì)降低信用分。如果用戶只去檢索數(shù)據(jù)而不分享數(shù)據(jù),信用分就會(huì)越來(lái)越低,而被其 它節(jié)點(diǎn)忽略。類(lèi)似于于互聯(lián)網(wǎng)的七層協(xié)議模型,IPFS 構(gòu)架分為八層子協(xié)議棧。IPFS 作為分布式存儲(chǔ) 協(xié)議,核心功能包括:文件內(nèi)容多人協(xié)調(diào)和版本可回溯、不可篡改,DHT 管理帶來(lái)的離 散性、伸縮性和良好的容錯(cuò)性,以及基于 IPNS 的文件域名系統(tǒng)。內(nèi)容版本方面,IPFS 使用分布式版本控制系統(tǒng) Git,支持多人協(xié)同工作,記錄每次更新 并標(biāo)記不同的版本號(hào),一旦發(fā)生問(wèn)題,可以將文

8、件回溯到之前的任何一個(gè)版本。本地版 本控制系統(tǒng)和集中化的版本控制系統(tǒng)都是由單一服務(wù)器保存所有文件的修訂版本,一旦 服務(wù)器發(fā)生故障,則面臨丟失所有數(shù)據(jù)的風(fēng)險(xiǎn)。Git 是分布式版本控制系統(tǒng)(DVCS)的 一種,客戶端除了保存最新版本的文件,還把代碼倉(cāng)庫(kù)和歷史記錄都完整地鏡像下來(lái)。 這樣,任何一處協(xié)同工作的服務(wù)器發(fā)生故障,都可以用任何一個(gè)本地倉(cāng)庫(kù)進(jìn)行恢復(fù)。Git 還可以比較文件變化細(xì)節(jié),查出誰(shuí)進(jìn)行了什么修改,從而可以在發(fā)生問(wèn)題時(shí)快速準(zhǔn)確的 找出原因。更進(jìn)一步,許多 DVCS 系統(tǒng)都可以指定和若干不同的遠(yuǎn)端代碼倉(cāng)庫(kù)進(jìn)行交互, 用戶可以在同一個(gè)項(xiàng)目中和不同工作小組的人相互協(xié)作,根據(jù)需要設(shè)定不同的協(xié)作流程

9、, 而這在以前的系統(tǒng)中是無(wú)法實(shí)現(xiàn)的。IPFS 團(tuán)隊(duì)對(duì) Git 數(shù)據(jù)結(jié)構(gòu)進(jìn)行改造,在 Merkle Tree 的基礎(chǔ)上得到了 Merkel DAG, 擁有內(nèi)容尋址、防篡改、去重三大功能。IPFS 將文件劃分成單個(gè)大小不超過(guò) 256kB 的數(shù) 據(jù)塊,每個(gè)數(shù)據(jù)塊擁有唯一的哈希值,并構(gòu)造一個(gè) Merkel DAG 將所有文件碎片組織起 來(lái)。Merkel DAG 是實(shí)現(xiàn)版本化文件系統(tǒng)的一種核心數(shù)據(jù)結(jié)構(gòu),比 Merkle Tree 的限制更 少,但是保留了其兩點(diǎn)精髓:1)父節(jié)點(diǎn)哈希由子節(jié)點(diǎn)哈希決定,即父節(jié)點(diǎn)哈希由子節(jié)點(diǎn) 哈希拼接的字符串再次哈希而成;2)父節(jié)點(diǎn)中包含指向子節(jié)點(diǎn)的信息。任何一個(gè)下層節(jié) 點(diǎn)的改

10、動(dòng)都將導(dǎo)致上層節(jié)點(diǎn)哈希值的變動(dòng),最終根節(jié)點(diǎn)的哈希值也將變動(dòng),因此 Merkle DAG 的三大功能得以實(shí)現(xiàn):1)內(nèi)容尋址:使用多重哈希來(lái)唯一識(shí)別一個(gè)數(shù)據(jù)塊的內(nèi)容; 2)防篡改:數(shù)據(jù)接受方只需一段 Merkle 路徑上的哈希值,就可以檢查數(shù)據(jù)是否被篡改; 3)去重:內(nèi)容相同的數(shù)據(jù)塊的哈希是相同的,可據(jù)此刪除重復(fù)數(shù)據(jù),節(jié)省存儲(chǔ)空間。IPFS 的路由功能采用分布式哈希列表 DHT,幫助客戶節(jié)點(diǎn)快速找到所需數(shù)據(jù)所在的節(jié) 點(diǎn),具有離散性、伸縮性和良好的容錯(cuò)性。DHT 是一種分布式哈希表,通過(guò)存儲(chǔ)的鍵值 對(duì)提供查詢服務(wù):鍵值對(duì)存儲(chǔ)在 DHT 中,節(jié)點(diǎn)可以檢索給定鍵對(duì)應(yīng)的值,鍵值對(duì)的映射 由網(wǎng)絡(luò)中所有的節(jié)點(diǎn)

11、維護(hù)。在不需要服務(wù)器的情況下,每個(gè)節(jié)點(diǎn)負(fù)責(zé)一小部分路由和數(shù) 據(jù)存儲(chǔ),從而實(shí)現(xiàn)整個(gè) DHT 網(wǎng)絡(luò)的尋址和存儲(chǔ)。即使有節(jié)點(diǎn)加入或離開(kāi),對(duì)整個(gè)網(wǎng)絡(luò)的 影響也很小,因此 DHT 可以擴(kuò)展到非常龐大的節(jié)點(diǎn)(上千萬(wàn))。DHT 具有以下性質(zhì):1) 離散型:構(gòu)成系統(tǒng)的節(jié)點(diǎn)之間都是對(duì)等的,沒(méi)有中央控制機(jī)制進(jìn)行協(xié)調(diào);2)伸縮性:不 論系統(tǒng)有多少節(jié)點(diǎn),都要求高效工作;3)容錯(cuò)性:不斷有節(jié)點(diǎn)加入和離開(kāi),不影響整個(gè) 系統(tǒng)的工作。IPNS 是 IPFS 的文件域名系統(tǒng),像 HTTP 系統(tǒng)的域名(網(wǎng)址)一樣,使用戶搜索文件 時(shí)只需查詢文件名,而不受文件內(nèi)容變更的影響。IPFS 中文件的哈希值完全取決于文件 內(nèi)容,不僅難以記

12、憶,一旦修改文件內(nèi)容其哈希值也會(huì)發(fā)生改變,每次更新文件后都需 更新引用的哈希值,十分不便。為了能夠在不破壞其鏈接的情況下更改文件內(nèi)容,IPFS 團(tuán)隊(duì)使用了一種標(biāo)記更新網(wǎng)址哈希的域名系統(tǒng),即星際名稱(chēng)系統(tǒng) IPNS。IPNS 是一個(gè)去 中心化的命名系統(tǒng),使用類(lèi)似哈希的地址安全地指向可變內(nèi)容,每個(gè)文件都可以被協(xié)作 命名為易讀的名字,通過(guò)搜索就可以找到文件。自認(rèn)證文件系統(tǒng) SFS 對(duì)文件進(jìn)行命名, 同時(shí)提供了 IPNS 以解決傳播問(wèn)題,很好地解決了當(dāng)前用戶不習(xí)慣輸入哈希值訪問(wèn)文件 的問(wèn)題,在現(xiàn)有的互聯(lián)網(wǎng)系統(tǒng)和 IPFS 系統(tǒng)間搭建了一個(gè)橋梁。簡(jiǎn)單的說(shuō),基于 IPFS 協(xié)議存儲(chǔ)的文件是打散成許多可驗(yàn)證的

13、碎片文件(數(shù)據(jù)通過(guò)哈希值 編碼進(jìn)行唯一標(biāo)記),分布在網(wǎng)絡(luò)中,訪問(wèn)者通過(guò)內(nèi)容編碼找到這些文件的位臵后進(jìn)行下載,由于是分散存儲(chǔ)(同一個(gè)內(nèi)容可能多臺(tái)服務(wù)器存儲(chǔ)),不必須要求所有節(jié)點(diǎn)服務(wù)器都 必須在線,以此 IPFS 希望達(dá)到創(chuàng)建持久且分布式存儲(chǔ)和共享文件的網(wǎng)絡(luò)傳輸協(xié)議的目標(biāo)。 而 HTTP 為代表傳統(tǒng)的中心化存儲(chǔ)差別十分明顯HTTP 的文件是中心化的方式存儲(chǔ), 通過(guò)文件的域名進(jìn)行訪問(wèn),且域名文件服務(wù)器需要保持在線,否則將無(wú)法訪問(wèn)。2.2 分布式存儲(chǔ)將帶來(lái)互聯(lián)網(wǎng)基礎(chǔ)架構(gòu)變革隨著互聯(lián)網(wǎng)與通信、人工智能、物聯(lián)網(wǎng)、云計(jì)算/邊緣計(jì)算等技術(shù)的發(fā)展,萬(wàn)事萬(wàn)物都可 以被記錄并用數(shù)據(jù)表達(dá),數(shù)據(jù)從單一內(nèi)部小數(shù)據(jù)向多元?jiǎng)?/p>

14、態(tài)大數(shù)據(jù)轉(zhuǎn)變。據(jù) IDC 預(yù)測(cè), 全球數(shù)據(jù)圈的規(guī)模將由 2018 年的 33ZB 增長(zhǎng)至 2025 年的 175ZB,且文本、圖片、視頻 等非結(jié)構(gòu)化數(shù)據(jù)將擁有更高的增長(zhǎng)率,在整體數(shù)據(jù)圈的占比也將持續(xù)增加。因此,需要 更先進(jìn)的互聯(lián)網(wǎng)基礎(chǔ)架構(gòu)來(lái)對(duì)數(shù)據(jù)進(jìn)行采集、存儲(chǔ)和利用。目前,中心化互聯(lián)網(wǎng)架構(gòu)下的主要問(wèn)題集中在安全性、時(shí)效性和集中化三個(gè)方面,而以 IPFS 為代表的分布式存儲(chǔ)協(xié)議將通過(guò)解決以下問(wèn)題帶來(lái)互聯(lián)網(wǎng)構(gòu)架的變革:傳統(tǒng)的 HTTP 協(xié)議使用非對(duì)稱(chēng)架構(gòu)實(shí)現(xiàn)網(wǎng)絡(luò)的高并發(fā),但是中心服務(wù)器難以負(fù)擔(dān)過(guò)大的 傳輸數(shù)據(jù)量,影響用戶體驗(yàn),云計(jì)算廠商和電信運(yùn)營(yíng)商需要為此付出較大的設(shè)備成本。 IPFS 協(xié)議解決了

15、熱點(diǎn)文件的存儲(chǔ)問(wèn)題,但一個(gè)文件只有被不斷訪問(wèn)才能確保其存儲(chǔ)有效 性,冷門(mén)且具有價(jià)值的文件容易丟失,主要原因是激勵(lì)層缺失導(dǎo)致的節(jié)點(diǎn)不穩(wěn)定性。目 前,一種對(duì)標(biāo) IPFS 的分布式技術(shù) HTTPX(網(wǎng)格裂變系統(tǒng))也在悄然崛起,提供去中心 化的 CDN 服務(wù)、存儲(chǔ)服務(wù)和 GPU 算力服務(wù)。HTTPX 兼顧了 HTTP 協(xié)議的優(yōu)勢(shì),對(duì)路由 和傳輸邏輯進(jìn)行重新定義,采用對(duì)稱(chēng)架構(gòu),將網(wǎng)絡(luò)的分裂做到了前所未有的程度。HTTPX 是一種更輕量化、更靈活、性能更加完善的 P2P 技術(shù)。HTTPX 的技術(shù)架構(gòu)設(shè)計(jì) 屬于網(wǎng)格設(shè)計(jì),每一個(gè)節(jié)點(diǎn)既是獨(dú)立個(gè)體也是全局功能體,可以支持存儲(chǔ)、計(jì)算和傳輸 數(shù)據(jù)。用戶連接最近的節(jié)點(diǎn)

16、接入 HTTPX 網(wǎng)絡(luò),該節(jié)點(diǎn)將尋址找到臨近節(jié)點(diǎn),發(fā)現(xiàn)百萬(wàn)級(jí) 別的信息,定位資源存儲(chǔ)節(jié)點(diǎn),并通過(guò)最優(yōu)網(wǎng)絡(luò)傳輸路徑回傳到用戶臨近節(jié)點(diǎn)。HTTPX 和 IPFS 相比具有明顯優(yōu)勢(shì),有望將云計(jì)算服務(wù)推向新的高峰:1)高性能:網(wǎng)格系統(tǒng)設(shè)計(jì)大幅縮短用戶到節(jié)點(diǎn)的物理距離和網(wǎng)絡(luò)距離,實(shí)際測(cè)試中 TTL 下降 60%,提供更低延時(shí)的優(yōu)質(zhì)服務(wù)響應(yīng);2)低成本:為產(chǎn)業(yè)鏈服務(wù),定價(jià)較低;硬件兼容性高,可部署到家庭、社區(qū)、辦公場(chǎng) 所;3)兼容性強(qiáng):兼容 HTTP、HTTPS 協(xié)議,同時(shí)提供高級(jí) HTTPX 開(kāi)源代碼接入模式;4)實(shí)力雄厚:采用 P2P 思想,CDN 支撐能力出眾;提供存儲(chǔ)、GPU 資源的挖礦模式, 真

17、正做到一機(jī)多用。5)快速發(fā)布:帶寬需求大,發(fā)布周期短,資源提供方不用擔(dān)心項(xiàng)目延期帶來(lái)的資本周 轉(zhuǎn)問(wèn)題。3、 分布式存儲(chǔ)開(kāi)辟互聯(lián)網(wǎng)基礎(chǔ)設(shè)施產(chǎn)業(yè)新格局3.1 分布式存儲(chǔ)開(kāi)發(fā)新的存儲(chǔ)市場(chǎng)全球數(shù)據(jù)量的爆發(fā)式增長(zhǎng)推動(dòng)云存儲(chǔ)市場(chǎng)的快速發(fā)展。云存儲(chǔ)是一種以數(shù)據(jù)存儲(chǔ)和管理 為核心的云計(jì)算服務(wù),指通過(guò)集群應(yīng)用、網(wǎng)絡(luò)技術(shù)或分布式文件系統(tǒng)等,將網(wǎng)絡(luò)中大量 不同類(lèi)型的存儲(chǔ)設(shè)備通過(guò)應(yīng)用軟件集合起來(lái)協(xié)同工作,共同對(duì)外提供數(shù)據(jù)存儲(chǔ)和業(yè)務(wù)訪 問(wèn)功能的系統(tǒng)。換句話說(shuō),云存儲(chǔ)就是將資源放到云上供人存取,用戶可以在任何時(shí)間、 任何地點(diǎn),通過(guò)可連網(wǎng)裝臵連接到云上方便地存取數(shù)據(jù)。根據(jù)云存儲(chǔ)服務(wù)性質(zhì)的不同,可以分為公有云、私有云和混合云

18、。其中,公有云面向包 括個(gè)人、家庭、企業(yè)在內(nèi)的多種客戶;私有云由企業(yè)或組織使用及維護(hù),用戶在個(gè)性化 等方面有更多的控制權(quán);混合云將公有云和私有云進(jìn)行混合和匹配,達(dá)成相對(duì)高性價(jià)比 解決方案。據(jù) IDC 預(yù)測(cè),2025 年中國(guó)數(shù)據(jù)規(guī)模將達(dá)到 48.6ZB,其中超過(guò) 80%為非結(jié)構(gòu) 化數(shù)據(jù),且由于發(fā)展滯后北美 4-5 年,中國(guó)云市場(chǎng)增速高于全球水平。2018 年中國(guó)云計(jì) 算整體市場(chǎng)規(guī)模達(dá) 962.8 億元,增速為 39.2%。其中,公有云市場(chǎng)規(guī)模達(dá)到 437 億元, 增速為 65.2%,預(yù)計(jì)接下來(lái)三年內(nèi)仍將快速增長(zhǎng)。分布式存儲(chǔ)將開(kāi)辟新的應(yīng)用場(chǎng)景,充分激發(fā)個(gè)人存儲(chǔ)資源和內(nèi)容貢獻(xiàn)的市場(chǎng)價(jià)值,創(chuàng)新 互聯(lián)網(wǎng)

19、商業(yè)模式。隨著分布式存儲(chǔ)技術(shù)和生態(tài)的發(fā)展,將充分激發(fā)個(gè)人存儲(chǔ)資源市場(chǎng)的資源配臵,激勵(lì)更多的個(gè)人存儲(chǔ)資源進(jìn)入市場(chǎng)即個(gè)人可以將閑臵的存儲(chǔ)資源投入到 分布式存儲(chǔ)系統(tǒng)進(jìn)行市場(chǎng)交換,這在傳統(tǒng)互聯(lián)網(wǎng)巨頭控制中心云模式下是無(wú)法實(shí)現(xiàn)的。 更重要的是,個(gè)人在互聯(lián)網(wǎng)上的內(nèi)容共享將可以安全地進(jìn)行發(fā)布、交換和價(jià)值共享。如 D.Tube 是一個(gè)加密分布式視頻平臺(tái),建立在 STEEM 區(qū)塊鏈和 IPFS 點(diǎn)對(duì)點(diǎn)網(wǎng)絡(luò)之上,目 標(biāo)是成為 YouTube 的替代品,允許用戶在 IPFS 基礎(chǔ)上觀看或上傳視頻,并在不可變的 STEEM 區(qū)塊鏈上進(jìn)行分享或評(píng)論,同時(shí)賺取加密通證。D.Tube 的所有數(shù)據(jù)都是公開(kāi)的, 任何有互聯(lián)網(wǎng)連

20、接的人都可以對(duì)其進(jìn)行分析,無(wú)需廣告即可運(yùn)行,提供了最佳的用戶體 驗(yàn)??梢赃@樣說(shuō),幾乎任何現(xiàn)有的互聯(lián)網(wǎng)應(yīng)用都可以遷移到分布式文件系統(tǒng)上,獲得新 的體驗(yàn)和創(chuàng)新商業(yè)模式,這里面的想象空間是無(wú)限的。邊緣云計(jì)算和小型數(shù)據(jù)中心成為行業(yè)趨勢(shì),分布式存儲(chǔ)有望率先打開(kāi)個(gè)人云存儲(chǔ)市場(chǎng)空 間。2019 年 11 月,手機(jī)上網(wǎng)用戶規(guī)模達(dá) 13.1 億,個(gè)人網(wǎng)盤(pán)月度活躍用戶超 1 億,個(gè)人 存儲(chǔ)市場(chǎng)仍有龐大的潛在用戶基礎(chǔ)和可利用存儲(chǔ)空間。面對(duì)數(shù)據(jù)規(guī)模的高速增長(zhǎng),邊緣 云計(jì)算和分布式存儲(chǔ)成為行業(yè)趨勢(shì),利用分布式文件系統(tǒng)將個(gè)人閑臵的存儲(chǔ)資源投入到 網(wǎng)絡(luò)中,進(jìn)行市場(chǎng)交換,將成為分布式存儲(chǔ)率先進(jìn)入的領(lǐng)域之一,目前已有這方面的初

21、 創(chuàng)應(yīng)用。3.2 分布式存儲(chǔ)已和傳統(tǒng)存儲(chǔ)不斷融合應(yīng)用在分布式存儲(chǔ)的實(shí)際應(yīng)用中無(wú)法避免一定程度的中心化,因此常和傳統(tǒng)存儲(chǔ)方案融合應(yīng) 用。分布式存儲(chǔ)會(huì)帶來(lái)系統(tǒng)性能和管理成本的問(wèn)題,因此現(xiàn)有的存儲(chǔ)解決方案通常將分 布式技術(shù)與傳統(tǒng)存儲(chǔ)方案相結(jié)合:一方面,對(duì)數(shù)據(jù)進(jìn)行分布式備份保存,使數(shù)據(jù)更接近 邊緣側(cè),同時(shí)避免數(shù)據(jù)的物理?yè)p壞和人為篡改;另一方面,通過(guò)一定程度的集中存儲(chǔ)和 集中管理來(lái)降低系統(tǒng)運(yùn)維成本,提高服務(wù)質(zhì)量。4、 分布式存儲(chǔ)面臨的技術(shù)瓶頸與發(fā)展機(jī)遇4.1 數(shù)據(jù)價(jià)值分層是分布式存儲(chǔ)經(jīng)濟(jì)激勵(lì)的關(guān)鍵不同數(shù)據(jù)的市場(chǎng)價(jià)值是不同的,不同個(gè)體對(duì)相同數(shù)據(jù)的價(jià)值判斷也并不一致。而存儲(chǔ)節(jié)點(diǎn)并不知道數(shù)據(jù)的內(nèi)容、難以評(píng)判數(shù)

22、據(jù)價(jià)值的情況下,如何有效將存儲(chǔ)激勵(lì)與數(shù)據(jù)市場(chǎng) 價(jià)值做到優(yōu)化配臵?數(shù)據(jù)價(jià)值分層是甄別數(shù)據(jù)價(jià)值以及實(shí)現(xiàn)有效激勵(lì)的關(guān)鍵。分布式的節(jié)點(diǎn)負(fù)責(zé)存儲(chǔ)數(shù)據(jù)碎 片,但并不知道數(shù)據(jù)內(nèi)容以及數(shù)據(jù)的價(jià)值,也就是說(shuō),礦工的工作量衡量如果不能考慮 數(shù)據(jù)價(jià)值的因素,就很難實(shí)現(xiàn)更優(yōu)化的市場(chǎng)激勵(lì)調(diào)節(jié)。以 Filecoin 采用的時(shí)空證明(PoST) 機(jī)制為例,礦工節(jié)點(diǎn)的存儲(chǔ)工作量衡量,與文件碎片內(nèi)容的數(shù)據(jù)價(jià)值無(wú)關(guān)。Filecoin 目前 并沒(méi)有對(duì)數(shù)據(jù)價(jià)值進(jìn)行具體分層,只做了垃圾數(shù)據(jù)和可驗(yàn)證數(shù)據(jù)的區(qū)分。目前現(xiàn)存的共 識(shí)機(jī)制,均僅限于礦工的存儲(chǔ)工作量衡量,而無(wú)法代表數(shù)據(jù)價(jià)值。礦工節(jié)點(diǎn)的物理?yè)p毀、 網(wǎng)絡(luò)服務(wù)質(zhì)量差的成本是以經(jīng)濟(jì)激勵(lì)來(lái)

23、衡量,但因此造成的用戶數(shù)據(jù)服務(wù)質(zhì)量和數(shù)據(jù)價(jià) 值損失并不對(duì)等。簡(jiǎn)單說(shuō),礦工最多損失的是系統(tǒng)經(jīng)濟(jì)激勵(lì),而用戶損失的可能是數(shù)據(jù) 的損毀或極差業(yè)務(wù)服務(wù)質(zhì)量畢竟對(duì)于礦工來(lái)說(shuō),數(shù)據(jù)的價(jià)值是的核心衡量因素是存 儲(chǔ)容量。應(yīng)考慮底層構(gòu)架和應(yīng)用層結(jié)合的方式解決數(shù)據(jù)分層問(wèn)題。解決數(shù)據(jù)價(jià)值分層,對(duì)分布式 存儲(chǔ)的經(jīng)濟(jì)激勵(lì)十分關(guān)鍵。在基礎(chǔ)構(gòu)架層面難以單獨(dú)解決,必須結(jié)合應(yīng)用層來(lái)實(shí)現(xiàn)。結(jié) 合應(yīng)用場(chǎng)景,在應(yīng)用層實(shí)現(xiàn)數(shù)據(jù)的分層,從而實(shí)現(xiàn)礦工節(jié)點(diǎn)的分層;如,對(duì)于一些服務(wù) 質(zhì)量、內(nèi)容價(jià)值較高的數(shù)據(jù),則可以圈定一個(gè)激勵(lì)價(jià)格較高的礦工市場(chǎng),同時(shí)對(duì)礦工節(jié) 點(diǎn)的硬件配臵、服務(wù)質(zhì)量做更高的要求。這類(lèi)應(yīng)用在私有網(wǎng)絡(luò)、局域網(wǎng)更方便實(shí)現(xiàn)。針 對(duì)不同

24、的應(yīng)用場(chǎng)景,采用不同的應(yīng)用層策略。也就是說(shuō),廣泛而統(tǒng)一的分布式存儲(chǔ)網(wǎng)絡(luò) 很難滿足各個(gè)場(chǎng)景和用戶個(gè)體的需求,針對(duì)不同場(chǎng)景采取不同的應(yīng)用層解決方案來(lái)完成 數(shù)據(jù)價(jià)值分層是可行的方案。4.2I/O 性能瓶頸需要底層和應(yīng)用層聯(lián)合優(yōu)化解決分布式存儲(chǔ)會(huì)帶來(lái)系統(tǒng) I/O 性能問(wèn)題。和傳統(tǒng)存儲(chǔ)系統(tǒng)相比,分布式存儲(chǔ)需要將文件打 碎、多節(jié)點(diǎn)備份保存,在查詢使用數(shù)據(jù)時(shí)需要進(jìn)行大量碎片文件的調(diào)度工作,工程量極 大。另外,當(dāng)文件較大時(shí),用于內(nèi)容尋址的哈希表也會(huì)很大,尋址時(shí)間也會(huì)更長(zhǎng)。更為 關(guān)鍵的是,礦工節(jié)點(diǎn)的網(wǎng)絡(luò)資源狀況對(duì)網(wǎng)絡(luò) I/O 性能的影響也存在諸多不確定性,尤其 是那些流媒體數(shù)據(jù),若某些數(shù)據(jù)碎片的節(jié)點(diǎn)網(wǎng)絡(luò)狀況較差

25、,則會(huì)影響整個(gè)數(shù)據(jù)文件的訪 問(wèn)服務(wù)質(zhì)量。中心化存儲(chǔ)下,通過(guò) CDN 等手段可以解決這些問(wèn)題,擁有較好的客戶體驗(yàn)。 因此,現(xiàn)有的分布式存儲(chǔ)系統(tǒng)的 I/O 效率是技術(shù)新能方面首要考慮的問(wèn)題之一,從代碼 實(shí)現(xiàn)到協(xié)議層都有很大的優(yōu)化空間,還需要進(jìn)一步突破。實(shí)驗(yàn)測(cè)試顯示 IPFS 的 I/O 性能還有待進(jìn)一步改善。由于采用分布式存儲(chǔ),文件的讀取 受到節(jié)點(diǎn)自身及全網(wǎng)其它節(jié)點(diǎn)的影響,主要包括:節(jié)點(diǎn)數(shù)量和穩(wěn)定性、帶寬、網(wǎng)絡(luò)(地理)位臵等。來(lái)自復(fù)旦大學(xué)的研究人員對(duì) IPFS 的 I/O 性能做了一項(xiàng)實(shí)驗(yàn),并和 HTTP 進(jìn) 行對(duì)比,以驗(yàn)證 IPFS 網(wǎng)絡(luò)處理請(qǐng)求時(shí)的延遲和吞吐量表現(xiàn)。遠(yuǎn)程讀取操作的平均延遲方 面

26、,當(dāng)請(qǐng)求是小的請(qǐng)求時(shí),在 1k-4k 間,HTTP 延遲比 IPFS 低。遇到 16-256k 之間的文 件,IPFS 的延遲狀況由于 HTTP。當(dāng)處理大文件請(qǐng)求時(shí),IPFS 在延遲上的表現(xiàn)不盡人意, 尤其是請(qǐng)求大小朝貢 16MB 時(shí),IPFS 的處理時(shí)間接近了 20 秒。超過(guò) 64MB 時(shí),延遲更 是可以達(dá)到 70 秒,是 HTTP(10 秒)的 7 倍。當(dāng)然,這是實(shí)驗(yàn)室測(cè)試條件下的結(jié)果, 在實(shí)際應(yīng)用過(guò)程中,尚未有具有說(shuō)服性的案例;無(wú)論如何,IPFS 等分布式存儲(chǔ)方案若想 替代 HTTP 等中心化方式,還有很多底層技術(shù)構(gòu)架、協(xié)議和應(yīng)用生態(tài)方面的改進(jìn)與探索。分布式網(wǎng)絡(luò)的傳輸效率還非常依賴網(wǎng)絡(luò)規(guī)模,激勵(lì)機(jī)制有待完善。P2P 的文件交互傳輸 協(xié)議采用的是打散文件、多點(diǎn)續(xù)傳的方式,傳輸效率十分依賴分布式網(wǎng)絡(luò)中的節(jié)點(diǎn)數(shù)量。因此,需要完善激勵(lì)機(jī)制,使節(jié)點(diǎn)用戶在自己無(wú)下載需求時(shí)仍積極接入網(wǎng)絡(luò),為其他用 戶提供存儲(chǔ)服務(wù)。當(dāng)去中心化網(wǎng)絡(luò)中在線的節(jié)點(diǎn)數(shù)比較穩(wěn)定之后,傳輸速度會(huì)更快。從 長(zhǎng)遠(yuǎn)來(lái)看,協(xié)調(diào)好多點(diǎn)續(xù)傳以后的去中心化存儲(chǔ)系統(tǒng)擁有十萬(wàn)甚至百萬(wàn)級(jí)的節(jié)點(diǎn)數(shù)量, 系統(tǒng) I/O 效率才有望比擬當(dāng)下中心化+CDN 存儲(chǔ)的系統(tǒng)效率。4.3 服務(wù)質(zhì)量保障去中心化系統(tǒng)的服務(wù)質(zhì)量還有很大的優(yōu)化空間。分布式存儲(chǔ)市場(chǎng)上現(xiàn)有的落地應(yīng)用不多, 普遍面臨節(jié)點(diǎn)數(shù)量規(guī)模不足、應(yīng)用層開(kāi)發(fā)不夠完善等問(wèn)題,用戶使用體驗(yàn)無(wú)法和成

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論