HDFS使用 名師獲獎_第1頁
HDFS使用 名師獲獎_第2頁
HDFS使用 名師獲獎_第3頁
HDFS使用 名師獲獎_第4頁
HDFS使用 名師獲獎_第5頁
已閱讀5頁,還剩1頁未讀, 繼續(xù)免費閱讀

付費下載

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

HDFS使用

hdfs是hadoop開源項目的一部分,實際上是google分布式文件系統(tǒng)GFS的開源實現(xiàn)。

HDFS主要特點:

1、硬件錯誤是常態(tài),而非異常情況,

HDFS可能是有成百上千的

server組成,任何一個組件都有可能一直失效,因此錯誤檢測和快速、自動的恢復(fù)是

HDFS的核心架構(gòu)目標。

2、跑在

HDFS上的應(yīng)用與一般的應(yīng)用不同,它們主要是以流式讀為主,做批量處理。

3、HDFS

以支持大數(shù)據(jù)集合為目標,一個存儲在上面的典型文件大小一般都在千兆至

T字節(jié),一個單一

HDFS實例應(yīng)該能支撐數(shù)以千萬計的文件。

4、HDFS

應(yīng)用對文件要求的是

write-one-read-many訪問模型。一個文件經(jīng)過創(chuàng)建、寫,關(guān)閉之后就不需要改變。

5、移動計算的代價比之移動數(shù)據(jù)的代價低。一個應(yīng)用請求的計算,離它操作的數(shù)據(jù)越近就越高效,這在數(shù)據(jù)達到海量級別的時候更是如此。HDFS架構(gòu)4HDFS常用命令HDFS項目實戰(zhàn)ls命令hadoopfs-ls/列出hdfs文件系統(tǒng)根目錄下的目錄和文件hadoopfs-ls-R/列出hdfs文件系統(tǒng)所有的目錄和文件put命令hadoopfs-put<localfile><hdfsfile>hdfsfile的父目錄一定要存在,否則命令不會執(zhí)行hadoopfs-put<localfileordir>...<hdfsdir>hdfsdir一定要存在,否則命令不會執(zhí)行hadoopfs-put-<hdsffile>從鍵盤讀取輸入到hdfsfile中,按Ctrl+D結(jié)束輸入,hdfsfile不能存在,否則命令不會執(zhí)行moveFromLocal命令hadoopfs-moveFromLocal<localsrc>...<hdfsdst>與put相類似,命令執(zhí)行后源文件localsrc被刪除,也可以從從鍵盤讀取輸入到hdfsfile中copyFromLocal命令hadoopfs-copyFromLocal<localsrc>...<

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論