《大數(shù)據(jù)應(yīng)用技術(shù)基礎(chǔ)》課件2.1.2HDFS及使用_第1頁
《大數(shù)據(jù)應(yīng)用技術(shù)基礎(chǔ)》課件2.1.2HDFS及使用_第2頁
《大數(shù)據(jù)應(yīng)用技術(shù)基礎(chǔ)》課件2.1.2HDFS及使用_第3頁
《大數(shù)據(jù)應(yīng)用技術(shù)基礎(chǔ)》課件2.1.2HDFS及使用_第4頁
《大數(shù)據(jù)應(yīng)用技術(shù)基礎(chǔ)》課件2.1.2HDFS及使用_第5頁
已閱讀5頁,還剩13頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

HDFS文件系統(tǒng)及使用1.請(qǐng)列舉所知道的文件系統(tǒng)以及它的功能?2.請(qǐng)描述你使用網(wǎng)盤的情況,它與本地文件系統(tǒng)存儲(chǔ)有哪些不同?知識(shí):1.能說出HDFS文件系統(tǒng)的組成結(jié)構(gòu);2.能描述HDFS文件系統(tǒng)數(shù)據(jù)存儲(chǔ)過程;3.能說出HDFS文件系統(tǒng)的存儲(chǔ)特性。技能:1.能在HDFS中管理文件目錄;2.能在HDFS中管理文件;3.能在HDFS和本地文件系統(tǒng)中傳輸文件?;顒?dòng)1:認(rèn)識(shí)HDFS文件系統(tǒng)的組成1.HDFS文件系統(tǒng)的組成2.組件功能NameNode:負(fù)責(zé)管理HDFS分布式文件系統(tǒng)中的命名空間和客戶對(duì)文件的訪問。DataNode:負(fù)責(zé)處理客戶的文件讀寫請(qǐng)求,在NameNode的統(tǒng)一調(diào)度下完成文件的創(chuàng)建、讀寫、刪除、復(fù)制等操作,并定期向NameNode發(fā)送所存儲(chǔ)的塊列表數(shù)據(jù)?;顒?dòng)2:HDFS的工作過程1.文件存儲(chǔ)策略文件分塊存儲(chǔ),塊大小128MB。文件塊同時(shí)執(zhí)行讀寫操作,提高文件的讀寫效率;文件塊存儲(chǔ)到不同節(jié)點(diǎn)上,突破單節(jié)點(diǎn)容量限制;同一文件塊同時(shí)存儲(chǔ)到不同的節(jié)點(diǎn)上,提高系統(tǒng)的容錯(cuò)性和可用性維護(hù)數(shù)據(jù)文件FsImage和EditLog。FsImage存儲(chǔ)整個(gè)HDFS中的文件目錄和文件的文件名、文件各塊在DataNode中的地址等基礎(chǔ)數(shù)據(jù);EditLog記錄客戶對(duì)文件執(zhí)行的創(chuàng)建、讀寫、刪除等操作2.NameNode的作用3.工作過程(1)NameNode啟動(dòng)時(shí)將把FsImage的內(nèi)容加載到內(nèi)存中,然后執(zhí)行EditLog中的操作,更新FsImage,進(jìn)入安全模式,只讀不寫;(2)創(chuàng)建一個(gè)新的FsImage文件和一個(gè)空的EditLog文件,所有更新操作都將寫入EditLog中,而不是直接寫入FsImage;3.工作過程(4)新FsImage發(fā)送給NameNode,并用EditLog.new替換掉原EditLog,減小了EditLog的大。(5)存取操作繼續(xù)…活動(dòng)2:使用HDFS文系統(tǒng)在主節(jié)點(diǎn)上執(zhí)行start-all.sh1.啟動(dòng)HDFS服務(wù)2.目錄操作hdfsdfs-mkdir/temphdfsdfs-rmdir/tmp3.文件操作hdfsdfs-cp/data/sn.txt/tmphdfsdfs–copyFromLocal./mdata/notababy.txt/tmp1.HDFS文件系統(tǒng)由

組成。2.描述HDFS文件系統(tǒng)的工作過程。3.HDFS文件系統(tǒng)的特征有

。4.展秀在HDFS中文件目錄操作。1.HDFS文件系統(tǒng)的組

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論