版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
hadoop偽分布模式安裝實驗環(huán)境說明操作系統(tǒng):Ubuntu16.04JDK版本:1.8Hadoop:版本2.7.2Vmwareworkstation:12.0軟件下載下載ubuntu16:/releases/16.04/release/創(chuàng)建用戶hadoop為操作系統(tǒng)添加hadoop用戶并設(shè)置密碼,之后對Hadoop的操作均由hadoop用戶完成創(chuàng)建hadoop用戶:
$adduserhadoop
后續(xù)步驟安裝軟件目錄/home/hadoop/安裝包Hadoop的三種安裝模式單機模式standalonemode在這種默認模式下配置文件是沒有信息的,Hadoop完全運行在本地該模式主要用于開發(fā)調(diào)試MapReduce程序的應(yīng)用邏輯偽分布式模式pseudodistributedmodeHadoop通過不同的java進程模擬多個節(jié)點,實現(xiàn)模擬的分布式配置偽分布式模式適合初學者用于學習Hadoop的原理和基本使用方法分布式(集群)模式distributedmodeHadoop安裝在多個(3+)個節(jié)點的集群之上分布式模式是Hadoop在實際生產(chǎn)應(yīng)用中采用的模式安裝JDK下載jdk,hadoop2.7.2不再支持jdk1.6及以下版本,把離線包拷入到/home/hadoop/文件夾下,然后執(zhí)行命令安裝。#suhadoop$cd$tar-zxvfjdk-8u91-linux-x64.tar.gz$mvjdk1.8.0_91/jdk1.8配置JDK環(huán)境變量安裝完jdk后,需要配置環(huán)境變量,把java變成系統(tǒng)內(nèi)命令編輯.profile文件來修改系統(tǒng)環(huán)境變量。exportJAVA_HOME=/home/hadoop/jdk1.8exportCLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarexportPATH=$JAVA_HOME/bin:$PATHexportJRE_HOME=$JAVA_HOME/jre
$file$java-version安裝hadoop下載解壓hadoop安裝包下載hadoop安裝包hadoop-2.7.2.tar.gz下載路徑:/repos/dist/release/hadoop/common/hadoop-2.7.2/將下載的文件拷貝到/home/hadoop目錄中,執(zhí)行命令進行安裝
tar-xvfhadoop-2.7.2.tar.gz配置ssh免密碼登錄hadoop的進程之間通信使用ssh方式,為了實現(xiàn)自動化操作,需要配置ssh免密碼登陸方式。生成公鑰、私鑰對su–hadoop$ssh-keygen-trsa將公鑰追加到authorized_keys文件中:
cat.ssh/id_rsa.pub>>.ssh/authorized_keys安裝hadoop下載解壓hadoop安裝包下載hadoop安裝包hadoop-2.7.2.tar.gz下載路徑:/repos/dist/release/hadoop/common/hadoop-2.7.2/將下載的文件拷貝到/home/hadoop目錄中,執(zhí)行命令進行安裝
tar-xvfhadoop-2.7.2.tar.gzHadoop配置修改hadoop環(huán)境變量配置
$sudovi/etc/.profileexportHADOOP_HOME=/home/hadoop/hadoop-2.7.2exportCLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH:$HADOOP_HOME/share/hadoop/common/hadoop-common-2.7.2.jar:$HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-client-core-2.7.2.jar:$HADOOP_HOME/share/hadoop/common/lib/commons-cli-1.2.jar
exportPATH=$JAVA_HOME/bin:$JRE_HOME/bin:$HADOOP_HOME/sbin:$HADOOP_HOME/bin:$PATH
配置hadoop集群配置之前,需要創(chuàng)建以下文件夾:/home/hadoop/data/namenode/home/hadoop/data/datanode/home/hadoop/tmp修改hadoop-env.sh文件:
exportJAVA_HOME=/home/hadoop/jdk1.8修改yarn-env.sh文件:exportJAVA_HOME=/home/hadoop/jdk1.8配置hadoop集群修改core-site.xml文件,
參考下面的內(nèi)容修改:<configuration><property><name>fs.defaultFS</name><value>hdfs://master:9000</value></property><property><name>hadoop.tmp.dir</name><value>file:/home/hadoop/tmp</value></property>
</configuration>
配置hadoop集群修改hdfs-site.xml文件,參考下面的內(nèi)容修改:<configuration><property><name>.dir</name><value>file:/home/hadoop/data/namenode</value></property><property><name>dfs.datanode.data.dir</name><value>file:/home/hadoop/data/datanode</value></property><property><name>node.secondary.http-address</name><value>master:50090</value></property><property><name>dfs.replication</name><value>1</value></property></configuration>配置hadoop集群修改mapred-site.xml文件,參考下面的內(nèi)容修改:<configuration><property><name></name><value>yarn</value></property><property><name>mapreduce.jobhistory.address</name><value>master:10020</value></property><property><name>mapreduce.jobhistory.webapp.address</name><value>master:19888</value></property></configuration>配置hadoop集群修改yarn-site.xml文件,參考下面的內(nèi)容修改:<configuration><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property><property><name>yarn.resourcemanager.hostname</name><value
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2026年重慶護理職業(yè)學院單招職業(yè)適應(yīng)性測試模擬測試卷附答案
- 2026年陜西機電職業(yè)技術(shù)學院單招職測考試題庫及答案1套
- 2026年青島恒星科技學院單招職業(yè)適應(yīng)性測試模擬測試卷及答案1套
- 2026年黑龍江省齊齊哈爾市單招職業(yè)傾向性測試題庫附答案
- 2026年齊齊哈爾理工職業(yè)學院單招綜合素質(zhì)考試題庫及答案1套
- 2026年Q3私域美妝社群:如何做好美妝產(chǎn)品的私域種草
- 2026年證券從業(yè)者綜合能力筆試模擬題集
- 2026年劇本沖突與情節(jié)設(shè)置影視行業(yè)筆試熱點
- 2026年心理醫(yī)生資格考試模擬題庫掌握心理健康知識與技能
- 2026年環(huán)境保護相關(guān)稅收政策及實務(wù)操作要點題庫
- 餐廳充值服務(wù)合同范本
- 2025年汽車洗滌器總成行業(yè)分析報告及未來發(fā)展趨勢預(yù)測
- 麻疹知識培訓內(nèi)容總結(jié)
- 2025年低空經(jīng)濟無人機災(zāi)害預(yù)警行業(yè)報告
- 高考語文強基試卷及答案
- 五岳課件教學課件
- 2025年國家公務(wù)員考試公共基礎(chǔ)知識模擬試卷及答案(共五套)
- 雨污分流監(jiān)理工作總結(jié)報告
- 《益生菌與藥食同源植物成分協(xié)同作用評價》-編制說明 征求意見稿
- 2025年上海高考英語試卷及答案
- (2025年標準)代收款協(xié)議免責協(xié)議書
評論
0/150
提交評論