日韩久久久精品,亚洲精品久久久久久久久久久,亚洲欧美一区二区三区国产精品 ,一区二区福利

Hadoop 集群 傻瓜式搭建手記

系統 2734 0

關于Hadoop的配置,按照我的理解,應該有六個文件需要修改,它們都在Hadoop的conf文件夾下,分別是

masters/slavers:配置masters和slavers的機器IP

hadoop-env.sh :Hadoop 運行時的環境變量,比如JAVA_HOME,LOG之類的

core-site.xml :Hadoop 的核心配置文件,對應并覆蓋core-default.xml 中的配置項

hdfs-site.xml :HDFS 的配置文件,對應并覆蓋hdfs-default.xml 中的配置項

mapred-site.xml : Map/Reduce的配置文件,對應并覆蓋mapred-default.xml 中的配置項

上面提到的三個*-default.xml 是Hadoop的默認配置項,理論上都是只讀的,如果要修改,就通過對應的用戶配置文件來覆蓋其設置。

?

1、先配置masters/slavers,NameNode和JobTracker是master, DataNode01和DataNode02是salvers

Masters:

?

  1. vi?/hadoop/conf/masters??
masters文件內容如下:

?

?

  1. 192.168.100.101??
  2. 192.168.100.102??

?

Slavers:

  1. vi?/hadoop/conf/slavers??
slavers文件內容如下:

?

?

  1. 192.168.100.103??
  2. 192.168.100.104??


?

2、先配置hadoop-env.sh,這里最重要的是配置JAVA_HOME,在我的機器上是這樣的:

?

  1. export?JAVA_HOME=/usr/lib/jvm/java-6-sun??

其余的可以考慮配置日志文件路徑:

?

?

  1. export?HADOOP_LOG_DIR=${HADOOP_HOME}/logs??

3、配置 core-site.xml ,通過文檔可以知道這里一般是配置NameNode的地址,即機器名或IP:

?

  1. < configuration > ????
  2. ???????? < property > ??
  3. ???????????????? < name > fs.default.name </ name > ?????
  4. ???????????????? < value > hdfs://192.168.100.101:9000 </ value > ?????
  5. ???????? </ property > ???
  6. </ configuration > ???

4、配置 hdfs-site.xml ,這里一般配置文件存放路徑以及文件權限:

?

?

  1. < configuration > ????
  2. ???? < property > ????
  3. ???????? <!--?DFS中存儲文件命名空間信息的目錄?--> ????
  4. ???????? < name > dfs.name.dir </ name > ????
  5. ???????? < value > /hadoop/dfs/name </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?DFS中存儲文件數據的目錄?--> ????
  9. ???????? < name > dfs.data.dir </ name > ?????
  10. ???????? < value > /hadoop/dfs/data </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?是否對DFS中的文件進行權限控制(測試中一般用false)--> ????
  14. ???????? < name > dfs.permissions </ name > ????
  15. ???????? < value > false </ value > ????
  16. ??? </ property > ????
  17. </ configuration > ???


5、配置 mapred-site.xml , 這里配置的東西有很多,都是跟Map-Reduce相關的,不過暫時先配置如下幾項:

?

  1. < configuration > ??
  2. ???? < property > ????
  3. ???????? <!--?JobTracker節點?--> ????
  4. ???????? < name > mapred.job.tracker </ name > ????
  5. ???????? < value > hdfs://192.168.100.102:9001 </ value > ????
  6. ???? </ property > ????
  7. ???? < property > ????
  8. ???????? <!--?map/reduce的系統目錄(使用的HDFS的路徑)?--> ????
  9. ???????? < name > mapred.system.dir </ name > ????
  10. ???????? < value > /hadoop/mapred/system </ value > ????
  11. ???? </ property > ????
  12. ???? < property > ????
  13. ???????? <!--?map/reduce的臨時目錄(可使用“,”隔開,設置多重路徑來分攤磁盤IO)?--> ????
  14. ???????? < name > mapred.local.dir </ name > ????
  15. ???????? < value > /hadoop/mapred/local </ value > ????
  16. ???? </ property > ????
  17. </ configuration > ???

?

?

這些配置都可以在一臺機器上搞定,由于Hadoop所有機器是使用同樣的配置,所以可以通過scp命令將conf下的內容拷貝復制到各個機器上:

?

  1. scp?-rp?/hadoop/conf?fox@192.168.100.102/hadoop/??

只復制conf是由于我拷貝虛擬機時就已經把JAVA,Hadoop 都安裝好后才拷貝的,這樣可以保證所有文件在同一目錄。

?

?

啟動

然后,激動人心的時刻到了,所有配置都搞定了,我們可以啟動了!

不過還有一件事情必須要先做, 格式化名稱空間。

在NameNode上,執行如下命令:

?

  1. cd?/hadoop/bin??
  2. ./hadoop?namenode?-format??
執行后結果如下:

?

Hadoop 集群 傻瓜式搭建手記

?

然后就可以執行最后一個命令了:

?

  1. ./start-all.sh??

如果一切順利的話,應該就成功了:

?

Hadoop 集群 傻瓜式搭建手記

?

如果要關閉的話,可以執行

?

  1. ./stop-all.sh??


ref:http://blog.csdn.net/lee_leefox/article/details/7071692

Hadoop 集群 傻瓜式搭建手記


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 嵩明县| 牟定县| 扎赉特旗| 大渡口区| 东源县| 县级市| 保亭| 区。| 巴彦淖尔市| 华蓥市| 天峨县| 太原市| 洛扎县| 诸城市| 黄浦区| 华坪县| 始兴县| 开原市| 邵阳县| 青海省| 巴塘县| 二连浩特市| 湘潭市| 横山县| 海口市| 内江市| 栾川县| 三门峡市| 金平| 中宁县| 漠河县| 锡林郭勒盟| 尼木县| 同心县| 神池县| 太原市| 报价| 吐鲁番市| 宁阳县| 临夏县| 荃湾区|