首页 > 其他 > 详细

Hadoop 完全并行模式

时间:2020-08-28 09:58:55      阅读:60      评论:0      收藏:0      [点我收藏+]

注意:使用xysnc,出现权限问题,使用 root

一、基本配置

1、hosts 和 hostname

2、开启 ssh 和 无密连接

3、固定静态IP

4、配置 xsync

5、安装配置JDK

6、安装配置Hadoop

7、修改权限 (若不修改权限会出现权限问题)

sudo chown -R tom:tom /opt/module/hadoop-2.7.7/

 

二、核心配置文件

1、HDFS

vi core-site.xml
<!-- 指定HDFS中NameNode的地址 -->
<property>
        <name>fs.defaultFS</name>
        <value>hdfs://wt:9000</value>
</property>

<!-- 指定Hadoop运行时产生文件的存储目录 -->
<property>
        <name>hadoop.tmp.dir</name>
        <value>/opt/module/hadoop-2.7.7/data/tmp</value>
</property>

--------------------------

vi hadoop-env.sh
export JAVA_HOME=/opt/module/jdk1.8.0_144
--------------------------
vi hdfs-site.xml
<!-- 指定Hadoop辅助名称节点主机配置 -->
<property>
      <name>dfs.namenode.secondary.http-address</name>
      <value>wt3:50090</value>
</property>

2、YARN

vi yarn-env.sh
export JAVA_HOME=/opt/module/jdk1.8.0_144
---------------------------
vi yarn-site.xml
<!-- Reducer获取数据的方式 -->
<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
</property>

<!-- 指定YARN的ResourceManager的地址 -->
<property>
        <name>yarn.resourcemanager.hostname</name>
        <value>wt2</value>
</property>

3、MapReduce

vi mapred-env.sh
export JAVA_HOME=/opt/module/jdk1.8.0_144

------------------------

mv mapred-site.xml.template mapred-site.xml
vi mapred-site.xml
<!-- 指定MR运行在Yarn上 -->
<property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
</property>

同步

xsync /opt/module/hadoop-2.7.7/

三、开启端口

sudo firewall-cmd --zone=public --add-port=50070/tcp --permanent
sudo firewall-cmd --reload
sudo firewall-cmd --query-port=50070/tcp

端口

50070
9000
8088
19888
10020
50090

四、群起

1、配置slaves

# 打开slaves文件
vim etc/hadoop/slaves
# 增加相应的节点, 不允许有空格,不允许有空行
wt1
wt2
wt3

2、同步

xsync slaves

3、群起

# 启动dfs 在NmaeNode的节点; 启动Yarn 在ResourceManager的节点
sbin/start-dfs.sh
sbin/start-yarn.sh

 

Hadoop 完全并行模式

原文:https://www.cnblogs.com/wt7018/p/13574921.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!