完全分布式集群的总结

1.某些问题的说明

1.博主相信有很多人初学者(了解一点linux与shell编程)肯定会有这些命令究竟是执行的什么的问题!所以现在请打开hadoop安装目录的bin和sbin目录。(是不是有感觉到命令是执行的什么了。看到那个.sh文件了吗?是不是突然想起了shell!想起来我们配置的path了吗?我们配置的是什么目录!!!)

2.集群启动/停止方式

2.1逐个启动/停止

1.分别启动/停止HDFS组件:hadoop-daemon.sh start / stop namenode / datanode / secondarynamenode
2.启动/停止YARN:yarn-daemon.sh start / stop resourcemanager / nodemanager

2.2整体启动/停止(配置SSH是前提)

1.整体启动/停止HDFS:sbin/start-dfs.sh | sbin/stop-dfs.sh
2.整体启动/停止YARN:sbin/start-yarn.sh | sbin/stop-yarn.sh

3.博客提到的配置文件汇总

3.1配置在core-site.xml上的有

<!--指定HDFS中NameNode的地址-->
<property>
	<name>fs.defaultFS</name>
	<value>hdfs://hadoop102:9000</value>
</property>
<!--指定Hadoop运行时产生文件的存储目录-->
<property>
	<name>hadoop.tmp.dir</name>
	<value>/opt/module/hadoop-2.7.2/data/tmp</value>
</property>

3.2配置在hdfs-site.xml上的有

<!--配置集群节点数-->
<property>
	<name>dfs.replication</name>
	<value>3</value>
</property>
<!--指定Hadoop辅助名称节点主机配置-->
<property>
	<name>dfs.namenode.secondary.http-address</name>
	<value>hadoop104:50090</value>
</property>

3.3配置在yarn-site.xml上的有

<!--reducer获取数据的方式-->
<property>
	<name>yarn.nodemanager.aux-services</name>
	<value>mapreduce_shuffle</value>
</property>
<!--指定YARN的ResourceManager的地址-->
<property>			
	<name>yarn.resourcemanager.hostname</name>
	<value>hadoop103</value>
</property>
<!--日志聚集功能使能-->
<property>
	<name>yarn.log-aggregation-enable</name>
	<value>true</value>
</property>
<!--日志保留时间设置7天-->
<property>
	<name>yarn.log-aggregation.retain-seconds</name>
	<value>604800</value>
</property>

3.4配置在mapred-site.xml上的有

<!--指定mr运行在yarn上-->
<property>
	<name>mapreduce.framework.name</name>
	<value>yarn</value>
</property>
<!--配置历史服务器在hadoop101上-->
<property>
	<name>mapreduce.jobhistory.address</name>
	<value>hadoop101:10020</value>
</property>

<property>
	<name>mapreduce.jobhistory.webapp.address</name>
	<value>hadoop101:19888</value>
</property>

4.返回目录

总目录:https://blog.csdn.net/qq_39657909/article/details/84729209

版权声明:本博客为记录本人自学感悟,转载需注明出处!
https://me.csdn.net/qq_39657909

已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 技术黑板 设计师:CSDN官方博客 返回首页