hadoop 2.7.1如何动态添加节点

这篇文章主要介绍了hadoop 2.7.1如何动态添加节点，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

动态添加节点

hftest0001 (master node )

[hadoop@hftest0001 hadoop]$ pwd
/home/hadoop/hadoop-2.7.1/etc/hadoop

[hadoop@hftest0001 hadoop]$ cat masters 
hftest0001.webex.com
[hadoop@hftest0001 hadoop]$ cat slaves 
hftest0002.webex.com

[hadoop@hftest0001 hadoop]$ cat hdfs-site.xml
<configuration>
	<property>
		<name>dfs.replication</name>
		<value>1</value>
	</property>
...
...
<configuration>

hftest0002 (data node)

[hadoop@hftest0002 hadoop]$ pwd
/home/hadoop/hadoop-2.7.1/etc/hadoop

[hadoop@hftest0002 hadoop]$ cat masters 
hftest0001.webex.com
[hadoop@hftest0002 hadoop]$ cat slaves 
hftest0002.webex.com

[hadoop@hftest0002 hadoop]$ cat hdfs-site.xml
<configuration>
	<property>
		<name>dfs.replication</name>
		<value>1</value>
	</property>
...
...
<configuration>

[hadoop@hftest0001 hadoop-2.7.1]$ ./bin/hdfs dfs -ls /tmp
Found 1 items
-rw-r--r--   1 hadoop supergroup       1366 2016-01-28 13:48 /tmp/README.txt  ===> replication 1

准备：

创建新节点hftest0003

修改hostname(/etc/sysconf/network) 和 hosts(/etc/hosts) 使得集群相互ping通

修改slaves文件，添加新节点

修改replication=>2

[hadoop@hftest0001 hadoop]$ pwd
/home/hadoop/hadoop-2.7.1/etc/hadoop

[hadoop@hftest0003 hadoop]$ cat masters 
hftest0001.webex.com
[hadoop@hftest0003 hadoop]$ cat slaves 
hftest0002.webex.com
hftest0003.webex.com

[hadoop@hftest0003 hadoop]$ cat hdfs-site.xml
<configuration>
	<property>
		<name>dfs.replication</name>
		<value>2</value>
	</property>
...
...
<configuration>

注意：所有的集群全部需要修改

[hadoop@hftest0001 hadoop-2.7.1]$ pwd
/home/hadoop/hadoop-2.7.1

启动datanode
[hadoop@hftest0001 hadoop-2.7.1]$ ./sbin/hadoop-daemon.sh start datanode
...
...

webui可以校验

[hadoop@hftest0001 hadoop-2.7.1]$ ./sbin/start-balancer.sh -threshold 5

启动nodemanager
[hadoop@hftest0001 hadoop-2.7.1]$ ./sbin/yarn-daemon.sh start nodemanager
...
...

[hadoop@hftest0001 hadoop-2.7.1]$ ./bin/hdfs dfs -ls /tmp
Found 2 items
-rw-r--r--   2 hadoop supergroup        101 2016-01-28 13:54 /tmp/NOTICE.txt ====> replication=2
-rw-r--r--   1 hadoop supergroup       1366 2016-01-28 13:48 /tmp/README.txt

感谢你能够认真阅读完这篇文章，希望小编分享的“hadoop 2.7.1如何动态添加节点”这篇文章对大家有帮助，同时也希望大家多多支持亿速云，关注亿速云行业资讯频道，更多相关知识等着你来学习!