ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

4.HDFS集群—搭建集群分布式

2021-07-18 21:03:26  阅读:220  来源: 互联网

标签:HDFS 启动 hdfs bigdata dfs hadoop 集群 namenode 分布式


hadoop分布式搭建

完全分布式结构
hostNNSNNDN
tongyuzhe1*
tongyuzhe2**
tongyuzhe3*
tongyuzhe4*
hadoop配置目录
如果出现启动失败,就把/tmp和配置文件目录还有hadoop软件文件夹都删除
全部重新弄
#进入hadoop配置目录
cd $HADOOP_HOME/etc/hadoop
角色启动位置
#hadoop配置文件千万不能有空行之类的
NameNode启动位置
#修改文件
vi core-site.xml 

#在<configuration>内添加
<property>
	<name>fs.defaultFS</name>
	<value>hdfs://tongyuzhe1:9000/</value>
</property>
DataNode启动位置
vi slaves

#添加主机名
tongyuzhe2
tongyuzhe3
tongyuzhe4
SecondaryNameNode启动位置
#修改文件
vi hdfs-site.xml

#在<configuration>内添加
<property>
	<!--修改SecondaryNameNode主机-->
	<name>dfs.namenode.secondary.http-address</name>
	<value>tongyuzhe2:50090</value>
</property>
角色启动细节
#修改文件
vi hdfs-site.xml 

#在<configuration>内添加
文件块副本数
<!--完全分布式分布式,我们可以设置成2块副本-->
<property>
	<name>dfs.replication</name>
	<value>2</value>
</property>
NameNode存放位置
<property>
	<!--指定namenode存放的文件夹-->
	<name>dfs.namenode.name.dir</name>
	<!--这里我们换一个新的目录,local换成full-->
	<value>/var/bigdata/hadoop/full/dfs/name</value>
</property>
DataNode存放位置
<property>
	<!--指定datanode存放的文件夹-->
	<name>dfs.datanode.data.dir</name>
	<!--这里我们换一个新的目录,local换成full-->
	<value>/var/bigdata/hadoop/full/dfs/data</value>
</property>
SecondaryNameNode存放位置
<property>
	<!--修改SecondaryNameNode目录-->
	<name>dfs.namenode.checkpoint.dir</name>
	<!--这里我们换一个新的目录,local换成full-->
	<value>/var/bigdata/hadoop/full/dfs/secondary</value>
</property>
内容分发
scp -r /opt/bigdata/hadoop-2.6.5/etc/hadoop/ tongyuzhe4:/opt/bigdata/hadoop-2.6.5/etc/
格式化启动
#只在NameNode节点格式化启动
#初始化
#会创建目录
#初始化一个空的fsimage
#创建VERSION配置文件,随机分配个CID
hdfs namenode -format

标签:HDFS,启动,hdfs,bigdata,dfs,hadoop,集群,namenode,分布式
来源: https://blog.csdn.net/a1334933655/article/details/118882943

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有