标签：格式化 clusterID hadoop DataNode VERSION datanode namenode 2.6

注意如下：
localhost: starting datanode, logging to /usr/local/hadoop/logs/hadoop-hadoop-datanode-localhost.localdomain.out

查看相关日志：
/usr/local/hadoop/logs/hadoop-hadoop-datanode-localhost.localdomain.log

注意查看.log的文件，这是相关日志，而不是看.out文件
部分日志如下：

从日志上看，加粗的部分说明了问题

datanode的clusterID 和 namenode的clusterID 不匹配。

三、问题产生
当我们执行文件系统格式化时，会在namenode数据文件夹（即配置文件中dfs.name.dir在本地系统的路径）中保存一个current/VERSION文件，记录namespaceID，标志了所有格式化的namenode版本。如果我们频繁的格式化namenode，那么datanode中保存（即dfs.data.dir在本地系统的路径）的current/VERSION文件只是你地第一次格式化时保存的namenode的ID，因此就会造成namenode和datanode之间的ID不一致。

四、解决办法
根据日志中的路径，cd /usrlocal/hadoop/data/datanode（一般在你hadoop文件夹下面），能看到 data和name两个文件夹。

解决方法一：（推荐）
删除DataNode的所有资料及将集群中每个datanode节点的//data/current中的VERSION删除，然后重新执行hadoop namenode -format进行格式化，重启集群，错误消失。（及逐级查找删除datanode里面所有的version文件）

解决方法二：
将name/current下的VERSION中的clusterID复制到data/current下的VERSION中，覆盖掉原来的clusterID

让两个保持一致

然后重启，启动后执行jps，查看进程

出现该问题的原因：在第一次格式化dfs后，启动并使用了hadoop，后来又重新执行了格式化命令（hdfs namenode -format)，这时namenode的clusterID会重新生成，而datanode的clusterID 保持不变。
————————————————
版权声明：本文为CSDN博主「GQ君」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/baidu_16757561/article/details/53698746

标签：格式化,clusterID,hadoop,DataNode,VERSION,datanode,namenode,2.6
来源： https://blog.csdn.net/m0_51146762/article/details/120546682

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。