温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Hadoop无法上传文件查找原因

发布时间:2020-07-01 10:54:24 来源:网络 阅读:858 作者:ccsoftlucifer 栏目:大数据

       部署了集群,上传测试文件到HDFS文件系统的时候出现问题。could only be replicated to 0 nodes, instead of 1,如下图所示:

Hadoop无法上传文件查找原因

       度娘寻找解决方案:

       博客链接:http://www.cnblogs.com/linjiqin/archive/2013/03/13/2957310.html

       该博客指出,该产生该异常的原因如下:

1.系统或hdfs是否有足够的空间

       这个肯定是有的,测试数据,才几十KB,可以用hadoop dfsadmin -report查看报告,也可以直接去web查看大小。localhost:50070

2.datanode数是否正常

       主节点Namenode、JobTracker等进程都在,所有的从节点均有Datanode、TaskTracker进程,所以应该排除

3.是否在safemode

       Web上可以看见safemode off,表明安全模式关闭。如果非要用命令查看,可以使用dfsadmin -safemode get 查看是否开启安全模式。如果是安全模式,可以用dfsadmin -safemode leave强制离开安全模式。

4.防火墙是否关闭

       ubuntu上关闭防火墙的命令是ufw disabled,我的集群早就关闭了。

5.关闭hadoop、格式化、重启hadoop

       没有办法的办法,但是非常抱歉,对于我的问题没有起到任何作用。


最终的解决方案:

       原来是自己学艺不精,linux没有学扎实,这么常见的错误我都没看穿。hadoop所在的目录已经快用完空间了,所以报这个错误,我修改了core-site.xml中DFS的地址,指向了有多余空间的目录,重新格式化HDFS,跑案例,成功。

总结:

       很多时候错误其实并不是我们目前所关注的问题,在于很小很细微的细节,自己的锅,接好咯~


向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI