本篇内容介绍了“为什么spark yarn 设置了spark.yarn.archive还是会重新上传”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
[main] [INFO] [2021-04-13 15:32:59] Uploading resource hdfs://udp02:8020/user/zzm/spark-lib/arpack_combined_all-0.1.jar -> hdfs://cluster1/user/hadoop/.sparkStaging/application_1615460247184_26533/arpack_combined_all-0.1.jar
将
<property>
<name>fs.defaultFS</name>
<value>hdfs://ucluster1</value>
</property>
改为:
<property>
<name>fs.defaultFS</name>
<value>hdfs://udp02:8020</value>
</property>
“为什么spark yarn 设置了spark.yarn.archive还是会重新上传”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注亿速云网站,小编将为大家输出更多高质量的实用文章!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。