这篇文章主要介绍“eclipse debug怎么调试mapreduce程序”,在日常操作中,相信很多人在eclipse debug怎么调试mapreduce程序问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”eclipse debug怎么调试mapreduce程序”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
1、将mapred-site.xml文件拷贝一份到项目中
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapred.child.java.opts</name>
<value>-Xmx800m -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8000</value>
</property>
<property>
<name>mapreduce.jobtracker.staging.root.dir</name>
<value>/tmp</value>
</property>
<property>
<name>yarn.app.mapreduce.am.staging-dir</name>
<value>/tmp</value>
</property>
<property>
<name>mapreduce.framework.name</name>
<value>local</value>
</property>
<property>
<name>mapreduce.jobtracker.address</name>
<value>local</value>
</property>
<property>
<name>mapred.job.tracker</name>
<value>local</value>
</property>
</configuration>
2、在项目中加入本地mapred-site.xml配置,从本地项目中读取配置文件运行,在reduce中debug
Job job = new Job(conf, "word count");
conf.addResource("classpath:/Hadoop01/mapred-site.xml");
conf.set("fs.defaultFS", "hdfs://192.168.1.10:9008");
conf.set("mapreduce.framework.name", "yarn");
conf.set("yarn.resourcemanager.address", "192.168.1.10:8032");
conf.set("mapred.remote.os", "Linux");
conf.set("hadoop.job.ugi", "hadoop,hadoop");
到此,关于“eclipse debug怎么调试mapreduce程序”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!
亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。
原文链接:https://my.oschina.net/u/1169079/blog/335548