这篇文章主要介绍“eclipse debug怎么调试mapreduce程序”,在日常操作中,相信很多人在eclipse debug怎么调试mapreduce程序问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”eclipse debug怎么调试mapreduce程序”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
1、将mapred-site.xml文件拷贝一份到项目中
<configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> <property> <name>mapred.child.java.opts</name> <value>-Xmx800m -Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8000</value> </property> <property> <name>mapreduce.jobtracker.staging.root.dir</name> <value>/tmp</value> </property> <property> <name>yarn.app.mapreduce.am.staging-dir</name> <value>/tmp</value> </property> <property> <name>mapreduce.framework.name</name> <value>local</value> </property> <property> <name>mapreduce.jobtracker.address</name> <value>local</value> </property> <property> <name>mapred.job.tracker</name> <value>local</value> </property> </configuration>
2、在项目中加入本地mapred-site.xml配置,从本地项目中读取配置文件运行,在reduce中debug
Job job = new Job(conf, "word count"); conf.addResource("classpath:/Hadoop01/mapred-site.xml"); conf.set("fs.defaultFS", "hdfs://192.168.1.10:9008"); conf.set("mapreduce.framework.name", "yarn"); conf.set("yarn.resourcemanager.address", "192.168.1.10:8032"); conf.set("mapred.remote.os", "Linux"); conf.set("hadoop.job.ugi", "hadoop,hadoop");
到此,关于“eclipse debug怎么调试mapreduce程序”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。