本篇内容主要讲解“MapReduce工作机制相关知识点有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“MapReduce工作机制相关知识点有哪些”吧!
可以只用一行代码来运行一个MapReduce作业:
JobClient.runJob(conf)。
1、早期版本的Hadoop使用FIFO调度算法来运行作业
早期版本的Hadoop使用一种非常简单的方法来调度用户的作业:
按照作业提交的顺序,使用FIFO(先进先出)调度算法来运行作业。
2、随后,通过设置mapred.job.priority或JobClient的setJobPriority()方法来设置优先级
3、Hadoop的调度器种类
在Hadoop中,MapReduce的调度器可以选择。
1)、默认的调度器是原始的基于队列的FIFO调度器。
2)、Fair Scheduler 公平调度器
3)、Capacity Scheduler
JobClient.runJob(conf);
1)、客户端:提交MapReduce作业。
2)、jobtracker:协调作业的运行。
jobtracker是一个Java应用程序,它的主类是JobTracker。
3)、tasktracker:运行作业划分后的任务。
tasktracker是一个Java应用程序,它的主类是TaskTracker。
4)、分布式文件系统(一般为HDFS)
用来在其他实体间共享作业文件。
到此,相信大家对“MapReduce工作机制相关知识点有哪些”有了更深的了解,不妨来实际操作一番吧!这里是亿速云网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。