本篇内容主要讲解“MapReduce映射怎么定义”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“MapReduce映射怎么定义”吧!
定义
map:俗称--映射,map之后元素个数不变
如:
x --> (x,1)
y --> (y,1)
z --> (z,1)
reduce:俗称--规约,reduce之后元素个数<=当前个数(把key相同的元素,拉倒一起)
如:
x --> (x,1)
x --> (x,1) -->>(x,1+1+1)
x --> (x,1)
mapReduce架构
MR job提交到Yarn的工作流程==Yarn架构设计==Yarn工作流程
shuffle
map->shuffle->reduce
理解:key相同的元素通过网络IO放到一起,进行业务计算
常用命令
mapred
到此,相信大家对“MapReduce映射怎么定义”有了更深的了解,不妨来实际操作一番吧!这里是亿速云网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。