这篇文章将为大家详细讲解有关shuffle和map shuffle有什么区别，小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。
不同表由不同的map完成，shuffle把条件相等的key分发到reduce task上去执行
join等于是在reduce阶段完成
缺点：
成本高且效率慢，所有的数据都需要shuffle去完成
mapjoin: join是发生在map阶段，无shuffle
mapjoin使用前提：大表 join 小表(小表有大小限制 maximum；hive元数据判断大小表)
本地的map task读取小表的数据生成HashTable File,然后upload到分布式缓存里.
完成本地map task小表后，启动Mapjoin task作业读取大表数据，每条数据和缓存里数据进行匹配
关于“shuffle和map shuffle有什么区别”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，使各位可以学到更多知识，如果觉得文章不错，请把它分享出去让更多的人看到。
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
