shuffle和mapshuffle有什么区别
这篇文章将为大家详细讲解有关shuffle和map shuffle有什么区别,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
为企业提供成都网站设计、成都网站制作、外贸网站建设、网站优化、成都全网营销推广、竞价托管、品牌运营等营销获客服务。创新互联建站拥有网络营销运营团队,以丰富的互联网营销经验助力企业精准获客,真正落地解决中小企业营销获客难题,做到“让获客更简单”。自创立至今,成功用技术实力解决了企业“网站建设、网络品牌塑造、网络营销”三大难题,同时降低了营销成本,提高了有效客户转化率,获得了众多企业客户的高度认可!
普通shuffle结构图:
不同表由不同的map完成,shuffle把条件相等的key分发到reduce task上去执行
join等于是在reduce阶段完成
缺点:
成本高且效率慢,所有的数据都需要shuffle去完成
map shuffle结构图:
mapjoin: join是发生在map阶段,无shuffle
mapjoin使用前提:大表 join 小表(小表有大小限制 maximum;hive元数据判断大小表)
本地的map task读取小表的数据生成HashTable File,然后upload到分布式缓存里.
完成本地map task小表后,启动Mapjoin task作业读取大表数据,每条数据和缓存里数据进行匹配
关于“shuffle和map shuffle有什么区别”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。
网站题目:shuffle和mapshuffle有什么区别
浏览路径:http://lswzjz.com/article/jcpehg.html