6.7 数据倾斜

数据倾斜现象大致两种情况

数据频率倾斜：某一个区域的数据量要远远大于其他区域

数据大小倾斜：部分记录的大小远远大于平均值

常规解决方案

1. 首先检查是否空值过多造成的数据倾斜，生产环境，可以直接过滤掉空值；如果想保留空值，就自定义分区，将空值加随机数打散。最后再二次聚合

2. 能在map阶段提前处理，最好先在Map阶段处理。如：Combiner、MapJoin

3. 设置多个reduce个数

其他方式解决数据倾斜参考后面课程Hive调优部分