Hive 任务限制同时运行的任务数量的配置-CSDN博客
阿里云国内75折 回扣 微信号:monov8 |
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6 |
Hive任务的并发控制指同时运行的 container 的数量防止先提交的任务占用全部的队列资源导致后来提交的任务无法申请到足够的资源。
Hive 任务的并发控制和使用的引擎相关。
MapReduceMR引擎
-
Map 任务
mr 引擎使用mapreduce.job.running.map.limit
来限制同时执行的 map 任务数量。如一个 hive 任务生成 1000 个 map 任务。当mapreduce.job.running.map.limit
为 10 时最多可以同时运行 10 个 map 任务。默认值为0代表不限制同时执行的 map 任务数量。 -
Reduce 任务
mapreduce.job.running.reduce.limit
来限制同时执行的 reduce 任务数量。默认值为0代表不限制。
Tez 引擎
TEZ 没有相关的配置。
阿里云国内75折 回扣 微信号:monov8 |
阿里云国际,腾讯云国际,低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号:monov8 飞机:@monov6 |