6.8 Yarn常用调优
完成条件
Resourcemanager
配置属性 | 描述 |
---|---|
yarn.resourcemanager.scheduler.client.thread-count ResourceManager | 处理调度器请求的线程数量,默认50个,如果提交的任务数大于50,可以增加该值, |
yarn.resourcemanager.scheduler.class | 配置调度器 |
Nodemanager
配置属性 | 描述 |
---|---|
yarn.nodemanager.resource.memory-mb | NodeManager使用内存数 |
yarn.nodemanager.resource.system-reserved-memory-mb | NodeManager为系统保留多少内存,和上一个参数二者取一即可 |
yarn.nodemanager.resource.cpu-vcores | NodeManager使用CPU核数 |
yarn.nodemanager.resource.count-logical-processors-as-cores | 是否将虚拟核数当作CPU核数 |
yarn.nodemanager.resource.pcores-vcores-multiplier | 虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2 |
yarn.nodemanager.resource.detect-hardware-capabilities | 是否让yarn自己检测硬件进行配置 |
yarn.nodemanager.pmem-check-enabled | 是否开启物理内存检查限制container |
yarn.nodemanager.vmem-check-enabled | 是否开启虚拟内存检查限制container |
yarn.nodemanager.vmem-pmem-ratio | 虚拟内存物理内存比例 |
Container
配置属性 | 描述 |
---|---|
yarn.scheduler.minimum-allocation-mb | 容器最小内存 |
yarn.scheduler.maximum-allocation-mb | 容器最大内存 |
yarn.scheduler.minimum-allocation-vcores | 容器最小核数 |
yarn.scheduler.maximum-allocation-vcores | 容器最大核数 |
最后修改: 2023年12月28日 星期四 17:23