在YARN容量策略下使用以下队列配置,在作业启动时未指定队列时,如何选择默认队列?
<?xml version="1.0"?>
<configuration>
<property>
<name>yarn.scheduler.capacity.root.queues</name>
<value>prod,dev</value>
</property>
<property>
<name>yarn.scheduler.capacity.root.dev.queues</name>
<value>eng,science</value>
</property>
</configuration>
我知道根据公平政策,你可以选择一个默认队列,但我找不到容量中的模拟。
这是公平政策的一个例子。
<queuePlacementPolicy>
<rule name="specified" create="false" />
<rule name="primaryGroup" create="false" />
<rule name="default" queue="dev.eng" />
</queuePlacementPolicy>
您可以参考https://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.6.4/bk_yarn-resource-management/content/default_queue_mapping_based_on_user_or_group.html,它解释了为Capacity Scheduler设置默认队列映射
此外,如果您要配置容量调度程序,这篇文章可能会帮助您 - https://discuss.pivotal.io/hc/en-us/articles/201623853-How-to-configure-queues-using-YARN-capacity-scheduler-xml