我已使用]配置了spark-submit,>
“-conf”,“ spark.sql.autoBroadcastJoinThreshold = 536870912”,512MB
但是DAG仍未广播连接的较小端。
该代码是一个简单的联接。所以我想知道哪里出了问题。
输入是镶木地板文件,存储在S3上。
如果需要更多信息以进行进一步分析,请告诉我。
我已使用“ --conf”,“ spark.sql.autoBroadcastJoinThreshold = 536870912”,512MB配置了spark-submit,但是DAG仍未广播该联接的较小端。 ...
我的猜测是配置spark.sql.autoBroadcastJoinThreshold