如何在 AWS EMR 上获取 spark 作业的标准输出

问题描述 投票:0回答:0

我可以使用以下命令在 AWS EMR 上提交一个 spark 任务。 如何获取 Spark 作业的标准输出?

aws emr add-steps --cluster-id ${CLUSTERID} \
--output json \
--steps Type=spark,Name=${JOB_NAME},Args=[--deploy-mode,cluster,--master,yarn,--conf,spark.yarn.submit.waitAppCompletion=true,--conf,spark.eventLog.enabled=true,--num-executors,1,--executor-cores,1,--executor-memory,2g,--conf,spark.eventLog.dir=${LOG_DIR},s3://bucket/${FILE_NAME},s3://bucket/${FILE_NAME}],ActionOnFailure=CONTINUE 
amazon-web-services apache-spark amazon-emr
© www.soinside.com 2019 - 2024. All rights reserved.