作业中的 Spark 各个阶段是否并行运行?

问题描述 投票:0回答:1

作业中的 Spark 各个阶段是否并行运行?

我正在使用一个名为 Spark 的并行处理管理工具。我在这里有一个问题。我知道在 Spark 的一个作业中,多个阶段可以并行运行,但是当我检查时,执行器似乎正在执行上下文切换。

例如,假设 Spark 日志 UI 日志报告两个阶段并行运行。但实际上,它们看起来并不像是在并行运行,感觉就像它们只是在改变它们正在运行的阶段,就像执行器在进行上下文切换一样。

抱歉没有附上图片。

谢谢。

我的问题是,有没有办法让Executor跨Stage并行运行,例如,如果我有8个Executor,有没有办法在Stage 2上并行放置4个Executor,在Stage 3上并行放置4个Executor?

apache-spark executor
1个回答
0
投票

阶段按顺序运行。一个阶段必须在另一阶段开始之前完成。这就是 Spark 范例。

https://queirozf.com/entries/apache-spark-architecture-overview-clusters-jobs-stages-tasks可以咨询。

© www.soinside.com 2019 - 2024. All rights reserved.