Spark 历史记录服务器无法使用 Spark 3.2.3 或 Spark 3.5 加载事件

问题描述 投票:0回答:1

我在 kubernetes 上运行 Spark 历史服务器。它配置为从目录读取事件,我看到我的 Spark 作业在那里写入的事件。 Spark 历史服务器确实出现,但没有显示任何事件。我浏览了有关此问题的问题,但无法解决问题。
我的设置: Spark 事件使用正确的 uid 和 gid 写入文件存储。我可以通过登录我的 Pod 并检查文件来确认这一点。我能够毫无问题地读取文件、写入目录。设置一个指向该目录的 Spark 历史服务器。服务器恢复干净。日志显示其扫描/解析并完成了事件正确目录中文件的解析,但没有显示任何内容。

感谢你们的任何见解。

期望看到 Spark 事件显示在历史服务器 UI 上。

apache-spark kubernetes
1个回答
0
投票

历史服务器日志是否提到任何 Spark 应用程序 ID,例如解析应用程序 ID Spark-xxxxxxxxxxxx 或 app-xxxxxxxxx?如果是,请检查历史服务器 UI 中不完整的应用程序。底部会显示显示不完整。如果这也没有显示任何应用程序。

确保spark-submit和历史服务器conf中的spark事件日志目录相同。

© www.soinside.com 2019 - 2024. All rights reserved.