我在 kubernetes 上运行 Spark 历史服务器。它配置为从目录读取事件,我看到我的 Spark 作业在那里写入的事件。 Spark 历史服务器确实出现,但没有显示任何事件。我浏览了有关此问题的问题,但无法解决问题。
我的设置:
Spark 事件使用正确的 uid 和 gid 写入文件存储。我可以通过登录我的 Pod 并检查文件来确认这一点。我能够毫无问题地读取文件、写入目录。设置一个指向该目录的 Spark 历史服务器。服务器恢复干净。日志显示其扫描/解析并完成了事件正确目录中文件的解析,但没有显示任何内容。
感谢你们的任何见解。
期望看到 Spark 事件显示在历史服务器 UI 上。
历史服务器日志是否提到任何 Spark 应用程序 ID,例如解析应用程序 ID Spark-xxxxxxxxxxxx 或 app-xxxxxxxxx?如果是,请检查历史服务器 UI 中不完整的应用程序。底部会显示显示不完整。如果这也没有显示任何应用程序。
确保spark-submit和历史服务器conf中的spark事件日志目录相同。