在spark < 2.4中以avro格式将数据帧写到kafka主题?

问题描述 投票:0回答:1

Q1. 考虑到我有一个数据帧 df 和模式 myschema如何将数据帧以avro格式写入kafka主题?

Q2. 如果我们不考虑,有什么优化的方法吗?udf ?

大多数可用的解决方案都是针对spark > 2.4,他们有内置的avro功能使用。

apache-spark apache-kafka avro spark-avro
1个回答
0
投票

大多数可用的解决方案都是针对spark > 2.4的,他们有内置的avro功能。

该内置功能 是一个外部图书馆,但后来被合并到Spark主项目中。如果你有< 2.4,我建议你升级你最终升级你的Spark集群,或参考那里的文档。

© www.soinside.com 2019 - 2024. All rights reserved.