Q1. 考虑到我有一个数据帧 df 和模式 myschema如何将数据帧以avro格式写入kafka主题?
df
myschema
Q2. 如果我们不考虑,有什么优化的方法吗?udf ?
udf
大多数可用的解决方案都是针对spark > 2.4,他们有内置的avro功能使用。
大多数可用的解决方案都是针对spark > 2.4的,他们有内置的avro功能。
该内置功能 是一个外部图书馆,但后来被合并到Spark主项目中。如果你有< 2.4,我建议你升级你最终升级你的Spark集群,或参考那里的文档。