spark2.xx是否支持三角洲湖 [英] Is delta lake supported by spark2.xx

查看:94
本文介绍了spark2.xx是否支持三角洲湖的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

所以我试图使用delta lake write df_concat.write.format("delta").mode("overwrite").save("file"),它给了我这个错误:

So i was trying to use delta lake write df_concat.write.format("delta").mode("overwrite").save("file") it gives me this error :

java.lang.NoClassDefFoundError:org/apache/spark/sql/connector/catalog/TableProviderDelta Lake Doc说更新了spark3,所以只想确认我们是否可以在spark2.xx上运行deltalake

java.lang.NoClassDefFoundError: org/apache/spark/sql/connector/catalog/TableProvider and delta lake doc says update to spark3 so just want to confirm if we can run deltalake on spark2.xx

推荐答案

您可以使用 Delta版本0.6.1 -支持Spark 2.x的最新版本.您至少需要有Spark 2.4.2才能运行它.只需使用-打包io.delta:delta-core_2.11:0.6.1 的代码运行代码,或将其链接到应用程序

You can use Delta release 0.6.1 - the latest that supported Spark 2.x. You need to have at least Spark 2.4.2 to run it. Just run your code with --packages io.delta:delta-core_2.11:0.6.1, or link it to the application

这篇关于spark2.xx是否支持三角洲湖的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆