在spark.SQL DataFrame和pandas DataFrame之间转换 [英] Convert between spark.SQL DataFrame and pandas DataFrame

查看:555
本文介绍了在spark.SQL DataFrame和pandas DataFrame之间转换的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

有可能

转换自 到 pd.DataFrame

convert from to pd.DataFrame

在%pyspark环境下?

under %pyspark environment ?

推荐答案

尝试:

spark_df.toPandas()

toPandas()

toPandas()

Returns the contents of this DataFrame as Pandas pandas.DataFrame.

This is only available if Pandas is installed and available.

如果您想要相反的话:

spark_df = createDataFrame(pandas_df)

这篇关于在spark.SQL DataFrame和pandas DataFrame之间转换的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆