0
我有一個火花的應用程序,但是當我嘗試寫數據框,以實木複合地板的文件夾創建成功,但有文件夾內沒有數據只是被稱爲「_SUCCESS」如何寫入拼接Spark數據框?
以下文件是我的代碼:
def writeToParquet(dataFrame: DataFrame, path: String): Unit = {
dataFrame.write.parquet(s"$path.parquet")
}
我有一個火花的應用程序,但是當我嘗試寫數據框,以實木複合地板的文件夾創建成功,但有文件夾內沒有數據只是被稱爲「_SUCCESS」如何寫入拼接Spark數據框?
以下文件是我的代碼:
def writeToParquet(dataFrame: DataFrame, path: String): Unit = {
dataFrame.write.parquet(s"$path.parquet")
}
嘗試這樣做:
假設「df」是數據框的名稱,「tab1」是要存儲的表的名稱。
df.write.mode(SaveMode.Overwrite).format("parquet").saveAsTable("tab1")
注:saveAsTable方法保存在您的配置蜂巢metastore的數據表,如果這就是你的目標是什麼了。讓我知道這是否有幫助。
你確定數據幀中有數據嗎? – puhlen
是的,我對數據幀進行操作,如count,show ... –
你試過其他格式嗎?它是否產生相同的輸出? – Miguel