2

堵漏火花獨立集羣的播放應用它的開發模式中執行的很好,但試圖在生產模式下部署時,它提供以下錯誤:如何在play-framework conf/application.conf文件中設置spark獨立主URL?

Caused by: org.apache.spark.SparkException: A master URL must be set in your configuration 

我使用的火花2.1這裏是片段

lazy val spark = SparkSession.builder().appName("Spark_with_Play").master("spark://ip:7077").config("spark.executor.memory", "2g").config("spark.deploy.defaultCores",8).getOrCreate() 

那麼如何在conf/appliaction.conf文件中設置火花大師生產模式

回答

2

經過多次試驗後,能夠找到typesafe config它用於從application.conf文件中讀取配置並將其傳遞到代碼中。 這裏是application.conf文件中的內容:

spark.master = "spark://ip:7077" 

這裏是設置在控制器加到build.sbt

"com.typesafe"%"config"%"1.2.0" 

線這裏是代碼段:

import com.typesafe.config._ 
val conf = ConfigFactory.load() 
val sparkMaster = conf.getString("spark.master") 

val spark= SparkSession.builder().master(sparkMaster).getOrCreate() 
相關問題