2017-06-16 82 views
0

我嘗試推出了tSystem組件拓藍罐子火花但我有一個錯誤:無法啓動罐子星火帶命令火花提交

命令tSystem:

"cmd /c spark-submit --class reprisesComptesExistants.PhasePreliminaire.main --master local[5] C:/Users/A661758/dataintegrationRepriseExistant/target/scala-2.11/dataintegrationRepriseExistant-assembly-0.1.0-SNAPSHOT.jar" 

錯誤:

Warning: Skip remote jar C:/Users/A661758/dataintegrationRepriseExistant/target/scala-2.11/dataintegrationRepriseExistant-assembly-0.1.0-SNAPSHOT.jar. 
java.lang.ClassNotFoundException: reprisesComptesExistants.PhasePreliminaire 
    at java.net.URLClassLoader.findClass(Unknown Source) 
    at java.lang.ClassLoader.loadClass(Unknown Source) 
    at java.lang.ClassLoader.loadClass(Unknown Source) 
    at java.lang.Class.forName0(Native Method) 
    at java.lang.Class.forName(Unknown Source) 
    at org.apache.spark.util.Utils$.classForName(Utils.scala:229) 
    at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:695) 
    at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:187) 
    at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:212) 
    at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:126) 
    at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala) 
[statistics] disconnected 
Job test1 terminé à 13:54 16/06/2017. [Code sortie=0] 

回答

2

本地: - 以本地:/開頭的URI預期作爲每個工作節點上的本地 文件存在。這意味着,沒有網絡IO將 發生,並非常適用於大型文件/ JAR文件,它們通過NFS推到每個 工人,或共享,GlusterFS等

嘗試的文件URI之前添加local:/像這樣:

local:/C:/Users/A661758/dataintegrationRepriseExistant/target/scala-2.11/dataintegrationRepriseExistant-assembly-0.1.0-SNAPSHOT.jar 

還是擺脫窗戶FS路徑問題,只要把你的罐子在HDFS和使用synthax:

hdfs://hostname:9000/path/dataintegrationRepriseExistant-assembly-0.1.0-SNAPSHOT.jar 
0

請確保您映射類名稱correclty。
它應該是package.classname,如com.company.test.Classname。
「com.company.test」是你的包,Classname是你的類。

如果您使用的是talend bigdata平臺V6.2.1,我建議您使用bigdata批處理作業而不是standarad作業。

+0

我有同樣的錯誤 –