2016-07-07 34 views
3

任何人都可以請指出這是什麼激活的批掛有許多個星期的原因,從來沒有被處理?非常感謝。星火流:長時間排隊/主動批次

我的猜測是沒有足夠的執行者,多的工人/執行器就能解決問題?或者Spark對其任務調度程序中的不同批次分配優先級?

但這裏的情況是,最近才批(六月底)得到成功處理,但在5月批仍在排隊。

我只是檢查我的星火設置,調度策略是FIFO

spark.scheduler.mode FIFO 

enter image description here

回答

1

事實證明,在主節點是瓶頸。

主節點內存不足,然後也許調度無法處理速度不夠快。

解決方案:更改主節點成爲一個更強大的EC2實例

+0

我運行一個虛擬機有1個vCPU這是造成積壓 – devl