隨着Dynamic Resource Allocation:Apache Spark - 爲什麼執行程序被刪除? '空閒'是什麼意思?
火花應用程序將刪除時,它已經空閒了比spark.dynamicAllocation.executorIdleTimeout秒 更多的執行器。
當我設定的執行空閒超時屬性 爲隨後spark.dynamicAllocation.executorIdleTimeout= 300
,它拋出以下警告:
spark.ExecutorAllocationManager: Removing executor 0 because it has been idle for 300 seconds (new desired total will be 2)
是什麼意思是「閒置」?這是否意味着工作人員不使用CPU?阻止對數據庫的調用是否計爲空閒?
很好的解釋! –