hadoop job -list
似乎只顯示mapreduce作業,但是我的資源管理器UI爲YARN上運行的所有作業顯示「分配的CPU VCores」和「分配的內存MB」 (包括Spark和Tez等)。YARN shell命令獲取正在運行的應用程序使用的容器和虛擬機的數量
如何通過命令行獲取這些結果而不是轉到UI?
hadoop job -list
似乎只顯示mapreduce作業,但是我的資源管理器UI爲YARN上運行的所有作業顯示「分配的CPU VCores」和「分配的內存MB」 (包括Spark和Tez等)。YARN shell命令獲取正在運行的應用程序使用的容器和虛擬機的數量
如何通過命令行獲取這些結果而不是轉到UI?
YARN支持不同類型的應用程序。 「MapReduce」是YARN支持的一種應用程序。如果您使用hadoop job
(已棄用,請改用mapred job
)或mapred job
,您只能操作MapReduce作業。
要查看不同類型的應用程序(mapreduce,spark等)的狀態,應該使用YARN CLI。
例如, 「yarn application -list -appStates ALL」列出了所有應用程序的狀態。該命令的輸出包含指示應用程序類型(例如用於MapReduce應用程序的MAPREDUCE)的「應用程序類型」列。
您可以獲取有關應用程序,應用程序嘗試,容器等的詳細信息。此處給出了2.7.1版本Hadoop的命令:https://hadoop.apache.org/docs/current/hadoop-yarn/hadoop-yarn-site/YarnCommands.html。
但是,這些命令不會通過CLI返回「分配的CPU VCores」和「分配的內存MB」等詳細信息。在「MB-秒」和「VCORE - 秒」
對於例如術語
yarn application -status {Application ID}
命令返回「集合資源分配」-status
爲我的應用程序之一返回:
總資源分配:12865641 MB-秒,1041 VCORE秒
那麼如何在資源管理器UI獲得的核心電壓以及集裝箱信息?它看起來也許我唯一的方法是從UI本身刮。 – user1956609
我的意思是,信息是可用的。但是,在CLI中,只有有限的信息正在顯示。在printApplicationReport()方法中,獲取「ApplicationResourceUsageReport」。這包含有關vCores,內存等的信息。但是,僅打印「MB-seconds」和「vcore-seconds」。也許是因爲與GUI相比,很難在CLI上顯示所有信息。 –