我是Oozie和Hadoop的新手。我想問我是否可以在Oozie中運行shell操作,並將輸出存儲到Hadoop分佈式文件系統上的文件中。Oozie shell操作可以在HDFS上創建輸出文件嗎?
回答
當然 - 使用下面的腳本殼行動:
#!/bin/bash
echo "foo" > output.txt
hdfs dfs -moveFromLocal output.txt /your/path/in/hdfs
它給出了hdfs命令的錯誤命令或文件名。 – Tato 2015-04-10 18:55:23
那麼Hadoop命令是否在oozie正在運行的節點上工作?您可以將'hostname'作爲腳本的第二行,以便將oozie運行shell操作的主機名後退,然後手動登錄到該節點並檢查一切是否正確設置。 – 2015-04-11 03:22:08
我配置了相同的節點來運行Hadoop和Oozie。儘管hadoop命令是hadoop fs -moveFromLocal。如果我在本地運行腳本,腳本工作正常,但在提交給Oozie時顯示錯誤的命令或文件名。 – Tato 2015-04-11 20:57:48
我遇到了同樣的問題,這個解決它。您必須添加HADOOP_USER_NAME環境變量。 Go through this once
而不是發佈鏈接作爲答案添加一些文本來解釋這個答案如何幫助OP在修復當前issue.Thanks – 2016-06-09 06:16:15
- 1. 我可以在Oozie中運行py spark作爲shell作業嗎?
- 2. 創建目錄時Oozie shell操作問題
- 3. 在oozie中根據日期創建輸出文件
- 4. 使用-put命令可以在HDFS中傳輸文件嗎?
- 5. oozie可以忽略缺少的輸入文件嗎?
- 6. Flume在HDFS輸出文件末尾創建空行
- 7. Oozie Shell動作
- 8. 我可以針對Google上的操作創建後續操作嗎?
- 9. 無法在HDFS創造sharelib爲Oozie的
- 10. 如何在linux上創建ini文件作爲HDFS
- 11. 可以AjaxMinTask輸出單個文件嗎?
- 12. 在HDFS的火花輸出上創建配置單元表
- 13. 什麼Python方法可以在任何操作系統上創建文件?
- 14. zlib可以在Windows上創建tar文件嗎?
- 15. 我可以在Android內部存儲上創建文件夾嗎?
- 16. 我可以在Linux上創建一個exe文件嗎?
- 17. Oozie shell操作 - 從shell問題運行配置單元問題
- 18. OOZIE工作流程:HIVE表格不存在,但在HDFS中創建目錄
- 19. 我可以用用戶輸入創建一個t4文件嗎?
- 20. 我可以在沒有chmod的情況下在Mac上創建一個shell腳本可執行文件嗎?
- 21. 輸出文本文件以識別PowerShell中的操作文件
- 22. 創建輸出文件
- 23. Oozie shell腳本作業
- 24. 我可以在Doxygen中使用shell命令輸出作爲選項參數嗎?
- 25. 可以爲netbeans上的web服務操作創建自定義異常嗎?
- 26. Unix shell腳本可以用來操作數據庫嗎?
- 27. SSH可以在bash shell中使用,可以在shell文件
- 28. 我可以通過shell命令在github.com上創建新的存儲庫嗎?
- 29. Mac上創建的BNA文件可以部署在其他Linux主機上嗎?
- 30. 在C#中創建JSON輸出文件
你可以把輸出直接放在hdfs內的shell腳本本身 – 2015-04-02 11:10:47
我試過這樣做,但是我做不到。到目前爲止,我所見過的所有教程都只使用stdout而不是創建文件。你可以請我參考一些例子把輸出到hdfs? – Tato 2015-04-02 20:16:02
你嘗試將結果複製到hdfs? – Mzf 2015-04-05 12:13:21