我正在研究一個搜索引擎設計,它將在雲上運行。 我們剛剛開始,對Hdoop沒有太多的想法。 任何人都可以告訴HBase,MapReduce和HDFS可以在安裝了Hdoop的單臺機器上運行嗎?HBase,MapReduce和HDFS可以在安裝了Hadoop並運行Hadoop的單臺機器上運行嗎?
1
A
回答
2
是的,你可以。你甚至可以創建一個虛擬機,然後在一臺「計算機」上運行它(這就是我所擁有的:))。
關鍵是在「Pseudo Distributed Mode」中簡單安裝Hadoop,即使在Hadoop Quickstart中也有描述。
如果您使用Cloudera發行版,他們甚至在RPM中創建了所需的配置。 Look here for more info in that.
HTH
2
是的。在我的開發環境,我跑
- 的NameNode(HDFS)
- SecondaryNameNode(HDFS)
- 數據節點(HDFS)
- 的JobTracker(MapReduce的)
- 的TaskTracker(MapReduce的)
- 碩士( HBase)
- RegionServer(HBase)
- QuorumPeer(ZooKeeper - HBase需要)
另外,我運行我的應用程序,並映射和減少任務跟蹤器啓動的任務。 在同一臺機器上運行如此多的進程會導致CPU核心,內存和磁盤I/O的爭奪,所以它對於高性能來說絕對不是很好,但除了可用資源量之外沒有其他限制。
2
同樣在這裏,我在一臺計算機上運行的Hadoop/HBase的/蜂巢。 如果你真的想看到的分佈式計算一臺計算機上,抓住大量的RAM,一些硬盤空間,是這樣的 -
- 使一個或兩個虛擬機(使用虛擬盒)
- 安裝Hadoop的每個人,讓烏爾真正的安裝目錄(沒有任何虛擬之一)作爲主,其餘部分從
- 配置Hadoop的真正的分佈式環境
- 現在的Hadoop開始時,你應該實際擁有的多臺計算機集羣(一個真實,虛實)
這可能只是一個實驗,因爲除非你有一個體面的多CPU或多核系統,否則這樣的配置實際上會消耗更多的維護本身,而不是提供任何性能。
gud luck。
--l4l
相關問題
- 1. 在hadoop和mapreduce上運行R腳本
- 2. Hadoop可以在Nginx上運行嗎?
- 3. 在Hadoop集羣上運行mapreduce jar
- 4. sqoop可以不使用hadoop運行嗎?
- 5. 在雲平臺上運行Hadoop的
- 6. 在沒有HDFS和Hadoop集羣的情況下,可以在本地運行MapReduce嗎?
- 7. 的Hadoop MapReduce的數據流不運行
- 8. 錯誤運行的hadoop MapReduce的例子
- 9. 在僞分佈式hadoop中並行運行的Mapreduce任務
- 10. 在一臺機器上運行Hadoop集羣
- 11. subprocess popen運行命令(HDFS/hadoop)
- 12. 如何從終端運行hadoop hdfs testcase
- 13. Hadoop HDFS測試運行問題 - org.apache.hadoop.conf.Configuration NoClassDefFoundError
- 14. 使用不同的hadoop-mapreduce-client-core.jar來運行hadoop集羣
- 15. 訪問hbase表fron hadoop mapreduce
- 16. Hadoop WordCount示例 - 在Hadoop(Eclipse)上運行選項不提示選擇Hadoop服務器在窗口上運行
- 17. 運行Hadoop MapReduce,是否可以調用HDFS之外的外部可執行文件
- 18. java.lang.NoClassDefFoundError:上運行Hadoop集羣
- 19. 如何在並行hadoop作業中運行stando hadoop distritbuion 0.20.0
- 20. 要安裝並運行哪個版本的hadoop?
- 21. Perl - 你可以在多臺機器上運行線程嗎?
- 22. 我可以在多臺機器上運行F#代理嗎?
- 23. 的Hadoop MapReduce的不運行0%Map和Reduce
- 24. 用hadoop上的java運行初級mapreduce作業
- 25. 當Hadoop MapReduce運行一個組合器時的確切來源
- 26. 我可以在同一臺機器上安裝並運行多個版本的gcloud(谷歌雲sdk)嗎?
- 27. 是否可以在沒有HDFS的僞分佈式操作中運行Hadoop?
- 28. 在CDH4集羣上運行Pig時無法進入mapreduce模式(Hadoop 2 + MapReduce v1)
- 29. Hadoop和MapReduce
- 30. 運行在Hadoop(單節點集羣)