2016-02-25 806 views
1

我非常感謝一些幫助,讓cloudera manager在AWS EC2上運行。 它是我第一次安裝,我打算使用AWS Free Tier來創建幾個節點,並對Hadoop集羣和cloudera分發進行一些培訓。我在AWS EC2上使用RedHat RHEL 7.2映像。無法連接到Cloudera Manager,不在端口7180上監聽

我下面這些指令...... Cloudera Manager installation

我已經安裝了Cloudera管理器確定,得到的地方,它允許您使用瀏覽器登錄到了Cloudera Manager服務器屏幕。但這就是問題出現的地方。看起來這款應用並沒有在7180端口上收聽,所以沒有希望通過網絡連接另一臺電腦。我甚至無法在服務器本地連接,但該服務似乎運行正常。但它不聽7180端口。

Q1 - 如何確認配置設置爲使用端口7180.?

第二季度 - 是否有明顯的步驟,我在這裏失蹤?

由於提前,

[編輯..] 我開始如果自由EC2主機上的內存所剩無幾運行Cloudera的經理懷疑。我看到一條評論暗示...... AWS Forum post。但該進程不會崩潰或報告其日誌文件中的任何問題。所以它一定是好的,對吧?

[編輯....更多的診斷信息,....]

下面是我檢查診斷的列表: -

  • 的SELinux沒有運行[用於安裝和測試目的]
  • WAN防火牆,
  • EC2防火牆/安全組,
  • 在服務器本地防火牆,
  • Cloudera的管理r日誌,
  • 服務是否正常運行?
  • 你可以在本地連接嗎?

在EC2實例Securtity組,它包含: - 在RedHat的實例 SSH和端口7180,

防火牆/ iptables的/ firewalld,嘗試: - 添加端口的iptables,然後 dissabling的iptables,然後 添加端口firewalld,然後 dissabling的firewalld服務,

$ sudo iptables -L 
Chain INPUT (policy ACCEPT) 
target  prot opt source    destination   
ACCEPT  all -- anywhere    anywhere    ctstate RELATED,ESTABLISHED 
ACCEPT  tcp -- anywhere    anywhere    tcp dpt:ssh 
ACCEPT  tcp -- anywhere    anywhere    state NEW tcp dpt:7180 
ACCEPT  tcp -- anywhere    anywhere    state NEW tcp dpt:7182 

但是我感覺到cloudera manager的安裝是不開心,或者運行不正確

我檢查了cloudera管理器日誌,並以下列結尾。

$ tail /var/log/cloudera-scm-server/cloudera-scm-server.log 
2016-02-25 11:02:23,581 INFO main:com.cloudera.cmon.components.MetricSchemaUpdate: persisting 19264 new metrics 
2016-02-25 11:02:28,920 INFO main:com.cloudera.cmon.components.MetricSchemaUpdate: persisting 0 updated metrics 
2016-02-25 11:02:28,924 INFO main:com.cloudera.cmon.components.MetricSchemaManager: Cross entity aggregates processed. 

當我用tail -f命令,然後重新啓動Cloudera的-SCM服務器服務,日誌滾動了很多,回來相同的狀態。如果我搜索ERROR,則不會有「ERR」行。

$ sudo service cloudera-scm-server start 
Starting cloudera-scm-server (via systemctl):    [ OK ] 

$ sudo systemctl status cloudera-scm-server 
● cloudera-scm-server.service - LSB: Cloudera SCM Server 
    Loaded: loaded (/etc/rc.d/init.d/cloudera-scm-server) 
    Active: active (exited) since Thu 2016-02-25 12:23:03 EST; 44s ago 
    Docs: man:systemd-sysv-generator(8) 
    Process: 747 ExecStart=/etc/rc.d/init.d/cloudera-scm-server start (code=exited, status=0/SUCCESS) 

所以,如果我嘗試測試該服務,通過從本地機器我得到的那種品行的,這讓我的東西它只是不聽,也許不能正確啓動連接。

嘗試從相同的外殼採用了捲曲捅它作爲Cloudera的-SCM服務器服務已啓動

$ curl localhost:7180 
curl: (7) Failed connect to localhost:7180; Connection refused 

$ wget localhost:7180 
--2016-02-25 08:00:16-- http://localhost:7180/ 
Resolving localhost (localhost)... ::1, 127.0.0.1 
Connecting to localhost (localhost)|::1|:7180... failed: Connection refused. 
Connecting to localhost (localhost)|127.0.0.1|:7180... failed: Connection refused. 

嘗試檢查哪些端口是那臺機器上聽,沒有7180,什麼與回事? ?

$ netstat -nltp 
(No info could be read for "-p": geteuid()=1000 but you should be root.) 
Active Internet connections (only servers) 
Proto Recv-Q Send-Q Local Address   Foreign Address   State  PID/Program name  
tcp  0  0 0.0.0.0:7432   0.0.0.0:*    LISTEN  -     
tcp  0  0 0.0.0.0:22    0.0.0.0:*    LISTEN  -     
tcp  0  0 127.0.0.1:25   0.0.0.0:*    LISTEN  -     
tcp6  0  0 :::7432     :::*     LISTEN  -     
tcp6  0  0 :::22     :::*     LISTEN  -     
tcp6  0  0 ::1:25     :::*     LISTEN  - 
+0

賓果 - 發現內存不足的問題 - 日誌中的消息 '$ sudo tail -100 /var/log/cloudera-scm-server/cloudera-scm-server.out JAVA_HOME =的/ usr /爪哇/ jdk1.7.0_67-的Cloudera 爪哇熱點(TM)64位服務器VM警告:信息:OS :: commit_memory(0x000000078dc58000,265809920,0)失敗;錯誤='無法分配內存'(errno = 12) # #沒有足夠的內存讓Java運行時環境繼續運行。 #本機的存儲器分配(malloc的)未能分配265809920個字節用於犯保留存儲器。 #/tmp/hs_err_pid831.log ' –

回答

0

我建議你尾巴的日誌。如果您正在使用免費套餐,cloudera經理需要一段時間才能出現......在開始cloudera-scm-server之後,可能需要長達5分鐘或更長時間。
日誌應顯示是否有任何錯誤,可能因內存分配問題,因爲免費層服務器的可用內存有限。日誌條目的小片段看起來很不錯並且很典型 - 在7180上出現UI之前,它將經歷一長串進程。

同樣在這樣的情況下,運行top甚至free -g來查看有多少資源被使用 - 尤其是記憶。

+0

感謝您的評論@OkezieE: #與更多信息的錯誤報告文件被保存。 CM似乎陷在了同一個地方。其從開始一直約3-4小時,該日誌文件還沒有從{代碼}移動2016年2月25日12:19:47762 INFO主:com.cloudera.cmon.components.MetricSchemaManager:跨實體聚集處理。 {code} –

+0

我也發現數據庫正在運行。我開始想,也許我忘了爲Cloudera安裝一個數據庫來保存它的數據。 '#通過initialize_embedded_db.sh # #20160225-073401 # #自動生成這些是CM管理器 # com.cloudera.cmf.db.type = PostgreSQL的 com.cloudera.cmf數據庫設置。 db.host = localhost:7432 com.cloudera.cmf.db.name = scm com.cloudera.cmf.db.user = scm ' –

+0

資源使用情況如何顯示在該服務器上。坦率地說,我認爲免費層ec2實例(t2.micro,t1.micro e.t.c)在CPU和內存方面的能力都太弱了。它有一個單核,內存大約爲500MB,可用於非系統使用。根據Cloudera Manager的系統要求,我認爲這不是足夠的。纔去任何進一步檢查此頁:http://www.cloudera.com/documentation/enterprise/5-4-x/topics/cm_ig_cm_requirements.html – OkezieE

2

這裏是要尋找什麼,以及可能的解決方案 - 給它更多的內存...

檢查使用Cloudera的-SCM服務器服務的狀態[取決於你的linux的味道]

$ sudo service cloudera-scm-server status 

OR

$ sudo systemctl status cloudera-scm-server 

查找狀態 - Active: active (running) 如果你找到,但 - Active: active (exited) 在cloudera-scm-server的啓動過程中可能會遇到問題。

在這種情況下,查看日誌文件的Cloudera-SCM服務器

$sudo ls -l /var/log/cloudera-scm-server 

$sudo cat /var/log/cloudera-scm-server/cloudera-scm-server.out 
JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera 
Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x000000078dc58000, 265809920, 0) failed; error='Cannot allocate memory' (errno=12) 
# 
# There is insufficient memory for the Java Runtime Environment to continue. 
# Native memory allocation (malloc) failed to allocate 265809920 bytes for committing reserved memory. 
# An error report file with more information is saved as: 
# /tmp/hs_err_pid831.log 
[[email protected] ~]$ sudo tail -100 /var/log/cloudera-scm-server/cloudera-scm-server.out 
JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera 
Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x000000078dc58000, 265809920, 0) failed; error='Cannot allocate memory' (errno=12) 

命令top指示多少內存可用於您的系統。

可能的解決方法 - 看看this discussion at Cloudera forum

在這種情況下,Java堆大小太小了。

正如我們看到的堆被耗盡,假設這是不是內存泄漏 或類似的東西,Cloudera的經理可能需要更多的堆 操作。這可以配置爲: /etc/default/cloudera-scm-server例如,您可以將「-Xmx2G」更改爲「-Xmx3G」或「-Xmx4G」如果問題仍然存在 發生,也許堆轉儲將提供一些線索。

0

我有完全相同的問題,使用公共DNS或IP端口不能打CM登錄7180

以下步驟將幫助您:

iptables stopped (service iptables stop) 
SELinux disabled (got to /etc/selinux/config and disbaled the selinux) 
curl/wget localhost:7180 works (check the curl status) 
ufw allow 7180 
service httpd status should be running. 
check va/log/cloudera-scm-server log : if any error found then troubleshoot the error  
cloudera-scm-server status (should be running state) 
netstat -nap | grep 7180 returns (if running other service then kill it) 

遠程登錄本地主機7180(應被連接)