2013-04-25 64 views
1

36小時工作的Hadoop 1.0.3後說:Hadoop。重新啓動地圖

INFO mapred.JobClient: map 42% reduce 0% 
    mapred.JobClient: Job Failed: # of failed Map Tasks exceeded allowed limit. FailedCount: 1. 
    java.io.IOException: Job failed! 
at org.apache.hadoop.mapred.JobClient.runJob(JobClient.java:1265) 

停了下來。

是否有可能從一開始就重啓Hadoop作業(地圖0%減少0%)?

回答

2

似乎沒有重新啓動失敗作業的好方法。幾件事情要記住:

  1. 看起來就像你在mapred配置[mapreduce.map.maxattempts = 1]和默認的通常是4

    mapred.JobClient: Job Failed: # of failed Map Tasks 
    exceeded allowed limit. FailedCount: 1. 
    
  2. 通常你會想理解爲什麼失敗。 (而不是從您的文章肯定,如果你確定的問題)

它可能已經失敗了一個虛假的原因,你可以通過提供failure traps實現這個例外到您的MapReduce程序。您可以使用Hadoop API實現相同的概念。

看看這個答案:https://stackoverflow.com/a/9742235/1515370