2016-08-18 156 views
0

背景BIGQUERY BQ負載內部錯誤

我試圖加載JSON文件x.json使用BQ CLI。

貓x.json

{ 「名」: 「XYZ」, 「手機」: 「XXX」, 「位置」: 「ABC」}

{ 「名」:「XYZ 」, 「移動」: 「XXX」, 「年齡」: 「22」}

所用命令

BQ負載--autodetect --source_format = NEWLINE_DELIMITED_JSON項目:test_datasets.cust x.json

'cust'是一個具有空模式的表。

我正在使用'--autodetect,以便BigQuery自動檢測模式。

輸出

上傳完成。

等待上bqjob_r475558282b85c552_000001569cf1efd8_1 ...(1S)現狀:已完成
在負荷運轉的BigQuery錯誤:錯誤處理工作「項目:bqjob_r475558282b85c552_000001569cf1efd8_1」:發生內部錯誤,請求無法完成。

任何想法,爲什麼發生內部錯誤以及如何解決它?

+0

您需要重試!內部錯誤是99%正常運行時間的SLA的一部分:) – Pentium10

+0

ok ..right工作... :) – Rohan

+0

如果答案幫助您解決了問題,並且您接受了它,那麼您還應該考慮投票。有關http://meta.stackexchange.com/questions/5234/how-does-accepting-an-answer-work#5235中的http://stackoverflow.com/help/someone-answers和Upvote部分,請參閱更多內容。 –

回答

0

我們看到幾個問題:

  • 請求隨機失敗,類型「後端錯誤」
  • 請求隨機失敗,類型「連接錯誤」
  • 請求隨機失敗,類型「超時」 (注意這裏,因爲只有一些行失敗,而不是整個有效載荷)
  • 其他一些錯誤信息是非描述性的,他們太模糊以至於他們不幫你,只是重試。
  • 我們每天都會看到數百個這樣的故障,所以它們幾乎不變,並且與雲的健康狀況無關。

對於所有這些,我們在付費的Google Enterprise支持中打開了案例,但不幸的是他們沒有解決它。它接縫推薦的選項是指數回退,重試,甚至支持告訴這樣做。此外,失敗率符合我們在SLA中的99.9%正常運行時間,因此沒有理由反對。

關於SLA有一些需要注意的地方,它是一個非常嚴格定義的結構,詳細信息是here。 99.9%的正常運行時間不會直接轉化爲失敗率。這意味着如果BQ有一個月30分鐘的停機時間,然後在該時間段內做了10,000次插入,但在該月的其他時間沒有插入任何插入,則會導致數字串接。這就是我們爲什麼建議一種指數退避算法的原因。SLA明確基於正常運行時間而不是錯誤率,但如果您在不同的時間使用退避重試設置在整個月內進行流式插入,兩者在邏輯上密切相關。從技術上講,如果你已經設置了適當的重試機制,那麼如果你在本月進行插入,平均應該體驗大約1/1000失敗插入。

你可以看看這張圖你的項目健康: https://console.developers.google.com/project/YOUR-APP-ID/apiui/apiview/bigquery?tabId=usage&duration=P1D