2017-03-17 23 views
1

我們正在考慮使用MsConcat函數合併存儲在Azure Data Lake Store中的大量小文件。我想知道是否有一些文件的限制。我還沒有看到任何有關documentation中文件數量限制的信息。使用MsConcat連接文件的上限文件數限制是多少?

+0

這可能是因爲U-SQL有一個名爲[filesets](https://msdn.microsoft.com/en-us/library/azure/mt771650.aspx)的概念,因此不需要物理連接文件。 。請首先告訴我們更多關於您的要求(例如文件類型,內容,期望結果)。 – wBob

+0

正如我所說的,我想合併大量(10K到20K)的小文件作爲使用MsConcat的第一步。在下一步中,我將使用文件集模式處理用於U-SQL處理的合併文件。 – Jamil

+0

@Jamil這是一個有效的問題,我很快就會回覆你。 –

回答

0

msconcat API旨在連接多達500個文件。在大多數典型情況下,對於這種規模的作業來說,它應該可以正常工作。有一些不常見的情況,例如當系統處於高負載狀態時,您可能會看到500個或更低文件的故障。然而,這些在正常操作期間不是預期的。