1
我們正在考慮使用MsConcat函數合併存儲在Azure Data Lake Store中的大量小文件。我想知道是否有一些文件的限制。我還沒有看到任何有關documentation中文件數量限制的信息。使用MsConcat連接文件的上限文件數限制是多少?
我們正在考慮使用MsConcat函數合併存儲在Azure Data Lake Store中的大量小文件。我想知道是否有一些文件的限制。我還沒有看到任何有關documentation中文件數量限制的信息。使用MsConcat連接文件的上限文件數限制是多少?
msconcat API旨在連接多達500個文件。在大多數典型情況下,對於這種規模的作業來說,它應該可以正常工作。有一些不常見的情況,例如當系統處於高負載狀態時,您可能會看到500個或更低文件的故障。然而,這些在正常操作期間不是預期的。
這可能是因爲U-SQL有一個名爲[filesets](https://msdn.microsoft.com/en-us/library/azure/mt771650.aspx)的概念,因此不需要物理連接文件。 。請首先告訴我們更多關於您的要求(例如文件類型,內容,期望結果)。 – wBob
正如我所說的,我想合併大量(10K到20K)的小文件作爲使用MsConcat的第一步。在下一步中,我將使用文件集模式處理用於U-SQL處理的合併文件。 – Jamil
@Jamil這是一個有效的問題,我很快就會回覆你。 –