有沒有辦法在Azure上創建一個作業或Azure服務來將Azure blob文件移動(切割)到Azure數據存儲區?如何將azure blob文件複製到azure數據分析解決方案
回答
我會說Azure Data Factory非常適合這一點。它支持調度(https://docs.microsoft.com/en-us/azure/data-factory/data-factory-scheduling-and-execution),它支持將數據從Blob傳輸到Azure Data Lake。看到這個例子:https://docs.microsoft.com/en-us/azure/data-factory/data-factory-azure-datalake-connector
從網站:
數據工廠是編排和自動數據的移動和轉換基於雲的數據集成服務。您可以使用Data Factory服務創建數據集成解決方案,該服務可以從各種數據存儲中提取數據,轉換/處理數據並將結果數據發佈到數據存儲。
數據工廠服務允許您創建移動和轉換數據的數據管道,然後運行指定的時間表(小時,每日,每週等)的管道。它還提供了豐富的可視化功能,可顯示數據管道之間的沿襲和依賴關係,並可從單一統一視圖監控所有數據管道,輕鬆查明問題並設置監控警報。
https://docs.microsoft.com/en-us/azure/data-factory/data-factory-introduction
Azure的數據分析湖是的計算服務,而不是數據存儲。
數據湖分析工作可以連接到數據上:
- 數據湖店
- Azure存儲(BLOB):看到https://docs.microsoft.com/en-us/azure/data-lake-analytics/data-lake-analytics-manage-use-portal#manage-account-data-sources
- 其他來源通過聯合查詢:http://sqlblog.com/blogs/jorg_klein/archive/2016/06/17/setup-azure-data-lake-analytics-federated-u-sql-queries-to-azure-sql-database.aspx
因此,您可以將數據保留在blob存儲中,或使用Azure Data Factory將其轉移到Data Lake Store,以獲得最佳的分析性能並享受它的優勢其他好處(見https://docs.microsoft.com/en-us/azure/data-lake-store/data-lake-store-overview)。
- 1. 如何將Azure Blob文件複製到Azure本地存儲
- 2. 文件複製解決方案
- 3. Azure數據同步 - 將每個SQL行復制到Blob
- 4. 將圖像文件從URI複製或下載到Azure Blob
- 5. 將SQL數據庫從Azure Blob Azure上傳到SQL數據庫
- 6. Windows Azure Visual Studio解決方案
- 7. Azure AD Owin with Iframe解決方案
- 8. Visual Studio,將解決方案複製到構建文件夾
- 9. 如何發佈一個多項目解決方案到azure
- 10. 將大文件上傳到azure blob
- 11. 將文件上傳到Azure Blob存儲
- 12. 將多項目MVC4解決方案部署到Azure失敗
- 13. 無法將Azure CloudService項目添加到現有解決方案
- 14. 將ASP.NET Core解決方案與類庫一起部署到Azure
- 15. 將內部部署解決方案遷移到Azure
- 16. Azure:部署不屬於解決方案的文件
- 17. Azure創建數據磁盤並將文件複製到它
- 18. 有效地從Azure的Blob存儲的數據複製到S3
- 19. 將Azure數據工廠複製活動複製到Azure Data Lake表
- 20. 如何將包含兩個項目的解決方案部署到Azure App Service?
- 21. 如何將壓縮數據發送到Azure流分析?
- 22. Window Azure解決方案 - 未在本地解決方案下運行
- 23. 實時事件分析解決方案的最佳數據庫
- 24. 如何將zip文件上傳到azure blob然後解壓縮到那裏
- 25. 重構解決方案文件夾到新解決方案
- 26. Azure blob存儲文件路徑限制
- 27. 如何組織使用多個Azure功能的解決方案?
- 28. 如何在python中將數據流式傳輸到azure塊blob
- 29. 如何將文件上傳到Asp.Net Core中的azure blob?
- 30. 如何將本地文件複製到Azure存儲(V2)
谷歌的第一個結果:https://docs.microsoft.com/en-us/azure/data-lake-store/data-lake-store-copy-data-azure-storage-blob – RandomStranger
謝謝,我是在這。我的問題是,我是否總是需要手動運行這些命令來執行此操作,還是可以創建一個將在稍後自動執行此操作的作業? –