2013-05-01 63 views
1

有沒有人有過數據管道的經驗?在aws數據管道上傳遞參數

我一直在試圖找出是否有辦法在管道中的活動之間傳遞參數。不幸的是,aws文檔對這些問題沒有太大的幫助...... 可以說我有一個ShellCommandActivity和一個EmrActivity。 我想從我的ShellCommandActivity一個字符串,我以後可以使用作爲我EmrActivity參數(可以說文件名或S3路徑) 或可能在管道的其他對象 - 例如數據節點

任何幫助將不勝感激

+0

我有類似的問題來解決任何其他解決方案將高度讚賞。 – 2017-07-11 05:44:55

回答

1

實現這一目標的一種方法是讓shell腳本將字符串寫入S3中的某個文件。在EMR活動中讀取文件。另外添加EMR活動取決於ShellCommandActivity

+1

謝謝你的回答。我們最終發現的解決方案不是使用aws數據管道。推出我們自己的...更簡單 – gurus3rd 2013-12-16 16:35:51