1

我的問題將是一個親/一個。我希望將數據從Amazon S3傳遞到Elasticsearch,並考慮兩種選擇:通過Logstash或通過Lambda進行通道傳輸。哪一個會是更快/更容易/更有彈性的解決方案,爲什麼?有沒有人有任何經驗?Amazon Web Services - S3 - Logstash或Lambda將數據導入Elasticsearch?

謝謝!

+0

你肯定拉姆達標籤?它比lambda亞馬遜服務更適合編程語言中的lambda – baudsp

+0

好吧,它叫做Lambda,雖然我理解了這種混淆。 –

+0

在編程語言中,lambda標籤是關於lambda的。所以你問題中的lambda標籤是誤導性的。並且有一個標籤[aws-lambda](http://stackoverflow.com/questions/tagged/aws-lambda) – baudsp

回答

2

聲明:我的經驗僅限於Logstash。

使用logstash,您必須使用logstash安裝和配置來處理服務器。但是你不必編寫任何代碼,並且你有插件準備好處理連接。
如果您沒有修改數據,則配置非常簡單。如果你有修改Logstash有不同的插件來做不同的操作。
Logstash documentation

從我瞭解AWS-LAMBDA,你會不會來管理服務器和應用程序,但你必須寫所有的代碼,包括連接到S3和Elasticsearch。

1

到目前爲止,AWS不支持自定義logstash服務模塊。所以就像你說的,我們有兩種方式:

  • logstash 優點: 你可以利用的所有logstash功能和過濾器日誌航運 利弊 流行的標準工具: 您需要設置和EC2機運行logstash代理。

  • Lambda函數 優點: 不需要服務器設置,我也相信沒有額外的成本。 缺點: 你需要編寫的代碼從S3讀取和寫入ElasticSearch

我也碰到過這樣的拉姆達函數,它這個標準運費。 https://github.com/arithmetric/lambda-stash

看起來很有希望,但似乎不支持logstash過濾器