2012-02-06 109 views
8

我一直在尋找Esper(和風暴)流處理..埃斯珀似乎正是我想要的..即roling的手段,中位數,複雜的查詢等...但有一件事情讓我想知道。如何通過esper進行擴展?

我如何通過Esper向多個實例擴展?

據我瞭解,雨水處理分佈式處理,但埃斯佩爾你對你自己的。

我不會需要做的是爲未來forseable,但隨着我們的成長,所以我們將數據量,就需要再進行擴展,爲好。我們很可能會部署在Amazon EC2中。

我會需要它們發送到我的艾斯波應用程序之前運行多個服務器和碎片數據?

有沒有更優雅的處理方式?

-Sajal

回答

9

可以螺栓內運行一個實例艾斯波,這意味着風暴將處理元組/事件聯合會,並艾斯波將處理CEP上它接收在給定螺栓的事件。

這有大約在風暴之錘嵌入艾斯波一些代碼和信息: http://tomdzk.wordpress.com/2011/09/28/storm-esper/

但是...... 你需要有一個支持相對無國籍艾斯波引擎處理的數據子集的使用情況。

例如:你正在按城市計算每日平均氣溫。如果不使用基於城市字段的shuffleGrouping分發元組,則每個Esper bolt可以在每個城市有不同的數據集。

基本上,一定要對如何將數據提交到該架構之前分佈在風暴拓撲閱讀起來。

+0

這是一個有趣的方法。然而,就我們的情況而言,Esper的單個實例看起來對於可預測的未來將會很好,之後我們可以執行storm + esper,或者我們可以手動分割。以你的溫度爲例,我們將追蹤10-15個城市,每個城市都會得到一個平均數量的數據,每個城市可以完全分開處理,只有摘要可以在以後進行比較。 – sajal 2012-03-20 20:35:40

+0

因爲我知道大多數esper函數是基礎上下文,換句話說就是它的名字。如何讓風暴發送正確的元組到右邊的esper螺栓? – 2012-09-21 03:46:18

0

從你的問題看來,似乎EsperHA是相關的?你看過嗎?

EsperHA是針對零停機ESP/CEP事件 處理的完整解決方案。它將Esper與本地內存緩存相結合,具有彈性的 溢出到磁盤或數據庫,以及具有熱備份功能的羣集配置 。

+0

看來EsperHA只處理複製,而不是分配。我的問題是關於分配負載到多個實例的具體問題。我沒有問可用性。 – sajal 2012-03-31 11:06:45

+0

我知道EsperHA,但沒有使用它。它似乎是一種付費產品,而我們的商店只是在探索免費選項。 – cmonkey 2012-09-23 21:00:28