我想從我的oracle數據庫公開數據表並公開到apache kafka。技術可能嗎? 以及我需要流從我的oracle表中更改數據並通知給Kafka。 你知道這個用例的好文檔嗎? 謝謝使用Apache的Oracle複製數據kafka
回答
您可以使用Kafka Connect數據導入/導出到卡夫卡。使用Kafka Connect非常簡單,因爲不需要編寫代碼。你只需要配置你的連接器。
如果沒有連接器可用並且您想提供自己的連接器,則只需編寫代碼即可。已有50多個連接器可用。
有是Oracle從合流公司的連接器(「金門」):https://www.confluent.io/product/connectors/
你需要卡夫卡JDBC連接源連接器從Oracle數據庫加載數據。 Confluent有一個開源捆綁連接器。它已與Confluent平臺的其餘部分(包括模式註冊表)打包並測試過。使用此連接器與編寫簡單的連接器配置並啓動獨立的Kafka Connect過程或向Kafka Connect羣集發出REST請求一樣簡單。可以找到此連接器的文檔here
要將更改數據從Oracle事務數據庫實時遷移到Kafka,您需要首先使用Change Data Capture(CDC)專有工具,該工具需要購買商業許可證,如Oracle Golden Gate,Attunity Replicate,Dbvisit Replicate或Striim。然後,您可以利用它們全部提供的Kafka Connect連接器。它們全部列出here
Redbe的開源CDC工具Debezium計劃使用不依賴Oracle Golden Gate許可證的連接器。相關的JIRA是here。
嗨Slim,這是一個全面的答案。唯一我想在此添加的是Striim可以實時讀取CDC並實時寫入kafka並具有容錯功能。 (正如我上面提到的,我爲Striim工作,所以我知道......- :))。 – PGK
- 1. Apache Kafka:鏡像與複製
- 2. 在Apache Kafka中保留數據
- 3. 與Kafka的Apache Mesos
- 4. Apache Kafka - Aggregation
- 5. Oracle:將數據庫Oracle 10.2.0.2複製到Oracle 12c
- 6. 將數據從SQL Server複製到Oracle
- 7. 想要將oracle數據複製到hadoop
- 8. 使用apache kafka生成數據並使用火花流接收它
- 9. 不能在Apache Kafka上使用主管
- 10. 你使用Apache Kafka做什麼?
- 11. 在Apache ServiceMix中運行Kafka使用者
- 12. 使用SSIS複製數據
- 13. 使用C#將數據從一個oracle數據庫複製到另一個oracle數據庫
- 14. 如何使用kafka連接將kafka主題下載到oracle中
- 15. Apache Kafka Consumer - 從控制檯終止
- 16. 使用Apache Spark批處理Apache Kafka的偏移管理
- 17. 如何使用Apache Kafka API獲取主題的複製因子和保留小時數
- 18. Apache Flink Kafka集成
- 19. confluent platform vs apache kafka
- 20. WSO2 MB與Apache Kafka
- 21. 使用Apache Kafka 0.10.0 API創建Kafka經紀人集羣使用Java
- 22. Oracle函數:複製wm_concat
- 23. Oracle:從Oracle表中自行復制數據
- 24. angular.js與apache kafka的集成
- 25. Apache Kafka的Datastream生成器
- 26. 使用Kafka將數據導入Hadoop
- 27. 將電子表格數據複製到Oracle數據庫
- 28. 使用Apache Poi複製Excel顏色
- 29. Oracle數據庫的限制
- 30. Oracle:我應該使用複製嗎?
如果您只是想閱讀(選擇查詢)並推送到Kafka,那麼簡單的JDBC代碼就足夠了。但是,如果您想實時傳輸CDC(更改數據捕獲),那麼您需要某種可以使用Logminer或xstream讀取CDC的產品。 Striim(我爲Striim工作)有這樣的產品。還有其他產品,但沒有我知道的免費或開放源代碼。 Oracle的Golden Gate可以讀取kafka的GG路徑,但不確定它也可以寫入CDC。希望這是有幫助的。 – PGK
看起來像Slim以下已經回覆了或多或少一樣。 – PGK