pgsql 增量同步 es 的一个疑问

2023-11-24 14:36:35 +08:00
 fatyoung
目前公司 pgsql 数据同步到 es 的方案是 debezium 监听日志发送 kafka ,然后 flink 消费 kafka 做同步 es 的操作。

小弟的疑问是为什么要加 flink 这一步,直接自己起一个 kafka consumer 消费这个变更日志去做同步 es 的处理不行吗,有什么区别吗
948 次点击
所在节点    程序员
6 条回复
vagusss
2023-11-24 14:45:56 +08:00
我觉得你想的是对的
Masoud2023
2023-11-24 14:57:06 +08:00
有现成的轮子为什么要自己造?
Masoud2023
2023-11-24 14:58:42 +08:00
我刚想起来 flink 好像不是我想的那个东西。。。记错了,我的问题
wu00
2023-11-24 15:01:20 +08:00
当然可以,甚至可以直接在 debezium 上配置 storage 的吧?一般 CDC 组件应该都会支持 es
fatyoung
2023-11-24 15:10:14 +08:00
交代一下背景:flink 不是因为这个需求才搭建的,flink 是本来就搭建好了的,但还是困惑为什么要经过 flink 这一层
mringg
364 天前
个人感觉,如果没聚合类型的操作,Flink 确实是多余的。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/994834

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX