mysql 数据增量同步

5 天前
 sxinsuoyu20
一个内网服务器,一个外网服务器(数据定时采集服务器),现在想把外网服务器的增量数据同步到内网服务器(初始数据和表结构可以导成 sql 到目标库执行),表结构完全相同,可以有一定的延迟,各位 V 友们有什么好的方案和工具吗?原先没研究过,最好有具体的实现方案帖子、视频、或者开源项目,一站式部署,学习成本比较低,免费拿来就可以用最好了!
2151 次点击
所在节点    MySQL
23 条回复
fool1024
5 天前
chen15798
5 天前
seatunnel
iyiluo
5 天前
直接弄个主从,如何开启 mysql 主从,网上一大堆
Marelbruim
5 天前
用 datax 一个脚本的事
junphe
5 天前
楼上都有提到对实时有要求 Mysql 主从就可以了
sxinsuoyu20
5 天前
@fool1024 @Marelbruim 你好,我查了一下感觉也有点懵啊,canal 和 datax 哪个更容易搭建,有什么区别吗?是开源免费的吗? java 环境可以吗?
sxinsuoyu20
5 天前
@iyiluo @junphe 你好,主从就可以实时复制数据了吗?服务器需要开放 3306 端口吗?可以双主吗?一方数据有变动其他的也会自动同步
Marelbruim
5 天前
hetal
5 天前
percona toolkit
realpg
5 天前
innodb cluster
但是坑不少 你得踩踩
Actrace
5 天前
@sxinsuoyu20 双主,或者多主,可以用用 MariaDB 的 Galera 。限制是只能 innoDB 引擎。
junphe
5 天前
@sxinsuoyu20 主从是实时增量,数据结构都可以同步的,从库必须可以链接到主服务,最好给单独开启账号配置服务,你可以在网上搜索相关的资料比较多,只要是数据的配置就可以了
XyIsMy
5 天前
同个类型数据库,搭建主从或双主就可以了
bootvue
5 天前
cloudcanal
Karte
5 天前
@junphe 方案是可以, 但是主从会存在对主库操作延迟. 再加上网络问题等, 可能会影响到主库的正常处理. 建议还是使用类似 CDC 的实现 (Flink, 部署麻烦), DataX.
kios
5 天前
canal 或者 flink-cdc
junphe
5 天前
@Karte 主从实际是对主 Mysql 的 Binlog 读取和传输,受服务器 IO 和网络影响!但是对主库操作延迟,未仔细研究,我觉得应该影响不大。之前有同步过 aliyun 的 mysql 到本地机房,运行良好。如本地断网,等网通后会自动同步,做好延迟监控!
miniliuke
5 天前
debezium+kafaka 或者 flink cdc
qW7bo2FbzbC0
5 天前
@fool1024

请问这两个在数据同步上区别是什么?(看起来 dataX 抽象程度更高,在 MySQL 同步上 dataX 是依赖于 canal 或者内置了 canal 还是自己重新实现了同样的逻辑?)
仅针对于 mysql 数据增量同步这两个更推荐哪个?
ccloving
5 天前
@sxinsuoyu20 可以双主,我有具体的代码,你加我,我发给你

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1095406

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX