sqlServer 如何增量同步数据到 MySql,小公司买不起 DTS 服务

2024-03-06 14:03:05 +08:00
sssmm666  sssmm666
公司有个需求需要读取 sqlServer 数据库的数据到 MySql 数据库,看了下 DTS 服务好贵公司估计不肯掏钱,还有什么其他的方法或工具可以实现吗,不想自己写代码实现啊,主要表有点多
https://imgur.com/a/Sx5MuGP
2311 次点击
所在节点   MySQL  MySQL
26 条回复
littlewing
littlewing
2024-03-06 14:19:46 +08:00
sssmm666
sssmm666
2024-03-06 14:26:24 +08:00
@littlewing Datax 用不了,有些表没有时间属性的,另外两个看了下,没看到支持 sqlServer 的
vczyh
vczyh
2024-03-06 14:57:58 +08:00
goodryb
goodryb
2024-03-06 15:17:27 +08:00
先从架构上看看,C 库为什么要用 mysql ,都用 SQLserverless 行不行,同类型数据库相对来说比较容易做同步

其次,同步的数据主要用作什么,入大数据还是日常的查询分析,这种一般都有数据集成工具,支持各种数据源
N9f8Pmek6m8iRWYe
N9f8Pmek6m8iRWYe
2024-03-06 15:25:28 +08:00
大数据平台的 CDC ,用 streamset ,参考: https://blog.csdn.net/BlackArmand/article/details/106407801
kgcHQbTYyvcz2w3j
kgcHQbTYyvcz2w3j
2024-03-06 15:31:54 +08:00
Kettle ? 要我就手撸 ETL ,定义好规则代码写起来很快的
0xsui
0xsui
2024-03-06 16:08:34 +08:00
@xyzmax Kettle 被日本日立收购了吧,现在找个在线下载都费劲了
xiaoer90
xiaoer90
2024-03-06 16:15:43 +08:00
cloudcanal ,3 个月免费,过期更新一下许可证就可以
lstz
lstz
2024-03-06 16:18:11 +08:00
没钱的话,用最大众的 mysql 就是稳的。

不过自己应用层写写代码,应该也能实现
x66
x66
2024-03-06 16:45:45 +08:00
nifi 自己手撸 SQL
asmoker
asmoker
2024-03-06 17:39:26 +08:00
可以试试 debezium (坑真 TM 的多,随便一搜时间戳处理的开源 Transforms 库就 TM 一大堆...
ukhack
ukhack
2024-03-07 10:17:08 +08:00
@0xsui 哪里费劲了,一搜一大堆
smallpigzbl
smallpigzbl
2024-03-07 14:13:08 +08:00
我用的 airbyte ,开源版本,本地 docker 部署,不是太老的 SQLSERVER 都可以
sssmm666
sssmm666
364 天前
@goodryb 因为我用惯了 mysql 加上用的开源框架,都用 sqlserver 的话使用开源框架那边也得换,因为目前只是从 sqlserver 读取数据的来做大屏分析和后台系统的饼图柱状图这些
sssmm666
sssmm666
364 天前
@lstz 客户用的是 sqlserver,我这边是需要去客户的数据库取数据的
sssmm666
sssmm666
364 天前
@asmoker 我昨天网上搜了一堆,flinkCDC 好像就是用的这个读取变更的数据
sssmm666
sssmm666
364 天前
@smallpigzbl 我去试下这个,昨天忙活一天用 flinkCDC 跑通了
sssmm666
sssmm666
364 天前
@lstz 自己写是最后的方案,要是找不到就只能自己手戳应用层了
sssmm666
sssmm666
364 天前
@vczyh 我找到的 flink-cdc 好像就用这个做插件读取变更数据的,感谢了
sssmm666
sssmm666
364 天前
昨天研究一天找到了解决方案了,用的是 flink-cdc 来处理,感谢各位的解答

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1021090

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX