Centos7 跟 window server 有没有什么办法简便的转移数据,最好脚本实现的这种

2019-05-31 15:12:25 +08:00
 la2la

有一个需求需要定时从 mysql 导出数据到 sql server

目前我的想法是,写个脚本定时把数据从 mysql 上导出成 csv 文件,然后 scp 复制到 window server (不太清楚能不能 scp )上,window server 上再写个脚本定时刷新有没有新文件,有的话,就解析导出到 sql server 中。有没有什么更好的方法。

2064 次点击
所在节点    程序员
18 条回复
tjyao520
2019-05-31 15:49:11 +08:00
navicat 连上 MySQL 不行么?
la2la
2019-05-31 15:53:39 +08:00
@tjyao520 从 window server 上不能连接 mysql 数据库,两个不同的局域网
pmispig
2019-05-31 16:04:33 +08:00
过来人告诉你,导出 CSV 一般是不行得,比如时间格式不一样,null 和空字段处理也不一样,各种冲突
x66
2019-05-31 16:08:36 +08:00
CSV 坑多,我们用 kettle 做数据增量同步
lihongjie0209
2019-05-31 16:16:47 +08:00
kettle
la2la
2019-05-31 16:27:05 +08:00
@pmispig 谢谢指导,json 文件,没这么多问题吧?
la2la
2019-05-31 16:28:26 +08:00
@x66 好的,谢谢,我看看 kettle
gz911122
2019-05-31 16:30:04 +08:00
kettle +1 之前公司这么搞

现在公司的话,每次插入的时候发个 kafak,然后另外一边订阅消费.

还有定时任务读 binlog 的,然后插入另外一个库
d0m2o08
2019-05-31 16:31:13 +08:00
传输大文件我都是开个 http 服务,直接下载
小文件就用 nc
la2la
2019-05-31 16:48:36 +08:00
@gz911122 好像有个问题,就是没有机器能同时连上两个数据库,这两个数据库都是内网访问,kettle 应该不行吧?
nexply1920
2019-05-31 17:11:50 +08:00
直接 wireguard 组个虚拟局域网不就通了嘛
flyoungstudio
2019-05-31 17:19:47 +08:00
网络不通怎么 scp ?拿 U 盘拷?
whsir
2019-05-31 17:22:13 +08:00
rsync ?
la2la
2019-05-31 17:46:06 +08:00
@flyoungstudio 抱歉,是我没说清楚,mysql 服务器+centos7 在一个局域网,但是 centos7 有公网 ip,sql server 服务器+window server r2 2008 服务器在一个局域网,window 有公网 ip。一共是 4 台机器
Takamine
2019-05-31 19:44:40 +08:00
导出来 csv 还不如直接 dump。(。ò ∀ ó。)
Actrace
2019-05-31 19:48:35 +08:00
写个程序不难吧。。
liaojl
2019-05-31 20:18:02 +08:00
我想的是 CentOS 上写个定时器,WinSever 上暴露个 RPC。定时器隔段时间检查 MySQL 有没有新数据,有新数据的话,就调 WinServer 的 RPC 同步到 SQL Server。
la2la
2019-05-31 21:17:07 +08:00
@Actrace #16 想偷懒

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/569484

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX