搭建 [物联网] 数据中台

33 天前
 RedBeanIce
我们是一个 30 人不到的小开发团队。

目前选型数据库是 tdengine ,但是遗留了很多老系统有数据库 sql server ,mysql 等等

我们要将这些其他数据库的数据同步到 td 里面,我们查询了很多文档,类似 datax 方案,类似 flink cdc 方案,消息队列方案,流处理方案,数据库本身自带的主从方案。

请问一下问题:
1 ,我们选择 td 数据库有问题么
2 ,数据同步方案有推荐的么,我们目前准备使用 datax ,原因是他简单。
我们没有人维护 flink 大数据相关的集群,也没有人去维护消息队列的高可用。
3179 次点击
所在节点    数据库
50 条回复
RedBeanIce
32 天前
@VoiceEXONE 猜想的是,直接查询 td 数据,然后进行数据分析。
hero1874
32 天前
@yinxs2003 #40 楼主公司在运维投入不会太多,clickhouse 要考虑运维啥的,我们从 clickhouse 转 doris 其中一个原因就是 clickhouse 运维的问题
yinxs2003
32 天前
@hero1874 额,那确实得考虑(笑
yinxs2003
32 天前
@RedBeanIce 数据分析不都是 hive 吗?难道还有别的选择……
yinxs2003
32 天前
@yinxs2003 量小 doris 也不是不可以,但我们隔壁部门 doris 数仓总崩
FanError
32 天前
@hero1874 老铁展开说说,clickhouse 要运维些啥内容。。我们没专业运维,准备选这个。狗头.jpg
yinxs2003
32 天前
@FanError 运维成本高被,总能碰到些有的没的问题
yinxs2003
32 天前
@yinxs2003 分布式的 那数据量运维成本就没不高的
yinxs2003
32 天前
顺便说一句,可以考虑 mongo 集群,这个作为成本应该比较低,数据量千万级别应该可以支撑,我猜的
hero1874
31 天前
@FanError #46 差不多就是回复你的老哥说的那些,再加上扩容缩容,分布式表配置等等,如果你们没有专门的运维慎重考虑下,我当时除了数据开发还兼着 ck 的运维,头痛啊

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1045147

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX