有个大数据处理(应该是)的需求,求 Java 大神推荐解决方案

2023-05-28 21:37:40 +08:00
 bugmakerxs

目前遇到一个需求,应该是大数据处理范畴,不过我没有做过类似需求,看看各位有没有什么好的解决方案推荐

就是要实现图中的 taskA 、taskB 、taskC

技术栈是 JAVA

1057 次点击
所在节点    程序员
5 条回复
9113946
2023-05-29 09:14:39 +08:00
spark sql 轻松解决
xiangagou
2023-05-29 09:53:08 +08:00
看你的数据量和具体需求喽,大数据那套可以做,Java 自己处理数据也可以做.大数据主要搭起来麻烦,写写脚本都是比较简单的.
bk201
2023-05-29 09:55:08 +08:00
看你的图和大数据好像没啥关系。
bugmakerxs
2023-05-29 10:19:54 +08:00
@xiangagou 每天 100w 左右数据要处理,要考虑并行和水平扩容提高处理效率的话,感觉直接写代码会比较麻烦,,,process1~processN 之间也可能有相互依赖。flink 那套不知道能不能一把梭
xiangagou
2023-05-29 10:34:24 +08:00
@bugmakerxs flink 能搞得.我看了下 es 的 sink 端官方有的,source 端没有需要自己处理.

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/943681

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX