做大数据方向的 Java 开发，什么水平可以胜任？

[cirton]

不涉及 java web 的话，java 掌握到什么程度可以胜任呢？

[cyril4free]

用上框架就是普通后端开发，外加事务和性能调优吧。如果是写框架那是真牛了。

[pwrliang]

@Wisho 没错，我现在天天写 SQL.非常后悔

[snappyone]

写业务的基本就是懂 sql 就行，把业务转化为 sql/类 sql 的语言。
做底层框架开发要求相对比较高，底层的 java、scala、反射、分布式、各种缓存、二级索引，比如我现在就在蛋疼得写一个 sql 解析器，把 sql 语法转化为通用的数据处理任务，屏蔽业务层开发复杂度。。。

[Wisho]

@snappyone 老哥，纯手写的话了解下 antlr v4 ？高层抽象一点的话看看 calcite 那套能用不

[snappyone]

@Wisho 我现在用 druid 做基本的解析，然后想办法匹配到我们的业务层对应方法组件，这两个我也去看看，谢啦

[lycbug666]

@snappyone 之前做了个 Flink SQL 的解析器，就是用的 calcite

[WaitingForSun]

@lycbug666 我也在做这个耶，握个抓

[CaptainKevin]

上层工作做大数据系统，下层定制大数据组件

[liprais]

sql 想要写的好也不容易，眼高手低要不得

[fuyufjh]

大数据也分很多种啊。上面有人提到了 calcite，可以一读，代码质量很高

[lycbug666]

@WaitingForSun 在阿里吗？感觉用上实时计算的公司还不是很多

[limbo0]

@lycbug666 都是搞 flink 的啊，实时计算现在很多啊，一般都是离线＋实时啊

[WaitingForSun]

@lycbug666 圈子很小很小的 哈哈哈哈哈

[pain400]

@Wisho 难道我周围的大数据工程师都是在写 sql ？感觉他们天天讨论些机器学习的东西

[Wisho]

@pain400 看公司吧，有的公司招“大数据工程师”会在 JD 里写清楚要精通机器学习的，那种是招进去做机器学习，不过数据集太大，实现时要用很多大数据组件支持，所以公司会觉得这就是“大数据工程师”。

[lycbug666]

@WaitingForSun 🤣🤣是这样的 能私下交流么 我也留学生

[Nickd]

现在学生。之前也有过楼主的想法，然而，到了公司才发现入门都是先写几个月 sql、hql

[WaitingForSun]

@lycbug666 吼哇吼哇，我的邮箱是 inkyle#me.com 一起玩耍~

[halk]

@Wisho +1

[Roni]

@lycbug666 @WaitingForSun @fuyufjh 我也在研究 Calcite~~