想请教一下大家 Spark 作业工程是怎么编排的呀

2019-09-20 10:28:35 +08:00
 code2019

有很多不同类型、不同指标的 Spark 作业

  1. 是每个指标一个项目，打成一个独立的 jar 包，名字也独立的。但是一个项目中模块太多了，太难组织了吧

  2. 还是一个大的工程放所有的作业，打成一个 jar 包然后再执行作业的时候指定不同的 class 呢？但是这就有一个问题，同一个 jar 包的名字肯定相同，那服务器上要怎么管理这些文件呢？如果同一个文件名，替换 jar 包又可能会影响正在作业的服务？

1727 次点击
所在节点    程序员
4 条回复
scalaer
2019-09-20 10:33:51 +08:00
独立的 jar 为什么难组织？ 优化下 CI /CD
knightdf
2019-09-20 10:36:23 +08:00
jar 包带版本号？
myhot21
2019-09-20 10:52:20 +08:00
我是相关的作业任务都打在同一个 jar，启动时报告不同的 class，管理上还是非常方便的。
rotciv
2019-09-20 10:53:06 +08:00
给每个作业指定一个独立的路径来存放 jar 包

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/602426

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX