关于 Spark Task 的疑问

2020-08-04 21:12:30 +08:00
 starry97

关于上面那个图,ShuffleMapStage 中,有三个 RDD,每个 RDD 有三个分区 我看网上文章都是说一个分区对应一个 task,

1.上面那个 ShuffleMapStage 中阶段里是否存在 9 个 Task 。

2.但站在 pipeline 角度上看,应该只有三个 task,每个 RDD 的一个分区组合成一个 task 。

上面两种说法,哪种是正确的呢,被搞糊涂了。谢谢!

2444 次点击
所在节点    Spark
2 条回复
Finch
2020-08-05 01:01:22 +08:00
一般是多少个 partition 就有多少个 task 。
如果是 9 个 task 就没有 DAG 的必要了。
starry97
2020-08-05 10:04:45 +08:00
@Finch 一般是多少个 partition 就有多少个 task 。 那 ShuffleMapStage 中有 9 个分区,那么就有 9 个 task 了?

不过我现在知道了,是以 stage 最后 RDD 的分区数为例,还是感谢您!

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/695639

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX