问一个关于深度学习训练任务&资源分配的问题

2021-01-13 16:05:59 +08:00
 lllllliu

被迫研究深度学习，在一台服务器上跑自己的几个模型训练。 现在管理的方式是 ide 远程提交脚本，ssh 上去开个 screen 跑，过会儿再过来看。同时会跑两三个不同模型的训练。 问：是否有可以管理 python&tensorflow 训练任务的开源平台呢？最好是脚本提交的，那种可视化的好像没啥用。。。 emmm 可以支持分布式调度的最好。。目前一台服务器有点顶不住

1052 次点击
所在节点    问与答
4 条回复
xjx0524
2021-01-13 16:16:29 +08:00
kubeflow?
northisland
2021-01-13 16:28:40 +08:00
见过顶级大神，自己介绍巅峰时，一天只做 10 个实验，炼 10 个丹。
第 2 天看整理结果和思路。

不是很复杂，screen 或者 tmux 窗口编上号。

复杂点，就搞个 rabbitmq + [任务队列 或者 pika]。执行脚本扔 mq 里，自动调度练丹顺序。
lllllliu
2021-01-13 16:30:06 +08:00
@xjx0524 有一丢丢复杂看起来。。想给大家用，就是大家写好 py 直接提交下，能监控运行状态和输出就好了。
lllllliu
2021-01-13 16:31:06 +08:00
@northisland 这个可以有

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/744592

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX