Linux 下的用户任务队列

[speedcell4]

研究室只有 2 台服务器，每台上面 8 块显卡。每天都很多人要跑实验，经常出现抢显卡打架的情况。

是否有现成的工具可以满足下面的需求呢：

1. 每个用户登陆到服务器之后，提交跑实验的命令，而不是直接自己开始跑。
2. 服务器会自动在这 2 台服务器上调度任务：
3. 如果当前没有 GPU 可用，队列里的任务就都等着
4. 如果有 GPU 空出来了，队首的任务就开始跑
5. 并且能做到公平分配 GPU 运行时间给每个用户，比如刚跑了一个耗时很长的实验的用户在一段时间内不会再让他跑

[laqow]

自己以前实验室没这么紧张，没具体弄过。不知道你们做啥实验，生物信息的话可以拿 autodock，zdock 之类的关键字搜搜日本大学或国内大学的公共实验平台，可以看他们的管理方法。另外一些商业软件运算自带这种系统的。

[churchmice]

sungrid

[razrlele]

https://github.com/Qihoo360/XLearning

[wannafly]

最传统的 IBM 的 LSF 应该就可以, 使用方法就是你描述的那样.

[hackpro]

好问题，关注，组里 DL 大户太狠了……

[swulling]

自己写一个吧，周末应该可以写一个能用的

[defunct9]

挖矿很不错啊不错👍

[xuanyuanaosheng]

slurm 或者 lsf，这些是传统的调度系统，也可以研究下 singlarity，这个是类似于 docker 的

[omph]

用 Hadoop Yarn 搭建一个资源管理平台

[msg7086]

前几天刚刚写过一个类似的，不过没有普遍性（也不像你说的那样能动态调度或者有用户管理）。

不过从头写一个不麻烦 XD

[luoshuangfw]

楼主的需求正是传统意义上的集群调度系统。可以从 PBS 开始了解，开源的闭源的都有，闭源代表如 2 楼提到的 SunGridEngine

[speedcell4]

@msg7086 可以开源一下作为参考么，多谢多谢~

[msg7086]

@speedcell4 https://g.x86.men/root/KumaTama

请不要将 Repo 地址或内容转发到其他网站上。一周后我会关掉访问权限。
这套东西对其他人来说没有直接运行的价值，所以我觉得最多就是看看代码，抄抄结构就行了。