深度学习部署在生产环境,用哪个框架合适?

2020-07-22 15:30:48 +08:00
 black11black

如题,最近公司业务上有个非常简单的需求,就是通过用户的大约十个左右的行为特征,估测用户的收入,以判断该用户是高收入人群还是低收入人群。

我平时使用 DL 相关的东西不多,还好这个网络比较简单,基本上只是全连接层而已,目前用 keras 试做了一个 demo 版本,预测效果还不错。

现在有一个问题是,业务要求是这个东西要移植到生产环境,我司业务后端是 django,我要把它接入,不能用训练环境跑结果。基本上要求就是,它的速度越快越好,占用内存越小越好,后者重要性大于前者,部署的时候会集群,内存太大扛不住。

然后另外一个需求就是最好是 CPU 计算而非 GPU 计算,因为部署环境指不定就上云端,不能确保部署环境里面有显卡。

理想情况就是我用某框架,训练完毕以后他有自带的方法,生产出一个 dll,我直接在业务端调用这个 dll 就行了。

有符合条件的框架吗?如果有多个的话就学习成本低一点的?谢谢各位 V 友

1152 次点击
所在节点    问与答
2 条回复
valar000
2020-07-22 23:28:45 +08:00
keras 有 tf 自家的部署,就一层网络用 cpu 应该没差多少
liprais
2020-07-23 10:02:37 +08:00
tf serving 就行

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/692213

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX