请教一个需求,后端和 Python 调用问题

2023-05-27 11:35:11 +08:00
 ciki

后端 API 都是用 springboot 写的,现在有一套 python 写的 tensorflow 代码,需要提供 API 对外访问,目前想到的办法就是微服务,通过 Fegin 调用,有没有更好的办法?

1790 次点击
所在节点    Java
9 条回复
dayeye2006199
2023-05-27 11:50:12 +08:00
模型导出来,转成 onnx 格式。

然后程序侧用 onnxruntime 的 java binding 把模型导入进来: https://onnxruntime.ai/docs/get-started/with-java.html
a33291
2023-05-27 12:02:24 +08:00
onnx 貌似说有性能和精度损失?
ciki
2023-05-27 12:09:10 +08:00
@dayeye2006199 需要接受用户的原始数据做训练
dayeye2006199
2023-05-27 12:17:18 +08:00
@ciki 那还是单独做个服务,拿 API 或者 RPC 暴露出来把。

你是要帮助用户去微调模型?
ciki
2023-05-27 13:18:58 +08:00
@dayeye2006199 做迁移学习
liuzhedash
2023-05-27 14:06:03 +08:00
孤陋寡闻了,居然没听说过 Fegin 。
做过类似事儿,是通过套一层 flask ,提供一些 REST API 实现的,把并发调用的情况处理好,或者干脆业务层面不让并发统统排队,就没啥问题。
litchinn
2023-05-27 15:23:16 +08:00
java 直接调用 python 呢,https://github.com/ninia/jep
不过这些方法没有谁比谁好,看你的使用场景来选择吧
ciki
2023-05-29 10:14:58 +08:00
@litchinn 看了下,不太敢上生产
Lambdua
2023-06-16 11:20:28 +08:00
这个库,我又在用,还算稳定,只是要开发 java 的人熟悉 python
@ciki

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/943375

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX