现在市面上有使用 ARM NPU 的板子吗?支持 Linux 吗?

2023-12-15 10:17:58 +08:00
 usb7
2421 次点击
所在节点    Linux
22 条回复
mingl0280
2023-12-15 10:26:31 +08:00
瑞芯微好像有,Linux 没试过
zhengjing
2023-12-15 10:33:05 +08:00
很多了,便宜的全志和 RV 都有,贴一个全志的: https://v853.docs.aw-ol.com/
sunmacarenas
2023-12-15 10:35:57 +08:00
可以看看 Nvidia Jetson orin agx ;不过是 GPU
ryan4yin
2023-12-15 10:36:06 +08:00
rk3588 之类的板子,官方 sdk 基本都只支持 Linux 啊,rknn / rknpu 之类的
XIVN1987
2023-12-15 10:36:30 +08:00
RK3588 ,,6T 算力。。
timeance
2023-12-15 10:40:04 +08:00
Jetson Orin 系列,20T~275T 算力
ormand1bd
2023-12-15 11:02:54 +08:00
有,支持
tangtang369
2023-12-15 11:06:50 +08:00
都支持 linux 的 现在 arm 板都是安卓或者 linux
usb7
2023-12-15 11:46:27 +08:00
@XIVN1987 请问 RK3588 用的哪家公司设计的 NPU ?它的文件里没说,只是说: 6TOPs@int8
https://www.rock-chips.com/uploads/pdf/2022.8.26/192/RK3588%20Brief%20Datasheet.pdf

请问在 RK3588 上运行什么版本的 Linux ?你有在 RK3588 的板子上,实际运行过 TensorFlow 吗?
tangtang369
2023-12-15 11:55:23 +08:00
@usb7 3588 官方板是 debian 第三方版是 ubuntu ,npu 大多数都不支持直接运行 TensorFlow 等框架 ,是要利用他们自己的转换工具,把 tensorflow/pytorch/onnx 转成 npu 专用的模型格式,3588 的其实就是三个核心的 2T ,这个芯片据称是自研的,但是在这之前几代的 npu 用的是芯原的
XIVN1987
2023-12-15 11:57:38 +08:00
@usb7

你管他用的哪家的 IP ,,不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗,,难道你还能自己从寄存器开始写起??
usb7
2023-12-15 11:57:41 +08:00
@tangtang369 请问可以付费语音咨询吗?如有意愿,请发邮件: tech2@usb7.net
usb7
2023-12-15 11:59:28 +08:00
@XIVN1987
=> 你管他用的哪家的 IP ,,不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗,,难道你还能自己从寄存器开始写起??

因为精力有限,我想仅仅拥抱一个 NPU IP 。
Dogtler
2023-12-15 12:38:31 +08:00
香橙派 RK3588
suke119
2023-12-15 13:26:56 +08:00
rk356X 瑞芯微的 还有 3588 系列 rv 系列 系统 ubuntu arm64 ,这几天刚将 PPOCR3-4 部署到上面
vicalloy
2023-12-15 14:09:18 +08:00
看你具体想做什么。一般来说 NPU 都是没法直接用的,需要你去适配对应的 SDK 。
RK3588 的 NPU 是瑞芯微自研的,除了官方给的几个 DEMO 估计没有什么人可以真正用起来。
如果你只是单纯的需要一个 ARM 的 Linux 开发板 RK3588 性能还是不错的。
avalon8
2023-12-15 14:20:37 +08:00
晶晨 a311D
xuxuxu123
2023-12-15 14:42:13 +08:00
ltkun
2023-12-15 15:08:36 +08:00
@xuxuxu123 这个不错
402124773
2023-12-15 15:19:55 +08:00
intel stick 2 插在树莓派上面用如何?外挂 npu
需要 stick 2 联系我

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1000577

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX