我是写了一个《从零自制深度学习推理框架》的课程,课程语言是 C++,课程主要讲解包括算子实现和框架设计的思路,国内算是独一份,目前已登上 HelloGithub 最新一期。我这个仓库算是课程的上游项目,根据上游项目来规划课程内容。
b 站视频链接:
https://space.bilibili.com/1822828582github 链接:
https://github.com/zjhellofss/KuiperInfer 欢迎点赞和 PR 已经发布 Docker
课程可以分为两个季度,现在是第一季共 12 次课程,课程表如下,后续两季会根据大家的意见进行排课,这是一次我致敬开源精神的课程,谢谢大家关注点赞!
使用的技术是 C++,截至目前框架已经支持 Yolov5s 的推理,在 11700H 上推理时间为 450ms(640*640*3)
课程次数 主要内容 进度 第一次课 整体框架解读和开发环境配置 完成
第二次课 张量 Tensor 类的解析和输入数据的内存排布 完成
第三次课 从 CSV 文件中初始化张量 Tensor 一个实例 完成
第四次课 手写第一个算子 Relu 并完成算子注册工厂类 完成
第五次课 Im2col 的原理和卷积算子的实现 完成
第六次课 照猫画虎,完成 MaxPooling 算子 完成
第七次课 图结构(PNNX)讲解和计算图初步 完成
第八次课 读取 PNNX 并构建自己的计算图 完成
第九次课 基于广度优先搜索的算子执行流程 未完成
... 更新中,直到带领大家实现一个支持 yolov5 的深度学习推理框架
以下是推理框架的目标检测效果,我们会在课程中慢慢带大家实现
这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。
https://www.v2ex.com/t/913807
V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.