V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
hellozgfss
V2EX  ›  分享创造

推荐一门我做的开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C++项目并且写一个超强的 ai 项目

  •  
  •   hellozgfss · 2023-02-07 09:40:22 +08:00 · 2112 次点击
    这是一个创建于 655 天前的主题,其中的信息可能已经有所发展或是发生改变。
    我是写了一个《从零自制深度学习推理框架》的课程,课程语言是 C++,课程主要讲解包括算子实现和框架设计的思路,国内算是独一份,目前已登上 HelloGithub 最新一期。我这个仓库算是课程的上游项目,根据上游项目来规划课程内容。

    b 站视频链接: https://space.bilibili.com/1822828582

    github 链接: https://github.com/zjhellofss/KuiperInfer 欢迎点赞和 PR 已经发布 Docker

    课程可以分为两个季度,现在是第一季共 12 次课程,课程表如下,后续两季会根据大家的意见进行排课,这是一次我致敬开源精神的课程,谢谢大家关注点赞!

    使用的技术是 C++,截至目前框架已经支持 Yolov5s 的推理,在 11700H 上推理时间为 450ms(640*640*3)

    课程次数 主要内容 进度 第一次课 整体框架解读和开发环境配置 完成

    第二次课 张量 Tensor 类的解析和输入数据的内存排布 完成

    第三次课 从 CSV 文件中初始化张量 Tensor 一个实例 完成

    第四次课 手写第一个算子 Relu 并完成算子注册工厂类 完成

    第五次课 Im2col 的原理和卷积算子的实现 完成

    第六次课 照猫画虎,完成 MaxPooling 算子 完成

    第七次课 图结构(PNNX)讲解和计算图初步 完成

    第八次课 读取 PNNX 并构建自己的计算图 完成

    第九次课 基于广度优先搜索的算子执行流程 未完成

    ... 更新中,直到带领大家实现一个支持 yolov5 的深度学习推理框架

    以下是推理框架的目标检测效果,我们会在课程中慢慢带大家实现


    10 条回复    2023-02-08 10:34:01 +08:00
    x500
        1
    x500  
       2023-02-07 09:45:59 +08:00
    支持一波。
    hellozgfss
        2
    hellozgfss  
    OP
       2023-02-07 09:51:49 +08:00
    大家觉得有帮助的话, 请(star, issue, pr), 尤其欢迎后两个, 谢谢大家的支持 :)
    zhlxsh
        3
    zhlxsh  
       2023-02-07 10:35:29 +08:00 via iPhone
    这个是不是可以把手机里的照片分类,比如拍人的,拍猫的,其他乱七八糟的都分开
    hellozgfss
        4
    hellozgfss  
    OP
       2023-02-07 10:36:44 +08:00
    @zhlxsh 本框架以教学为主,如果是需要实际使用的话可以用腾讯开源的 ncnn,在手机端的优化特别好.
    opiviqo
        5
    opiviqo  
       2023-02-07 10:43:29 +08:00
    支持一波
    RyanLim
        6
    RyanLim  
       2023-02-07 11:18:13 +08:00
    支持+1
    sakura1
        7
    sakura1  
       2023-02-07 16:56:14 +08:00
    支持
    Xzong
        8
    Xzong  
       2023-02-07 19:26:08 +08:00
    支持
    gejigeji
        9
    gejigeji  
       2023-02-08 10:21:04 +08:00
    支持
    zjwgank
        10
    zjwgank  
       2023-02-08 10:34:01 +08:00
    支持
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   961 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 22:43 · PVG 06:43 · LAX 14:43 · JFK 17:43
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.