推荐一门开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C++项目。对于以后的面试和求职都是一个不错的项目哦! - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
请不要在回答技术问题时复制粘贴 AI 生成的内容
hellozgfss

推荐一门开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C++项目。对于以后的面试和求职都是一个不错的项目哦!

  •  
  •   hellozgfss Jan 10, 2023 2912 views
    This topic created in 1202 days ago, the information mentioned may be changed or developed.

    大家好

    我在 b 站上开源了一门公开课,《从零编写深度学习推理框架》 b 站链接: https://space.bilibili.com/1822828582

    github 链接: https://github.com/zjhellofss/KuiperInfer 欢迎点赞和 PR (已经发布 Docker )

    课程可以分为三个季度,现在是第一季共八次课程,课程表如下,后续两季会根据大家的意见进行排课,这是一次我致敬开源精神的课程,谢谢大家关注点赞!

    使用的技术是 C++,截至目前框架已经支持 Yolov5s 的推理,在 11700H 上推理时间为 0.9s(640*640*3)

    课程次数 主要内容 进度 第一次课 整体框架解读和开发环境配置 完成

    第二次课 张量 Tensor 类的解析和输入数据的内存排布 完成

    第三次课 从 CSV 文件中初始化张量 Tensor 一个实例 完成

    第四次课 手写第一个算子 Relu 并完成算子注册工厂类 完成

    第五次课 Im2col 的原理和卷积算子的实现 未完成

    第六次课 照猫画虎,完成 MaxPooling 算子 完成

    第七次课 图结构(PNNX)讲解和计算图初步 未完成

    第八次课 读取 PNNX 并构建自己的计算图 未完成

    Supplement 1    Jan 10, 2023
    再发一个效果图
    Supplement 2    Jan 10, 2023
    Supplement 3    Jan 10, 2023
    运行 demo 的截图,最后耗时 7.16s, batch 等于 8, 大小为 640 * 640.






    现代 C++风格的代码
    6 replies    2023-01-10 22:10:40 +08:00
    Approximate
        1
    Approximate  
       Jan 10, 2023
    支持楼主,关注一下
    hellozgfss
        2
    hellozgfss  
    OP
       Jan 10, 2023
    [![pSmickj.jpg]( https://s1.ax1x.com/2023/01/10/pSmickj.jpg)]( https://imgse.com/i/pSmickj)

    Yolov5 模型预测目标的效果图如上
    hellofss
        3
    hellofss  
       Jan 10, 2023
    ![image]( )
    Yolov5 模型预测目标的效果图如上,可以看出是比较准确的。
    closedevice
        4
    closedevice  
       Jan 10, 2023
    不错不错,包括训练框架和推理引擎两部分?
    hellozgfss
        5
    hellozgfss  
    OP
       Jan 10, 2023
    @closedevice 目前只有推理框架的,第一季课程围绕推理展开的,目前反响还不错。
    closedevice
        6
    closedevice  
       Jan 10, 2023
    @hellozgfss 有考虑啥时候加推理引擎部分?
    About     Help     Advertise     Blog     API     FAQ     Solana     853 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 37ms UTC 21:50 PG 05:50 LAX 14:50 JFK 17:50
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86