Python社区  »  机器学习算法

如何部署深度学习模型?

3D视觉工坊 • 1 周前 • 11 次点击  




应用背景介绍

早在遥远的1989年,一家叫做ALVIVN的公司首次将神经网络用在汽车上,进行车道线检测和地面分割。时至今日,深度学习已经应用在自动驾驶系统的多个分支领域。首先是感知领域,常用的传感器有相机、激光雷达和毫米波雷达。深度学习利用二维图像或三维点云作为输入,对其中的障碍物进行检测、识别、分割、跟踪和测距。

Mask RCNN

M3DSSD: Monocular 3D Single Stage Object Detector

PointPillars: Fast Encoders for Object Detection from Point Clouds

其次是定位领域,自动驾驶通常需要厘米级的定位精度,这就使得传统高精地图在许多场景下不十分可靠。近年来一些方法使用在线地图学习,基于车载传感器观测,动态地构建高清地图,是一种比传统的预标注高清地图更可扩展的方式,为自动驾驶车辆提供语义和几何先验。

HDMapNet: An Online HD Map Construction and Evaluation Framework

再次是预测规划,使用深度学习方法可以更好的预测障碍物的轨迹,甚至有的方法把感知-预测结合来解决问题。

PnPNet: End-to-End Perception and Prediction with Tracking in the Loop

正因为深度学习算法在自动驾驶中的广泛应用,使得模型部署工程师炙手可热,大多数公司既要求算法工程师设计算法,又要部署移植,同时具备两项技能的人才一直是自动驾驶公司优先录取的对象,对应的薪资也是非常可观。





如何入门学习?

无论是分类、检测或分割任务,大多数深度学习算法都有对应的开源实现,通常基于python,然而如何将模型部署到C/C++工程中并没有系统的教程,导致很多童鞋停留在模型的调参与优化上,为此我们推出了国内首个面向工业级实战类教程:《自动驾驶中的深度学习模型部署实战》,一线大厂算法工程师带队,10年工程化经验,帮助大家快速进步,少走弯路。
目前大多数自动驾驶硬件平台采用英伟达的GPU方案,无论是工控机平台上,还是嵌入式平台。软件方面,Nvidia则提供了丰富的SDK来帮助开发者使用GPU,比如适用于模型部署的TensorRT,适用于数据处理的NPP和NvMedia等,还有cuDNN和cublas等基础库可供使用,甚至可使用cuda c更方便的进行扩展。本课程主要讲解如何使用TensorRT进行模型部署,以及使用NPP和cuda进行数据预处理,其中TensorRT和cuda是本课程的两个重点,cuda则是其中相对的难点。课程大纲如下:





讲师介绍

课程讲师为毕业于哈尔滨工业大学的硕士,有10年C++编程经验,2018年开始接触深度学习模型部署,2019年加入一家大型自动驾驶公司。对TensorRT和GPU并行编程有深入理解。本课程将以深度学习模型部署为主线,带领大家掌握TensorRT的使用和cuda编程。




课程亮点

本课程将采用理论和实践相结合的思路,首先对TensorRT的编程模型以及GPU/cuda的相关知识进行讲解,带领大家达到知其所以然的程度;之后课程将用分类、检测、分割三个例子来展示详细编程流程,并给出相关代码,达到真正能落地的工业级分享。




学后收获

1.能够熟悉掌握模型部署的预处理、后处理流程;
2.对TensorRT框架的整体结构有较深理解,能够实现自定义层;
3.掌握分类、检测、分割模型的部署流程,能够将产品模型部署到硬件中;
4.面向企业级的岗位技术栈要求;






课程要求和面向对象

1.计算机视觉相关方向,具备一定Python或者C/C++的编程基础;
2.需要自备GPU或网上租赁服务器;
3.对自动驾驶领域有着强烈兴趣的本科生研究生,从事模型部署相关工作的人员




开课时间

2021年12月11日正式开课,历时两个月,详细课表以学习群内公告为准





课程咨询与购买


▲扫码学习课程


群号:910070197
▲课程咨询QQ群,了解更多

▲长按加客服微信,咨询更多

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/123465
 
11 次点击  
分享到微博