Py学习  »  机器学习算法

不会部署深度学习模型?腾讯优图大咖来教你

CVer • 3 年前 • 459 次点击  

点击上方“CVer”,选择加"星标"置顶

重磅干货,第一时间送达

6月10日,腾讯优图宣布其研发的推理组件TNN正式对外开源,直面能力分散、多平台不兼容等问题,该框架可开发注册包括ARM、METAL、OPENCL、NPU、CUDA等主流平台在内的多种推理平台,为开发人员提供统一的模型描述文件和调用接口,让企业一套流程就能部署到位,简单易用、省时省力。


https://github.com/Tencent/TNN

 

腾讯这款自研的推理组件TNN源自内部16年就开始研发的Rapidnet框架,后续借鉴了ncnn、MNN、MACE等开源框架高性能和易扩展的优点,并进一步提升。TNN的优秀已在手Q、微视、天天P图等APP中的美颜、美妆、魔法天空、光感染发、手势红包等功能的处理速度上得到了证实,其处理速度比当前业界开源框架平均快20%以上;同时,在腾讯云GPU服务器落地中,能够实现性能较业界主流框架提升50%以上。

 

以下是MNN, ncnn, TNN框架在多款主流平台的实测性能:




注:纵轴单位:ms  测试分支:MNN:1.0.0(2020.05.07),ncnn:20200413, TNN: master(2020.06.10)

测试模型:https://github.com/alohali/benchmark-models

 

如果这款推理组件正好能解决你目前遇到的问题,或者你对它有着极大的兴趣,那么CVer 强烈推荐你参加此次由腾讯优图主办的6月15日的线上沙龙,届时腾讯优图实验室资深研究员Darren将为大家解读【多场景适配:深度学习模型部署优化之道】的主题分享。将帮助大家全面了解这个深度学习推断框架的前世今生,辅助大家快速上手在不同场景下的模型部署优化能力。




扫描上图二维码即可免费报名参加

注:如果是学生,则把公司当做学校即可

 


扫描上图二维码添加小助手文文酱,回复关键字“优图”,入直播群


点击阅读原文即可免费预约观看直播,6月15日晚7点-8点,我们不见不散~

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/70318
 
459 次点击