社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

不会部署深度学习模型?腾讯优图大咖来教你

CVer • 6 年前 • 882 次点击  

点击上方“CVer”,选择加"星标"置顶

重磅干货,第一时间送达

6月10日,腾讯优图宣布其研发的推理组件TNN正式对外开源,直面能力分散、多平台不兼容等问题,该框架可开发注册包括ARM、METAL、OPENCL、NPU、CUDA等主流平台在内的多种推理平台,为开发人员提供统一的模型描述文件和调用接口,让企业一套流程就能部署到位,简单易用、省时省力。


https://github.com/Tencent/TNN

 

腾讯这款自研的推理组件TNN源自内部16年就开始研发的Rapidnet框架,后续借鉴了ncnn、MNN、MACE等开源框架高性能和易扩展的优点,并进一步提升。TNN的优秀已在手Q、微视、天天P图等APP中的美颜、美妆、魔法天空、光感染发、手势红包等功能的处理速度上得到了证实,其处理速度比当前业界开源框架平均快20%以上;同时,在腾讯云GPU服务器落地中,能够实现性能较业界主流框架提升50%以上。

 

以下是MNN, ncnn, TNN框架在多款主流平台的实测性能:




注:纵轴单位:ms  测试分支:MNN:1.0.0(2020.05.07),ncnn:20200413, TNN: master(2020.06.10)

测试模型:https://github.com/alohali/benchmark-models

 

如果这款推理组件正好能解决你目前遇到的问题,或者你对它有着极大的兴趣,那么CVer 强烈推荐你参加此次由腾讯优图主办的6月15日的线上沙龙,届时腾讯优图实验室资深研究员Darren将为大家解读【多场景适配:深度学习模型部署优化之道】的主题分享。将帮助大家全面了解这个深度学习推断框架的前世今生,辅助大家快速上手在不同场景下的模型部署优化能力。




扫描上图二维码即可免费报名参加

注:如果是学生,则把公司当做学校即可

 


扫描上图二维码添加小助手文文酱,回复关键字“优图”,入直播群


点击阅读原文即可免费预约观看直播,6月15日晚7点-8点,我们不见不散~

Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/70318