社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

如何向深度学习模型中加入先验知识?

小白学视觉 • 2 年前 • 247 次点击  
链接:https://www.zhihu.com/question/279012198
编辑:深度学习与计算机视觉
声明:仅做学术分享,侵删

作者:采石工

https://www.zhihu.com/question/279012198/answer/1298985606

1) CNN 中使用的卷积层就是利用了图像像素距离越近相关性越强的先验 (卷积层是局部连接的).

2) 行人重识别中常用的水平分块也是利用了行人图像未对齐的先验.

3) 目标检测中 anchor 的尺度和宽高比的设置也是根据先验确定的.

可见一个新的网络层 (如上述的卷积层) , 新的网络模块 (如上述的水平分块), 特定的参数设置 (如前述的 anchor 的设置) 都可以引入先验知识.


作者:知乎用户zKk5cV
https://www.zhihu.com/question/279012198/answer/404294388

何种先验知识?实际上使用深度网络结构本身就是使用了先验知识,是把数据结构用所构造的深度网络来表达。其他的先验知识,比如基于feature engineering思想的先验知识可以加在网络结构中,比如识别人体姿态,就可以把人体结构的先验信息通过对检测的局部特征的message passing来进行滤波增强。


作者:Wheeler
https://www.zhihu.com/question/279012198/answer/1278980060

要看你想加入哪种先验知识,,比如,如果想要用神经网络拟合sin(x)是比较困难的,但是我们直接用sin做激活函数。。。这算不算利用了先验知识?

更一般的情况下,就是我们已经知道某个问题大概怎么个解决思路,可以直接利用这个思路来设计对应的模型结构。其次,如果已知解决问题需要某些先验知识,可以对模型中的一部分进行预训练。


作者:刘聪NLP

https://www.zhihu.com/question/279012198/answer/1283610943

预训练模型算不算加入了先验知识。建模过程中可以加入分词,词性,ner,位置等信息。不过像分词等,还可能加入新的噪声,取决于分词效果。

下载1:OpenCV-Contrib扩展模块中文版教程
在「小白学视觉」公众号后台回复:扩展模块中文教程即可下载全网第一份OpenCV扩展模块教程中文版,涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。

下载2:Python视觉实战项目52讲
小白学视觉公众号后台回复:Python视觉实战项目即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目,助力快速学校计算机视觉。

下载3:OpenCV实战项目20讲
小白学视觉公众号后台回复:OpenCV实战项目20讲即可下载含有20个基于OpenCV实现20个实战项目,实现OpenCV学习进阶。

交流群


欢迎加入公众号读者群一起和同行交流,目前有SLAM、三维视觉、传感器自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN算法竞赛等微信群(以后会逐渐细分),请扫描下面微信号加群,备注:”昵称+学校/公司+研究方向“,例如:”张三 + 上海交大 + 视觉SLAM“。请按照格式备注,否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告,否则会请出群,谢谢理解~


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/160661
 
247 次点击