MobileNet网络
这里写目录标题
- 一、MobileNet v1
- MobileNet v1亮点
- 亮点1:DW卷积(减少运算量和参数数量)
- 亮点2:增加超参数: α \alpha\, α(控制卷积核个数的超参数), β \beta\, β(控制输入图像大小的超参数)
- 1、DW卷积与传统卷积区别
- 2、深度可分离卷积(DW+PW)
- (1)PW卷积:1*1的普通卷积
- (2)普通卷积与深度可分离卷积计算量对比
- (3) MobileNet v1网络结构
- 二、MobileNet v2
- MobileNet v2亮点
- 亮点1:Inverted Residuals(倒残差结构)
- 亮点2:Linear Bottlenecks
- 1、残差结构与倒残差结构
- (1)残差结构
- (2)倒残差结构
- 2、激活函数ReLU6
- (1)ReLU6
- (2)ReLU
- (3)倒残差结构详解
- (4)MobileNet v2网络结构详解
- 三、MobileNet v3
- MobileNet v2亮点
- 亮点1:更新Block(bneck)
- 亮点2:使用NAS搜索参数
- 亮点3:重新设计耗时层
- 1、更新Block
- (1)SE模块
- (2)重新设计耗时层结构
- (3)重新设计激活函数h-swish
一、MobileNet v1
MobileNet v1亮点
亮点1:DW卷积(减少运算量和参数数量)
亮点2:增加超参数: α \alpha\, α(控制卷积核个数的超参数), β \beta\, β(控制输入图像大小的超参数)
1、DW卷积与传统卷积区别
2、深度可分离卷积(DW+PW)
(1)PW卷积:1*1的普通卷积
(2)普通卷积与深度可分离卷积计算量对比
理论上,普通卷积计算量是DW+PW的8到9倍
(3) MobileNet v1网络结构
二、MobileNet v2
MobileNet v2亮点
亮点1:Inverted Residuals(倒残差结构)
亮点2:Linear Bottlenecks
1、残差结构与倒残差结构
(1)残差结构
a、先降纬,后升维
b、激活函数使用ReLU
(2)倒残差结构
a、先升维,后降维
b、激活函数使用ReLU6
2、激活函数ReLU6
(1)ReLU6
(2)ReLU
解释1:**ReLU激活函数对低维特征信息造成的损失较大,而倒残差结构又是降维输出,所以ReLU激活函数并不适合倒残差结构,Linear激活函数适合倒残差结构。
解释2:从高维空间经过非线性映射到低维空间时,会发生信息坍塌,所以在倒残差结构中,进行降维操作时,使用线性激活函数(实现时就是不使用激活函数)。
(3)倒残差结构详解
(4)MobileNet v2网络结构详解
三、MobileNet v3
MobileNet v2亮点
亮点1:更新Block(bneck)
亮点2:使用NAS搜索参数
亮点3:重新设计耗时层
1、更新Block
(1)SE模块
(2)重新设计耗时层结构
(3)重新设计激活函数h-swish
MobileNet网络相关推荐
- Keras框架:Mobilenet网络代码实现
Mobilenet概念: MobileNet模型是Google针对手机等嵌入式设备提出的一种轻量级的深层神经网络,其使用的核心思想便是depthwise separable convolution. ...
- MobileNet网络学习笔记
目录 MobileNetV1 论文地址 思想 回顾标准卷积 深度可分离卷积 深度卷积 逐点卷积 为什么要把标准卷积换成深度可分离卷积 标准卷积FLOPs和Parameters计算公式: 深度可分离卷积 ...
- mobilenet网络的理解
论文地址:MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications 民间实现:caffe ...
- 【笔记】ssd mobilenet 网络
之前实习用过太多次mobilenet_ssd,但是一直只是用,没有去了解它的原理.今日参考了一位大神的博客,写得很详细,也很容易懂,这里做一个自己的整理,供自己理解,也欢迎大家讨论. 先整理Mobil ...
- 轻量级网络——MobileNet系列学习(理论篇)
目录 一.MobileNetV1 1.1 Depthwise separable convolution(深度级可分离卷积) 参数对比 1.2 MobileNet网络结构 1.3 MobileNet网 ...
- MobileNet轻量级网络
基于移动端(手机或者嵌入式平台)的深度卷积网络实现的研究是目前比较热的一个研究方向,也是很有意思的一件事:MobileNet网络是谷歌的研究团队有针对的开发的轻量级.小型化的深度网络:可以使用在IOS ...
- 特征提取网络之mobilenet
文章目录 前言 1.mobilenetV1解析 网络结构 普通卷积修改为深度可分离卷积 为什么深度可分离卷积会比普通的卷积推理时间要快. 3.mobilenetV2解析 网络结构 为什么选择使用有限制 ...
- AlexNet、VGG、GoogLeNet、ReaNet、MobileNet、ShuffleNet和EfficientNet网络的亮点和创新之处
目录 AlexNet网络 VGG网络 GoogLeNet网络 ReaNet网络 MobileNet 网络 MobileNet v1网络 MobileNet v2网络 MobileNet v3网络 Sh ...
- CNN模型之MobileNet
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 零 引言: 卷积神经网络(CNN)已经普遍应用在计算机视觉领域,并 ...
最新文章
- 题目1104:整除问题
- 如何做一个好的互联网老板(二)
- Java-JUC(一):volatile引入
- 2020-10-27(补码10000000为什么可以表示-128?)
- key value vue 输出_vue注意事项总结(一)
- hadoop join之map side join
- 你准备好了吗,he is coming
- 远程连接oracle无监听
- MQTT——具有.NET Core的消息队列遥测传输协议
- html 5 新增标签及简介
- 前端学习资料汇总(转)
- android seekbar 圆角,android - 最小或最大时,圆角android seekbar的ui奇怪行为 - 堆栈内存溢出...
- 诺顿企业版Symantec AntiVirus病毒库更新慢的解决办法
- 百度坐标转换中文地址(百度地图JavaScript API逆地址解析 )
- MT6797处理器怎么样?Helio X20处理器资料介绍
- 实现在线预览 pdf 以及添加水印
- 实时音视频聊天中的延时问题一篇就够,低延时场景及优化
- shema SQLServer
- [1108]小米5S TWRP刷面具、EdXposed
- 机器学习--特征选择(Python代码实现)
热门文章
- pikachu通关笔记
- 这是我见过最好的Unity3D渠道SDK快速适配和快速打包的开源框架Usdk(支持Android/iOS)
- 如何高效合理自如的回应面试时HR问出的一些人生规划,人生哲理,前途发展等问题(非技术性问题)
- Linux下的Ubuntu系统如何安装搜狗输入法
- 有限元(FEM) 、有限差分(FDM)和有限体积(FVM) 的优势和劣势
- HTML设置网站横屏显示的几种方式
- ParseInt()的用法
- 如何修改MySQL数据库名称
- PHP检测字数,js判断文本框剩余可输入字数的方法
- html相册翻页效果图,js实现相册翻页,滚动,切换,轮播功能