这里写目录标题

  • 一、MobileNet v1
    • MobileNet v1亮点
      • 亮点1:DW卷积(减少运算量和参数数量)
      • 亮点2:增加超参数: α \alpha\, α(控制卷积核个数的超参数), β \beta\, β(控制输入图像大小的超参数)
    • 1、DW卷积与传统卷积区别
    • 2、深度可分离卷积(DW+PW)
      • (1)PW卷积:1*1的普通卷积
      • (2)普通卷积与深度可分离卷积计算量对比
      • (3) MobileNet v1网络结构
  • 二、MobileNet v2
    • MobileNet v2亮点
      • 亮点1:Inverted Residuals(倒残差结构)
      • 亮点2:Linear Bottlenecks
    • 1、残差结构与倒残差结构
      • (1)残差结构
      • (2)倒残差结构
    • 2、激活函数ReLU6
      • (1)ReLU6
      • (2)ReLU
      • (3)倒残差结构详解
      • (4)MobileNet v2网络结构详解
  • 三、MobileNet v3
    • MobileNet v2亮点
      • 亮点1:更新Block(bneck)
      • 亮点2:使用NAS搜索参数
      • 亮点3:重新设计耗时层
    • 1、更新Block
      • (1)SE模块
      • (2)重新设计耗时层结构
      • (3)重新设计激活函数h-swish

一、MobileNet v1

MobileNet v1亮点

亮点1:DW卷积(减少运算量和参数数量)
亮点2:增加超参数: α \alpha\, α(控制卷积核个数的超参数), β \beta\, β(控制输入图像大小的超参数)

1、DW卷积与传统卷积区别

2、深度可分离卷积(DW+PW)

(1)PW卷积:1*1的普通卷积

(2)普通卷积与深度可分离卷积计算量对比

理论上,普通卷积计算量是DW+PW的8到9倍

(3) MobileNet v1网络结构

二、MobileNet v2

MobileNet v2亮点

亮点1:Inverted Residuals(倒残差结构)
亮点2:Linear Bottlenecks

1、残差结构与倒残差结构

(1)残差结构

a、先降纬,后升维
b、激活函数使用ReLU

(2)倒残差结构

a、先升维,后降维
b、激活函数使用ReLU6

2、激活函数ReLU6

(1)ReLU6

(2)ReLU

解释1:**ReLU激活函数对低维特征信息造成的损失较大,而倒残差结构又是降维输出,所以ReLU激活函数并不适合倒残差结构,Linear激活函数适合倒残差结构。

解释2:从高维空间经过非线性映射到低维空间时,会发生信息坍塌,所以在倒残差结构中,进行降维操作时,使用线性激活函数(实现时就是不使用激活函数)。

(3)倒残差结构详解

(4)MobileNet v2网络结构详解

三、MobileNet v3

MobileNet v2亮点

亮点1:更新Block(bneck)
亮点2:使用NAS搜索参数
亮点3:重新设计耗时层

1、更新Block

(1)SE模块

(2)重新设计耗时层结构

(3)重新设计激活函数h-swish


MobileNet网络相关推荐

  1. Keras框架:Mobilenet网络代码实现

    Mobilenet概念: MobileNet模型是Google针对手机等嵌入式设备提出的一种轻量级的深层神经网络,其使用的核心思想便是depthwise separable convolution. ...

  2. MobileNet网络学习笔记

    目录 MobileNetV1 论文地址 思想 回顾标准卷积 深度可分离卷积 深度卷积 逐点卷积 为什么要把标准卷积换成深度可分离卷积 标准卷积FLOPs和Parameters计算公式: 深度可分离卷积 ...

  3. mobilenet网络的理解

    论文地址:MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications  民间实现:caffe  ...

  4. 【笔记】ssd mobilenet 网络

    之前实习用过太多次mobilenet_ssd,但是一直只是用,没有去了解它的原理.今日参考了一位大神的博客,写得很详细,也很容易懂,这里做一个自己的整理,供自己理解,也欢迎大家讨论. 先整理Mobil ...

  5. 轻量级网络——MobileNet系列学习(理论篇)

    目录 一.MobileNetV1 1.1 Depthwise separable convolution(深度级可分离卷积) 参数对比 1.2 MobileNet网络结构 1.3 MobileNet网 ...

  6. MobileNet轻量级网络

    基于移动端(手机或者嵌入式平台)的深度卷积网络实现的研究是目前比较热的一个研究方向,也是很有意思的一件事:MobileNet网络是谷歌的研究团队有针对的开发的轻量级.小型化的深度网络:可以使用在IOS ...

  7. 特征提取网络之mobilenet

    文章目录 前言 1.mobilenetV1解析 网络结构 普通卷积修改为深度可分离卷积 为什么深度可分离卷积会比普通的卷积推理时间要快. 3.mobilenetV2解析 网络结构 为什么选择使用有限制 ...

  8. AlexNet、VGG、GoogLeNet、ReaNet、MobileNet、ShuffleNet和EfficientNet网络的亮点和创新之处

    目录 AlexNet网络 VGG网络 GoogLeNet网络 ReaNet网络 MobileNet 网络 MobileNet v1网络 MobileNet v2网络 MobileNet v3网络 Sh ...

  9. CNN模型之MobileNet

    点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 零 引言: 卷积神经网络(CNN)已经普遍应用在计算机视觉领域,并 ...

最新文章

  1. 题目1104:整除问题
  2. 如何做一个好的互联网老板(二)
  3. Java-JUC(一):volatile引入
  4. 2020-10-27(补码10000000为什么可以表示-128?)
  5. key value vue 输出_vue注意事项总结(一)
  6. hadoop join之map side join
  7. 你准备好了吗,he is coming
  8. 远程连接oracle无监听
  9. MQTT——具有.NET Core的消息队列遥测传输协议
  10. html 5 新增标签及简介
  11. 前端学习资料汇总(转)
  12. android seekbar 圆角,android - 最小或最大时,圆角android seekbar的ui奇怪行为 - 堆栈内存溢出...
  13. 诺顿企业版Symantec AntiVirus病毒库更新慢的解决办法
  14. 百度坐标转换中文地址(百度地图JavaScript API逆地址解析 )
  15. MT6797处理器怎么样?Helio X20处理器资料介绍
  16. 实现在线预览 pdf 以及添加水印
  17. 实时音视频聊天中的延时问题一篇就够,低延时场景及优化
  18. shema SQLServer
  19. [1108]小米5S TWRP刷面具、EdXposed
  20. 机器学习--特征选择(Python代码实现)

热门文章

  1. pikachu通关笔记
  2. 这是我见过最好的Unity3D渠道SDK快速适配和快速打包的开源框架Usdk(支持Android/iOS)
  3. 如何高效合理自如的回应面试时HR问出的一些人生规划,人生哲理,前途发展等问题(非技术性问题)
  4. Linux下的Ubuntu系统如何安装搜狗输入法
  5. 有限元(FEM) 、有限差分(FDM)和有限体积(FVM) 的优势和劣势
  6. HTML设置网站横屏显示的几种方式
  7. ParseInt()的用法
  8. 如何修改MySQL数据库名称
  9. PHP检测字数,js判断文本框剩余可输入字数的方法
  10. html相册翻页效果图,js实现相册翻页,滚动,切换,轮播功能