转 Caffe学习系列(4):激活层(Activiation Layers)及参数
在激活层中,对输入数据进行激活操作(实际上就是一种函数变换),是逐元素进行运算的。从bottom得到一个blob数据输入,运算后,从top输入一个blob数据。在运算过程中,没有改变数据的大小,即输入和输出的数据大小是相等的。
输入:n*c*h*w
输出:n*c*h*w
常用的激活函数有sigmoid, tanh,relu等,下面分别介绍。
1、Sigmoid
对每个输入数据,利用sigmoid函数执行操作。这种层设置比较简单,没有额外的参数。
层类型:Sigmoid
示例:
layer {name: "encode1neuron"bottom: "encode1" top: "encode1neuron" type: "Sigmoid" }
2、ReLU / Rectified-Linear and Leaky-ReLU
ReLU是目前使用最多的激活函数,主要因为其收敛更快,并且能保持同样效果。
标准的ReLU函数为max(x, 0),当x>0时,输出x; 当x<=0时,输出0
f(x)=max(x,0)
层类型:ReLU
可选参数:
negative_slope:默认为0. 对标准的ReLU函数进行变化,如果设置了这个值,那么数据为负数时,就不再设置为0,而是用原始数据乘以negative_slope
layer {name: "relu1"type: "ReLU" bottom: "pool1" top: "pool1" }
RELU层支持in-place计算,这意味着bottom的输出和输入相同以避免内存的消耗。
3、TanH / Hyperbolic Tangent
利用双曲正切函数对数据进行变换。
层类型:TanH
layer {name: "layer"bottom: "in" top: "out" type: "TanH" }
4、Absolute Value
求每个输入数据的绝对值。
f(x)=Abs(x)
层类型:AbsVal
layer {name: "layer"bottom: "in" top: "out" type: "AbsVal" }
5、Power
对每个输入数据进行幂运算
f(x)= (shift + scale * x) ^ power
层类型:Power
可选参数:
power: 默认为1
scale: 默认为1
shift: 默认为0
![](/assets/blank.gif)
layer {name: "layer"bottom: "in" top: "out" type: "Power" power_param { power: 2 scale: 1 shift: 0 } }
![](/assets/blank.gif)
6、BNLL
binomial normal log likelihood的简称
f(x)=log(1 + exp(x))
层类型:BNLL
layer {name: "layer"bottom: "in" top: "out" type: “BNLL” }
转载于:https://www.cnblogs.com/ziqian9206/p/7193174.html
转 Caffe学习系列(4):激活层(Activiation Layers)及参数相关推荐
- Caffe学习系列(17):模型各层特征和过滤器可视化
转载自: Caffe学习系列(17):模型各层特征和过滤器可视化 - denny402 - 博客园 http://www.cnblogs.com/denny402/p/5105911.html cif ...
- Caffe学习系列(16):各层权值参数可视化
原文有更新: Caffe学习系列(16):各层权值参数可视化 - denny402 - 博客园 http://www.cnblogs.com/denny402/p/5103425.html 通过前面的 ...
- Caffe学习系列(3):视觉层(Vision Layers)及参数
所有的层都具有的参数,如name, type, bottom, top和transform_param请参看我的前一篇文章:Caffe学习系列(2):数据层及参数 本文只讲解视觉层(Vision La ...
- Caffe 学习系列
学习列表: Google protocol buffer在windows下的编译 caffe windows 学习第一步:编译和安装(vs2012+win 64) caffe windows学习:第一 ...
- Caffe学习系列(23):如何将别人训练好的model用到自己的数据上
caffe团队用imagenet图片进行训练,迭代30多万次,训练出来一个model.这个model将图片分为1000类,应该是目前为止最好的图片分类model了. 假设我现在有一些自己的图片想进行分 ...
- Caffe学习系列(12):训练和测试自己的图片
学习caffe的目的,不是简单的做几个练习,最终还是要用到自己的实际项目或科研中.因此,本文介绍一下,从自己的原始图片到lmdb数据,再到训练和测试模型的整个流程. 一.准备数据 有条件的同学,可以去 ...
- 【12】Caffe学习系列:训练和测试自己的图片
一.准备数据 有条件的同学,可以去imagenet的官网http://www.image-net.org/download-images,下载imagenet图片来训练.验证码始终出不来需要翻墙(是g ...
- Caffe学习系列(十):腾讯ncnn框架
Caffe学习系列(十):腾讯ncnn框架 <手把手AI项目>七.MobileNetSSD通过Ncnn前向推理框架在PC端的使用(目标检测 objection detection) 1.n ...
- Caffe学习系列(8):solver优化方法
Caffe学习系列(8):solver优化方法 上文提到,到目前为止,caffe总共提供了六种优化方法: Stochastic Gradient Descent (type: "SGD&qu ...
- Caffe学习系列(22):caffe图形化操作工具digits运行实例
上接:Caffe学习系列(21):caffe图形化操作工具digits的安装与运行 经过前面的操作,我们就把数据准备好了. 一.训练一个model 右击右边Models模块的" Images ...
最新文章
- go1.8之安装配置
- 批处理中的****1nul 2nul
- ScrollView充满屏幕
- python免费试听-Python
- 团队作业——随堂小测(同学录)
- Java进阶(五)Java I/O模型从BIO到NIO和Reactor模式
- Cloud for Customer Mashup debug in IFrame
- 三分钟带你掌握 CSS3 的新属性
- $python正则表达式系列(5)——零宽断言
- linux+多路复用socket,socket的select_多路复用
- 微软更新补丁下载地址
- ffmpeg推流及python管道控制ffmpeg推流
- 【Python脚本进阶】2.4、conficker蠕虫(下):暴破口令,远程执行进程
- 计算机实验室安全员责任书,实验室人员安全责任书
- CSS之transform的translate平移属性【2D】(一)
- 百谷歌---学习工作好东西啊!!
- JaCoCo Report结果转换成excel
- ┎结构之美┒之Trie树
- python中bytearray函数_Python内置函数—bytearray
- 大计基笔记(1)数学运算
热门文章
- 《设计模式》模板设计方法——面条非常香
- 【教程】win7下无需软件或adhoc补丁通过无线网卡搭建虚拟wifi网络
- [转]ASP.NET实用技巧
- 再谈Js定义变量,你不得不踩的那些坑
- Mr.J--JS学习(闭包及IIFE)
- android应用版本更新功能---完整版
- C#后台调用前台js(RegisterStartupScript)
- Yii 1.0 伪静态即Yii配置Url重写(转)
- poj 3083 Children of the Candy Corn(bfs+dfs 数组模拟方向)
- 在ie6下remove包含iframe的table所在的容器,会导致页面控件的焦点诡异丢失。