layers.Normalization

标准化，就是执行 $(x-\bar{x})/var(x)$

特征标准化层，

第一种方式：通过数据计算出均值和方差：

adapt_data = np.array([[0., 7., 4.],[2., 9., 6.],[0., 7., 4.],[2., 9., 6.]], dtype='float32')
input_data = np.array([[0., 7., 4.]], dtype='float32')
layer = tf.keras.layers.Normalization(axis=-1)
#利用数据计算均值和方差
layer.adapt(adapt_data)
layer(input_data)

第二种方式：通过设置均值和方差（注意只接收numpy后tensor对象）

layer = tf.keras.layers.Normalization(mean=np.array([[3.,2.]]), variance=np.array([[2.,1]]))
layer(np.array([[3,2]]))
layer([[3,2]])

对特征进行标准化处理后，就可以忽略各个特征的值区间不同导致的模型抖动问题

layers.Normalization相关推荐

batch normalization
20210702 深度学习中的五种归一化(BN.LN.IN.GN和SN)方法简介 https://blog.csdn.net/u013289254/article/details/99690730 h ...
批规范化 Batch Normalization
batch normalization 就是对数据做批规范化,使得数据满足均值为0,方差为1的正太分布.其主要作用是缓解DNN训练中的梯度消失/爆炸现象,加快模型的训练速度.BN在2015年提出,论文 ...
TensorFlow之神经网络layers模块详解
tf.nn,tf.layers, tf.contrib概述: 我们在使用tensorflow时,会发现tf.nn,tf.layers, tf.contrib模块有很多功能是重复的,尤其是卷积操作,在使 ...
Normalization 批标准化(batch normalization)理解
数学是达成目的的工具, 理解才是达成目的桥梁, 所以这篇文章用浅显易懂的动画阐述了复杂的机器学习概念. 强烈推荐通过动画的形式了解. 所以首先放视频链接: Youtube 或者优酷. 代码实现请来这 ...
仅使用OpenCV实现活体检测！（附源码）
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达我们先来看一个网络留言 △ 来自虾米妈咪小朋友用妈妈的一寸照片通 ...
【项目实践】车距+车辆+车道线+行人检测项目实践
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达本文转自 | AI算法与图像处理 1.项目流程的简介项目的主题框 ...
使用Python中的卷积神经网络进行恶意软件检测
导言在这篇文章中,我们将学习人工网络架构以及如何使用其中一个(卷积神经网络)来帮助恶意软件分析师和信息安全专业人员检测和分类恶意代码. 恶意软件是每个现代组织的噩梦.攻击者和网络犯罪分子总是想出新的 ...
TensorFlow实战笔记（17）---TFlearn
目录: 分布式Estimator 自定义模型建立自己的机器学习Estimator 调节RunConfig运行时的参数 Experiment和LearnRunner 深度学习Estimator 深度神 ...
Face Recognition for the Happy House-v3
这是吴恩达老师深度学习第四课(卷积神网络)第四周的第一个作业题目. 这里只是题目,不包含答案! Face Recognition for the Happy House Welcome to the ...

layers.Normalization

layers.Normalization相关推荐

最新文章

热门文章