全连接层的基本使用

"""全连接层 -- 简单使用
"""
import tensorflow as tf# 输入维度[4, 784]
x = tf.random.normal((4, 784))# 网络结构 [?, 512] 输入维度确定？
net = tf.keras.layers.Dense(units=512)
out = net(x)print("输出维度：", out.shape)
# 根据矩阵相乘规则 推断出 [784, 512]
print("全连接层维度:", net.kernel.shape, "偏置维度", net.bias.shape)print("--" * 40)
# W和B的创建
net = tf.keras.layers.Dense(10)
# 在没有build之前调用失败
# print("全连接层维度:", net.kernel.shape, "偏置维度", net.bias.shape)
print(net.get_weights(), net.weights)# 创建权重与偏置 [None, 4] * [?, 10]  ==> 4
net.build(input_shape=(None, 4))
print("全连接层维度:", net.kernel.shape, "偏置维度", net.bias.shape)# 重新创建 全连接层 [None, 20] * [?, 10] ==> 20
net.build(input_shape=(None, 20))
print("全连接层维度:", net.kernel.shape, "偏置维度", net.bias.shape)# 重复创建 [2, 4] * [?, 10] ==> 4
net.build(input_shape=(2, 4))
print(net.kernel.numpy())# 输入维度不一致情况
net.build(input_shape=[None, 20])
print("全连接层维度:", net.kernel.shape, "偏置维度", net.bias.shape)# 输入维度不匹配
# x = tf.random.normal([4, 12])
x = tf.random.normal([4, 20])
out = net(x)
print("输出维度:", out.shape)

使用函数创建全连接网络

"""sequnential连续创建模型
"""
import tensorflow as tf# 输入数据
x = tf.random.normal([2, 3])# [2*3] ==> [3*2] ==> [2*2] ==>[2*2]
# 组建网络
model = tf.keras.Sequential([tf.keras.layers.Dense(2, activation="relu"),tf.keras.layers.Dense(2, activation="relu"),tf.keras.layers.Dense(2)  # 输出层
])# 初始化网络参数
model.build(input_shape=[None, 3])# 显示模型结构
model.summary()# 打印可训练变量
for p in model.trainable_variables:print(p.name, p.shape)

Tensorflow2.0 全连接层相关推荐

【深度学习】(3) 全连接层、激活函数
各位同学好,今天和大家分享一下tensorflow2.0深度学习中的相关操作.内容有: (1) 全连接层创建: tf.keras.Sequential(),tf.keras.layers.Dense( ...
深度学习（22）神经网络与全连接层五: 误差计算
深度学习(22)神经网络与全连接层五: 误差计算 1. MSE 2. Entropy(熵) 3. Cross Entropy 4. Binary Classification 5. Single ou ...
深度学习（21）神经网络与全连接层四: 输出方式
深度学习(21)神经网络与全连接层四: 输出方式 1. y∈Rdy∈R^dy∈Rd 2. yi∈[0,1]y_i∈[0,1]yi∈[0,1] 3. sigmoid函数 (1) 目的 (2) tf.s ...
深度学习（19）神经网络与全连接层二: 测试（张量）实战
深度学习(19)神经网络与全连接层二: 测试(张量)实战 1. 传入测试集数据 2. 数据类型转换 3. 创建test_db 4. test/evluation 5. 创建神经网络 6. 输出 7. ...
深度学习（18）神经网络与全连接层一: 数据加载
深度学习(18)神经网络与全连接层一: 数据加载 1. 常用数据集 2. MNIST数据集 (1) MNIST样本 (2) MNIST加载案例 3. CIFAR10/100 (1) CIFAR10/1 ...
全连接层的作用_全连接层实现
本文以<Tensorflow2.0深度学习算法实战教材>参考,代码部分全程手打. 图1 将图1 堆叠可以得到含有多个隐藏层的全连接层,如图2所示.因为当前层的输入要与前一层的输出相匹配:所 ...
深度学习笔记（一）：卷积层+池化层+激活函数+全连接层
写在前面:大家好!我是[AI 菌],一枚爱弹吉他的程序员.我热爱AI.热爱分享.热爱开源! 这博客是我对学习的一点总结与记录.如果您也对深度学习.机器视觉.算法.Python.C++ 感兴趣,可以关 ...
机器学习入门（15）— 全连接层与卷积层的区别、卷积神经网络结构、卷积运算、填充、卷积步幅、三维数据卷积、多维卷积核运算以及批处理
卷积神经网络(Convolutional Neural Network,CNN)CNN 被用于图像识别.语音识别等各种场合,在图像识别的比赛中,基于深度学习的方法几乎都以 CNN 为基础. 1. 全连 ...
清华旷视让全连接层“内卷”，卷出MLP性能新高度
此前,清华大学与旷视科技曾通过结构重参数化将7年老架构VGG"升级"为性能直达SOTA的RepVGG模型. 如今,这个结构重参数化系列研究又添"新成员": 他们 ...

Tensorflow2.0 全连接层

全连接层的基本使用

使用函数创建全连接网络

Tensorflow2.0 全连接层相关推荐

最新文章

热门文章