《深入浅出图神经网络--GNN原理解析》一些概念【待整理完】
1. 傅里叶变换 :
傅里叶变换是将时域中的数据转换到频域中的一种方法。
傅里叶变换 可以将任意一个函数 分解为一系列不同频率的 正弦波(三角函数)的叠加
傅里叶变化的意义:可以直观的理解为:由于傅里叶变换可以将函数分解为多个正弦波,每种正弦波代表着一种维度,那么假设f(x)可以分解为3种正弦波分别以a1, a2, a3 三种频率叠加,那么,此时,我们就可以将 这三种频率 视为 观察这个函数f(x)的三种维度,三种视角。在这三种视角里,f(x)呈现的情况就对应着三个正弦波的频率值a1, a2, a3。
因此,有人也 这样比喻傅里叶变换:“如果将图像比作一到做好的菜,那么,傅里叶变换可以找出这道菜的具体配料及各种配料的用量,不管这道菜的具体制作过程如何,它都可以分辨出来。” 对应一下,那么,配料就是各种正弦波,用量就是各个正弦波对应的频率。
2. 卷积:
2.1 卷积计算:
以图像识别为例:首先,现将图像和卷积核都通过傅里叶变换转换到频域空间中。此时,卷积核作为一种滤波器,对同样变换到频域中的图像进行滤波操作:当卷积核对应的是一个低通滤波器时,在处理图片时,卷积操作就会过滤掉一些较高的频率。将这个经过低通滤波器过滤的频域图像变换会像素空间,就会发现一些内容丢失了(那些对应在频域上,变化剧烈的内容 消失了)
【一般来说:高频信号的区域对应图片上剧烈变化的区域,一般是图像的边缘、细节等】
2.2 高通滤波器 :
2.3 低通滤波器:
至于高通滤波器、低通滤波器等更详细的解释:卷积滤波器与边缘检测 - 腾讯云开发者社区-腾讯云
2.4 卷积核参数的设置:
对于图像检测,边缘提取等,一般使用约定俗成的有着良好实践效果的固定值卷积核;BUT,对于深度学习等领域,卷积核则不是一个固定值,是要根据输入的数据通过前向反向的传播学习来习得的的参数
2.5 卷积层&全连接层 的意义:
卷积层的意义:主要用于从输入中提取到丰富的特征
全连接层的意义:将卷积层得到的特征摊平,丢弃了特征图的空间信息。
主要目的是聚合全局信息并将其映射到输出空间。
【ps】啥是特征图(feature map):图像(或者数据矩阵)经过卷积计算后得到的输出,called “特征图”
3. Dropout机制
Dropout机制是用来防止过拟合。
Dropout机制的实现方式为:在训练时,随机得将 特征图的部分为置0(相当于丢失部分信息,强迫模型基于剩下的特征进行正确的推断,已学习到更加具有鲁棒和具有判别性的特征)
这只是前3章我觉得与意义的内容和一些补充,
之后会对应这个视频:沈华伟老师的视频 补充完整
《深入浅出图神经网络--GNN原理解析》一些概念【待整理完】相关推荐
- 深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习
深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习 文章目录 深入浅出图神经网络|GNN原理解析☄学习笔记(四)表示学习 表示学习 表示学习的意义 离散表示与分布式表示 端到端学习 基于重构损 ...
- 图机器学习(GML)图神经网络(GNN)原理和代码实现(前置学习系列二)
图机器学习(GML)&图神经网络(GNN)原理和代码实现(PGL)[前置学习系列二] 上一个项目对图相关基础知识进行了详细讲述,下面进图GML networkx :NetworkX 是一个 P ...
- A.图机器学习(GML)图神经网络(GNN)原理和代码实现(前置学习系列二)
图学习图神经网络算法专栏简介:主要实现图游走模型(DeepWalk.node2vec):图神经网络算法(GCN.GAT.GraphSage),部分进阶 GNN 模型(UniMP标签传播.ERNIESa ...
- 【图神经网络实战】深入浅出地学习图神经网络GNN(上)
文章目录 一.图神经网络应用领域 1.1 芯片设计 1.2 场景分析与问题推理 1.3 推荐系统 1.4 欺诈检测与风控相关 1.5 知识图谱 1.6 道路交通的流量预测 1.7 自动驾驶(无人机等场 ...
- 【图神经网络实战】深入浅出地学习图神经网络GNN(下)
文章目录 一.Graph Attention Network 1.1 图注意力机制作用与方法 1.2 Attention计算 1.3 Graph Attention 做了什么 二.序列图神经网络TGC ...
- 目前看的图神经网络(GNN)论文的一些总结
该文首发于知乎专栏:在天大的日日夜夜 已获得作者授权 最近组会轮到我讲了,打算讲一下目前看的一些GNN论文以及该方向的一些重要思想,其中有借鉴论文[1].[2]的一些观点和<深入浅出图神经网络: ...
- 【图神经网络】图神经网络(GNN)学习笔记:图的基础理论
图神经网络GNN学习笔记:图的基础理论 1. 图的概述 2.图的基本类型 2.1 有向图和无向图 2.2 非加权图与加权图 2.3 连通图与非连通图 2.4 二部图 2.5 邻居和度 2.6 子图和路 ...
- 【图神经网络】图神经网络(GNN)学习笔记:GNN的通用框架
图神经网络GNN学习笔记:GNN的通用框架 1. MPNN 2. NLNN 3. GN 参考资料 所谓通用框架,是对多种变体GNN网络结构的一般化总结,也是GNN编程的通用范式,这里介绍3类通用框架: ...
- 【图神经网络】图神经网络(GNN)学习笔记:基于GNN的图表示学习
图神经网络GNN学习笔记:基于GNN的图表示学习 1. 图表示学习 2. 基于GNN的图表示学习 2.1 基于重构损失的GNN 2.2 基于对比损失的GNN 参考资料 本文主要就基于GNN的无监督图表 ...
最新文章
- java 对象的属性_java-更新对象属性
- 基于 java springboot+mybatis二手物品网站系统设计和实现
- Spring Boot笔记-发送纯字符串邮件及带附件邮件
- 《Arduino奇妙之旅:智能车趣味制作天龙八步》一第2章
- [置顶] 【原创】无线LED条屏信息报警项目---2012.05
- web测试抓包基本功——使用Google的F12
- grafana快速搭建数据平台
- 一张废手机卡的作用......
- 120 行代码实现纯 Web 剪辑视频
- 用CSS3实现图片切换效果
- 关于Attention的超详细讲解
- 美团java一面面经
- 单目运算符和双目运算符
- 工业4.0万物联网兴起 智能手机或将消亡
- 代码模块化和可读性的tradeoff
- 基于Html+Css+javascript的游戏网页制作红色主题(我和我的祖国10页)
- Linux第四章:1.Linux关机、重启、休眠、切换用户命令大全
- 学术/答辩PPT制作(结构篇)
- Matlab中pause函数用法
- 互联网工资解读:总包100万,实际月薪仅3万!