《Cross-GCN: Enhancing Graph Convolutional Network with k-Order Feature Interactions》论文阅读笔记

何向南老师团队发表于2021年，TKDE

背景
图作为一种数据结构，已经应用到了数字化图书馆，推荐系统，问答系统等信息检索应用中。随着深度学习的发展，图挖掘技术已经从结构理解转换到了特征学习。为预测分析（节点分类，边连接）提供一种通用的方式。
图卷积网络GCN是从图数据中学习的一种新兴技术。在图结构上进行特征学习，通过聚合邻居节点的特征得到目标节点的嵌入向量，因其强大的特征表示能力，近年来有很多关于GCN的研究。GCN以多层图卷积在低维潜在空间中，学习节点特征。传统的GCN主要包含两部分：节点聚合模块（融合邻居节点特征）和特征转换模块（将目标节点从原始的输入特征空间映射到潜在特征空间，以更好的表示节点特征）。主要关注于节点聚合模块，强调不同的连接属性，如局部相似性、多级连接和结构相似性，然而，只使用矩阵映射执行特征转换。
已有方法
已有的GCN方法没有建模交叉特征，当交叉特征重要时，GCN会变得无效。尽管神经网络可以逼近任意函数，包括用于建模特征交叉的乘法操作，但如果没有明确设计，这样做仍可能会非常低效（浪费许多参数，冒着过拟合的风险）。
本文
建模交叉特征的主要挑战是效率，因为交叉特征的数量随着特征维数的增加而急剧增加。
本文设计了一种新的操作，交叉特征图卷积cross-GCN，能够显式的建模任意阶交叉特征，其复杂度与特征维数和阶数大小呈线性关系。设计了一种新的基于图的学习方式，Cross-GCN。
具体
（1）交叉特征变换模块：
在许多应用中，采用交叉特征可以取得显著的成功。这是因为交叉特征能够丰富实体的表示，交叉特征变换模块同时执行从1到K阶的交叉特征变换，融合作为整体输出。
本文的创新之处：以线性复杂度实现交叉特征转换。

其中，输入x，输出h，W表示变换参数矩阵，f表示k阶交叉特征变换函数（将k阶的交叉特征编码成潜在向量）
（2）聚合模块：
不同阶的交叉特征对于预测有不同的影响，聚合函数首先将不同阶的潜在特征聚合成一个向量，然后使用平均池化聚合，之后再添加偏差执行非线性激活得到最终的输出。

k-阶特征交叉增强图卷积网络相关推荐

用于高光谱图像分类的像素级和超像素级特征融合的CNN增强图卷积网络
高光谱图像:光谱分辨率在10^-2λ数量级范围内的光谱图像光谱分辨率:是指传感器所能记录的电磁波谱中,某一特定的波长范围值,波长范围值越宽,光谱分辨率越低. 光谱:是复色光经过色散系统(如棱镜.光栅 ...
(18) 基于时空多图卷积网络的网约车需求预测
交通预见未来(18): 基于时空多图卷积网络的网约车需求预测 1.文章信息 <Spatiotemporal Multi-Graph Convolution Network for Ride-ha ...
图卷积节点分类_在节点分类任务上训练图卷积网络
图卷积节点分类 This article goes through the implementation of Graph Convolution Networks (GCN) using Spek ...
LightGCN：用于推荐任务的简化并增强的图卷积网络 SIGIR 2020
论文链接:https://arxiv.org/abs/2002.02126 代码链接:https://github.com/gusye1234/LightGCN-PyTorch 论文来源:SIGIR ...
【论文翻译】HCGN：面向集体分类的异构图卷积网络深度学习模型
HCGN:面向集体分类的异构图卷积网络深度学习模型摘要集合分类是研究网络数据的一项重要技术,旨在利用一组具有复杂依赖关系的互联实体的标签自相关性.随着各种异构信息网络的出现,集合分类目前正面临着来 ...
Survey | 基于图卷积网络的药物发现方法
本期介绍2019年6月发表在Briefings in Bioinformatics的综述,该综述由康奈尔大学等机构的研究人员撰写,系统总结了GCN及其在药物发现方面的最新进展,重点是与药物相关的应用: ...
【论文笔记】Revisiting graph based collaborative Filtering:一种线性残差图图卷积网络方法
Revisiting Graph based Collaborative Filtering:A Linear Residual Graph Convolutional Network Approac ...
【图神经网络】SGC：简化图卷积网络
SGC:简化图卷积网络 <Simplifying Graph Convolutional Networks> 论文地址:https://arxiv.org/abs/1902.07153 一 ...
【图卷积网络】Semi-Supervised Classification with Graph Convolutional Networks
论文:Semi-Supervised Classification with Graph Convolutional Networks 代码:TensorFlow.PyTorch 摘要我们提出了一种 ...

k-阶特征交叉增强图卷积网络

《Cross-GCN: Enhancing Graph Convolutional Network with k-Order Feature Interactions》论文阅读笔记

k-阶特征交叉增强图卷积网络相关推荐

最新文章

热门文章