萝卜兔作者

ICLR 2020图网络论文整理!Thomas Kipf 又出满分新作

20日 ICLR 放榜,本次大会一共收到了 2594 篇论文,接受了 687 篇,接受率为 26.5%。而此次会议中,不管是收到的,还是接受的图相关的论文都再次突破。有网友统计了2019 年到 2020 年各大顶会提交论文关键词的数据。

graph neural network 成了增长第一的香饽饽。接下来我们一起来看看,这届 ICLR 都有些什么亮眼的成果输出。

GCN 之后 C-SWMs

Contrastive Learning of Structured World Models

https://arxiv.org/abs/1911.12247

做 GNN 的人一定都读过 Thomas Kipf 的论文《Semi-Supervised Classification with Graph Convolutional Networks》。而他们这篇新的工作提出了一个叫做 Contrastively-trained Structured World Models(C-SWMs)的模型。从对象、关系和层次结构上对世界的结构化理解是人类认知重要的组成部分。但是,让机器从原始的感官数据中学习结构化的世界模型是非常有挑战性的。所以他们提出了 C-SWMs。该模型利用对比的方法在有组合结构的环境中进行表示学习。文章将每个状态 embedding 为一组对象及其关系的表示,并用图神经网络来建模。他们在包含多个交互对象的组合环境中评估了 C-SWMs。

C-SWM 模型的组成包括一个基于 CNN 的对象提取器,一个基于MLP 的对象编码器,一个基于GNN 的关系转换模型,一个对象分解对比损失。

不得不提一下的是世界模型这个概念。如果不能理解世界模型的概念,那么读起来可能会云里雾里。这是关于《world model》这篇论文的链接:

https://arxiv.org/pdf/1803.10122.pdf

C-SWM 的代码链接:

https://github.com/tkipf/c-swm

欢迎研究这方面的小伙伴阅读之后,给我们做一个论文分享哟~

图神经网络的逻辑表达

The Logical Expressiveness of Graph Neural Networks

https://openreview.net/forum?id=r1lZ7AEKvB

这也是一篇满分的工作。是由常年战斗在图领域的大佬 Pablo Barceló 团队贡献的。图神经网络(GNN)区分图节点的能力最近已经通过用于检查图同构性的 Weisfeiler-Lehman(WL)测试进行了表征。但是,这种表征并不能解决哪些布尔节点分类器可以由 GNN 来表示 (即,将图中的节点分类为真或假的函数)的问题。这篇文章专注于研究布尔分类器来解决上述问题。首先研究的是流行的GNNs(文中称为 AC-GNNs)开始,在该类 GNN 中仅根据邻居的特征,在连续的层中更新图中每个节点的特征。实验表明,这类 GNN 太弱而无法捕获所有 FOC2(一种一阶逻辑研究) 分类器,并提供了 AC-GNNs 可以捕获的FOC2 分类器最大子类的语法表征。然后,研究人员研究了,需要在 AC-GNNs 中添加什么来实现捕获所有的 FOC2 分类器,实验表明,添加 readout 就可以了。不仅可以更新节点的邻居,还可以更新全局属性向量。文章称这类 GNNs 为 ACR-GNNs。

Geom-GCN

Geom-GCN: Geometric Graph Convolutional Networks

https://openreview.net/forum?id=S1e2agrFvS

Message-passing neural networks (MPNNs)成功应用于图表示学习。但是,MPNN 的两个基本弱点限制了它们表示图数据的能力:丢失邻域中节点的结构信息,并且缺乏捕获散布图中长期依赖关系的能力。很少有研究从不同角度注意到这些缺点。文章提出了一种新的图神经网络几何聚合方案,来克服这两个缺点。背后的基本思想是,图上的聚合可以从图潜在的连续空间中获益。该聚合方式具有排列不变性,由三个模块组成:节点嵌入、邻域结构以及双层聚合。

原始图和潜在空间的过程

代码类型注释

LambdaNet: Probabilistic Type Inference using Graph Neural Networks

https://openreview.net/forum?id=Hkx6hANtwH

这篇文章研究的是用图神经网络进行推理,具体的场景是进行代码的类型注释,比如在 Python 或者 Typescript 之类的语言中。文章提出了一种基于图神经网络的概率型Typescript 推理方案。首先使用轻量级的源代码分析来生成程序抽象——类型依赖图,该图将类型变量与逻辑约束以及名称和使用信息链接在一起。给定该程序抽象之后,使用图神经网络在相关类型变量之间传播信息,并最终进行类型预测。

下面是小编整理的一些已知的 ICLR 2020 图相关的论文,赶紧收藏起来吧。后面会为大家持续关注好的论文哟!

1. Hyper-SAGNN: a self-attention based graph neural network for hypergraphs

https://openreview.net/forum?id=ryeHuJBtPH

2. GraphZoom: A Multi-level Spectral Approach for Accurate and Scalable Graph Embedding

https://openreview.net/forum?id=r1lGO0EKDH

3. On the Equivalence between Node Embeddings and Structural Graph Representations

https://openreview.net/forum?id=SJxzFySKwH

4. Directional Message Passing for Molecular Graphs

https://openreview.net/forum?id=B1eWbxStPH

5. Graph Neural Networks Exponentially Lose Expressive Power for Node Classification

https://openreview.net/forum?id=S1ldO2EFPr

6. Curvature Graph Network 

https://openreview.net/forum?id=BylEqnVFDB

7. Coloring graph neural networks for node disambiguation

https://arxiv.org/abs/1912.06058

8. Topological based classification using graph convolutional networks

https://arxiv.org/abs/1911.06892

极验
极验

极验是全球顶尖的交互安全技术服务商,于2012年在武汉成立。全球首创 “行为式验证技术” ,利用生物特征与人工智能技术解决交互安全问题,为企业抵御恶意攻击防止资产损失提供一站式解决方案。

理论论文图网络ICLR 2020
2
暂无评论
暂无评论~