グラフニューラルネットワークの長距離コンテキスト表現

Representing Long-Range Context for Graph Neural Networks with Global Attention

長距離依存性を学習する手法を提案

2022-01-21 被引用 125 中級
GNNTransformer
  • グラフニューラルネットワークは構造化データに強力だが、長距離依存性の表現が難しい。
  • 本研究では、Transformerベースの自己注意機構を用いて長距離のペア関係を学習する手法を提案する。
  • このアプローチは、従来の手法を上回る性能を示し、グラフ構造を明示的にエンコードしない方法の可能性を示唆している。
グラフニューラルネットワーク自己注意Transformer

グラフニューラルネットワーク(GNN)は、構造化データの処理において優れた性能を発揮しますが、長距離依存性の表現には課題があります。本論文では、Transformerを基にした自己注意機構を用いて、長距離のペア関係を学習する新しい手法を提案します。この手法は、従来のGNNよりも優れた性能を示し、グラフ構造を考慮しないアプローチの有効性を示しています。特に、グラフデータを扱う研究者や実務者にとって興味深い内容です。

グラフデータを扱う研究者や実務者に向いています。特に、GNNの限界を克服したい方におすすめです。

Representing Long-Range Context for Graph Neural Networks with Global Attention
Zhanghao Wu, Paras Jain, Matthew A. Wright, Azalia Mirhoseini, Joseph E. Gonzalez, Ion Stoica