Research / 基盤技術 · 評価

グラフを見分ける力を問い直す GINと集約関数

グラフニューラルネットの近傍集約が何を区別できるかを、Weisfeiler–Lehmanテストとの関係から整理した。9データセットの比較は表現力と汎化を分けて読む必要がある。

論文初公開(arXiv)
参照版
v1
TRAIL公開
  • 近傍の特徴を平均・最大・和でまとめる違いが、区別できるグラフ構造を変える。
  • GINは和の集約とMLPを使い、特定の条件で1-WLテストと同等の区別力を得る。
  • 9種類のグラフ分類結果は、理論的な表現力と汎化性能を同一視していない。

何を確かめた研究か

分子や交流ネットワークは点と辺からなるグラフで表せる。各点の近隣をまとめて更新するグラフニューラルネットは便利だが、集約で異なる構造を同じ値に潰せば、後段の分類器は区別できない。How Powerful are Graph Neural Networks?は、この限界を1次元Weisfeiler–Lehman(1-WL)テストと比較し、Graph Isomorphism Network(GIN)を提案した。

どう検証したか

論文はまず、近傍の特徴を複数集合として扱い、区別可能な集約をどう作るか理論的に示す。和の集約後に多層パーセプトロンを置くGINと、平均・最大や一層変換に置き換えた変種を比較した。実験は生体情報4件、社会ネットワーク5件の計9データセットでグラフ分類を行い、10分割交差検証を用いた。訓練集合への適合度の曲線と、テスト集合の正解率を別に提示する。

理論上、平均は近隣の数が違っても同じ平均値になる場合がある。最大値は重複の数を捨てる。和はその個数情報を保てるが、どんなグラフでも完全に区別できるわけではなく、1-WLテストの限界を超えない。理論結果はモデルの最適化や未知データでの汎化を保証しない。

何が分かったか

図4ではGINがほぼ全ての訓練集合によく適合し、弱い集約の変種は複数の集合で適合不足だった。表1の社会ネットワークREDDIT-BINARYではGINの分類正解率は92.4%、和+一層変換は90.0%。特徴を全ノード同じにした平均+MLPは50.0%で偶然水準に留まった。これは近隣の数を捨てると生じ得る問題を示す。ただしノード次数を入力特徴にした括弧内の値は71.2%で、入力情報でも結果は変わる。

表1ではGINが9集合すべてで唯一の最高点というわけではない。例えばMUTAGではPATCHY-SANの92.6%がGINの89.4%を上回る。著者は、GINと最良のGNN変種の差が統計的に区別できない場合も明記する。表現力が強い設計と、個々の集合の最高点を混同しないことが重要だ。

限界は何か

理論は近傍集約型GNNと1-WLに関するものだ。辺や位置の追加情報、別の計算構造を持つ手法すべてを順位付けするものではない。実験は当時の9分類データセットと入力特徴・ハイパーパラメータに依存し、現実の大規模グラフの計算費や時間変化は測っていない。

仕事との接点

不正取引網や分子構造などでグラフを使う場合、まず異なるノード数や重複した近傍が分類に必要な情報かを確かめる。必要なら平均・最大で失われる情報を検討し、訓練適合と検証集合の成績を分けて報告する。

01

出典

Research の一覧へ戻る