- グラフニューラルネットが使った可能性の高い辺とノード特徴を、予測ごとに抽出した。
- 合成グラフの既知の模様を探すAUCで、BA-Shapesは0.991を報告した。
- 図示された部分グラフはモデルの振る舞いの説明で、現実の因果関係の証明ではない。
何を確かめた研究か
グラフニューラルネットは、点の特徴と周辺の辺をまとめて予測する。その結果が出ても、どのつながりが効いたのか分かりにくい。GNN Explainerは、既存モデルを再訓練せず、特定の予測を保てる小さな部分グラフと特徴量を探す。個別のノードやグラフだけでなく、同じ種類の複数例に共通する模様も扱う。
どう検証したか
対象のGNNが見た計算グラフに辺のマスクを付け、重要な特徴次元も選ぶ。元のモデルと、選んだ部分だけを見せたモデルの予測が近くなるよう最適化し、説明を小さくする正則化も使う。合成データでは「家」「輪」「格子」など答えに必要な模様が既知なので、抽出された辺を正解と比較できる。実データにはMutagなどの分子グラフも含めた。
何が分かったか
v1表1の合成BA-Shapesで、必要な部分グラフの辺を見つけるAUCはGNN Explainer0.991、注意重みを使うGAT0.957、勾配法0.936だった。BA-Communityでも0.993対0.974、0.883。これらは合成課題で答えの構造が分かる条件の比較であり、実際の社会ネットワークで説明が真実だと保証しない。
図3は個々のノードで、モデルが伝播させた情報の経路を可視化する。著者らは注意重みや勾配だけでは、説明部分が切断されやすい場合を論じる。ただし複数のマスクが同じ予測を保ち得るため、表示された一つが唯一の理由とも限らない。
限界は何か
最適化は近似で、マスクの初期値や正則化、表示する辺の数に左右される。説明がモデルの出力を再現しても、入力グラフの背後の現実的な因果を証明しない。分子の結合を消す操作は、実在しない分子を作る場合もある。
仕事との接点
取引網や関連文書のグラフで予測を調べる際は、表示された辺が予測の再現に必要か検証する。既知のケースで説明を評価し、担当者が読める形と、推論に実際に効いた形が一致するか確認する。