- Pointer Networksは注意の重みを入力位置への確率として使い、可変長の入力から要素を選ぶ。
- 凸包、ドロネー三角形分割、巡回セールスマン問題（TSP）で検証した。
- TSPで5〜20都市を学んだモデルは50都市で平均巡回路長7.66となり、比較手法A3の5.79より長かった。
何を確かめた研究か
Pointer Networksの原論文は、答えが固定された単語集ではなく、入力の何番目かを指す課題を扱う。入力が長くなれば選択肢も増えるため、通常の固定語彙の出力層では扱いにくい。著者らはエンコーダで入力列を読み、デコーダの注意を文脈ベクトルの合成だけに使わず、入力位置そのものを選ぶ確率にした。
どう検証したか
点集合から凸包や三角形分割を求める幾何課題と、都市を一度ずつ回るTSPを学習した。TSPでは20都市以下の正解を厳密解法で作り、大きな問題では近似手法の答えを教師にする。表2は巡回路の長さを比較し、短いほど良い。正しい巡回路だけを候補に残すビーム探索も試したので、ネットワーク単独の出力と後処理を分けて読む必要がある。
何が分かったか
表2で5〜20都市で学んだモデルの20都市の平均長は3.88、厳密解は3.83。30都市は4.72で比較手法A3の4.60に近い。しかし50都市では7.66となりA3の5.79から離れた。20都市を超えると無効な巡回路を出す例があり、論文はビーム探索で有効な候補だけを残した。凸包ではより長い入力まで一定の一般化を示したが、TSPにも同じ伸びを期待できない。
同じ「入力位置を順に選ぶ」形式でも、凸包とTSPでは必要な計算が違う。凸包は幾何学的な並びを見つける課題で、TSPは全都市を一度ずつ訪れる経路の長さを最小化する課題だ。可変長出力を作れることは共通でも、長い入力に対する解の質や制約遵守は課題ごとに確かめる必要がある。
限界と仕事との接点
注意が入力位置を指しても、重複選択や必要な要素の抜けが自動的に防がれるわけではない。制約の厳しい配送経路などでは解の有効性を別に検査し、従来の最適化法との時間と品質を比べる。これは論文のTSP結果から導くTRAIL編集部の提案である。
推論時間が入力長とともにどう増えるかも、長い問題では重要になる。