- XceptionはInceptionの分岐を、チャネルごとの空間畳み込みと1×1畳み込みに近い操作へ置き換えた。
- 第3版のImageNet単一crop評価ではtop-1正解率79.0%、比較したInception V3は78.2%だった。
- JFTでの差は大きいが、約3億5000万枚の非公開データに基づき、速度面では当時Xceptionがわずかに遅い。
何を確かめた研究か
畳み込みネットワークは画像の位置関係とチャネル間の組み合わせを同時に学ぶ。Xceptionの論文は、この二つの処理を分けるdepthwise separable convolutionを中心に、Inceptionに着想を得た構造を作った。モデルの大きさを増やさずに精度が変わるかを調べる。
どう検証したか
ImageNetの検証集合と、約3億5000万枚・1万7000クラスの内部画像データJFTで、Inception V3と比較した。論文のImageNet表1は単一crop・単一モデルのtop-1とtop-5を示す。JFTでは多数ラベルを扱うため別の指標MAP@100を用い、ImageNetの正解率とは直接比較できない。
両モデルのパラメータ数はほぼ同じで、著者らは学習条件も近づけた。ただしInception V3はImageNet向けに調整され、JFTは非公開データである。表の差を構造変更だけの完全な因果効果とするには注意がいる。
何が分かったか
表1のImageNetではXceptionのtop-1正解率が0.790、Inception V3が0.782で、差は0.8ポイントだった。top-5はそれぞれ0.945と0.941。JFTの表2では全結合層なしでMAP@100が6.70対6.36、全結合層ありでは6.78対6.50だった。改善幅は指標とデータによって変わる。
パラメータ数は近くても、論文の当時の実装ではXceptionの学習ステップ速度がわずかに遅かった。小さい演算へ分ければ必ず速くなるわけではなく、利用する装置と演算ライブラリが重要になる。
限界は何か
JFTは内部データなので、外部の読者が同じ訓練と結果を完全に再現することは難しい。ImageNetは分類の評価であり、物体検出など別の仕事への優位を示さない。パラメータ効率と実機の応答遅延は別の観点だ。
仕事との接点
画像モデルの候補を比べるなら、対象画像と機器で精度、推論時間、ピークメモリを測る。論文の0.8ポイントの差が、自社データで意味のある差かも確認する。これは論文の比較設計から導くTRAIL編集部の提案であり、JFTの値を自社画像の期待値へ換算するものではない。