- 人手で選ぶ画像変換の組み合わせを、データから探索する方法を提案した。
- CIFAR-10のPyramidNet＋ShakeDropでは誤り率が2.67%から1.48%へ下がった。
- 方針を見つける探索と、その方針で最終モデルを学習する段階は別の費用を持つ。
何を確かめた研究か
画像分類で左右反転や色調整を使うと、同じラベルの学習例を増やせる。ただし画像の種類が違えば適切な変換も違う。AutoAugmentは、変換操作、適用確率、強さの組み合わせを方針として探索し、選んだ方針を大きな訓練集合に再利用できるか調べた。
どう検証したか
制御器が候補方針を提案し、子モデルを学習させて検証精度を報酬にする。CIFAR-10では全5万枚ではなく、無作為に選んだ4000枚の縮小集合で方針を探した。その後、同じ方針で全CIFAR-10とCIFAR-100のモデルを学習する。論文はWide-ResNet、Shake-Shake、PyramidNet＋ShakeDropなど複数構造で、通常の拡張、Cutout追加、AutoAugmentを比較した。ImageNetでは別に方針を探索し、細分類タスクへの転用も試した。
同じ最終モデルと学習設定で複数の拡張を比べることが、この結果の読みどころだ。ただし方針探索の計算は、最終学習の表だけに現れない。大きなデータ集合ほど探索そのものの費用と、移した方針の再利用可能性を見合わせる必要がある。
何が分かったか
表1のCIFAR-10では、PyramidNet＋ShakeDropの誤り率が通常拡張2.67%、Cutout 2.31%、AutoAugment 1.48%だった。同じ表のWide-ResNet-28-10は3.87%、3.08%、2.68%。一つの構造だけの改善ではない。表2のCIFAR-100でもPyramidNet＋ShakeDropは13.99%、12.19%、10.67%の順に下がった。ここでの差は拡張方針を含む学習手順全体の比較で、個々の色変換の独立効果ではない。
論文はImageNetのTop-1正解率83.54%も報告する。ただしCIFARとImageNetで探索した方針は同一ではなく、入力画像、モデル、学習条件も異なる。数字を横に並べて、別データへの単純な性能倍率と読むべきではない。
限界は何か
候補方針を評価するたびに子モデルを学習するため探索は高価になり得る。論文の方針は特定の画像分類データで選ばれたもので、医療画像や文書画像でも安全に同じ変換が使えるとは示していない。左右反転でラベルが変わる画像のように、意味を保たない操作は有害にもなる。
仕事との接点
画像データを増やす時は、変換がラベルの意味を保つかを先に確認する。同じモデル・分割・学習回数で基準方針と比べ、探索に使った計算も含めて導入を判断する。論文の改善値はこの条件を考えるための材料になる。