- DCGANはGANの生成器・識別器に畳み込みとバッチ正規化などの設計規則を導入した。
- ImageNetで教師なし事前学習した識別器の特徴をCIFAR-10で線形分類すると82.8%だった。
- 表1のExemplar CNNは84.3%で、DCGANが全比較手法で最高ではない。
何を確かめた研究か
DCGANの原論文は、画像を生成するGANの学習が、分類などにも使える階層的な特徴を作るかを調べた。生成器と識別器の両方に畳み込みを使い、プーリングや全結合に頼りすぎない構造、バッチ正規化、活性化関数の選択といった設計規則を示す。生成した画像の見た目だけでなく、識別器の内部表現を別の課題へ移す。
どう検証したか
LSUNの寝室、顔、ImageNetなどで画像生成を試し、潜在ベクトルを変えた時に出力がどう変わるか観察した。下流の分類評価ではImageNetで事前学習した識別器から各層の特徴を取り出し、CIFAR-10のラベルで線形SVMを学習した。DCGAN自身はCIFAR-10画像で事前学習していない。比較にはK-means系とExemplar CNNがある。
何が分かったか
表1のCIFAR-10分類でDCGANの特徴は82.8%、単層K-meansは80.6%、三層K-meansは82.0%、Exemplar CNNは84.3%だった。視覚的な例では、生成画像の潜在表現を操作すると寝室や顔の属性が連続的に変わる様子を示す。ただし見た目の自然さには定量的な万能指標がなく、分類への転用結果と混同できない。82.8%は特徴を固定した線形分類の結果で、生成器の評価点ではない。
生成器は潜在ベクトルから画像を作り、識別器は本物らしさを判定する。互いに競う学習で識別器の特徴も変わるため、分類用に直接学習した特徴と同じ目的で最適化されていない。表1で別の教師なし手法が上回ることは、この用途では生成の副産物だけで最良の分類器が得られないことを示す。
限界と仕事との接点
GANの学習はデータ、構造、乱数に敏感で、生成物が元データの偏りを反映する。識別器の特徴も対象分野が変われば使えるとは限らない。導入時は生成の多様性、近接した訓練画像の再現、下流の精度を分けて確認する。後半はTRAIL編集部の提案である。