- FixMatchは弱い画像変換で確信度の高い予測だけを仮ラベルにし、強い変換をした同じ画像にもそのクラスを学習させる。
- CIFAR-10でラベル250枚なら94.93%、40枚なら88.61%の精度を報告した。
- ラベルが極端に少ない場合は選んだ画像による差が大きく、一つの最高値だけでは頑健さを示せない。
何を確かめた研究か
画像分類では正解ラベルを付ける費用が高い。ラベルのない画像からも学べれば有用だが、モデルが誤った予測を自分の正解として再学習すると失敗が広がる。FixMatchの初版論文は、仮ラベルと予測の一貫性を簡潔に組み合わせて、少数の正解ラベルでどこまで学べるかを調べた。
方法は、ラベルのない画像へ弱い変換を施して予測する。最も確からしいクラスの確信度が閾値を超えた場合だけ、それを仮ラベルにする。次に同じ画像へ強い変換を施し、その仮ラベルを予測するよう学習する。低確信の予測は教師として使わない。正解のある画像の通常の学習と、この一貫性の損失を合わせる。
どう検証したか
論文はCIFAR-10、SVHN、STL-10、ImageNetなどで既存の半教師あり手法と比較した。ラベルの数、画像変換、閾値、最適化方法を変えた除去実験もある。異なるデータ集合やモデルの結果を一つの成績にまとめてはいない。
CIFAR-10の250ラベルは10クラスに対して各25枚、40ラベルは各4枚に相当する。後者はラベルとして選ばれる画像の質に結果が強く左右される。論文は複数の分割と乱数を使い、低ラベル条件の分散も示した。
何が分かったか
要旨と§4では、CIFAR-10のラベル250枚で94.93%、40枚で88.61%の分類精度を報告した。これはラベルなしの画像も訓練に使った条件であり、40枚だけを学習データとした意味ではない。閾値0.95付近の高確信な仮ラベルが効き、図3の閾値比較では低すぎる閾値で精度が落ちた。
§4.4では各クラス1枚だけの10ラベル条件も試すが、データ集合の選び方と学習の繰り返しによって48.58%から85.32%まで揺れた。中央値は64.28%で、成功例のみを挙げると少数ラベルの不安定さを隠す。ラベルをどれにするかがモデル設計と同じくらい重要になる場合がある。
限界は何か
仮ラベルはモデル自身が作るため、偏ったデータや実際のクラス分布が違う場合には誤りを増幅し得る。画像変換が意味を保つという前提が破れる課題では、強い変換への一貫性が有益とは限らない。CIFAR-10の高精度を、医療画像や希少な不良品のような異なるデータへそのまま移せない。
仕事との接点
ラベルを増やす費用とモデルの改善を比べるなら、ラベル付き集合を複数回選び直して精度の幅を示す。閾値を変えた際にどの画像が仮ラベルに採用されるかも点検したい。これは論文から導くTRAIL編集部の提案であり、各業務での効用を論文が保証したものではない。