Evolving Image Compositions for Feature Representation Learning

プレスリリース要約

University of VirginiaとRice Universityの研究者らは、人工的に構成したハイブリッド画像で学習させることにより、画像認識ニューラルネットワークがより良く学習できるよう支援するPatchMixと呼ばれるデータ拡張技術を開発しました。中心的な問題は、視覚認識のための深層学習モデルが学習データに過適合しやすいことです。MixupやCutMixといった既存手法はこれに対抗するためにすでに画像のペアを混ぜ合わせていますが、それらの画像を組み合わせる柔軟性には限界があります。PatchMixは、2つの画像を同じサイズのパッチからなるグリッドに切り分け、バイナリマスクに従ってそれらの間でパッチを入れ替え、その結果生成された合成画像に各ソースから何枚のパッチが来たかに比例した混合ラベルを割り当てることで、この問題に対処します。研究チームはまた、画像全体だけでなく個々のパッチがどのクラスに属するかを正しく識別するようネットワークを学習させる副次的な損失関数を加え、これによってモデルがより局所的に意識した表現を構築せざるをえないようにしました。さらに踏み込んで、研究者らは遺伝的探索アルゴリズムを用いて、どの画像カテゴリのペアを混ぜ合わせるのが最も有用か、そしてどのグリッドパターンが最も難しく、それゆえ最も有益な学習サンプルを生み出すかを、候補となる各構成についてモデルを一から再学習する必要なしに自動的に発見しました。標準ベンチマークでテストしたところ、PatchMixで学習したResNet-50モデルはCIFAR-10、CIFAR-100、Tiny ImageNet、ImageNetでベースラインモデルを上回り、物体検出、シーン認識、画像キャプショニングを含むタスクにわたってより強い転移学習性能を示しました。これは、この手法が競合するアプローチよりも汎用的な視覚特徴を生み出すことを示唆しています。