プレスリリース要約
ミシガン州立大学、ライス大学、カリフォルニア大学サンディエゴ校の研究者チームは、コンピュータビジョンシステムにバイアスと不公平がどのように現れるか、そしてこの分野がそれに対して何をしてきたかを検討する包括的なサーベイを発表した。中心的な問題は単純である。実世界の画像データで訓練されたAIモデルが顔を認識したり、シーンを記述したり、物体を検出したりするよう学習すると、特定の人口統計グループに対して著しく性能が劣ることがある。例えば、著者らが引用したある顔認識システムは、肌の色の明るい顔では0.7%の誤り率だったが、肌の色の暗い顔では12.9%の誤り率であった。研究者らはこれらの格差の起源を整理し、それらを、しばしば既存の社会的バイアスを反映するか主に特定の地理的地域で収集された訓練用データセットと、データにすでにあったものを超えてそれらのバイアスを増幅し得るモデル自体の設計上の選択の両方に遡らせた。このサーベイは、研究者らがこれに対抗するために開発した主要な技術的アプローチを整理しており、これには学習された表現から性別や人種のような機微な属性を取り除こうとする敵対的訓練手法、競争の場を公平にするために事例を生成または再重み付けするデータ再均衡技術、そしてモデルの精度とその公平性の間の根本的なトレードオフを特徴付ける数学的フレームワークが含まれる。著者らはまた、CLIPやテキストから画像へのシステムのような新しい生成モデルおよびマルチモーダル基盤モデルが、これらと同じ問題を引き継ぎながら新たな問題を持ち込むこと、そして生成モデルに対する公平性の厳密な数学的定義がまだ存在しないことを指摘し、この分野が依然として埋める必要のある重大な隔たりを示している。
要旨
コンピュータビジョンシステムは、この分野における複数の進歩により、過去二十年にわたって急速な進展を遂げてきた。これらのシステムが利害の大きい実世界のアプリケーションにますます展開されるにつれて、歴史的なデータや人間が選別したデータにおけるいかなる差別的傾向をも伝播ないし増幅させないこと、あるいは見せかけの相関から不注意にバイアスを学習しないことを保証する切実な必要性がある。本論文は、コンピュータビジョンの文脈における進行中の動向と成功を要約し光を当てる、公平性に関する包括的なサーベイを提示する。我々が論じるトピックには次のものが含まれる。1）より広範な公平な機械学習の文献および隣接分野から引き出された、公平性の起源と技術的定義。2）コンピュータビジョンシステムにおけるバイアスを発見し分析しようとした研究。3）近年コンピュータビジョンシステムのバイアスを緩和するために提案された手法の概要。4）バイアスを測定、分析、緩和し公平性を高めるために研究者が生み出した資源とデータセットの包括的な概要。5）この分野の成功、マルチモーダル基盤モデルおよび生成モデルの文脈で続く動向、そして依然として取り組む必要のある隔たりに関する議論。提示された特徴付けは、研究者がコンピュータビジョンにおけるバイアスの特定と緩和の重要性およびこの分野の現状を理解し、今後の研究の潜在的な方向性を見出すのに役立つはずである。
詳細
引用
@article{dehdashtian2024fairness,
title = {Fairness and Bias Mitigation in Computer Vision: A Survey},
author = {Dehdashtian, Sepehr and He, Ruozhen and Li, Yi and Balakrishnan, Guha and Vasconcelos, Nuno and Ordonez, Vicente and Boddeti, Vishnu Naresh},
year = {2024},
journal = {arXiv preprint arXiv:2408.02464},
url = {https://arxiv.org/abs/2408.02464},
}