Fairness and Bias Mitigation in Computer Vision: A Survey

Resumo do comunicado de imprensa

Uma equipe de pesquisadores da Michigan State University, da Rice University e da UC San Diego publicou uma revisão abrangente examinando como o viés e a falta de equidade se manifestam em sistemas de visão computacional e o que a área tem feito a respeito. O problema central é direto: quando modelos de IA treinados em dados de imagens do mundo real aprendem a reconhecer rostos, descrever cenas ou detectar objetos, eles podem ter um desempenho notavelmente pior para certos grupos demográficos — por exemplo, um sistema de reconhecimento facial citado pelos autores tinha uma taxa de erro de 0,7% em rostos de pele mais clara, mas uma taxa de erro de 12,9% em rostos de pele mais escura. Os pesquisadores catalogaram as origens dessas disparidades, atribuindo-as tanto aos conjuntos de dados usados para treinamento, que frequentemente refletem vieses sociais existentes ou foram coletados principalmente em certas regiões geográficas, quanto às escolhas de projeto dos próprios modelos, que podem amplificar esses vieses para além do que já estava nos dados. A revisão mapeia as principais abordagens técnicas que os pesquisadores desenvolveram para combater isso, incluindo métodos de treinamento adversarial que tentam remover atributos sensíveis, como gênero ou raça, das representações aprendidas, técnicas de reequilíbrio de dados que geram ou reponderam exemplos para nivelar o campo de jogo, e arcabouços matemáticos que caracterizam a compensação fundamental entre a acurácia de um modelo e sua equidade. Os autores também alertam que modelos de fundação generativos e multimodais mais novos, como o CLIP e os sistemas de texto para imagem, carregam esses mesmos problemas adiante ao mesmo tempo em que introduzem outros novos, e que ainda não existe uma definição matemática rigorosa de equidade para modelos generativos — apontando para uma lacuna significativa que a área ainda precisa fechar.