Variation of Gender Biases in Visual Recognition Models Before and After Finetuning

Resumen de prensa

Investigadores de la Universidad del Sur de California, la Universidad de Columbia, Meta AI y la Universidad Rice han desarrollado un marco para rastrear cómo se comportan los sesgos de género incrustados en populares modelos preentrenados de visión por computador cuando esos modelos se ajustan finamente para tareas posteriores específicas, una cuestión que ha recibido sorprendentemente poca atención sistemática a pesar de lo ampliamente que se reutilizan estos modelos preentrenados en la industria y la academia. El equipo construyó conjuntos curados de imágenes de referencia extraídas de los conjuntos de datos COCO y OpenImages, emparejando objetos cotidianos como tablas de surf y coches con imágenes de hombres y mujeres, y luego midió con qué grado las representaciones internas de características de un modelo agrupaban esas imágenes de objetos con un género frente al otro, tanto antes como después del ajuste fino. Al probar seis modelos disponibles —incluyendo variantes de ResNet, CLIP, MoCo y SimCLR— a través de diferentes arquitecturas, tamaños de conjunto de datos de entrenamiento y regímenes de entrenamiento supervisado frente a autosupervisado, los investigadores encontraron tres patrones notables: los modelos supervisados en conjuntos de datos a gran escala como ImageNet-21k tendían a arrastrar obstinadamente sus sesgos de preentrenamiento a cualquier nueva tarea para la que se ajustaran; el ajuste fino en un conjunto de datos objetivo más grande como OpenImages tenía más probabilidades de introducir nuevas asociaciones sesgadas que el ajuste fino en uno más pequeño como COCO; y los modelos autosupervisados, en particular MoCo, mostraron una menor retención de sesgos que sus contrapartes supervisadas, aunque esto no fue universal. Para cuantificar estas dinámicas, el equipo introdujo una métrica llamada Bias Transfer Score, basada en la correlación de rangos de Spearman, que mide cuánto cambian las asociaciones relacionadas con el sesgo de un modelo entre las etapas de preentrenamiento y ajuste fino. El trabajo es prácticamente significativo porque muchos desarrolladores adoptan modelos preentrenados como cajas negras sin visibilidad sobre qué sesgos sociales pueden estar importando silenciosamente a sus aplicaciones.