Variation of Gender Biases in Visual Recognition Models Before and After Finetuning

Sintesi del comunicato stampa

I ricercatori della USC, della Columbia, di Meta AI e della Rice University hanno sviluppato un framework per tracciare come i bias di genere incorporati nei popolari modelli di computer vision preaddestrati si comportano quando tali modelli vengono sottoposti a fine-tuning per specifici task a valle — una domanda che ha ricevuto sorprendentemente poca attenzione sistematica nonostante la diffusione con cui questi modelli preaddestrati vengono riutilizzati nell'industria e nel mondo accademico. Il team ha costruito insiemi curati di immagini di riferimento tratte dai dataset COCO e OpenImages, abbinando oggetti di uso quotidiano come tavole da surf e automobili a immagini di uomini e donne, per poi misurare quanto strettamente le rappresentazioni interne delle feature di un modello raggruppassero quelle immagini di oggetti con un genere piuttosto che con l'altro, sia prima sia dopo il fine-tuning. Testando sei modelli pronti all'uso — tra cui varianti di ResNet, CLIP, MoCo e SimCLR — su diverse architetture, dimensioni dei dataset di addestramento e regimi di addestramento supervisionati rispetto ad auto-supervisionati, i ricercatori hanno riscontrato tre pattern degni di nota: i modelli supervisionati su dataset su larga scala come ImageNet-21k tendevano a trasportare ostinatamente i loro bias di preaddestramento in qualunque nuovo task fossero sottoposti a fine-tuning; il fine-tuning su un dataset target più grande come OpenImages aveva maggiori probabilità di introdurre nuove associazioni con bias rispetto al fine-tuning su uno più piccolo come COCO; e i modelli auto-supervisionati, in particolare MoCo, mostravano una minore ritenzione di bias rispetto alle loro controparti supervisionate, sebbene ciò non fosse universale. Per quantificare queste dinamiche, il team ha introdotto una metrica chiamata Bias Transfer Score, basata sulla correlazione per ranghi di Spearman, che misura quanto le associazioni legate ai bias di un modello si spostino tra le fasi di preaddestramento e di fine-tuning. Il lavoro è praticamente significativo perché molti sviluppatori adottano i modelli preaddestrati come scatole nere senza alcuna visibilità su quali bias sociali potrebbero importare silenziosamente nelle loro applicazioni.