Double-Hard Debias: Tailoring Word Embeddings for Gender Bias Mitigation

Sintesi del comunicato stampa

I ricercatori della University of Virginia e di Salesforce Research hanno individuato un fattore precedentemente trascurato che compromette le tecniche comuni per rimuovere il pregiudizio di genere dai word embedding — la frequenza statistica delle parole nei dati di addestramento. I word embedding, le rappresentazioni numeriche del linguaggio utilizzate in innumerevoli applicazioni di IA e di elaborazione del linguaggio naturale, sono noti per codificare stereotipi di genere della società, come l'associazione di "programmer" agli uomini e di "homemaker" alle donne. La soluzione dominante a questo problema, un algoritmo chiamato Hard Debias, funziona individuando e proiettando fuori una "direzione di genere" dallo spazio degli embedding, ma i ricercatori hanno scoperto che le informazioni sulla frequenza delle parole incorporate negli embedding distorcono quella direzione di genere prima che possa essere rimossa in modo pulito. Per affrontare questo problema, hanno costruito un metodo in due fasi chiamato Double-Hard Debias, che prima elimina la componente legata alla frequenza degli embedding e poi applica la procedura standard di Hard Debias. Testando gli embedding GloVe e Word2Vec su tre benchmark standard di pregiudizio — tra cui un compito di risoluzione delle coreferenze, un test di associazione di parole e un controllo geometrico basato sul clustering — il loro approccio ha ridotto il pregiudizio di genere misurabile in misura più sostanziale rispetto ai metodi precedenti, con il divario tra le prestazioni di un sistema di coreferenza su frasi stereotipate per genere rispetto a frasi contro-stereotipate che è sceso da 15,2 punti percentuali con GloVe non modificato ad appena 0,9 con il loro metodo, mentre la qualità linguistica generale sui compiti di analogia e categorizzazione di parole è rimasta in gran parte intatta. Il lavoro suggerisce che ripulire i word embedding richiede di prestare maggiore attenzione agli artefatti strutturali lasciati dalle statistiche del corpus.