Un nou estudi publicat a Nature i difós per la Universitat de Califòrnia a Berkeley revela que els sistemes d’intel·ligència artificial i les plataformes en línia projecten una imatge distorsionada de les dones: més joves, menys experimentades i amb menor autoritat que els homes. La conclusió és inquietant perquè no parla només de codis i algoritmes, sinó d’un mirall global que multiplica els estereotips que crèiem superats.
La distorsió digital
El treball, signat per investigadors de Berkeley Haas, Stanford i Oxford, va analitzar 1,4 milions d’imatges i vídeos en línia juntament amb nou grans models de llenguatge entrenats amb milers de milions de paraules. En els resultats, les dones apareixien sistemàticament més joves que els homes en 3.495 categories professionals i socials. La tendència era especialment marcada en les feines de major estatus o remuneració. No obstant això, les dades del cens nord-americà mostren que no hi ha diferències significatives d’edat entre homes i dones en el mercat laboral de la darrera dècada.
Com els algoritmes tradueixen el biaix
L’estudi també va posar a prova models de llenguatge com ChatGPT, demanant-los que generessin currículums ficticis. Els resultats van repetir el patró, els perfils femenins van resultar, de mitjana, 1,6 anys més joves, amb dates de graduació més recents i menys experiència que els masculins. Quan el sistema avaluava les candidatures, considerava més qualificats els homes més grans per als mateixos llocs, fins i tot quan les dades eren equivalents.
L’investigador Douglas Guilbeault, coautor de l’estudi, ho resumia així en declaracions al comunicat oficial de premsa de Berkeley Haas:
“Les imatges en línia mostren el contrari de la realitat. I encara que internet estigui equivocat, quan ens diu que aquest ‘fet’ és cert i ho creiem, ens enfonsa més en l’error”.
Llenguatge, imatge i poder
La distorsió no es limita al visual. L’anàlisi de milers de milions de paraules procedents de Reddit, Google News, Wikipedia i Twitter va trobar un patró també en les paraules. Les que anaven associades a la joventut es vinculaven més estretament a les dones, mentre que els termes d’autoritat o experiència apareixien juntament amb noms masculins. En la representació digital, elles rejoveneixen; ells envelleixen amb prestigi.
El bucle del biaix
L’equip va comprovar a més com aquesta representació altera la percepció humana. En un experiment amb 500 participants, els qui van buscar imatges a Google de certes professions van tendir a recomanar edats més joves per a les dones en definir el perfil ideal de contractació. Els investigadors descriuen aquest fenomen com un “bucle de retroalimentació”. Els biaixos digitals influeixen en les percepcions humanes, que després nodreixen les dades d’entrenament de la IA, amplificant l’error inicial.
L’efecte va ser més pronunciat en professions de prestigi com a directora executiva o astronauta, precisament aquelles amb majors bretxes salarials entre gèneres. Danaé Mataxa, informàtica de la Universitat de Pensilvània, va comentar a Science News que l’estudi ofereix una prova quantitativa de l’edatisme laboral cap a les dones:
“És nociu veure com la narrativa digital traça la vida professional femenina com una corba que es desvaneix després dels quaranta”.
Entre l’evidència i la responsabilitat
L’estudi arriba en un moment en què les eines de contractació basades en IA enfronten una creixent pressió legal, amb diverses demandes per discriminació d’edat i gènere en sistemes automàtics de selecció. La conclusió dels autors apunta que les tecnologies que prometien neutralitat estan reproduint els prejudicis que deien combatre. La pregunta que queda flotant és si sabrem reprogramar el mirall abans que el seu reflex es converteixi en norma.
Obre un parèntesi en les teves rutines. Subscriu-te a la nostra newsletter i posa’t al dia en tecnologia, IA i mitjans de comunicació.
