Són els biaixos de la IA el preàmbul dels trastorns de personalitat digitalitzats?
Les intel·ligències artificials generatives estan pensades per interactuar amb l’ésser humà i resultar amigables. Però, què passaria si entrenéssim un algoritme a imatge i semblança d’un trastorn de la personalitat? Això podria simular-se? Jo dic que sí. Però que no s’estengui el pànic. I no, no ens morirem tots ni és una teoria col·lapsista: és simplement un enfocament diferent sobre l’entrenament i els biaixos, però crec que cal anar amb compte. Sobretot per a les persones que no estan habituades a la IA.
En les últimes setmanes hem estat testimonis de titulars que suaven “deliris” per part de persones que feien servir chatbots. També ha sonat molt que OpenAI retirés una versió de GPT per ser “massa aduladora”. Els biaixos de la intel·ligència artificial no deixen de ser components humans que codifiquem i traslladem a un ordinador —més o menys conscientment—. Però la meva reflexió va més enllà i la creuo amb els trastorns de la personalitat.
La personalitat de la IA
Trastorn límit, histriònic, narcisista, paranoide. Noms que, en psicologia, són el pa de cada dia. Però si volem abordar la perspectiva més humanista dels ordinadors, crec que ja toca plantejar-se el tema. Jo només soc periodista, així que he demanat ajuda a la meva estimada col·lega i psicòloga Anna Sibel, que m’ha aportat diversos escenaris. Junts desgranarem què podria passar si una IA s’entrenés a imatge i semblança d’un trastorn de la personalitat.
Partim d’una base: penso que la IA no és conscient. Són cables, circuits i xips. Encara que generi contingut, només fa un “remix” altament sofisticat. Tant que ens pot fer l’efecte de consciència. Però, i això ho recalca també la Sibel, “les màquines no inventen prejudicis ni biaixos, simplement aprenen del que els donem i ho reprodueixen. Al final traslladem en forma de codi comportaments humans”.
Un trastorn, dos trastorns, tres trastorns
Hi ha molts trastorns de la personalitat. I segons l’Anna Sibel, “totes les persones tenim, en menor o major grau, trets histriònics, narcisistes, evitatius… però una altra cosa és complir estrictament totes les característiques perquè es consideri que tenim un trastorn com a tal”. Per tant, no és el mateix tenir trets que tenir el paquet complet. Partim d’aquesta base.
Pel que fa a entrenar la IA a imatge i semblança d’un trastorn de la personalitat, entrem en una dimensió que es ramifica molt, i que es pot abordar des de molts punts de vista. Però per fer-ho senzill: els biaixos són la porta d’entrada als trastorns en forma de codi? Com es comportaria una IA amb aquest tipus d’entrenament?
Responent a la primera pregunta: crec que sí. I afegeixo que podria replicar els comportaments dels trastorns. Això pot suposar un risc per a les persones que interactuen amb algoritmes sense alçada suficient en alfabetització tecnològica per enfrontar-se a fets així.
Com podria comportar-se una IA amb trastorns de la personalitat? L’Anna Sibel ho resumeix i explica de manera molt clara:
“Una IA narcisista que només validi el seu propi algoritme i coneixements. Una IA paranoica que censi tot allò que l’incomoda. Una IA evitativa que filtri el que no entén. Una IA límit que amplifiqui emocions de manera exagerada”.
Recordem que això seria —en termes més mundans—, un ordinador que repliqui els comportaments de qui ha desenvolupat el programa. Però…
Cal espantar-se? Aquí tenim una oportunitat d’or
Donem-li la volta: i si en comptes d’evitar programar una IA d’aquest tipus, dediquem esforços a perfeccionar els comportaments d’un trastorn de personalitat? Segur que et sorprèn la pregunta. Però et convido a continuar llegint:
Igual que entrenem una IA per reconèixer malalties perquè faci diagnòstics per imatge en medicina, per què no tenir un algoritme on nosaltres, com a humans, puguem veure tots els ingredients que componen un trastorn de la personalitat?
Podríem usar la IA per entrenar-nos a nosaltres mateixos, i així detectar millor els trastorns de la personalitat en un ésser humà? Si veiem reflectits els elements d’una qüestió que —visualment— és invisible, potser podrem avançar molt més en pro de la salut mental.
Tot i que crec fermament que una IA pot fer l’efecte de tenir un trastorn de la personalitat —i ser un risc d’exposició per algú no habituat—, també penso que és possible usar la IA com a plataforma per entrenar-nos com a humans.
Crec que aquest camp encara està per descobrir, però serà molt interessant. I, sobretot, cal actuar amb ètica per evitar que la IA no ens generi por o ansietat, sinó que esdevingui una plataforma on tots puguem aprendre, conscients que qualsevol tecnologia, per molt bona que sigui, pot descontrolar-se si les intencions no són les adequades.
Obre un parèntesi en les teves rutines. Subscriu-te a la nostra newsletter i posa’t al dia en tecnologia, IA i mitjans de comunicació.
