Fa uns dies vaig llegir que Sam Altman alertava novament dels perills de la #IA; és a dir, d’allò mateix que ell ha impulsat i continua impulsant per superar tots els límits. En concret, advertia del que podria passar si un desenvolupador aconseguís, abans que ningú, una superintel·ligència i la utilitzés per a finalitats pròpies poc ètiques que poguessin perjudicar greument la humanitat sense que aquesta es pogués defensar.
La mateixa alerta implica continuar competint perquè les IA siguin cada vegada més potents i avançar cap a una situació, avui dia encara només hipotètica, en què la IA s’escapi del control humà i iniciï la seva trajectòria autònoma, convertint-se en la primera espècie intel·ligent i relegant la humanitat a un segon pla, fins al punt de poder arribar a prendre el control de tot, a qualsevol lloc i en qualsevol moment.
La pregunta és què es pot fer davant d’aquesta realitat quan la IA ja és omnipresent entre nosaltres, tant en l’àmbit professional com en el lúdic o relacional, tenint en compte els enormes beneficis que pot aportar als avenços tecnocientífics i la seva contribució a l’augment de la productivitat en els processos productius. La resposta probablement es troba en el fet que el principal repte consisteix a determinar si serem prou intel·ligents per governar-la de manera responsable.
Així doncs, allò que hauria de ser urgent és identificar com governar-ne el desenvolupament i l’ús. En aquest sentit, seria imprescindible, encara que extremadament complex en un món tensionat i marcat per una creixent confrontació multipolar, impulsar una regulació internacional efectiva, seguint els precedents dels acords sobre energia nuclear, aviació o biotecnologia.
A més, la Unió Europea no pot convertir-se només en líder de la regulació si, al mateix temps, no inverteix seriosament en el desenvolupament d’una intel·ligència artificial europea alineada amb els seus valors fundacionals i dotada de sistemes que permetin identificar riscos, vulnerabilitats i possibles usos indeguts abans del seu desplegament massiu.
La UE no pot dependre del poder tecnològic de tercers. Si una futura IA superintel·ligent quedés en mans d’empreses o Estats no democràtics o sense una supervisió adequada, els riscos es multiplicarien.
La intel·ligència artificial avança a un ritme sense precedents, transformant sectors sencers i ampliant les capacitats humanes en àmbits que fa només una dècada semblaven propis de la ciència-ficció. Els seus beneficis potencials són enormes: pot accelerar descobriments científics, contribuir al diagnòstic precoç de malalties i al desenvolupament de nous tractaments, millorar l’atenció sanitària personalitzada, donar suport a les persones grans o dependents mitjançant sistemes d’assistència intel·ligent i mobilitat autònoma, incrementar la productivitat d’empreses i administracions, optimitzar l’ús dels recursos energètics i obrir noves oportunitats econòmiques, educatives i professionals.
Tanmateix, el mateix poder transformador que converteix la IA en una eina extraordinària també planteja riscos rellevants. La concentració del coneixement, les dades i la capacitat de computació en mans d’un nombre reduït d’actors pot generar noves formes de dependència econòmica, política i tecnològica. Així mateix, els algoritmes poden reproduir o amplificar biaixos existents, afectar la privacitat dels ciutadans, facilitar sistemes de vigilància massiva, influir en l’opinió pública mitjançant la desinformació automatitzada o provocar la substitució significativa de persones per robots en múltiples activitats laborals si la transició no es gestiona adequadament.
Per això, resulta imprescindible implementar salvaguardes sòlides que garanteixin que el progrés tecnològic romangui al servei de la humanitat i de l’interès general, i no exclusivament de qui controla els algoritmes, siguin poders públics o grans corporacions privades. Aquestes salvaguardes s’han de fonamentar en criteris contrastats com la transparència i l’explicabilitat dels sistemes, la protecció efectiva de les dades personals, la supervisió humana en les decisions d’alt impacte, la rendició de comptes de desenvolupadors i operadors, l’auditoria independent dels algoritmes, la competència oberta per evitar posicions dominants i l’accés equitatiu als beneficis de la innovació.
La història demostra que les grans revolucions tecnològiques generen prosperitat quan van acompanyades d’institucions capaces d’orientar els seus efectes cap al bé comú. La intel·ligència artificial no ha de ser una excepció. El repte no consisteix a frenar la innovació, sinó a governar-la amb responsabilitat, garantint que els seus beneficis es distribueixin àmpliament, que els seus riscos es mitiguen de manera eficaç i que la dignitat, la llibertat i els drets fonamentals de les persones continuïn ocupant el centre de qualsevol desenvolupament tecnològic.
Estem advertits dels riscos i intuïm les seves potencialitats. Seria estúpid no assumir aquesta dualitat i actuar en conseqüència, considerant les realitats actuals i projectant-les cap al futur.
