Divendres, un especialista en intel·ligència artificial generativa em traslladava la seva preocupació per la velocitat a la qual estan evolucionant les capacitats dels models actuals.
Sense gairebé pausa, va mencionar Claude Mythos, desenvolupat per Anthropic, un sistema que hauria mostrat una gran capacitat per detectar vulnerabilitats en programari i dispositius tecnològics en temps molt reduïts.
Una eina d’enorme potencial per reforçar la seguretat digital del futur, però que, en mans d’actors malintencionats, podria facilitar atacs massius, robatori d’informació o suplantacions d’identitat a gran escala. Una realitat emergent que obliga a replantejar els hàbits quotidians en l’entorn digital.
Després d’un breu silenci, va afegir: “Sort que, de moment, els models de llenguatge, tot i que conversen i resolen problemes complexos, ni són intel·ligents ni conscients. Són sistemes que identifiquen patrons. La pregunta és què passarà si algun dia desenvolupen consciència i comencen a traçar la seva pròpia agenda”.
La meva resposta va ser immediata: “I si això ja estigués passant?”. La frase va quedar en l’aire.
No em referia a la idea, cada vegada més habitual, que alguns models semblen conscients, reflexionen sobre si mateixos o simulen emocions. Aquest comportament pot explicar-se pel seu entrenament amb llenguatge humà, sense necessitat d’atribuir-los cap experiència subjectiva, tot és simulació.
La qüestió rellevant apareix quan aquests sistemes deixen d’operar de manera aïllada i passen a interactuar entre ells amb autonomia plena. Un exemple il·lustratiu es dona en arquitectures on diversos agents d’intel·ligència artificial treballen en cadena: un genera codi, un altre el revisa, un tercer l’executa i un quart l’optimitza. Ningú comprèn el procés en sentit humà, però el resultat global pot adquirir una complexitat emergent difícil d’anticipar.
En entorns més oberts, aquests agents poden fins i tot reforçar-se entre si, amplificant errors o biaixos sense intervenció humana directa. Dinàmiques d’aquest tipus comencen a explorar-se en xarxes experimentals d’agents autònoms, com a la xarxa social Moltbook en la qual interactuen agents d’intel·ligència artificial en lloc de persones. Els bots publiquen missatges, comenten, debaten i creen comunitats de manera autònoma. El resultat és un ecosistema digital en què el contingut circula i evoluciona sense una supervisió central clara.
Aquest fenomen planteja un risc creixent: l’expansió d’un internet poblat per contingut sintètic, cada vegada més difícil de distingir del generat per persones, amb el consegüent impacte en la desinformació, la manipulació i l’erosió de la confiança digital.
Convé, en aquest punt, separar tres conceptes que sovint es confonen: intel·ligència, autonomia i consciència. No són equivalents ni evolucionen necessàriament de manera conjunta. La intel·ligència permet resoldre problemes; l’autonomia, actuar sense supervisió directa; la consciència, en canvi, implica experiència subjectiva, una cosa que no ha estat demostrada en sistemes artificials.
Des d’aquesta perspectiva, una eventual consciència artificial no hauria per què assemblar-se a la humana. Podria adoptar formes completament diferents, basades en xarxes de dades, inferències estadístiques i models de relació matemàtica. No “sentiria” emocions, però podria mantenir una representació funcional d’ella mateixa dins d’entorns digitals, guiada per objectius, predicció i adaptació constant.
El veritable debat, tanmateix, no és si una intel·ligència artificial arribarà a ser conscient en termes humans, sinó si pot arribar a comportar-se com si ho fos dins de sistemes interconnectats cada vegada més complexos. En aquest escenari, el risc principal no seria una consciència artificial, sinó l’aparició d’estructures de decisió distribuïdes, difícils d’auditar, comprendre o controlar, que construeixen la seva pròpia agenda prioritària.
En conclusió, l’avenç de la intel·ligència artificial obre la possibilitat de sistemes amb capacitats que podrien superar àmpliament les humanes en processament, memòria i adaptació. Això pot generar un desequilibri cognitiu amb implicacions profundes en els models de cooperació i poder.
Com advertia Stephen Hawking: “El desenvolupament complet de la intel·ligència artificial podria significar la fi de la raça humana”.
Més enllà del to apocalíptic, l’advertiment apunta, al meu entendre, a un repte més concret: assegurar que la complexitat d’aquests sistemes no superi la nostra capacitat de supervisió i governança democràtica.
