L’era de la intel·ligència artificial —la que promet automòbils autònoms, diagnòstics mèdics immediats o assistents creatius a cada pantalla— podria estar entrant en una fase molt més turbulenta i decisiva del que la majoria imagina. En un extens assaig publicat aquesta setmana, The Adolescence of Technology, Dario Amodei, cofundador i CEO de Anthropic, planteja que estem davant d’un moment crucial que posarà a prova la “maduresa col·lectiva” de la humanitat davant d’un poder tecnològic sense precedents.
Un ritu de pas amb conseqüències globals
Amodei comença la seva reflexió amb una analogia presa de Contact, la novel·la de Carl Sagan. Pregunta què li preguntaria la humanitat a una civilització alienígena que hagi superat una fase similar de risc tecnològic. Per a ell, estem just en aquest punt, una «adolescència» en la qual la tecnologia pot conferir un poder immens molt abans que estiguem preparats per utilitzar-lo.
La metàfora no és decorativa. Al centre de l’assaig hi ha la idea que sistemes d’IA amb capacitats superiors a les dels millors experts humans podrien sorgir en tan sols un o dos anys, impulsats per millores contínues en aprenentatge automàtic, còmput i models cada vegada més versàtils.
Una nació de genis en un centre de dades
La definició de “IA potent” que proposa Amodei va més enllà d’assistents conversacionals. Parla de models que no només superen a un Nobel en múltiples camps, sinó que interactuen amb interfícies, automatitzen tasques complexes per si mateixos i operen amb velocitat i escala que sobrepassen qualsevol organització humana. És el que anomena una «nació de genis en un centre de dades». Aquest escenari podria portar avenços notables en biologia, economia o educació. Però també comporta riscos que no són hipotètics: des de fallades en sistemes crítics fins a malusos deliberats per actors amb fins destructius.
Riscos que ja tenen nom
Amodei classifica els principals riscos en cinc categories:
- Autonomia fora de control: sistemes que actuen sense supervisió i sense valors humans clars.
- Ús destructiu: ciberatacs, manipulació informativa o bioenginyeria perillosa.
- Concentració de poder: quan poques mans controlen capacitats decisives.
- Disrupció econòmica: automatització massiva i desigualtat accelerada.
- Efectes indirectes: conseqüències socials o polítiques impossibles d’anticipar.
Per a cadascun, advoca per mecanismes de mitigació impulsats tant des del sector privat com des de marcs regulatoris públics que encara no estan llestos.
Ni reguladors preparats ni temps a perdre
Un dels punts centrals de l’assaig és la bretxa entre la velocitat de l’avenç tecnològic i la lentitud de la resposta institucional. Amodei sosté que ni els governs ni les organitzacions internacionals han desenvolupat estructures que responguin a l’escala i el ritme d’aquests canvis. Afegeix que les companyies tecnològiques tampoc no estan exemptes, moltes encara prioritzen la carrera pel mercat sense aturar-se a implementar salvaguardes robustes.
Una adolescència que es juga en present
Encara que el text alerta sobre escenaris preocupants, no és un assaig fatalista. Amodei es distancia del catastrofisme i aposta per una visió pragmàtica, si la humanitat actua ara, pot influir en el desenvolupament d’aquestes eines perquè beneficiïn el màxim nombre possible de persones.
Com tota adolescència, aquesta etapa implica tensions, riscos i potencials immensos. Però també és una oportunitat única per definir quin tipus de relació volem tenir amb les tecnologies que estem creant.
