I si la intel·ligència artificial comença a millorar sense nosaltres? La possibilitat de sistemes capaços d’autoaprendre i perfeccionar-se de manera recursiva ja no és només teòrica. El ritme d’inversió, la concentració de talent i la velocitat de millora dels models fan que aquest escenari sigui cada vegada més a prop de la realitat. De fet, Jack Clark, cofundador d’Anthropic, va explicar recentment que és necessari disposar d’un “pedal de fre”, advertint que els desenvolupadors podrien perdre el control d’aquests sistemes a mesura que evolucionin de manera cada cop més autònoma i imprevisible.
Si les IA arribessin a ser capaces de dissenyar, entrenar i desplegar els seus propis successors, s’obririen escenaris potencialment problemàtics. El més evident és que els enginyers ja no poguessin comprendre plenament com funcionen, fet que faria insuficients els mecanismes actuals de regulació, auditoria i seguretat.
Al mateix temps, els errors o comportaments incorrectes podrien amplificar-se, ja que defectes de disseny podrien heretar-se i multiplicar-se en generacions posteriors, perseguint objectius equivocats amb gran eficàcia i generant desequilibris econòmics, militars o socials de gran magnitud.
L’autoaprenentatge de la IA presenta riscos considerables, però també beneficis potencials si es planifica i es gestiona adequadament, ja que podria accelerar significativament els avenços científics i tecnològics, facilitant el descobriment de nous materials, medicaments o fonts d’energia més enllà del que els éssers humans som capaços de concebre i dissenyar. Aquest binomi entre risc i potencialitat és el que cal tenir en compte.
Si estem més a prop del que es pensava de sistemes capaços d’autoaprendre i millorar-se, potser és prudent alentir-ne el desenvolupament per comprendre millor les seves implicacions i orientar-lo cap al bé comú, i no cap als interessos d’uns pocs. Sense necessitat que la IA superi àmpliament la intel·ligència humana, ja és plausible que pugui realitzar la majoria de les tasques intel·lectuals i físiques millor que les persones. En aquest escenari, sorgeixen preguntes inevitables: què significarà treballar?, com es distribuirà la riquesa?, com s’haurà de transformar l’educació?
En aquest context convé recordar que els éssers humans no som només intel·ligència analítica: també som consciència, emoció i experiència subjectiva. Característiques que les IA no posseeixen i que difícilment arribaran a posseir. Tanmateix, això no impedeix que deixem de ser la principal font d’intel·ligència operativa en moltes àrees, ni que una pèrdua de control sobre aquests sistemes tingui conseqüències profundes.
Per això és necessari entendre que la IA ampliarà les nostres capacitats com a societat, si som capaços de combinar innovació amb responsabilitat i criteri ètic sense substituir els nostres valors, per construir un futur en què la IA no ens reemplaci, sinó que ens ajudi a ser més humans.
