En una cimera imaginària però profundament reveladora, convoquem Sam Altman, Elon Musk i Mark Zuckerberg a la taula del poder, amb motiu de les 500 edicions de butlletins de Paréntesis MEDia. Un debat fictici generat amb IA del nostre particular Joc de Trons que dissecciona els dos anys que han redefinit la tecnologia, on el Conseller Astut, el Rei del Caos i l’Arquitecte del Codi Obert exposen les seves estratègies, pors i la descarnada ambició per governar el nostre demà. Aquesta és la primera entrega.
La Sala del Còmput Final
No és Desembarcament del Rei, sinó el cor digital del nostre temps. La sala del consell és un espai de minimalisme brutalista: murs de formigó polit que absorbeixen el so i una única taula de fibra de carboni negra que devora la llum. No hi ha canelobres medievals, sinó la freda i etèria lluminiscència de filaments de dades que recorren les parets i el sostre com un sistema nerviós exposat, polsant amb el ritme invisible del còmput. A l’aire flota una quietud carregada, el tipus de silenci que precedeix a una tempesta o a la signatura d’un tractat que redefinirà fronteres. Sobre la taula, en lloc de mapes de Ponent, floten hologrames tridimensionals de xarxes neuronals, galàxies d’algoritmes en perpètua expansió, teranyines teixides per aranyes quàntiques que connecten nodes de coneixement i poder.
El regne de la intel·ligència artificial ha viscut dos anys d’una convulsió tan sísmica que qualsevol saga fantàstica palideix en comparació. Ha estat una era d’aliances forjades sobre milers de milions de dòlars, traïcions executades en una nit a través de videoconferències, ascensos meteòrics que han creat nous multimilionaris i profecies tecnològiques que es compleixen abans que ningú pugui llegir-les amb deteniment. Els fonaments del poder tecnològic global s’han esquerdat i reconfigurat. Era el moment, inevitable, que els senyors d’aquesta nova era es miressin als ulls, sense la mediació d’un tuit o un comunicat de premsa.
La porta, una pesada llosa de titani i vidre intel·ligent, es llisca sense el menor soroll. El primer a entrar és Sam Altman, Conseller Delegat d’OpenAI. El seu pas és mesurat, el seu vestit de tall impecable, la calma en el seu rostre un escut acuradament forjat a les forges de Silicon Valley. No camina, processa l’entorn, avaluant variables i futurs possibles amb cada pas. Els seus ulls escruten la taula, els hologrames, les cadires buides. Ocupa el seu seient no com un convidat, sinó com qui torna a un lloc que li pertany per dret de creació i conquesta, amb una economia de moviments que delata una ment sempre en funcionament, sempre optimitzant. El Conseller Astut porta les cicatrius del seu breu exili i el seu triomfant retorn, una experiència que li ha ensenyat que el poder no només es construeix amb codi, sinó també amb lleialtats fràgils i aliances estratègiques.
“Tenim dues opcions sobre la taula: l’oracle tancat i amb ànim de lucre de Sam, que ens jura que és pel nostre bé, o la versió ‘Parc Juràssic’ de Mark, on regalem embrions de velociraptor a qualsevol amb un portàtil i li desitgem ‘molta sort’. Ningú més veu la demència en això?” — Elon Musk
La mateixa porta s’obre de nou, aquesta vegada amb una violència continguda, gairebé una disrupció en el camp quàntic de la sala. Elon Musk irromp com una força de la natura, un remolí d’energia disruptiva i una impaciència gairebé palpable que omple l’espai buit. L’autoproclamat Rei del Caos, senyor de Tesla, SpaceX i X, es mou amb la urgència de qui lliura guerres en mitja dotzena de fronts alhora i considera que el temps és un recurs finit que s’està malgastant.
—¡Sam! —la seva veu talla el silenci, un somriure afilat als llavis, mig burleta, mig inquisitorial—. ¿Segueixes intentant vendre al món que no estàs jugant amb foc prometeu? ¿O ja has admès que ens dirigeixes a tots al penya-segat amb un producte de 20 dòlars al mes?
Altman aixeca la vista de l’holograma que estava observant, la seva compostura una armadura impenetrable de serenitat corporativa. —Elon. Les teves metàfores apocalíptiques són sempre… estimulants. Em recorden a les nostres primeres converses, quan encara crèiem que podíem salvar el món amb una simple organització sense ànim de lucre.
El tercer protagonista materialitza la seva presència gairebé sense anunciar-se. Mark Zuckerberg entra amb un sigil algorítmic, com si hagués calculat l’entrada òptima per observar abans de ser observat. La seva dessuadora grisa amb caputxa és un estudiat gest d’informalitat, una declaració que el poder real no necessita corbata. Però la rigidesa de la seva postura i la fixesa de la seva mirada revelen la tensió de compartir espai amb els seus dos majors rivals. La seva veu, quan parla, és monòtona però incisiva, la d’un home que optimitza fins i tot la seva cadència verbal per maximitzar la transmissió de dades.
—Cavallers. Sembla que finalment tenim el nostre propi Consell en l’Ombra. Un lloc adequat per discutir qui governarà el pròxim segle.
—El Consell Privat, voldràs dir —replica Musk, deixant-se caure a la capçalera de la taula, un tron que conquereix per pura inèrcia i força de voluntat—. Encara que aquí falten jugadors importants. Falta la resta de senyors. On és Satya, el teu nou senyor feudal, Sam? O Sundar, el guardià de l’antiga fortalesa que es va despertar tard a la guerra?
Tres homes. Tres visions irreconciliables del futur. El Conseller que creu poder domesticar el drac de la superintel·ligència per assolir la utopia, finançant el viatge amb productes de consum massiu. El constructor d’imperis que ara regala els maons del poder —el codi obert— perquè tothom construeixi la seva pròpia Roma, soscavant els fonaments dels seus rivals. I el Rei profeta que adverteix del fi del món mentre forja la seva pròpia espasa divina —una IA que cerca la «veritat»— per, segons ell, salvar-nos dels altres.
El Concili dels Titans de la IA ha començat. I el destí de la humanitat, en molts sentits, està en l’agenda.
Primer assalt: L’espectre de la traïció i la ferida oberta d’OpenAI
Va ser Musk qui va desenvainar primer, no amb acer, sinó amb paraules afilades per anys de ressentiment i una convicció messiànica. Es va inclinar sobre la taula de carboni, els seus ulls fixos en Altman amb la intensitat d’un fiscal.
Elon Musk: Comencem per la gènesi del pecat, et sembla, Sam? Pel moment en què tot es va torçar. Quan un petit grup de nosaltres, inclòs jo, vam fundar OpenAI, el nom significava alguna cosa. Era un jurament. Una organització sense ànim de lucre. Oberta. Un contrapès al poder monolític que vèiem créixer a Google, un monstre de dades que amenaçava amb devorar el futur de la IA. Anàvem a ser un baluard per a la humanitat, no una startup amb esteroides perseguint valoracions borsàries.
Sam Altman: I aquesta missió fonamental, Elon, segueix intacta. Està gravada en la nostra carta fundacional i en l’ADN de cada investigador que treballa amb nosaltres: assegurar que la Intel·ligència Artificial General (AGI) beneficiï tota la humanitat de manera segura. Els mitjans per assolir aquest fi han evolucionat, és cert, però l’objectiu final és exactament el mateix. El camí es va fer més llarg i costós del que ningú va imaginar.
Elon Musk: No em parlis de missió! —Musk va deixar anar una rialla seca, despectiva, el so del metall raspant contra la pedra—. La missió va ser la primera víctima en el teu altar del pragmatisme. Vas transformar una ONG en un monstre corporatiu amb una estructura de «beneficis limitats» que és la broma més cínica de Silicon Valley. Un límit tan alt que és funcionalment il·limitat. Et vas agenollar davant Microsoft. Vas canviar la independència per GPUs. Vas trair cadascun dels principis fundacionals en una cursa desenfrenada pel producte, pel creixement, pel domini del mercat! De «OpenAI» a «ClosedAI for profit».
“L’obertura distribueix el poder. A llarg termini, és l’única seguretat real contra un únic punt de fallada. A OpenAI, el punt de fallada vas ser tu, Sam. I per poc s’ensorra l’edifici sencer.” — Mark Zuckerberg
Mark Zuckerberg: (Intervenint amb la precisió quirúrgica d’un cirurgià que troba el punt exacte per a la seva incisió) És fascinant sentir-te parlar de puresa ideològica, Elon, quan ets el paradigma del control vertical i absolut en les teves empreses. Ningú pren una decisió a Tesla o SpaceX sense la teva benedicció. A Meta, almenys, hem estat coherents amb la nostra nova estratègia. Apostem pel codi obert amb Llama. No oferim una mascota engabiada i ensinistrada, accessible només a través de les reixes d’una API; oferim el genoma complet perquè el món sencer pugui innovar, auditar i construir.
Elon Musk: Ha! El genoma! Regales el genoma d’una intel·ligència que ni tu mateix comprens del tot. Fantàstic. Així que aquestes són les opcions que ens oferiu al món: l’oracle tancat i amb ànim de lucre de Sam, supervisat pel seu mecenes a Redmond mentre ens jura que és pel nostre bé, o la versió ‘Parc Juràssic’ de Mark, on regalem embrions de velociraptor a qualsevol amb un portàtil i li desitgem ‘molta sort’. Ningú més veu la demència en això? De veritat sóc l’únic que pensa que ambdues opcions són terriblement perilloses?
Sam Altman: (Impertorbable, mantenint el contacte visual) L’analogia és efectista, Elon, com sempre. Però és tècnicament fal·laç i estratègicament ingènua. Un model de l’escala i capacitat de GPT-4, alliberat sense controls, representa un risc asimètric immens. El potencial per a la desinformació a escala planetària, per al desenvolupament de ciberarmes autònomes, per al bioterrorisme, és real i present. El nostre enfocament de desplegament gradual i monitoritzat a través d’API és l’única forma responsable d’escalar aquesta tecnologia. No dones un cap nuclear a tothom i esperes que només la facin servir per alimentar les seves ciutats. Implementem salvaguardes, estudiem els usos indeguts i corregim el rumb de forma iterativa. És l’únic camí segur.
Elon Musk: Seguretat! Quina valor tens per pronunciar aquesta paraula! —la veu de Musk puja de volum, carregada d’un menyspreu que sembla gairebé personal—. Tu! L’home que va ser destituït pel seu propi consell d’administració perquè temien que estaves sacrificant la seguretat per la velocitat! Un consell que incloïa Ilya Sutskever, un dels pocs cervells en aquest planeta que es prenia seriosament el problema de l’alineament de l’AGI. La teva suposada devoció per la «seguretat» va durar exactament fins que el teu principal inversor, Satya Nadella, va moure els fils com un mestre de titelles i et va tornar al tron per no perdre la seva gallina dels ous d’or. No parlem de seguretat. Parlem de poder. El teu retorn no va ser un triomf de la visió; va ser un cop d’estat corporatiu.
El cop aterra amb la força d’un martell. La crisi de novembre de 2023 és la ferida oberta, la cicatriu visible en la llegenda de Sam Altman. Per un instant, la seva màscara de serenitat es trenca. Un múscul es contreu a la seva mandíbula. És el record de cinc dies d’incertesa, de veure l’imperi que havia construït a punt d’esfondrar-se.
Sam Altman: (Recuperant la compostura, la seva veu ara amb un tall acerós sota la superfície polida) El consell va tenir… una divergència fonamental sobre la metodologia i el ritme del progrés. I sí, Ilya és brillant. La seva dedicació a la seguretat de la Superintel·ligència és una cosa que sempre he respectat, fins i tot en el nostre major desacord. Però la missió d’OpenAI no es pot complir des d’una torre d’ivori acadèmica, paralitzats per la por a la nostra pròpia ombra. Requereix audàcia, capital i una escala computacional massiva que ningú va anticipar el 2015. Microsoft no va comprar OpenAI. Va invertir en la missió perquè va entendre que per construir el futur no pots conduir mirant constantment pel retrovisor. Has d’accelerar, encara que el camí tingui corbes perilloses.
“El veritable tron de la IA no és perquè l’ocupi un rei. És una eina per servir tota la humanitat. Per arribar a aquest futur es necessita audàcia, inversió massiva i velocitat, no una precaució que ens paralitzi en el present.” — Sam Altman
Mark Zuckerberg: (Assentint lentament, com un analista que confirma una hipòtesi amb noves dades de camp) Aquest episodi, Sam, va demostrar una veritat fonamental que va més enllà de les vostres disputes internes: la fragilitat absoluta de la governança centralitzada quan es tracta d’una tecnologia d’aquesta magnitud. El destí de la IA més avançada del món no pot dependre de les deliberacions d’un petit consell no electe, ni de la relació personal entre dos CEOs, ni del pànic d’un científic en cap. És un sistema intrínsecament trencadís. Un únic punt de fallada. A OpenAI, durant aquells cinc dies, el punt de fallada vas ser tu. I per poc s’ensorra l’edifici sencer. La comunitat de codi obert, en canvi, és antifràgil. Si un grup no està d’acord amb el rumb de Llama, poden fer un fork. Poden auditar el nostre codi, trobar els nostres errors i construir alguna cosa millor. És un sistema resilient per disseny. L’obertura distribueix el poder. I aquesta, amics meus, és l’única seguretat real a llarg termini.
Aquesta cimera imaginària continuarà…
La crisi de governança a OpenAI (Novembre de 2023)
El 17 de novembre de 2023, el consell d’administració d’OpenAI, l’entitat sense ànim de lucre que governa l’empresa, va anunciar la destitució de Sam Altman com a CEO. El comunicat oficial, sorprenentment vague i dur, citava que Altman «no va ser consistentment sincer en les seves comunicacions amb el consell, obstaculitzant la seva capacitat per exercir les seves responsabilitats».
La decisió, que va commocionar Silicon Valley, va ser el clímax d’una profunda divisió ideològica dins de la companyia. D’una banda, la facció pro-comercialització i acceleració, liderada per Altman, advocava per un ràpid desenvolupament i desplegament de productes per assegurar el finançament i el domini del mercat. D’altra banda, la facció de la seguretat, les preocupacions de la qual eren representades pel científic en cap i cofundador Ilya Sutskever, temia que la cursa per llançar «productes brillants» estigués marginant la investigació crítica sobre els riscos i l’alineament d’una futura AGI.
El que va seguir va ser un drama corporatiu sense precedents que es va desenvolupar en temps real a les xarxes socials. Més de 700 dels 770 empleats d’OpenAI van signar una carta oberta amenaçant amb dimitir en massa i unir-se a Microsoft, on Satya Nadella, en una jugada mestra de poder, ja havia ofert a Altman i al seu equip un nou feu per liderar un laboratori d’IA avançat. La pressió dels empleats, combinada amb la influència de Nadella i altres inversors, va ser insostenible.
Cinc dies després, el 21 de novembre, Altman va ser reinstaurat com a CEO. L’antic consell va ser dissolt i reemplaçat per un de nou, inicialment compost per Bret Taylor (com a president), Larry Summers i Adam D’Angelo (l’únic membre que va sobreviure del consell anterior). La crisi va tenir conseqüències duradores: va consolidar la immensa influència de Microsoft sobre el destí d’OpenAI i, mesos més tard, figures clau de l’ala de la seguretat, com Ilya Sutskever i Jan Leike (qui va criticar públicament que «la cultura de la seguretat ha passat a un segon pla davant dels productes brillants»), abandonarien la companyia, consolidant la victòria de la facció pro-acceleració. La saga va deixar al descobert la tensió inherent entre la missió fundacional sense ànim de lucre d’OpenAI i el seu voraz apetit comercial, i va plantejar preguntes fonamentals sobre com s’ha de governar la tecnologia més potent del món.
