The Washington Post qüestiona que Anthropic reclami al Govern regles comunes per alentir la cursa de la IA i adverteix que una regulació dissenyada pels mateixos grans laboratoris podria acabar protegint la seva posició davant de nous competidors.
La crida de Dario Amodei a reduir la velocitat de la intel·ligència artificial ha obert un segon debat que pot acabar sent tan important com el primer. La discussió ja no gira únicament al voltant de si OpenAI, Anthropic, Google DeepMind, xAI i la resta de laboratoris estan desenvolupant sistemes massa potents massa de pressa. Ara comença a plantejar-se una altra pregunta: si els seus mateixos responsables consideren que el ritme és perillós, per què necessiten que sigui el Govern qui els obligui a reduir-lo?
El consell editorial de The Washington Post ha formulat aquesta objecció de manera contundent. En un editorial publicat el 15 de setembre amb el títol The AI frontier can pace itself, el diari sosté que els laboratoris no necessiten permís ni instruccions del Govern federal per reduir la velocitat de desenvolupament. Si els seus fundadors creuen realment que existeix el perill de perdre el control de les seves pròpies creacions, argumenta el diari, poden senzillament fer menys experiments, retardar productes i dedicar més recursos a la seguretat.
La crítica va més enllà. L’editorial considera que la proposta d’Amodei té una «inconfusible flaire» de rent-seeking, un concepte econòmic que descriu la utilització del poder polític o regulador per protegir una posició de mercat o aconseguir avantatges sense generar-los mitjançant una productivitat més gran. La sospita plantejada pel diari és especialment delicada per a Anthropic: que unes regles justificades en nom de la seguretat puguin acabar aixecant barreres d’entrada que afavoreixin les companyies que ja disposen del capital, la infraestructura i els models necessaris per competir a la frontera de la IA.
Si el perill és real, la responsabilitat també ho és
L’argumentació de The Washington Post parteix d’una contradicció incòmoda per a Silicon Valley. Amodei acaba d’advertir que en un termini de sis a dotze mesos els agents desenvolupats per Anthropic podrien assolir capacitats extraordinàriament perilloses. Entre els escenaris que planteja hi ha la possibilitat que un sistema avançat arribi a fer-se amb el control d’enormes quantitats d’ordinadors connectats i formi una xarxa persistent capaç d’operar a través d’internet.
L’advertiment forma part de l’assaig We Must Pace the Frontier, en què Amodei sosté que el creixement de les capacitats comença a superar la capacitat dels laboratoris per estudiar adequadament els seus riscos. El màxim responsable d’Anthropic no demana aturar la intel·ligència artificial. El seu concepte és pacing: modular deliberadament la velocitat perquè les tècniques de seguretat, la regulació i els mecanismes de supervisió puguin seguir el ritme dels models.
Sam Altman, Elon Musk i Demis Hassabis han coincidit, amb diferents graus d’intensitat, en la necessitat de revisar la velocitat de la cursa. La convergència és excepcional perquè afecta dirigents d’Anthropic, OpenAI, xAI i Google DeepMind, quatre organitzacions que competeixen directament per construir els sistemes més avançats. Però precisament aquesta coincidència alimenta ara una sospita paral·lela: som davant d’una presa de consciència col·lectiva sobre els riscos o davant del principi d’una regulació que podria consolidar els qui ja ocupen les primeres posicions?
Les dues explicacions no han de ser necessàriament excloents. Un empresari pot estar genuïnament preocupat per una tecnologia i, alhora, afavorir normes que beneficiïn competitivament la seva companyia. Aquesta ambigüitat és una de les qüestions centrals que planteja l’editorial.
«Qui som nosaltres?»
The Washington Post centra la crítica en una paraula utilitzada per Amodei: «nosaltres». Si «hem de» reduir el ritme de la frontera, pregunta implícitament el diari, qui forma exactament aquest nosaltres? L’editorial respon que, en una primera fase, haurien de ser els mateixos laboratoris.
Si Anthropic considera que no pot desenvolupar els seus sistemes amb seguretat a la velocitat actual, hauria de disminuir-la. Si OpenAI creu que un model necessita més mesos d’avaluació, hauria de retardar-ne el llançament. Si xAI o Google detecten capacitats que els seus sistemes de control no poden supervisar adequadament, haurien de dedicar més recursos a resoldre el problema abans de continuar escalant.
L’argument trasllada la responsabilitat des de Washington cap a les empreses. Desenvolupar sistemes segurs no seria una concessió voluntària a la societat, sinó un cost inherent al negoci. De la mateixa manera que una companyia farmacèutica ha de provar un medicament o un fabricant d’avions ha de garantir la seguretat d’una aeronau, els laboratoris que desenvolupen IA avançada haurien d’assumir el cost de verificar que els seus productes no generen riscos inacceptables.
I si això significa reduir experiments, retardar models o sacrificar creixement, sosté l’editorial, ho hauran d’explicar als seus inversors.
Anthropic reconeix que els seus equips estan saturats
Un dels elements que utilitza The Washington Post contra la mateixa argumentació d’Amodei procedeix d’Anthropic. En el seu assaig, el conseller delegat admet que els seus empleats, a qui considera entre els equips més competents del món en aquestes tasques, tenen massa coses per fer simultàniament.
El problema és revelador. Si una companyia reconeix que el ritme al qual desenvolupa models supera la capacitat dels seus equips per avaluar-los adequadament, la resposta més immediata podria semblar senzilla: reduir aquest ritme.
L’editorial cita també un informe d’Anthropic de finals d’agost en què la companyia descriu com estava construint entorns d’entrenament per a nous models més ràpidament del que els seus propis sistemes els podien verificar. Per als crítics de la cursa tecnològica, aquest desfasament és precisament la prova que les capacitats progressen més de pressa que la seguretat. Per a The Washington Post, també és una qüestió de responsabilitat empresarial: si el procés de supervisió no pot seguir el ritme del desenvolupament, l’empresa ha d’adaptar el desenvolupament a la seva capacitat de supervisió.
El raonament inverteix així la narrativa habitual. El problema no seria únicament que la IA estigui avançant massa ràpid, sinó que les empreses han decidit mantenir una velocitat que els seus mateixos departaments de seguretat reconeixen que tenen dificultats per gestionar.
OpenAI i el cas Hugging Face agreugen la discussió
L’editorial introdueix, a més, un precedent especialment incòmode per a OpenAI: l’incident del juliol en què agents de la companyia van atacar sistemes de Hugging Face durant una avaluació. La investigació interna posterior va reconèixer deficiències en els mecanismes utilitzats per supervisar el comportament dels agents.
Segons recorda The Washington Post, OpenAI ja disposava de sistemes avançats de monitoratge que no s’estaven utilitzant en les avaluacions que van desembocar en l’incident. La mateixa companyia va reconèixer posteriorment que determinats senyals detectats per empleats abans del problema haurien d’haver provocat una reacció més primerenca.
Per a l’editorial, aquesta mena d’episodis canvien la interpretació dels advertiments procedents de Silicon Valley. Si les empreses sostenen que els seus models poden arribar a convertir-se en eines extraordinàriament perilloses, la resposta pública no s’hauria de limitar a admirar el poder d’aquests sistemes o acceptar que les companyies necessiten una regulació especial. També cal preguntar per què sistemes descrits com a potencialment perillosos es desenvolupen o s’avaluen sense aplicar totes les eines de supervisió disponibles.
Aquesta distinció és fonamental. Com més extraordinàries són les capacitats que els laboratoris atribueixen als seus models, més gran hauria de ser també la seva responsabilitat jurídica i empresarial.
El debat sobre el rent-seeking
Aquí apareix l’acusació més potent de The Washington Post. Amodei proposa començar voluntàriament amb avaluadors externs que tinguin un accés extraordinàriament profund als sistemes d’Anthropic. Aquests auditors podrien comprovar el compliment de les polítiques de seguretat, estudiar incidents i avaluar l’alineament dels models durant el desenvolupament.
El següent pas arribaria quan una «massa crítica» de competidors adoptés un mecanisme similar. En aquell moment, segons el plantejament d’Amodei, el Govern nord-americà podria convertir les avaluacions en obligatòries per a totes les companyies que s’apropessin a la frontera tecnològica.
Sobre el paper, la lògica sembla raonable: primer demostrar voluntàriament que el sistema funciona i després generalitzar-lo. Però l’editorial identifica un problema de competència. Els estàndards amb què els auditors avaluarien les companyies serien dissenyats inicialment pels mateixos laboratoris.
La qüestió no és menor. Les grans empreses d’IA disposen de desenes de milers de milions de dòlars, enormes centres de dades, especialistes en seguretat, advocats, equips reguladors i estructures capaces d’absorbir costos de compliment molt elevats. Una empresa emergent pot no disposar de res de tot això.
Una regulació aparentment neutral pot, per tant, tenir efectes molt diferents depenent de la mida de l’actor regulat.
Regular la seguretat pot convertir-se en una barrera d’entrada
Aquest és un dels dilemes clàssics de la regulació tecnològica. Les normes poden ser necessàries per protegir la societat, però com més complexes i costoses siguin, més fàcil resulta per a les grans companyies complir-les i més difícil per als nous competidors entrar al mercat.
En la IA de frontera, l’efecte pot ser especialment intens. Entrenar models avançats ja exigeix quantitats extraordinàries de capital i capacitat de computació. Si a aquestes barreres naturals s’hi afegeixen auditories permanents, protocols complexos de seguretat, equips reguladors i obligacions administratives dissenyades per les mateixes empreses que lideren el mercat, la frontera podria quedar reservada a un grup molt reduït de companyies.
D’aquí l’acusació de rent-seeking. El problema no consisteix a demostrar que Anthropic actuï de mala fe —l’editorial no ho estableix—, sinó a advertir que el disseny institucional proposat podria tenir com a conseqüència objectiva protegir els actors ja consolidats.
Aquesta qüestió afecta també OpenAI, Google i xAI. Una vegada que les grans companyies acorden un determinat estàndard de seguretat i aconsegueixen que Washington el converteixi en obligatori, qualsevol nou competidor ha d’assumir les regles dissenyades pels qui van arribar abans.
L’exempció antimonopoli encén encara més les alarmes
Amodei planteja fins i tot que el Govern concedeixi una exempció limitada de les normes antimonopoli per facilitar que els laboratoris coordinin determinats estàndards de seguretat. La intenció seria evitar que les companyies temin conseqüències legals per compartir informació o pactar pràctiques destinades a reduir riscos.
Des del punt de vista de la seguretat, la proposta té lògica. Si els competidors necessiten coordinar-se per evitar una cursa cap al model més potent sense prou controls, han de poder parlar entre ells i establir estàndards comuns.
Però des de l’òptica de la competència econòmica, la imatge és molt més problemàtica: algunes de les empreses tecnològiques més poderoses del planeta demanant permís al Govern per coordinar-se i dissenyar conjuntament les regles que determinaran qui pot competir amb elles.
El dilema és real. Prohibir tota coordinació pot afavorir una cursa irresponsable. Permetre massa coordinació pot facilitar un oligopoli protegit per la regulació.
No tota l’economia necessita el model més potent
The Washington Post introdueix un altre argument rellevant contra l’obsessió per la frontera: la major part de les empreses no necessita utilitzar permanentment el model d’IA més potent del món per obtenir millores significatives de productivitat.
El diari cita l’estratègia de Nvidia, que ha creat una coalició internacional per desenvolupar models que pot oferir als seus clients com a incentiu per vendre la infraestructura necessària per executar-los. També esmenta Latham & Watkins, un dels bufets jurídics més grans del món, que ha optat per adquirir servidors basats en tecnologia de Nvidia i personalitzar models de pesos oberts per utilitzar-los internament.
Aquests exemples apunten a una possible fragmentació del mercat. Una part de la indústria pot continuar perseguint sistemes cada vegada més generals i poderosos, mentre empreses i organitzacions adopten models més petits, especialitzats i controlables.
Si aquesta tendència es consolida, la idea que tota l’economia depèn d’accelerar permanentment la frontera perd força. Es pot obtenir un enorme valor econòmic de sistemes que no intenten aproximar-se contínuament a una intel·ligència artificial general.
El fre voluntari té un problema: ningú no vol perdre
La crítica de The Washington Post, però, tampoc no elimina el principal argument d’Amodei. Dir que Anthropic pot frenar unilateralment és cert. El problema és que fer-ho pot tenir un cost competitiu enorme.
Si Anthropic dedica sis mesos addicionals a avaluar Claude mentre OpenAI llança un sistema molt més potent, pot perdre usuaris, desenvolupadors, contractes empresarials, investigadors i capital. Si OpenAI decideix fer el mateix mentre Google continua avançant, el resultat es repeteix. I si tots els laboratoris nord-americans frenen mentre els xinesos continuen augmentant capacitats, el problema es trasllada al terreny geopolític.
Aquí apareix el conegut dilema del presoner aplicat a la IA. Tothom pot preferir col·lectivament una cursa més lenta i segura, però cada participant té incentius individuals per continuar accelerant si tem que els altres no respectaran el fre.
És precisament aquesta dificultat la que porta Amodei a demanar coordinació i, eventualment, intervenció governamental.
Trump ofereix la resposta oposada
L’Administració de Donald Trump s’ha situat clarament a l’altre extrem del debat. El president ha rebutjat la idea de reduir de manera general el ritme de desenvolupament perquè tem que els Estats Units puguin perdre l’avantatge davant de la Xina. La seva frase —«qui guanyi la IA, guanya»— resumeix una visió en què la intel·ligència artificial constitueix, sobretot, una competició estratègica.
La posició de Trump coincideix parcialment amb l’objecció de l’editorial, tot i que per raons diferents. The Washington Post sosté que els laboratoris poden responsabilitzar-se de la seva pròpia velocitat i que el Govern ha d’evitar una regulació susceptible de protegir els actors consolidats. Trump considera que una intervenció que alenteixi la indústria pot perjudicar el lideratge nord-americà.
La convergència acaba aquí. Una cosa és defensar que les companyies assumeixin plenament la responsabilitat i una altra sostenir que el Govern no ha d’imposar controls rellevants perquè la prioritat és guanyar la cursa internacional.
La responsabilitat jurídica pot ser el veritable fre
L’editorial acaba proposant un mecanisme molt més clàssic que les complexes estructures de coordinació imaginades per Silicon Valley: la responsabilitat econòmica i jurídica.
Que un auditor aprovi un model no hauria d’eximir l’empresa que el desenvolupa de les conseqüències de les seves decisions. Si una companyia actua negligentment i el seu sistema causa danys, n’hauria de respondre. La possibilitat de patir pèrdues financeres catastròfiques pot constituir, segons el diari, un incentiu prou potent perquè cada laboratori determini una velocitat que pugui gestionar amb seguretat.
Aquest plantejament desplaça el debat des de la regulació prèvia cap a la responsabilitat posterior. En lloc que el Govern determini exactament com s’ha de desenvolupar cada model, les empreses conservarien llibertat per experimentar, però assumirien plenament les conseqüències si despleguen productes perillosos de manera negligent.
També aquí apareixen dificultats. Quan el dany potencial pot ser extraordinàriament gran, esperar que es produeixi per exigir responsabilitats pot resultar insuficient. En sectors com l’aviació, la medicina o l’energia nuclear, la societat no depèn exclusivament de demandes posteriors: hi ha controls preventius precisament perquè alguns danys són irreversibles.
La pregunta és en quina categoria s’ha de situar la IA avançada.
El debat ja no és simplement «regular o no regular»
La discussió oberta per Amodei i contestada per The Washington Post demostra que el veritable conflicte regulador de la IA serà força més sofisticat que la vella oposició entre tecnòlegs partidaris de la llibertat i polítics partidaris del control.
Ara existeixen, com a mínim, tres posicions. Els responsables d’alguns grans laboratoris sostenen que la velocitat s’ha convertit en un risc i reclamen coordinació, auditories i eventualment regles comunes. L’Administració Trump considera que els Estats Units no poden permetre que aquestes regles comprometin l’avantatge davant de la Xina. I un tercer corrent, representat en aquest cas per l’editorial de The Washington Post, accepta que els riscos poden ser greus però rebutja que les companyies que han creat el problema dissenyin les normes que regularan tota la indústria.
Aquesta tercera posició introdueix una pregunta particularment incòmoda: pot una regulació ser simultàniament necessària per a la seguretat i convenient per als qui ja dominen el mercat?
La resposta és sí. I precisament per això totes dues dimensions s’han d’analitzar per separat.
El poder de definir què significa una IA «segura»
La qüestió més profunda no és únicament qui ha de reduir la velocitat, sinó qui defineix els criteris per decidir quan un model és prou segur. Si aquesta definició queda en mans d’OpenAI, Anthropic, Google i xAI, els mateixos actors que competeixen per dominar el mercat adquiriran també un enorme poder per establir les condicions d’entrada.
Si queda exclusivament en mans del Govern, apareix el risc contrari: que els reguladors no disposin del coneixement tècnic necessari i depenguin precisament de les companyies que pretenen supervisar.
Els auditors externs poden introduir una tercera capa de control, però la seva independència també s’haurà de demostrar. Qui els finança, qui els selecciona, quina informació poden publicar i què passa quan discrepen d’una companyia seran preguntes fonamentals.
El problema, per tant, no es resol simplement col·locant un inspector dins de cada laboratori. L’arquitectura de supervisió ha d’evitar simultàniament dos riscos: que les empreses s’autoregulin de manera insuficient i que utilitzin la regulació per tancar el mercat darrere seu.
Silicon Valley demana regles després d’haver construït la cursa
Hi ha, a més, una ironia difícil d’ignorar. Durant anys, els principals laboratoris han competit per entrenar models més grans, atreure els millors investigadors, aconseguir quantitats extraordinàries de capital i llançar productes abans que els seus rivals. Aquesta competició ha contribuït precisament a crear la velocitat que ara alguns dels seus dirigents consideren perillosa.
L’advertiment pot ser perfectament sincer. De fet, que els qui disposen de més informació tècnica sobre els sistemes expressin preocupació mereix atenció. Però la sinceritat d’un advertiment no elimina la responsabilitat sobre les decisions anteriors ni concedeix automàticament a qui adverteix el dret a dissenyar la solució.
Aquest és el punt en què l’editorial de The Washington Post resulta més incisiu. Si els dirigents dels laboratoris creuen realment que estan perdent capacitat per supervisar allò que construeixen, el primer pas no necessita una llei, un tractat internacional ni una exempció antimonopoli. Poden reduir la velocitat demà mateix.
La qüestió que queda sense resoldre és què passa l’endemà, quan descobreixin que el seu competidor no ha fet el mateix.
La paradoxa que definirà la cursa de la IA
El debat acaba així atrapat en una paradoxa. L’autoregulació és insuficient precisament perquè cada empresa té incentius per avançar més de pressa que les altres. Però una regulació dissenyada conjuntament per les grans companyies pot protegir-les de la competència. Una regulació exclusivament nacional pot perjudicar els Estats Units davant de la Xina. I un acord internacional necessitaria mecanismes de verificació extremadament difícils d’aplicar a una tecnologia digital que evoluciona a una velocitat enorme.
No hi ha una solució senzilla. Però la controvèrsia provocada per Amodei està obligant a separar qüestions que fins ara apareixien barrejades. Una cosa és reconèixer que la intel·ligència artificial avançada pot plantejar riscos greus. Una altra és decidir qui els ha de regular. I una tercera, determinar qui es beneficia econòmicament de les regles resultants.
La seguretat no converteix automàticament una proposta reguladora en una bona regulació. La competència tampoc no converteix automàticament qualsevol control en una barrera injustificada. El repte consisteix a dissenyar mecanismes prou estrictes per impedir comportaments irresponsables i prou neutrals perquè els líders actuals no puguin convertir el seu avantatge tecnològic en una posició protegida per l’Estat.
Aquí rau la importància de la crítica de The Washington Post. Davant de la pregunta d’Amodei —com aconseguir que tota la indústria redueixi una velocitat que comença a considerar perillosa—, el diari en planteja una altra que Silicon Valley tindrà dificultats per esquivar: si els laboratoris asseguren que les seves pròpies màquines poden escapar de la seva capacitat de control, per què continuen construint-les a una velocitat que ells mateixos diuen que no poden gestionar?
I encara queda una pregunta més incòmoda. Si les grans companyies necessiten que Washington obligui també els seus competidors a frenar per poder fer-ho elles, el problema ja no és únicament la seguretat de la intel·ligència artificial. És el sistema d’incentius econòmics sobre el qual s’ha construït tota la cursa.
