El gran debat sobre la intel·ligència artificial ja no és només tècnic: és polític, moral i econòmic, perquè decidir qui controla els algoritmes equival a decidir qui controla una part creixent de la vida humana.
L’encíclica Magnifica humanitas, atribuïda al papa Lleó XIV i publicada amb motiu del 135è aniversari de Rerum novarum, ha entrat de ple en un dels debats més delicats del nostre temps: la relació entre intel·ligència artificial, dignitat humana, poder tecnològic i llibertat. L’article publicat a La Vanguardia per Lorenzo Bernaldo de Quirós parteix d’una idea poderosa: el document vaticà encerta quan recorda que la tècnica no té ànima, però s’equivoca, segons l’autor, quan intenta traslladar aquesta intuïció moral al terreny de la regulació econòmica amb receptes intervencionistes.
La discussió no és menor. La intel·ligència artificial ha deixat de ser una promesa de laboratori per convertir-se en infraestructura social. Ordena informació, automatitza decisions, filtra continguts, avalua riscos, transforma el treball, altera l’educació, canvia la medicina, reconfigura l’administració pública i comença a intervenir en processos fins ara reservats a professionals, institucions o persones. Per això el debat ja no es pot reduir a si els models són més o menys eficients, si generen imatges més realistes o si responen amb més precisió. La pregunta de fons és una altra: quina idea d’ésser humà s’està imposant quan la societat delega cada vegada més funcions en sistemes algorítmics.
Aquí rau el principal encert de Magnifica humanitas, segons la lectura de l’article: situar la dignitat de la persona al centre del debat tecnològic. Davant la temptació de veure l’individu com un conjunt de dades, patrons, mètriques de rendiment o comportaments predictibles, l’encíclica reivindica una concepció més profunda de l’ésser humà. Una persona no és un expedient digital, ni una puntuació de risc, ni una variable dins d’un sistema d’optimització. Tampoc és un «algoritme biològic» pendent de ser millorat tècnicament. És un subjecte moral, lliure, vulnerable, creatiu i dotat de drets.
El text de La Vanguardia subratlla que aquesta defensa de la persona no pertany només al pensament religiós. També connecta amb la tradició liberal clàssica, que entén l’individu com a titular de llibertat i responsabilitat, i no com una peça substituïble d’una maquinària estatal, corporativa o tecnològica. Aquesta coincidència és rellevant perquè trenca una divisió massa simplista: la idea que la crítica humanista a la intel·ligència artificial és necessàriament anticapitalista, antimoderna o tecnòfoba. No ha de ser així. Es pot defensar la innovació tecnològica i, al mateix temps, exigir que no converteixi l’ésser humà en matèria primera.
L’article també destaca la crítica vaticana al transhumanisme radical. Aquest corrent, en les seves versions més ambicioses, interpreta la fragilitat, la malaltia, l’envelliment o fins i tot la mort com a problemes tècnics que podrien corregir-se mitjançant la ciència, la biotecnologia, la computació o la intel·ligència artificial. El risc d’aquesta mirada no es troba en la recerca mèdica ni en el desig legítim d’alleujar el patiment, sinó en l’arrogància de considerar que la condició humana és un defecte de disseny. Quan la finitud es converteix en una avaria, la persona deixa de ser un misteri moral i passa a ser un projecte d’enginyeria.
Aquest punt és especialment pertinent en l’era de la IA generativa. Els models actuals ja no només calculen: escriuen, conversen, imiten estils, produeixen imatges, sintetitzen veus, elaboren diagnòstics preliminars, ajuden a programar i comencen a actuar com a assistents persistents. La frontera entre eina i mediació cultural es difumina. Si la tecnologia no se subordina a una idea clara de dignitat, pot acabar modelant la mateixa definició d’allò humà. No perquè les màquines tinguin ànima, sinó perquè les institucions, empreses i governs poden arribar a tractar-nos com si nosaltres tampoc no en tinguéssim.
El segon gran encert assenyalat per Bernaldo de Quirós és l’advertència sobre la concentració de poder en les grans tecnològiques. Les Big Tech no són simples empreses que competeixen en igualtat de condicions dins d’un mercat obert. Controlen infraestructures, dades, plataformes, núvols, sistemes operatius, canals de distribució, xarxes socials, publicitat, dispositius i, cada vegada més, models fundacionals d’intel·ligència artificial. La seva capacitat per ordenar el flux d’informació i condicionar el debat públic és enorme.
L’encíclica, segons l’article, encerta en desconfiar d’aquesta acumulació de poder. Quan unes poques corporacions poden decidir quins continguts circulen, quins models s’integren als dispositius, quines aplicacions tenen visibilitat, quines dades alimenten els sistemes i quines normes tècniques es converteixen en estàndard, el problema no és únicament econòmic. És democràtic. Una societat oberta no pot dependre d’oligopolis digitals opacs, encara que aquests es presentin amb el llenguatge amable de la innovació, la seguretat o la comoditat de l’usuari.
Ara bé, l’article introdueix aquí la seva crítica principal: el perill no prové només del mercat, sinó també de l’aliança entre grans empreses i Estat. Bernaldo de Quirós defensa que no és el mercat lliure el que deshumanitza, sinó el capitalisme clientelar i l’estatisme asfixiant. És a dir, no seria la competència oberta la que genera els pitjors abusos, sinó els privilegis regulatoris, les barreres d’entrada, les subvencions selectives, la protecció política i la tendència dels grans actors a capturar les normes que haurien de limitar el seu poder.
Aquest argument és especialment interessant aplicat a la intel·ligència artificial. Regular la IA és necessari, però una mala regulació pot reforçar precisament aquells a qui diu voler controlar. Si les exigències legals són tan costoses, complexes o burocràtiques que només les grans plataformes poden complir-les, el resultat serà menys competència, menys diversitat tecnològica i més dependència dels mateixos actors dominants. En nom de la seguretat es pot acabar blindant l’oligopoli. En nom de l’ètica es pot expulsar del mercat petites empreses, universitats, mitjans de comunicació, laboratoris independents o emprenedors.
La qüestió, per tant, no és regulació sí o regulació no. Aquesta dicotomia és pobra. La qüestió és quin tipus de marc institucional es construeix. Una cosa és exigir transparència, responsabilitat, traçabilitat, protecció de drets, garanties davant de biaixos discriminatoris i mecanismes de reparació davant de danys. Una altra de molt diferent és aixecar una arquitectura burocràtica tan pesada que converteixi la IA en un territori reservat als gegants tecnològics i a administracions hipercentralitzades. La primera opció pot protegir els ciutadans. La segona pot reduir-ne la llibertat.
L’article de La Vanguardia també reivindica una idea d’arrel hayekiana: el coneixement està dispers a la societat i cap planificador central no el pot substituir. Aquesta tesi resulta especialment fecunda en el debat sobre la IA. La intel·ligència artificial funciona, precisament, perquè processa quantitats immenses d’informació, però això no significa que una autoritat central pugui anticipar tots els seus usos, riscos, beneficis i efectes. La innovació tecnològica és un procés obert, incert, distribuït i sovint imprevisible. Les millors aplicacions no sempre sorgeixen dels grans plans, sinó dels experiments, dels errors, de la competència i de l’adaptació.
Aquí apareix la tensió entre prudència i control. La prudència és indispensable perquè la IA pot causar danys reals: manipulació informativa, discriminació algorítmica, fraus, vigilància massiva, suplantació d’identitat, destrucció d’ocupació, dependència cognitiva o concentració empresarial. Però el control absolut és una il·lusió perillosa. Pretendre sotmetre tota innovació a comitès, autoritzacions i dissenys preventius pot paralitzar el desenvolupament o desplaçar-lo cap a jurisdiccions menys garantistes. A més, pot atorgar als reguladors un poder excessiu sobre una tecnologia que potser ni tan sols comprenen amb prou profunditat.
L’encíclica, segons Bernaldo de Quirós, compleix una funció profètica: recordar que la tècnica no és suficient. Aquesta és una advertència necessària en un moment en què bona part del discurs públic sobre IA oscil·la entre l’entusiasme comercial i la por apocalíptica. Davant d’aquests extrems, la pregunta humanista continua sent la més sòlida: per a què volem aquesta tecnologia, al servei de qui estarà, qui respondrà pels seus danys i com es preservarà la llibertat de les persones.
Però l’article retreu al document vaticà una tendència a desconfiar del mercat i a atribuir les disfuncions del present a un individualisme insolidari o als excessos del capitalisme. La crítica de l’autor és clara: molts dels pitjors problemes no neixen de la llibertat econòmica, sinó de la seva deformació. El capitalisme clientelar no és mercat lliure, sinó mercat intervingut en benefici d’aquells que tenen capacitat d’influir en el poder polític. L’estatisme asfixiant tampoc no protegeix necessàriament els més vulnerables; sovint genera dependències, rigideses i noves formes d’arbitrarietat.
Aquesta distinció és crucial. La intel·ligència artificial pot desenvolupar-se dins d’un ecosistema obert, competitiu, plural i sotmès a l’Estat de dret. O pot quedar atrapada en una estructura dominada per grans corporacions protegides per regulacions fetes a mida i administracions desitjoses d’ampliar la seva capacitat de vigilància i control. En el primer escenari, la tecnologia pot augmentar la productivitat, el coneixement, el benestar i les oportunitats. En el segon, pot consolidar una aliança entre monopolis digitals i poder polític.
La defensa de la dignitat humana exigeix, per tant, alguna cosa més que bones intencions. Requereix institucions que limitin el poder, protegeixin la propietat, garanteixin la competència, assegurin la responsabilitat jurídica i preservin espais de llibertat individual. L’ètica sense arquitectura institucional es queda en retòrica. Però la regulació sense llibertat pot convertir-se en tutela permanent. Aquest és l’equilibri difícil que travessa el debat contemporani sobre la IA.
La gran qüestió de fons és qui defineix el bé comú en l’era algorítmica. Si ho fan només les empreses, el risc és reduir-lo a rendibilitat, escala i captura de dades. Si ho fa només l’Estat, el risc és convertir-lo en planificació, censura o paternalisme. Si ho fa una conversa pública plural, amb institucions fortes, mercats oberts, ciutadania informada i límits efectius al poder, la IA pot convertir-se en una eina de progrés sense esborrar la centralitat de la persona.
Per això Magnifica humanitas resulta rellevant fins i tot per a qui no comparteix el seu marc religiós. El seu valor rau a recordar que no tot allò tècnicament possible és moralment desitjable i que no tot avenç s’ha de mesurar només en productivitat. Però la crítica de Bernaldo de Quirós també és pertinent: la defensa de la dignitat humana no es pot confiar a utopies burocràtiques ni a comissions globals desconnectades de la realitat econòmica.
La intel·ligència artificial obliga a repensar l’humanisme. No un humanisme nostàlgic, enemic de la tècnica, sinó un humanisme exigent, capaç de distingir entre eina i destí. La IA pot ajudar a diagnosticar malalties, personalitzar l’educació, reduir tràmits, millorar la productivitat, traduir llengües, ampliar capacitats creatives i democratitzar coneixements. Però també pot classificar persones, vigilar comportaments, manipular emocions, substituir deliberacions per automatismes i reforçar poders opacs.
La resposta no pot ser ni adoració tecnològica ni por paralitzant. Ha de ser una defensa adulta de la llibertat humana. La tècnica ha d’estar al servei de la persona, no absorbir-la. L’economia ha de permetre innovació, no privilegis tancats. L’Estat ha de garantir drets, no colonitzar la societat. I les empreses han de competir i respondre pels seus actes, no governar des d’infraestructures invisibles.
En última instància, el debat obert per Magnifica humanitas no tracta només d’intel·ligència artificial. Tracta de civilització. La pregunta és si la societat serà capaç d’utilitzar màquines cada vegada més potents sense empobrir la seva idea de l’ésser humà. La resposta dependrà menys dels algoritmes que de les institucions, la cultura moral i la llibertat política amb què decidim governar-los.
