El projecte de llei no només adapta Espanya a l’AI Act europeu: crea un marc nacional de governança, exigeix un inventari dels sistemes d’IA en procediments administratius, introdueix la figura del delegat d’IA i converteix el sandbox regulador en una peça estable per innovar sota control.
El Govern ha aprovat el projecte de Llei Orgànica per al bon ús i la governança de la intel·ligència artificial, una norma cridada a convertir-se en la gran peça espanyola d’adaptació al Reglament Europeu d’IA. El text, que serà remès al Congrés dels Diputats, pretén ordenar com es supervisa la IA a Espanya, quines autoritats seran competents, quins usos estaran prohibits, com es sancionaran les infraccions i quines garanties hauran de complir les administracions quan utilitzin sistemes algorítmics en procediments administratius.
La llei arriba en un moment decisiu. La intel·ligència artificial ja no és una promesa de laboratori ni una eina marginal de productivitat. Està entrant als serveis públics, a les empreses, als recursos humans, a l’educació, a la sanitat, a la justícia, a la seguretat, als mitjans de comunicació, a la publicitat, a la banca, a les plataformes digitals i a l’administració electrònica. El debat, per tant, ha canviat. Ja no n’hi ha prou amb proclamar una IA ètica o confiar en declaracions voluntàries de les empreses. La pregunta és qui vigila, qui respon, quins sistemes s’utilitzen, quins riscos generen i quins mecanismes té la ciutadania per saber si una decisió pública ha estat assistida o condicionada per intel·ligència artificial.
El Ministeri per a la Transformació Digital i de la Funció Pública presenta la norma com un instrument per combinar regulació i innovació. Segons la nota oficial, el projecte adapta l’ordenament jurídic espanyol al Reglament europeu d’Intel·ligència Artificial, en vigor des de l’agost de 2024, i introdueix mecanismes per garantir supervisió humana i ús confiable de la IA. El ministre Óscar López va defensar que Espanya aspira a ser referent en la construcció d’una IA “confiable, ètica i humanista”, i va sostenir que regulació i innovació no competeixen, sinó que es poden reforçar mútuament.
La frase política és rellevant perquè resumeix l’ambició del projecte. Espanya no vol aparèixer com un país que frena l’adopció tecnològica, però tampoc com un mercat obert a l’experimentació sense garanties. La llei intenta ocupar aquest espai intermedi: permetre que proveïdors, empreses i administracions desenvolupin intel·ligència artificial, però dins d’un marc de transparència, supervisió, responsabilitat i control institucional.
L’AI Act europeu és el punt de partida. La Comissió Europea defineix aquest reglament com un marc basat en riscos: els usos de risc inacceptable queden prohibits, els sistemes d’alt risc queden sotmesos a obligacions estrictes i altres usos han de complir requisits de transparència. El reglament va entrar en vigor l’1 d’agost de 2024, les prohibicions i obligacions d’alfabetització en IA van començar a aplicar-se el 2 de febrer de 2025, les normes per als models d’ús general van començar el 2 d’agost de 2025 i el desplegament complet es produirà per fases fins al 2027.
La novetat espanyola no està només en traslladar aquest calendari a la legislació nacional. El més important és que el projecte crea una estructura institucional pròpia. La norma designa autoritats notificants i autoritats de vigilància del mercat encarregades de supervisar el compliment. Els productes ja sotmesos a regulació sectorial —maquinària, joguines, vehicles o productes sanitaris— mantindran les seves autoritats corresponents. En canvi, els sistemes no regulats per legislació de producte, com els vinculats a l’ocupació, la biometria o l’educació, s’atribueixen principalment a l’Agència Espanyola de Supervisió de la Intel·ligència Artificial, l’Agència Espanyola de Protecció de Dades i el Consell General del Poder Judicial, segons l’àmbit supervisat.
Aquesta arquitectura és important perquè la IA no és un sector únic. No es supervisa igual una joguina amb IA que anima un menor a fer reptes perillosos, un sistema biomètric, un algoritme de selecció laboral, una eina de suport judicial, un producte sanitari amb aprenentatge automàtic o una aplicació d’atenció ciutadana. La governança eficaç haurà de ser distribuïda, però coordinada. Per això el projecte preveu un punt de contacte únic a través de l’AESIA i mecanismes reforçats de col·laboració entre autoritats.
L’Agència Espanyola de Supervisió de la Intel·ligència Artificial queda així al centre del nou model. El seu repte serà enorme. Supervisar IA no consisteix a revisar un formulari ni a certificar un programa tancat. Exigeix entendre models, dades, entrenament, biaixos, documentació tècnica, riscos d’ús, traçabilitat, ciberseguretat, transparència, impacte sobre drets fonamentals i canvis posteriors al desplegament. L’AESIA haurà de combinar coneixement jurídic, capacitat tècnica i autoritat institucional.
Un dels aspectes més rellevants del projecte és l’inventari de sistemes d’IA utilitzats en procediments administratius. Aquesta mesura no procedeix directament de l’adaptació del Reglament europeu, sinó que respon a una demanda sorgida durant el procés d’audiència pública. La llei preveu que el sector públic estatal hagi de crear un inventari no només dels sistemes d’alt risc, sinó dels sistemes d’IA utilitzats en procediments administratius, reforçant així la transparència.
Aquest inventari pot convertir-se en una eina democràtica de primer ordre. L’administració ja utilitza o pot utilitzar IA per tramitar sol·licituds, classificar expedients, detectar frau, assignar recursos, prioritzar inspeccions, traduir documents, atendre consultes, analitzar dades o donar suport a decisions. Si la ciutadania no sap que un sistema automatitzat intervé en un procediment, difícilment podrà comprendre, impugnar o qüestionar el procés. Inventariar els sistemes és el primer pas per treure’ls de l’ombra.
La mesura té, a més, una càrrega política evident. Al sector privat, l’ús d’IA pot afectar consumidors, treballadors o usuaris. Al sector públic, pot afectar drets, prestacions, permisos, sancions, ajudes, beques, expedients, inspeccions o decisions administratives. L’asimetria de poder és molt més gran. Per això l’administració hauria d’estar sotmesa a un estàndard de transparència especialment alt.
El projecte introdueix també la figura del delegat d’IA. La seva funció serà coordinar l’aplicació normativa i assessorar en projectes i contractació pública. Tant l’inventari com aquesta figura s’hauran de desenvolupar per Reial decret. A més, la norma preveu formació i sensibilització dels empleats públics en intel·ligència artificial.
El delegat d’IA pot ser una peça decisiva si no queda reduït a un càrrec formal. Les administracions necessitaran perfils capaços d’avaluar riscos abans de comprar o desenvolupar sistemes, revisar clàusules de contractació pública, coordinar-se amb protecció de dades, assegurar supervisió humana, documentar usos, detectar biaixos, exigir explicabilitat i activar canals de correcció.
La supervisió humana és un altre eix central. El ministre Óscar López va subratllar que la norma imposa supervisió humana en casos que puguin afectar drets fonamentals, promou la transparència algorítmica i inclou mesures específiques per protegir menors. La idea connecta amb l’article 14 de l’AI Act, que exigeix que els sistemes d’alt risc es dissenyin de manera que puguin ser supervisats eficaçment per persones durant el seu ús.
Però la supervisió humana no s’ha de confondre amb una validació decorativa. No serveix de gaire que una persona premi “acceptar” al final d’un procediment si no entén el sistema, no el pot qüestionar o no disposa d’informació suficient. La supervisió real exigeix capacitat d’intervenció, formació, documentació, traçabilitat i autoritat per corregir o aturar el sistema.
La llei també incorpora un règim sancionador. Les infraccions es classificaran com a molt greus, greus i lleus. Les sancions podran arribar fins als 35 milions d’euros o el 7% del volum de negoci en els casos més greus, i fins als 500.000 euros o el 0,5% del volum de negoci en les infraccions més lleus. El text incorpora criteris de proporcionalitat, gravetat, intencionalitat, reincidència, correcció primerenca i consideració específica de la dimensió empresarial per protegir pimes i startups.
Els usos prohibits ocupen el bloc més sensible del projecte. El Reglament europeu ja prohibeix pràctiques considerades de risc inacceptable. La nota del Ministeri menciona exemples concrets: sistemes que utilitzen tècniques subliminals per manipular decisions sense consentiment i causar perjudici considerable; sistemes que exploten vulnerabilitats relacionades amb l’edat, la discapacitat o la situació socioeconòmica; sistemes que classifiquen biomètricament persones per raça o orientació política, religiosa o sexual; i sistemes de puntuació social que penalitzen individus o grups per comportaments socials o trets personals.
El projecte incorpora també la prohibició dels deepfakes sexuals. Segons la nota oficial, Espanya va impulsar a la Unió Europea la incorporació de dos nous sistemes prohibits, després de la polèmica generada per nus femenins i de menors creats amb Grok, l’assistent virtual d’X. La mesura busca prohibir a tot el territori comunitari la introducció al mercat, posada en servei i ús de sistemes d’IA que generin deepfakes sexuals.
La inclusió dels deepfakes sexuals té una importància social enorme. La creació d’imatges íntimes falses sense consentiment s’ha convertit en una forma de violència digital especialment nociva. Pot afectar menors, dones, persones exposades públicament o qualsevol ciutadà la imatge del qual sigui manipulada. El dany no depèn que la imatge sigui “real” en sentit físic, sinó de la seva difusió, de la humiliació, del xantatge i de la pèrdua de control sobre la pròpia identitat.
El segon gran bloc de la llei és el sandbox d’IA. Espanya ja s’havia avançat a l’AI Act amb un entorn controlat de proves. El projecte ara determina com articular la governança dels entorns de prova i les mesures facilitadores a escala nacional. Reconeix la necessitat de fomentar la innovació en entorns controlats i incorpora l’espai controlat de proves de creació obligatòria pel Reglament europeu, que serà operat per l’AESIA.
Aquest punt és clau per no convertir la regulació en un obstacle cec. Moltes empreses, especialment pimes i startups, necessiten saber com complir obligacions tècniques i jurídiques sense bloquejar el seu desenvolupament. Un sandbox pot permetre provar sistemes, documentar riscos, avaluar requisits, rebre orientació i adaptar productes abans de la seva comercialització.
El projecte espanyol arriba en un moment de forta tensió europea. La Comissió Europea ha insistit a mantenir el calendari d’aplicació de l’AI Act malgrat les pressions empresarials per ajornar-lo. Espanya, amb l’AESIA, el sandbox, ALIA, les fàbriques d’IA de la UE i diversos projectes d’infraestructura, vol presentar-se com un laboratori d’aquesta tercera via: ni desregulació absoluta ni prohibicionisme, sinó innovació sotmesa a garanties.
La conclusió és clara: el projecte de llei espanyol marca el pas de l’ètica declarativa a la governança concreta. Ja no es tracta només de dir que la IA ha de ser confiable, humanista o garantista. Es tracta de crear autoritats, inventaris, delegats, sandboxes, sancions, prohibicions i procediments. Aquest és el canvi de fase.
Si la llei s’aplica amb ambició, Espanya pot construir una administració més transparent i un mercat d’IA més segur. Si es queda en formalismes, inventaris incomplets i supervisió dèbil, la tecnologia avançarà per davant de les garanties. La diferència estarà en l’execució: recursos, talent, independència, coordinació i voluntat real d’exigir responsabilitats.
La IA ja està entrant en decisions que afecten persones. La llei pretén recordar una cosa bàsica: quan una màquina classifica, recomana, prioritza o genera contingut amb impacte social, la responsabilitat humana no desapareix. Al contrari, esdevé més necessària. El futur de la IA confiable no dependrà només de models millors, sinó d’institucions capaces de mirar aquests models de cara i posar-hi límits quan calgui.
