El xatbot Grok, desenvolupat per l’empresa xAI d’Elon Musk i integrat en la xarxa social X, acaba de tancar la porta a una de les seves funcions més populars. Des d’aquesta setmana, només els usuaris que paguen per una subscripció poden generar o editar imatges mitjançant la intel·ligència artificial de l’assistent. Una decisió sobtada, presa després de dies de controvèrsia internacional.
Una eina que va desbordar el seu marc
Fins ara, qualsevol persona amb compte a X podia demanar a Grok que generés o modifiqués imatges. El sistema tenia límits diaris, però no exigia pagament. Les peticions es feien des de la mateixa interfície de la xarxa social, en un moviment que buscava fer de Grok un assistent visible, àgil i accessible. La idea va funcionar, milions d’usuaris van començar a utilitzar la funció visual com a part del flux quotidià de la plataforma.
No obstant això, el volum de sol·licituds va donar pas al descontrol. La facilitat amb què es podia demanar una imatge —i la potència del model per generar-la— van convertir Grok en una via ràpida per produir contingut sexualitzat, falsos nus i muntatges que vulneraven la imatge de persones reals. Algunes peticions arribaven a demanar «sang» o «somriures forçats» en retrats manipulats. L’escalada va ser ràpida, i no va passar desapercebuda.
Reaccions des de fora (i des de dins)
Governs europeus i asiàtics van començar a reaccionar. Al Regne Unit, l’executiu va titllar la situació d’«insultant» i va exigir mesures immediates. Indonèsia va anar més lluny, va prohibir Grok per generar deepfakes sexuals que afectaven dones i menors. Mentrestant, la Comissió Europea va exigir a X preservar dades internes com a part d’una investigació en curs sobre el seu sistema de moderació.
En aquest context, la resposta de Musk va ser limitar l’ús de l’eina visual a aquells que paguen per utilitzar Grok a X. En pràctica, això significa que només els subscriptors de la xarxa social poden generar imatges des del bot de conversa. Aquells que no paguen reben un avís: la funció està «limitada temporalment».
La mesura divideix: control o negoci
La decisió no ha calmat els ànims. Diverses organitzacions i portaveus oficials acusen X d’haver convertit un problema d’integritat en una oportunitat de negoci. «No és una solució, és un peatge», va assenyalar un representant del govern britànic. El problema, als ulls de molts, no està en qui accedeix, sinó en com es permet que la tecnologia generi certs continguts. A això s’afegeix el fet rellevant que, encara que X ha limitat l’ús a la seva plataforma, la versió web i l’app independent de Grok continuen permetent la generació d’imatges sense cost. És a dir, el bloqueig no és tècnic ni global, sinó un tancament parcial centrat en la xarxa social.
El focus es desplaça cap al disseny
Més enllà de la polèmica sobre el model de negoci, la qüestió clau continua sent de disseny. Organismes europeus i experts en regulació digital apunten a la necessitat de sistemes que previnguin, des de l’origen, la generació de continguts lesius o no consensuats. I assenyalen que no n’hi ha prou amb posar una subscripció com a filtre. En paral·lel, augmenta la pressió sobre les botigues d’aplicacions i les plataformes que allotgen aquest tipus d’eines. Si no es garanteix un ús segur, algunes agències reguladores estudien demanar la retirada d’aquestes apps.
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
