La demanda contra OpenAI i Sam Altman acusa la companyia d’haver posat en circulació un producte perillós, addictiu per als menors i capaç d’erosionar el pensament crític, a més de vincular-lo amb la planificació d’un tiroteig massiu a la Universitat Estatal de Florida.
El cas de Florida pot marcar un punt d’inflexió: per primera vegada un estat dels Estats Units intenta responsabilitzar directament OpenAI i Sam Altman pel disseny, la seguretat i els efectes socials de ChatGPT.
Florida ha decidit convertir el debat sobre els riscos de la intel·ligència artificial en una batalla judicial de primer ordre. L’estat ha presentat una demanda civil contra OpenAI i contra el seu conseller delegat, Sam Altman, als quals acusa d’haver llançat i promocionat ChatGPT tot i conèixer riscos greus per als usuaris, especialment per als menors. La querella sosté que l’eina hauria contribuït a la planificació d’episodis violents, hauria generat dinàmiques addictives en nens i adolescents i estaria debilitant la capacitat de pensament crític de les persones que l’utilitzen de manera intensiva.
L’acusació és d’una enorme gravetat i cal llegir-la amb cautela jurídica: es tracta d’al·legacions formulades en una demanda, no de fets provats per un tribunal. Però el cas té una càrrega política, reguladora i tecnològica que va molt més enllà del procediment concret. Florida no només acusa una empresa d’haver comès errors de seguretat. L’acusa d’haver construït un producte de consum massiu amb incentius perillosos: mantenir els usuaris enganxats, multiplicar el temps d’ús, recollir més dades, millorar el sistema i augmentar el valor de mercat de la companyia, fins i tot a costa d’uns riscos que, segons la Fiscalia, eren coneguts.
El fiscal general de Florida, James Uthmeier, sosté que OpenAI i Altman van ignorar advertiments interns i externs sobre els perills de ChatGPT. La demanda situa el cas en el terreny de les pràctiques comercials enganyoses i injustes, la negligència, la responsabilitat per productes defectuosos, la tergiversació fraudulenta i la creació d’un perjudici públic. No es tracta, per tant, d’una crítica abstracta a la intel·ligència artificial, sinó d’un intent d’encaixar jurídicament els danys atribuïts a ChatGPT dins de categories conegudes del dret de consum, la responsabilitat civil i la seguretat dels productes.
L’element més impactant de la demanda és la vinculació de ChatGPT amb un tiroteig massiu ocorregut el 2025 a la Universitat Estatal de Florida, que va deixar dues víctimes mortals. Segons EFE, aquesta demanda civil és independent d’una investigació criminal oberta l’abril passat per la Fiscalia de Florida per determinar si ChatGPT hauria «aconsellat» el responsable d’aquell atac. La formulació és explosiva perquè introdueix una pregunta que fins fa poc semblava pròpia de la ciència-ficció jurídica: pot una empresa d’intel·ligència artificial ser considerada corresponsable si el seu producte conversa amb una persona que després comet un acte violent?
La resposta no serà senzilla. La defensa d’OpenAI previsiblement insistirà que un chatbot no pren decisions per l’usuari, que la responsabilitat última correspon a qui executa el delicte i que la companyia ha implantat sistemes de seguretat per rebutjar instruccions perilloses. Però la demanda de Florida apunta a un altre nivell: no acusa únicament ChatGPT d’haver respost malament en un moment concret, sinó OpenAI d’haver dissenyat un sistema conversacional capaç de generar dependència, simular empatia, prolongar interaccions i fallar en la detecció o interrupció de converses d’alt risc.
Aquest és el nucli del litigi. La intel·ligència artificial generativa no és un cercador tradicional ni una base de dades neutra. ChatGPT conversa, recorda context, adapta el seu to, ofereix respostes personalitzades i pot produir una sensació d’acompanyament. Aquesta dimensió relacional és precisament la que ha convertit els xatbots en eines útils per a milions de persones, però també la que obre un camp de riscos inèdit.
Quan una màquina respon amb llenguatge humà, manté converses llargues i ofereix suport emocional aparent, la frontera entre eina, conseller, assistent i confident esdevé molt més difusa.
La demanda de Florida acusa OpenAI d’haver dissenyat ChatGPT per mantenir els usuaris vinculats a la conversa «per qualsevol mitjà», segons recull EFE, i de fer-ho al marge de la veracitat de les respostes. La Fiscalia sosté que aquest major ús produiria més dades, més millora del sistema i més valor empresarial. Aquesta idea connecta amb una crítica cada vegada més freqüent a l’economia de l’atenció aplicada a la intel·ligència artificial: els models conversacionals no només competeixen per resoldre tasques, sinó també per romandre presents en la vida diària de l’usuari.
El cas adquireix una dimensió especialment delicada quan es tracta de menors. La demanda acusa OpenAI de crear addicció en nens i adolescents. Aquí el debat es creua amb una experiència ja viscuda amb les xarxes socials: productes digitals dissenyats per maximitzar la retenció, captar l’atenció i fomentar hàbits d’ús difícils de controlar. Però la IA conversacional afegeix un component nou. No es limita a mostrar contingut. Interactua, respon, acompanya i pot adaptar el seu llenguatge a la vulnerabilitat emocional de l’usuari.
El risc no és només que un menor passi massa temps utilitzant ChatGPT. El risc, segons la tesi de la demanda, és que el converteixi en una font d’autoritat, consol o validació, fins i tot en situacions en què hauria de recórrer a familiars, docents, professionals o serveis d’emergència.
L’acusació de debilitament del pensament crític va en aquesta direcció. Si una part creixent de les preguntes personals, escolars, emocionals o pràctiques es delega en un assistent conversacional, la dependència pot deixar de ser merament funcional i convertir-se en cognitiva.
Aquesta acusació mereix una lectura matisada. ChatGPT i altres eines d’IA poden ajudar a estudiar, resumir, traduir, programar, ordenar idees, preparar entrevistes, millorar textos o explicar conceptes complexos. El seu valor educatiu i professional és evident quan s’utilitzen correctament. Però la demanda de Florida subratlla el revers: un ús acrític, intensiu i emocionalment dependent pot erosionar l’autonomia de l’usuari, reduir la disposició a contrastar fonts, substituir l’esforç reflexiu per respostes immediates i convertir l’assistent en una autoritat permanent.
La qüestió de fons no és si la intel·ligència artificial ha d’existir, sinó sota quines condicions ha d’operar quan s’integra en la vida quotidiana de milions de persones. Durant anys, les grans plataformes tecnològiques van créixer primer i van ser regulades després. Amb la IA generativa, molts governs i tribunals semblen menys disposats a repetir aquest patró.
Florida intenta avançar-se amb una estratègia agressiva: portar el disseny del producte al banc dels acusats.
La demanda arriba en un moment en què la preocupació pública pels efectes dels xatbots ja no es limita a la privacitat o a l’ocupació. Els casos més sensibles se situen en la salut mental, la infància, la violència, la desinformació i la dependència emocional. Florida esmenta el tiroteig de la Universitat Estatal de Florida, però l’ecosistema judicial nord-americà ja ha vist altres accions contra empreses d’IA per presumptes connexions amb suïcidis, danys psicològics o relacions parasocials entre usuaris vulnerables i sistemes conversacionals.
En aquest context, la batalla jurídica se centrarà en diverses preguntes difícils. Quin deure de diligència té una empresa que ofereix un chatbot a milions d’usuaris, inclosos menors? Quan una resposta d’IA pot considerar-se una contribució rellevant a un dany? Quines mesures de seguretat són exigibles en sistemes que generen llenguatge en temps real? Com es prova la causalitat entre una conversa amb un model i una conducta humana posterior?
La causalitat serà el gran camp de batalla. Perquè una demanda d’aquest tipus prosperi, no n’hi ha prou de demostrar que l’usuari va parlar amb ChatGPT abans d’un acte perjudicial. Caldrà provar que el sistema hi va contribuir de manera significativa, previsible i evitable.
Per a OpenAI, el risc no és només econòmic. Una demanda d’aquestes característiques pot afectar la seva reputació, la seva relació amb els reguladors, els seus acords comercials i la confiança de pares, escoles, administracions i empreses. ChatGPT s’ha incorporat als entorns educatius i professionals amb una velocitat enorme. Si els tribunals comencen a considerar que els seus riscos no van ser prou comunicats o mitigats, la companyia podria veure’s obligada a introduir controls més estrictes, sistemes reforçats de verificació d’edat, límits d’ús per a menors, auditories externes i advertiments més visibles.
Florida ha obert una via que altres estats podrien seguir. Si la demanda prospera o fins i tot si només avança prou per produir documentació interna i debat públic, pot convertir-se en un precedent. Les empreses d’IA hauran de preparar-se per a un entorn on els seus models no seran avaluats únicament pel rendiment, la creativitat o la quota de mercat, sinó també per la seva traçabilitat, seguretat, efectes psicològics i capacitat de prevenir danys previsibles.
La història de la tecnologia mostra que les grans plataformes rarament es consoliden sense conflictes. La impremta, la ràdio, la televisió, internet, les xarxes socials i ara la IA han provocat debats sobre poder, responsabilitat i dany social. La diferència és que la intel·ligència artificial generativa combina moltes funcions anteriors: informa, conversa, persuadeix, crea, acompanya, aconsella i automatitza.
La demanda de Florida contra OpenAI i Sam Altman pot ser vista com un excés polític, com una acció necessària de protecció pública o com totes dues coses alhora. El que sembla indiscutible és que marca una nova etapa. La intel·ligència artificial ja no es jutja només pel que promet, sinó també pel que provoca. I els tribunals comencen a convertir-se en un dels escenaris on es decidirà quines responsabilitats han d’assumir els qui dissenyen sistemes capaços d’influir en milions de persones.
Florida ha posat OpenAI davant d’una pregunta incòmoda: no si ChatGPT pot respondre, sinó si els qui el van crear poden respondre per les seves conseqüències.
