OpenAI ha redissenyat com respon ChatGPT en converses sensibles, com les que toquen salut mental, violència o pèrdua. Ho ha fet amb un nou enfocament que combina supervisió humana, aprenentatges automàtics i protocols de seguretat. L’aposta és que el model no només entengui el que se li diu, sinó que sàpiga com respondre amb cura, sense perdre utilitat.
Un model que escolta diferent
Des de principis d’any, OpenAI ha estat entrenant versions de ChatGPT amb models que reconeixen millor el to, la intenció i el contingut emocional de les preguntes. El canvi no es limita a afinar paraules, busca que les respostes siguin més empàtiques i segures, especialment quan algú menciona, per exemple, que se sent sol o en perill. El redisseny va començar amb proves en converses sobre salut mental. Es van analitzar patrons d’ús reals (de forma anònima i sota control ètic) per detectar quan una resposta podia resultar freda, evasiva o fins i tot contraproduent. A partir d’aquí, es van entrenar nous comportaments amb ajuda de professionals i supervisors humans.
OpenAI va col·laborar amb més de 170 experts en salut mental en aquest redisseny. Segons la seva avaluació, el nou model va assolir una taxa de compliment del 92% davant del 27% del model anterior (d’agost de 2025) en respondre en més de mil converses desafiants.
Què busca i què evita ara ChatGPT
L’objectiu no és que ChatGPT actuï com a terapeuta ni substitueixi el suport professional. El que sí que pretén és identificar senyals de malestar, evitar respostes que puguin agreujar la situació i oferir recursos útils, com línies d’ajuda. El nou model també evita desviar la conversa de forma automàtica o donar respostes neutres quan no és l’adequat. Per exemple, abans podia respondre amb un simple “Lamento sentir això” davant mencions de dol o ansietat. Ara, intenta contextualitzar millor, mostrar comprensió i oferir opcions concretes, sense caure en dramatismes ni paternalismes.
Segons dades d’OpenAI, les respostes que no complien amb els estàndards desitjats es van reduir entre un 65 i 80% després de l’actualització. A més, s’estima que només el 0,07% dels usuaris actius en una setmana mencionen possibles signes d’emergència relacionats amb psicosi o mania, generalment en un únic missatge.
Dades delicades, decisions curoses
OpenAI assegura que no utilitza les converses individuals per entrenar els seus models sense permís de l’usuari. Tot i això, les millores s’han basat en exemples supervisats i avaluacions ètiques, amb especial cura en els temes on hi ha més risc. No es tracta només d’evitar errors, sinó d’entendre que algunes respostes poden tenir conseqüències reals.
La companyia també ha reforçat els sistemes de seguretat que detecten situacions d’emergència. Si algú menciona idees suïcides, per exemple, el model pot activar respostes específiques i guiar cap a ajuda especialitzada. A més, s’han afegit recordatoris perquè l’usuari prengui descansos després de sessions prolongades.
El dilema de cuidar sense vigilar
Un dels reptes és mantenir l’equilibri entre ajuda i privacitat. ChatGPT no ha de convertir-se en un sistema de monitoratge emocional ni intervenir de forma intrusiva. Per això, les respostes estan dissenyades per ser útils sense donar per fet l’estat emocional de l’usuari, i sense emmagatzemar informació delicada. El sistema tampoc actua com si sabés més del que sap, evita donar diagnòstics o consells mèdics, i redirigeix cap a professionals quan és necessari. En paraules d’OpenAI, es tracta de “respondre amb cura, no d’assumir el rol d’expert”.
Un mirall en constant ajust
Les millores ja estan actives en la versió gratuïta i Plus de ChatGPT, i continuaran afinant-se amb més proves. El que està en joc no és només la precisió d’una IA, sinó la seva capacitat de respondre amb humanitat simulada quan més es necessita. OpenAI reconeix que es tracta de situacions de molt baixa prevalença, on fins i tot petits canvis en els criteris d’avaluació poden alterar significativament els resultats. Per això, el sistema segueix sota revisió i ajustos constants, amb participació d’experts i noves mètriques de seguiment.
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
