Com reaccionaries si el teu metge et digués que fa servir intel·ligència artificial? Experts han alertat dels riscos d’ús en un àmbit tan sensible com la salut, però hi ha formes de poder-la implementar de manera responsable.
Existeix la creença que demà passat els robots substituiran els cirurgians, o que la mateixa IA trobarà la cura per al càncer. No et sorprendrà saber que aquesta realitat podria estar més a prop del que pensem, tot i que hi ha qui ha aixecat alertes davant el risc de substituir un metge de carn i ossos per una IA.
Principalment, es critica la possibilitat que serveis com ChatGPT, Perplexity, DeepSeek o els xatbots tradicionals responguin a consultes mèdiques de manera errònia o imprecisa, sense considerar altres factors que sí que tenen en compte especialistes de la salut i que, per descomptat, tenen moltes menys possibilitats d’«al·lucinar».
No obstant això, hi ha formes d’avançar en la implementació d’aquesta. Per exemple, Apple està entrenant una IA per millorar la seva app «Salut», que permet als usuaris veure mètriques en temps real sobre quantitat de passos, hores de son i ingesta de calories.
També hi ha altres casos d’innovacions amb l’anàlisi d’imatges mèdiques, detecció de malalties oculars, i també l’estímul d’habilitats cognitives.
Els especialistes de la salut a Espanya ara tenen copilots.
D’una banda, hi ha aquestes eines que ajuden en el diagnòstic, però també n’hi ha d’altres que busquen millorar l’atenció d’especialistes de la salut als seus pacients. El premi Impuls de la IA en Salut dels Paréntesis MEDia Gen-AI Awards 2024, assegura que «la IA alliberarà del teclat els metges el 2025», i aquesta és la proposta d’empreses com Tandem Health.
Aquesta és una startup sueca amb gran implantació als països del nord d’Europa per una visió innovadora de l’ús de la intel·ligència artificial en la salut, i arriba a Espanya per servir com a assistent a especialistes de la salut. De la mà d’aquest programari, aposten per una experiència en la salut que permeti que els doctors puguin passar menys temps redactant historial mèdic i més preocupant-se pels pacients.
Conversem amb Jorge Pérez Hermilla, Country Manager de Tandem Health, per analitzar els beneficis, els riscos i el futur de la IA en la medicina: «No acabo de visualitzar un escenari així com molt utòpic-distòpic de màquines que es dediquen a fer-ho tot… I espero a més que no arribi: no m’agradaria que el metge, la persona, quedés desplaçada d’això».
Què és Tandem Health? Quines són les possibilitats amb aquesta eina de copilot per a metges?
Tandem Health és un copilot mèdic, el copilot mèdic líder a Europa, jo prefereixo definir-lo així una mica com a assistent mèdic: assistent de documentació. I el que fa principalment és que evita que el metge hagi de mecanografiar les històries clíniques o qualsevol mena de documentació clínica com ha hagut de fer fins ara. Llavors, Tandem escriu utilitzant intel·ligència artificial les històries clíniques, la documentació clínica per a tu. Això té beneficis fantàstics. Els metges, sobretot els més experts, els que fa molt temps que treballen, són gent que no està molt familiaritzada amb la mecanografia. Que vingui una eina d’aquest estil i que amb només un botó et permeti generar un esborrany de la història clínica, que tu si no hauries d’estar escrivint, doncs és una fantasia, clar.
L’assistent també aconsella sobre patologies o tractament?
Nosaltres no. No fem cap mena de recomanació. I això és important, no? Cal saber distingir per a quines coses funciona la intel·ligència artificial avui dia i per a quines coses no. És a dir, per fer recomanacions, nosaltres veiem que la intel·ligència artificial té certes limitacions i que, per tant, s’ha d’utilitzar amb molta més cautela.
Heu millorat econòmicament l’últim any, a què es deu aquest èxit?
Hi ha dos elements fonamentals en la nostra manera de treballar. La primera és que la nostra eina està feta per metges i per a metges. És a dir, el 80% de la nostra plantilla –excloent els desenvolupadors– som metges.
I després jo crec que hi ha un punt també en la nostra manera de fer les coses i de la nostra manera d’implementar el copilot, perquè és una mica diferent del que se sol veure en el playbook tradicional.
I llavors, per a això nosaltres tenim una mena de guia, de fer-ho acompanyant els metges, acompanyant els gestors, acompanyant tothom que vol desplegar Tandem a la seva clínica.
Ens atrevim a adaptar Tandem a qualsevol flux clínic.
Estem presents en més de 40 de les 46 especialitats MIR d’Espanya. És a dir, hem adaptat l’eina a tota mena de casos d’ús, hospitalització a domicili, cures especialistes i atenció primària.
Per què us heu fixat en Espanya?
Des del punt de vista volumètric, probablement serà el quart o cinquè país d’Europa amb més professionals sanitaris. A més, tenim una llengua que té extrapolació clara a qualsevol altra regió de la hispanosfera.
I després jo crec que n’hi ha un de més interessant encara, que ens fa diferents a altres regions europees del nord d’Europa, per exemple, que a Espanya la persona que exerceix la feina d’administratiu, de redactar la història clínica, és el mateix metge.
En altres geografies, com al nord d’Europa, sí que existeix una figura de l’administratiu clínic, del secretari mèdic, que es dedica a passar a net les anotacions o els dictats que fa un metge en acabar la consulta amb el pacient. Això en altres països no passa, però a Espanya sí. Llavors veiem que hi ha un valor absolut, fenomenal, que es pot proveir als metges espanyols.
Quina és la postura dels metges a l’hora d’adoptar aquesta tecnologia?
Per naturalesa la medicina és conservadora i té sentit que ho sigui, eh? Jo no tinc cap mena d’impugnació sobre això. Doncs això, d’una banda, però després sí que veiem moltes vegades entusiasme. Veiem molts metges, sobretot els més ancians, que diuen “ostres, és que això m’ajudarà moltíssim”.
T’explico un cas també aquí a Suècia: un metge, jo crec que el nostre usuari més longeu –crec que té més de 80 anys– i tenia pensat jubilar-se aquest any i em va dir, “No. Postergaré dos o tres anys més la meva jubilació perquè ara no he de mecanografiar”.
O sigui, a aquest nivell de transformació arriba aquesta tecnologia. Llavors, sí, ens trobem metges que, com amb qualsevol tecnologia, qualsevol medicament, volen comprovar que tingui un bagatge darrere, una evidència darrere; i després, d’altra banda, aquests metges que també tenen molt entusiasme, perquè veuen que això és el futur, perquè veuen que això és el present i perquè veuen que els atallarà problemes reals, tangibles, que pateixen cada dia.
Una cosa és que els doctors tinguin confiança en un assistent d’intel·ligència artificial, però una altra cosa és que els pacients tinguin confiança en doctors que usin intel·ligència artificial. Com s’aborda això?
Doncs el primer, amb transparència. Jo crec que sempre es tracta d’això. Doncs és a dir, nosaltres recomanem moltes vegades, per exemple, que es posi a la sala d’espera, quan s’utilitza Tandem, que es posi a la sala d’espera un petit fullet informatiu que expliqui el que fem, que expliqui, que permeti també al mateix pacient, escanejar-lo i informar-se fins i tot més, i després recollir consentiment.
El benefici per al pacient és que el metge es pot bolcar exclusivament, en donar-te atenció i assistència a tu com a pacient.
És a dir, el metge ja no estarà, doncs, separat per una pantalla de tu. Es girarà, et parlarà, i això és, en última instància, el que jo crec que dona més confiança al pacient i el que li fa confiar en aquesta tecnologia i el que fa que al final estigui molt content. El benefici no és només per al metge, és també per al pacient.
Com s’aborda l’ètica, l’ús ètic de la intel·ligència artificial en l’àrea de la salut?
Clar, perquè des del punt de vista d’ètica, jo crec que és una mica el que dèiem: La transparència sempre per davant. Tandem està construït d’una manera molt robusta perquè els impactes que puguin ser conseqüència d’un mal ús de l’eina o d’un problema amb l’eina siguin els menors possibles.
Imaginem-nos un sistema, potser, de diagnòstic, d’intentar substituir un metge. Això sí que pot tenir conseqüències catastròfiques.
Des del punt de vista també de la privacitat i de la protecció de dades, cal obtenir totes les certificacions vigents. És a dir, la certificació ISO 27001, que obliga a informar com s’han de tractar aquestes dades.
Per exemple, nosaltres no emmagatzemem en cap arxiu d’àudio, sinó que fem la transcripció en directe i un cop que està finalitzada la transcripció, ja no hi ha ningú que tingui accés a cap mena d’enregistrament, perquè aquests arxius d’àudio s’han eliminat.
Avui en dia hi ha gent que reemplaça els professionals de la salut per IA, què et sembla això? què feu vosaltres des de Tandem?
Això passava ja fins i tot abans de l’aparició dels LLMs. Quan tu estàs buscant alguna cosa que no saps, no saps si el que et diuen és cert o no. El problema és que en aquest tipus de situacions el dipòsit de responsabilitat o on recau la responsabilitat no queda clar. És a dir, jo com a pacient acudeixo a Google i a Google trobo alguna cosa que em guia erròniament. Jo no soc capaç de jutjar si és erroni o correcte, però no puc responsabilitzar l’altra banda.
I el mateix amb els LLMs. Jo com a pacient vaig allà, el LLM pot al·lucinar o pot explicar-me alguna cosa que no sigui precisa o pot ser que no m’estigui fent les preguntes que hauria de fer-me per poder donar-me una recomanació, però jo no soc capaç de jutjar si això està bé o no.
I aquest és l’avantatge principal del metge. El metge sí que sap quines preguntes fer-te, i, en última instància, sí que es responsabilitza de la recomanació que t’hagi donat, amb la qual cosa hi ha aquest incentiu a què estigui millorant contínuament i a minimitzar els errors.
Llavors aquí és on Tandem se centra molt més, de dir, ei, aquesta part que realment no és tan mèdica, com podem ajudar? Doncs així. I després el metge sempre ha d’estar allà, supervisant, modificant-lo, adaptant-lo al seu propi estil i donant-li l’última verificació.
Parlem de ciència-ficció, com t’imagines la salut del futur amb la IA?
Jo espero que l’ésser humà continuï jugant un rol fonamental i espero que es pugui continuar progressant i augmentant la productivitat dels metges o dels professionals sanitaris. I com més puguem empoderar aquests metges i els professionals sanitaris amb eines de la IA com la nostra, crec que ens anirà millor i que ens podrà ajudar a abordar i a atallar tota la problemàtica que tenim avui.
Com ho visualitzo una mica més concret? Doncs, visualitzo un pacient que entra en una consulta, que porta en el seu mòbil una app a la qual ja li ha dit «dono tots els meus permisos per protecció de dades». Entra allà i el metge està amb ell, està parlant amb aquest pacient i poden tenir una conversa amistosa, poden tenir una conversa fins i tot que abordi temes que no siguin estrictament mèdics.
Un cop que acabi aquesta conversa… El metge, doncs, té també certes recomanacions per part d’una intel·ligència artificial, recomanacions ancorades en l’evidència científica demostrable, i el metge compta amb tot el rang d’opcions que això li permeti, fins i tot també comunicar-se amb altres metges en directe per ajudar-lo per prendre la millor de les decisions i el pacient senti que ha rebut el millor tracte disponible.
No acabo de visualitzar un escenari així com molt utòpic-distòpic de màquines que es dediquen a fer-nos tot, no? I espero a més que no arribi: no m’agradaria que el metge, la persona, quedés desplaçada per això.
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
