El vicegerent de Transformació Digital de la Universitat Oberta de Catalunya defensa la creació d’equips especialitzats per governar la IA i evitar riscos com la “shadow AI”, una intel·ligència artificial que creix sense control dins de les organitzacions.
Ricard Gómez (Barcelona, 1970) és vicegerent de Transformació Digital de la Universitat Oberta de Catalunya (UOC), la primera universitat no presencial nascuda en l’era d’Internet, que acaba d’anunciar la creació d’un centre d’intel·ligència artificial.
Què és el centre d’IA que està creant o ha creat la UOC?
El centre d’IA ve a ser un equip d’experts, tant des del punt de vista tecnològic com des del punt de vista dels processos, que ens han d’ajudar a impulsar un programa que ja tenim en marxa, que es diu SofIA, i que promou l’adopció de la intel·ligència artificial a la UOC.
Essencialment, el que fa SofIA és establir les bases des del punt de vista ètic i de seguretat. És un programa molt multidisciplinari en què participa molta gent de l’organització de la UOC i que identifica oportunitats d’aplicació de la IA en els nostres processos, tant des de la perspectiva de la millora i l’optimització com de la seva aplicació en l’àmbit de la docència.
La qüestió és com la intel·ligència artificial es pot inserir per millorar i amplificar —o augmentar, que és el terme que s’utilitza ara— el nostre model docent. Amb aquest context, el que hem plantejat és la construcció d’un centre d’expertise o centre d’excel·lència en intel·ligència artificial per a la UOC.
L’objectiu és tenir un grup de persones, amb un nucli molt tecnològic, que conegui molt bé les eines: com funcionen, quines capacitats tenen, què poden fer i què no poden fer, què no haurien de fer, aspectes de seguretat, aspectes ètics, els models de llenguatge —els coneguts LLM—, etc. Totes aquestes eines, no necessàriament d’un únic proveïdor sinó de diversos, amb un espectre que ens resulti útil.
Volem veure com podem utilitzar tot això per millorar la prestació de la nostra docència a la UOC en diversos àmbits.
D’una banda, en l’optimització i millora de processos, és a dir, fer més eficient com fem les coses a la UOC. No es tracta necessàriament de digitalitzar el que ja existeix fent servir IA, sinó de repensar els processos utilitzant intel·ligència artificial.
Un altre àmbit és el de la recerca. L’ús d’eines d’IA pot potenciar i accelerar la capacitat dels nostres equips d’investigació.
I finalment, en el model docent. De la mateixa manera que fa trenta anys dèiem que seríem els primers a utilitzar Internet —que en aquell moment era molt incipient i limitada—, ara volem aprofitar aquesta nova tecnologia disruptiva per arribar a l’estudiant amb altres capacitats: més personalització, adaptació al seu ritme i a la seva manera d’aprendre, que són molt diverses. Fins i tot per a estudiants amb algun tipus de discapacitat obre noves possibilitats.
L’enfocament del centre d’excel·lència és dual: bottom-up i top-down.
D’una banda, recollir iniciatives de qui coneix realment els processos, treballar-les, prioritzar-les i veure si generen retorn. I de l’altra, des d’una perspectiva estratègica, identificar on són els problemes més rellevants i capturar el màxim valor possible.
Aquest valor pot ser, en alguns casos, millorar l’experiència de l’estudiant; en d’altres, millorar l’eficiència o l’escalabilitat. És a dir, amb el mateix equip poder arribar a més estudiants, d’una manera més personalitzada i amb més qualitat.
Per a això busquem persones que no necessàriament siguin tecnòlogues. Hi haurà un nucli tecnològic fort, però també necessitem perfils que coneguin bé els processos interns: la gestió acadèmica, la biblioteca o la recerca en determinats àmbits.
Aquest diàleg entre qui coneix la IA i qui coneix els processos és clau per trobar bons casos d’ús i construir un bon business case, invertint el just i assegurant que el projecte sigui eficient en costos. Aquesta universitat no disposa d’un finançament enorme, per tant ens hem de centrar en allò que realment ens doni retorn.
Amb aquest diàleg trobarem aplicacions d’intel·ligència artificial que ens permetin avançar en aquesta direcció.
La UOC és la primera universitat que fa aquest pas a Espanya?
Hi ha altres universitats que també ho estan utilitzant, en alguns casos privades. Les públiques també estan fent petits passos. Tothom està mirant cap aquí.
Ara bé, crear un equip específic tan focalitzat en intel·ligència artificial no em consta que ho estiguin fent gaires universitats. Sí que n’hi ha alguna de privada que també ho està impulsant.
Com ha estat l’acollida?
En general ha estat molt bona. Si parlo des de dins, l’equip tecnològic està entusiasmat perquè té ganes de fer coses diferents i d’impulsar una transformació important dins de la universitat.
Quan apareix una tecnologia disruptiva amb aquesta capacitat de fer coses diferents, tothom hi vol participar. Fins i tot des de l’orgull de pertinença: tornarem a ser els qui disrupcionem la universitat.
A la resta de la universitat també ha generat moltíssim interès. Hi ha persones que ja han dit que en volen formar part, professorat especialitzat que vol participar o contribuir a la part ètica.
I a fora també ha estat molt impactant la quantitat de persones que m’han escrit, que m’han demanat connexió o que volen parlar sobre com ho estem fent. Altres universitats s’han posat en contacte amb nosaltres, tant a Espanya com a Llatinoamèrica i en l’àmbit anglosaxó.
M’ha sorprès el missatge de “que valents que sou fent això”. Valents? Ens toca fer-ho. Potser hi ha un punt d’imprudència o de temeritat, però si tothom considera que és oportú i ningú s’hi atreveix, potser el risc és no fer-ho.
Existeix un risc?
Responderia amb una pregunta: quin és el risc d’intentar tenir un equip especialitzat en una tecnologia disruptiva que et permeti triar bé quins projectes abordar?
Crec que el risc és justament el contrari: no fer-ho.
Aquesta tecnologia també té el seu costat fosc. Obre la porta a nous riscos de seguretat. Quan introdueixes agents d’IA que fan determinades operacions associades a persones, si algú aconseguís controlar-los podria fer pagaments, signar documents o acceptar operacions perilloses.
Per això és important tenir un equip d’especialistes que permeti establir una governança clara d’aquesta tecnologia.
En moltes organitzacions aquesta tecnologia s’ha deixat créixer lliurement. I això pot acabar generant el que abans s’anomenava shadow IT, tecnologia a l’ombra.
Amb la IA pot passar el mateix: shadow AI, intel·ligència artificial a l’ombra, sistemes que fan coses dins de la teva organització i ni tan sols saps que existeixen.
Tenir un equip que controli això, gestioni la governança i garanteixi la seguretat és molt important. En aquest sentit, crear aquest equip és un exercici de responsabilitat i d’ordre dins de l’organització.
Aquest centre és de nova creació. Quantes persones tindrà?
Esperem que al voltant d’una desena de persones.
A temps complet?
Sí.
Quins perfils professionals tindrà?
Al nucli necessitarem professionals tecnològics: enginyers informàtics, especialistes en arquitectura, dades o seguretat.
El líder d’aquesta estructura també ha de tenir el que jo anomeno capacitat de ser el “pegament de la casa”: algú capaç de moure’s per l’organització, adaptar-se i entendre què necessita cada interlocutor.
Això no consisteix a arribar i implantar una tecnologia, sinó a preguntar: què fas?, quin procés tens?, on tens problemes?, on són els colls d’ampolla?
La tecnologia pot ajudar a resoldre això. A partir d’aquest diàleg podem trobar mecanismes de millora.
També hi haurà perfils molt diversos: persones de biblioteca, recursos d’aprenentatge o altres àrees que es formin en IA per poder mantenir aquest diàleg i trobar solucions.
La IA és una nova revolució o la continuïtat d’Internet?
La intel·ligència artificial és una eina, però una eina amb una capacitat de disrupció brutal.
La tecnologia ha evolucionat de manera contínua, però aquí hi ha un salt. Les capacitats que ofereix són tan grans que generen un esglaó en aquesta evolució.
És disruptiva, és un tsunami. Per a mi és tan important com Internet o potser fins i tot més.
Internet va trigar a democratitzar-se i a arribar a les llars. La IA, en canvi, ha entrat directament a casa nostra a través d’un simple xat amb llenguatge natural.
Abans ja existia el machine learning. Jo mateix vaig treballar en reconeixement de veu a IBM el 1996. Però llavors hi havia una barrera cultural: parlar amb màquines resultava estrany.
Avui la gent parla amb Siri o Alexa amb tota normalitat.
La gran disrupció és aquesta democratització massiva i el fet que moltes empreses ja estan construint els seus negocis sobre aquestes eines.
Si ajuntes aquesta proximitat amb el salt de capacitats, no tinc cap dubte que és una tecnologia disruptiva i que cal pujar a aquesta onada.
Vol afegir alguna cosa més sobre la IA o el centre d’IA?
Per a mi és fonamental com la utilitzarem.
Aquest agost entra en vigor el reglament europeu d’intel·ligència artificial i a la UOC tenim un compromís clar: fer un ús absolutament ètic de la IA.
Comparat amb altres organitzacions que potser no són tan estrictes, això pot semblar un fre competitiu. Hi ha coses que no podem fer, per exemple analitzar emocions d’estudiants mitjançant dades biomètriques, perquè és il·legal.
La qüestió clau és recordar que som una universitat i que utilitzarem la intel·ligència artificial per millorar l’experiència de l’estudiant i fer-la més humana.
Aquesta tecnologia ha de potenciar la nostra humanitat, no deshumanitzar-la.
