OpenAI, el laboratori darrere de ChatGPT, ha obert una vacant que no és comuna a Silicon Valley. Es tracta del lloc de Head of Preparedness, responsable d’anticipar i mitigar els riscos de la intel·ligència artificial avançada en múltiples fronts. Aquesta cerca pública arriba en un moment en què les converses sobre els perills socials i tècnics de la IA semblen superar les promeses d’innovació.
Un rol nascut de la tensió entre promesa i risc
La descripció oficial del càrrec defineix al Head of Preparedness com qui ha de liderar l’estratègia tècnica i executar el marc de preparació d’OpenAI. Aquest marc explica com l’empresa pretén rastrejar capacitats emergents dels seus models que podrien generar «danys greus» i com respondre a elles amb plans operatius. La persona en aquest lloc serà la responsable directa de coordinar avaluacions de capacitats, desenvolupar models d’amenaces i crear mitigacions que integrin un «pipeline» de seguretat coherent i escalable.
L’anunci va ser difós per Sam Altman, el CEO d’OpenAI, qui va descriure la feina com a “estressant” i va subratllar la urgència d’abordar riscos reals a mesura que les capacitats de la IA creixen de forma accelerada.
Més enllà de la ciberseguretat: salut mental i abús d’IA
A diferència de rols tradicionals de seguretat tecnològica, en aquesta posició no només s’analitzen fallades tècniques. L’enfocament abasta amenaces a la salut mental d’usuaris, la seguretat informàtica, l’ús maliciós d’eines basades en IA i riscos encara més amplis que podrien sorgir amb sistemes autònoms més avançats.
La publicitat del lloc menciona específicament que el candidat haurà de preparar estratègies per a escenaris difícils, des de vulnerabilitats crítiques fins a aplicacions d’IA que s’automilloren. Les primeres preocupacions públiques sobre aquests temes han recorregut titulars, com casos en què xatbots han estat implicats en crisis psicològiques d’usuaris, generant un debat sobre la responsabilitat de les companyies que despleguen aquestes tecnologies.
Un salari que reflecteix el desafiament
La compensació anunciada és significativa: aproximadament 555.000 dòlars a l’any, a més d’accions a l’empresa. Aquest paquet, superior al que molts executius de seguretat solen percebre fora del nucli de desenvolupament de producte, indica que OpenAI considera estratègic aquest lloc per al seu rumb en els pròxims anys.
Molts observadors han assenyalat que trobar el candidat adequat no serà senzill. El rol exigeix no només experiència tècnica profunda en riscos d’IA, sinó també lideratge per balancejar la pressió d’innovació ràpida amb avaluacions crítiques de seguretat —un equilibri que alguns experts comparen amb “empènyer una roca costa amunt” en un context d’incertesa constant.
On encaixa això en la història d’OpenAI
OpenAI ha canviat en un curt període de temps. L’empresa, fundada amb la missió de desenvolupar IA general segura i beneficiosa, ha enfrontat tensions internes sobre com equilibrar aquesta missió amb el ritme de llançaments de productes. Moviments recents, com reestructuracions d’equips de seguretat o la sortida d’alguns líders d’IA, han posat en evidència que els desafiaments de governança i mitigació no són trivials.
A més, la discussió sobre la necessitat de marcs de seguretat en IA ha estat present més enllà d’OpenAI, des de cartes obertes d’investigadors demanant pauses en experiments avançats fins a cims globals sobre seguretat en intel·ligència artificial.
Preparar-se per a l’inesperat
El lloc de Head of Preparedness no és un simple títol de seguretat. És una aposta per anticipar escenaris adversos abans que es materialitzin, des d’atacs cibernètics potenciats per IA fins a impactes socials complexos que no sempre es poden preveure amb models clàssics de risc.
En fer pública aquesta contractació, OpenAI posa sobre la taula la tensió inherent entre innovació i precaució. L’empresa enfronta ara el desafiament de demostrar que una estratègia preventiva pot acompanyar el desenvolupament de tecnologies cada vegada més influents en el dia a dia.
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
