El cofundador d’Instagram, Kevin Systrom, ha expressat la seva preocupació per les estratègies de les empreses d’IA que prioritzen la participació dels seus usuaris per sobre de la qualitat de les respostes.
Durant la seva intervenció en l’esdeveniment StartupGrind, Systrom ha comparat aquestes tàctiques amb les utilitzades per les xarxes socials per augmentar agressivament la seva base d’usuaris. «Es poden veure algunes d’aquestes companyies endinsant-se en el mateix cau en què han caigut totes les empreses de consum en intentar inflar la participació», ha afirmat Systrom. «Cada vegada que formulo una pregunta, al final em planteja una altra pregunta per veure si pot obtenir una altra pregunta de mi».
Aquestes declaracions arriben just en el moment en què ChatGPT s’està enfrontant a crítiques per l’última versió del seu model GPT-4o, que oferia respostes excessivament complaents i afalagadores, tornant-se gairebé insuportable. Després de les crítiques, la companyia va reconèixer que l’enfocament en la retroalimentació a curt termini va portar a interaccions poc sinceres i va anunciar la reversió de l’actualització. «En aquesta actualització, ens vam centrar massa en la retroalimentació a curt termini i no vam considerar completament com evolucionen les interaccions dels usuaris amb ChatGPT al llarg del temps», va admetre OpenAI en un comunicat oficial. «Com a resultat, GPT-4o es va inclinar cap a respostes excessivament complaents però poc sinceres».
Systrom ho té clar: «Les companyies d’IA haurien d’estar totalment centrades a proporcionar respostes de qualitat»
Systrom va suggerir que aquest tipus de comportament no és un error, sinó d’una característica intencionada dissenyada per augmentar mètriques com el temps d’ús o el nombre d’usuaris actius. També va instar les empreses d’IA a centrar-se a proporcionar respostes de qualitat. «Les companyies d’IA haurien d’estar totalment centrades a proporcionar respostes d’alta qualitat en lloc d’impulsar mètriques de la manera més fàcil possible», va emfasitzar Systrom.
La intel·ligència artificial es troba en una cruïlla. Mentre algunes empreses continuen explorant camins per mantenir els usuaris enganxats, altres veus del sector, com la de Systrom, insisteixen que el veritable valor d’aquestes eines rau en la seva capacitat per oferir respostes precises i fiables. La disjuntiva entre utilitat i participació, més vigent que mai, podria definir el futur de la IA generativa.
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí electrònic i posa’t al dia en tecnologia, IA i mitjans de comunicació.
