La ignorància més algoritmes ens fa manipulables
Durant els últims quinze dies he tingut l’oportunitat de reflexionar sobre el trinomi ignorància, manipulació i algoritmes. Ho he fet en dues sessions: la primera, centrada en els problemes d’un sistema educatiu que no s’ajusta a les exigències d’una societat del coneixement, en un diàleg amb el Dr. Gregorio Luri organitzat per l’associació El País de Demà; la segona, sobre els riscos de l’ús excessiu de les xarxes socials i de les dades que aportem en navegar per internet, analitzats per Jordi Amat, Laura G. de la Ribera i Cristina Monge a la jornada anual del Cercle d’Economia.
Pel que fa a la missió del sistema educatiu, caldria assumir que és vèncer la ignorància entesa com la manca de coneixement, ja que sense coneixement no podem afrontar els reptes quotidians ni assolir l’autonomia necessària per al progrés personal i professional dins la societat i la família. Sense una bona formació no som capaços d’analitzar la realitat, ni d’entendre les informacions, ni d’extreure coneixement de les dades. Aquests tres factors ens porten a no comprendre fenòmens complexos, a acceptar discursos simplistes o emocionals sense qüestionar-los, o a moure’ns dins creences preconcebudes. Una formació que no allunyi la ignorància afebleix la nostra autonomia i permet que altres, aprofitant les nostres febleses cognitives, defineixin la nostra percepció de la realitat i marquin les nostres accions i el nostre futur.
En aquest marc de potencial vulnerabilitat, sorgeix la qüestió del paper de les xarxes socials, els motors de cerca i les plataformes digitals. Mitjançant els seus algoritmes d’IA, que s’han convertit en la nostra font bàsica d’informació, amplien la nostra susceptibilitat a la manipulació: recopilen les nostres dades per predir el nostre comportament —amb fins comercials o polítics— i ens mostren continguts, siguin veritables, falsos o sensacionalistes, afins a les nostres creences. Això limita l’exposició a perspectives diverses i redueix la capacitat de reflexionar profundament, afavorint reaccions impulsives.
És en aquest escenari on la manca de coneixement i de pensament crític, combinada amb el poder dels algoritmes d’IA (les «cambres d’eco»), pot conduir-nos a una manipulació sistèmica mitjançant campanyes de desinformació. Les persones acaben prenent decisions sense una anàlisi racional: la ignorància ens afebleix i els algoritmes en potencien la feblesa.
Per combatre aquesta problemàtica i reduir l’impacte pervers del binomi ignorància-algoritmes cal una educació àmplia i rigorosa que fomenti el pensament crític per enfortir l’autonomia mental: identificar biaixos, verificar fonts i contrastar informacions. També exigeix autocontrol per reduir el temps a les xarxes socials, diversificar les fonts informatives i implementar solucions col·lectives que regulin la IA. A més, cal alfabetitzar digitalment tant els menors, a les escoles, com els adults amb plans de formació continuada per detectar fake news, deepfakes i biaixos algorítmics.
En definitiva, es tracta de substituir el binomi pervers ignorància-algoritmes pel virtuós coneixement-algoritmes, de manera que la IA esdevingui un autèntic impuls per al benestar col·lectiu.
