Un dels reptes actuals és que molts agents d’IA no tenen la capacitat de prioritzar eficaçment. Per exemple, si un agent rep alhora dades antigues d’un arxiu i informació nova d’un correu electrònic recent, pot tractar-les amb la mateixa importància, donant lloc a conclusions equivocades. Aquesta manca de jerarquia pot ser especialment problemàtica en àmbits com la salut o el dret, on la informació actualitzada i precisa és vital. Així doncs, els agents no saben quina informació és més important, quina és rellevant pel context actual, ni tampoc quina és la més actualitzada. Segons l’estudi científic Lost in the Middle (2023), els models d’IA tenen dificultats per recuperar informació rellevant quan aquesta es troba en posicions intermèdies dins de contextos molt llargs. Això demostra que l’excés de dades no només no ajuda, sinó que pot degradar el rendiment de manera significativa, especialment si la informació clau no està estructurada o destacada de forma adequada (font). Això pot afectar la qualitat de la resposta en entorns on la precisó temporal i contextual és clau. Per aquest motiu, és fonamental fer una curació de contingut abans de proporcionar dades a un agent o model d’IA. Som els humans qui tenim el criteri per determinar què és essencial en cada cas.
Bones pràctiques per millorar agents d’IA
- Definir prioritats amb claredat: Els agents no poden deduir què és rellevant per si sols. Per exemple, en un assistent per atenció al client, cal indicar si ha de prioritzar les consultes urgents o respondre per ordre d’arribada. Sense aquesta jerarquia explícita, poden actuar de manera ineficient.
- Separar intenció i comportament operatiu: missatges com “sigues proactiu” poden ser interpretats de moltes maneres. És preferible donar indicacions específiques com ara “pots suggerir opcions de compra, però no confirmar cap comanda sense validació humana”. Això evita que l’agent prengui decisions fora del seu abast.
- Curar el context abans d’entregar-lo: reduir el volum d’informació a només allò rellevant millora l’eficiència del model. Per exemple, en lloc d’enviar tot l’historial d’un client, és millor resumir-ne els punts clau: últimes tres interaccions, estat actual del problema i dades de contacte. Això evita confusions i respostes descontextualitzades.
Aquesta aproximació reforça la importància d’una supervisió humana informada i d’una estructura programàtica per guiar els agents cap a resultats fiables.
Cap a un enfocament híbrid
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
