El pròxim 31 de juliol, el British Standards Institution (BSI) llançarà el primer estàndard internacional per auditar sistemes d’intel·ligència artificial (IA), amb l’objectiu de regular un mercat emergent que l’organisme descriu com un “salvatge oest” de proveïdors desregulats. El nou marc busca garantir que els processos d’auditoria d’IA, emprats en tecnologies tan crítiques com vehicles autònoms o diagnòstics mèdics, siguin fiables, justos, rigorosos i independents.
Fins ara, existeixen “centenars” de grups que ofereixen serveis d’auditoria d’IA, molts d’ells desenvolupadors i auditors al mateix temps, situació que genera seriosos dubtes sobre la seva imparcialitat i profunditat. El segell del BSI aspira a distingir a qui realment compleix mètodes robustos d’avaluació enfront de qui ofereix revisions superficials centrades únicament en aspectes legals aïllats, sense una anàlisi integral del sistema.
Aquest estàndard apareix en un context de creixent preocupació corporativa i reguladora pels potencials riscos de la IA. Les empreses busquen assessorament no només per evitar danys reputacionals, sinó també per adequar-se al nou Reglament Europeu d’IA («EU AI Act») i altres normes emergents. Segons xifres del mercat britànic, el sector de l’auditoria d’IA supera actualment els 1.000 milions de lliures en valor, amb firmes especialitzades que competeixen contra gegants com les “Big Four”.
Mark Thirlwell, director global digital del BSI, adverteix sobre la disparitat entre proveïdors: alguns amb prou feines donen “consells lleugers”, mentre que altres es limiten a verificar un sol aspecte legal. El nou estàndard aportarà coherència, consistència i solidesa, i facilitarà a inversors, reguladors i clients identificar auditories fiables.
El sector especialitzat ha acollit bé aquest impuls. Philip Dawson, d’Armilla AI —una firma dedicada a la certificació d’IA— va destacar que l’estàndard eleva el nivell de l’ecosistema en clarificar quines entitats estan realment capacitades per certificar conforme a normes ISO. Inioluwa Deborah Raji, investigadora de UC Berkeley, puntualitza que la majoria d’auditories actuals es basen en estàndards propietaris sense mecanismes externs de verificació sobre la seva qualitat o inclusivitat.
El nou estàndard BSI és oportú: en un entorn on les regulacions demanen transparència, responsabilitat ètica i detecció de biaixos i fallades operacionals, les empreses requereixen validacions creïbles. El mercat d’auditoria d’IA, encara jove, necessita urgentment una governança sòlida. El segell del BSI permetrà separar actors rigorosos d’aquells l’oferta dels quals es limita a una revisió superficial, impulsant una innovació d’IA responsable i confiable.
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
