L'equitat algorítmica s'ha convertit en un pilar estratègic en el desenvolupament de la intel·ligència artificial. Les organitzacions que despleguen models automatitzats han d'assegurar-se que les seves decisions no perpetuen biaixos històrics. Dues nocions són fonamentals en aquest debat: l'equitat contrafactual (CF) i l'equitat grupal (GF). La primera analitza si la predicció canviaria en modificar un atribut sensible, com el gènere o l'ètnia, mantenint intactes la resta de variables. La segona exigeix que els resultats siguin comparables entre grups protegits. La seva relació no sempre és evident, especialment quan treballem amb dades complexes com les imatges.
En entorns tabulars, molts estudis van observar que els models contrafactualment justos també solien complir l'equitat grupal. Aquesta aparent equivalència simplificava les auditories, perquè n'hi havia prou amb comprovar una sola mètrica. Tanmateix, aquesta conclusió no es trasllada directament a la classificació d'imatges. La diferència clau és l'existència d'atributs latents no etiquetats que estan correlacionats amb l'atribut sensible sense ser causats per ell. Per exemple, en una fotografia, la presència de certs trets pot estar fortament associada a l'edat o al gènere, encara que no existeixi una relació causal directa. Aquesta variable latent, anomenem-la G, funciona com una drecera que el model pot explotar.
Quan un classificador utilitza G com a proxy, pot aprovar una avaluació contrafactual i, alhora, fallar en equitat grupal. Des de la perspectiva contrafactual, el model no fa servir explícitament l'atribut sensible, per tant una intervenció sobre aquest atribut no alteraria la predicció. Però des de la perspectiva grupal, l'ús de G provoca que els resultats no siguin equivalents entre col·lectius, perquè la distribució de G difereix entre ells. Aquest desajust explica per què en dominis visuals la implicació CF->GF deixa de complir-se. No es tracta d'una anomalia estadística, sinó d'un problema estructural lligat a com aprenen els models.
Aquesta distinció té implicacions directes per a les empreses. Un sistema d'IA utilitzat en selecció de personal, accés al crèdit o diagnòstic sanitari ha de ser just en tots els sentits rellevants. Confiar únicament en l'equitat contrafactual pot generar una falsa sensació de seguretat. Per això, en el desenvolupament d'aplicacions a mida amb intel·ligència artificial, és imprescindible incloure un conjunt ampli de mètriques d'equitat, així com proves amb dades reals i diverses. Les organitzacions que ignoren aquesta complexitat assumeixen un risc reputacional i legal significatiu.
Avaluar l'equitat contrafactual en imatges és especialment difícil perquè no solem disposar de la mateixa persona amb diferents atributs sensibles. Per resoldre-ho, els equips de recerca estan utilitzant editors d'imatges basats en IA per generar contrafactuals realistes. Aquestes imatges han de ser validades per anotadors humans per garantir-ne la plausibilitat. Combinant aquestes dades sintètiques amb els conjunts clàssics d'equitat grupal, s'obtenen entorns d'avaluació dual. Aquesta metodologia permet mesurar les dues nocions sobre el mateix classificador i observar-ne les discrepàncies.
A més de generar contrafactuals, és fonamental documentar el procés d'edició i els criteris d'anotació. Sense aquesta documentació, els resultats no són reproduïbles i qualsevol auditoria perd valor. Una bona pràctica és emmagatzemar les imatges originals, les editades i les etiquetes humanes en un repositori versionat. D'aquesta manera, els equips de dades poden revisar la qualitat en qualsevol moment i reutilitzar el mateix corpus per a diferents experiments. Aquesta disciplina també facilita la traçabilitat quan s'utilitza cloud per escalar el procés.
L'elecció de la mètrica principal no és neutral. Depèn del sector, del marc regulador i del risc associat a cada decisió. En contextos de contractació, la igualtat d'oportunitats pot ser més rellevant que la paritat demogràfica. En serveis financers, la paritat predictiva sol ser un punt de partida. En l'àmbit sanitari, l'equitat contrafactual aporta informació valuosa sobre la resposta individual al tractament. Per tant, qualsevol solució d'IA ha de permetre configurar i monitoritzar diferents indicadors d'equitat sense friccions. Aquesta flexibilitat és una característica que les empreses han d'exigir als seus proveïdors tecnològics.
Un sistema d'avaluació robust hauria de combinar diverses mètriques: paritat demogràfica, igualtat d'oportunitats, paritat predictiva i equitat contrafactual. Cap d'elles no és suficient per si sola. Per exemple, un model pot complir la paritat demogràfica però cometre errors molt diferents entre grups. En el cas de les dades visuals, a més, cal controlar la qualitat de les imatges contrafactuals; si l'edició introdueix artefactes irreals, els resultats seran enganyosos. La supervisió humana i una bona documentació de les dades són inseparables d'una avaluació justa.
Per mitigar el problema, una alternativa pràctica és la destil·lació de coneixement contrafactual, coneguda com a CKD. Consisteix a entrenar un model mestre a partir de parells d'imatges contrafactuals i després transferir el seu coneixement a un model estudiant. L'objectiu és reduir la dependència de la variable latent G, sense perdre capacitat predictiva. Els experiments recents indiquen que, quan un model redueix aquesta dependència, l'equitat contrafactual i l'equitat grupal tendeixen a convergir. CKD no és una solució universal, però demostra que el disseny de l'entrenament pot corregir desajustos entre nocions d'equitat.
A Q2BSTUDIO, empresa de desenvolupament de programari i tecnologia, tractem l'equitat com un requisit d'enginyeria. Ajudem les organitzacions a integrar IA responsable en els seus processos mitjançant serveis com intel·ligència artificial i cloud AWS o Azure. Les nostres solucions també abasten aplicacions a mida, agents IA, quadres de comandament amb BI/Power BI i ciberseguretat. Creiem que l'equitat ha de ser present en totes les fases: des de la definició del problema fins al monitoratge posterior al desplegament. La tecnologia justa no és un extra, sinó una condició de qualitat.
La infraestructura també és un factor determinant. Disposar de plataformes cloud ben configurades permet executar experiments contrafactuals a gran escala, emmagatzemar versions de les dades i mantenir traçabilitat en les auditories. Els quadres de comandament amb BI/Power BI són útils per visualitzar les mètriques d'equitat al llarg del temps i detectar derives. La ciberseguretat, per la seva banda, garanteix que la informació sensible dels grups protegits no sigui objecte d'usos indeguts. En definitiva, l'equitat requereix un ecosistema tècnic complet, no només una funció de pèrdua.
La pregunta inicial no té una resposta universal. Si els classificadors contrafactualment justos compleixen l'equitat grupal depèn del domini, de la qualitat de les dades i de l'arquitectura del model. La bona notícia és que podem dissenyar solucions que alineïn les dues nocions, sempre que avaluem amb mètriques complementàries i reduïm la dependència d'atributs latents. A Q2BSTUDIO acompanyem les empreses en aquest camí, combinant coneixement tècnic, visió de negoci i responsabilitat ètica. Perquè l'equitat no és un concepte abstracte: es demostra amb dades, processos i resultats mesurables.
