La Intel·ligència Artificial (IA) està transformant la manera com les empreses interpreten imatges, des del diagnòstic mèdic fins a la moderació de continguts. Un classificador no només ha de ser exacte; també ha de ser percebut com a just. La justícia contrafactual pregunta si la decisió canviaria en modificar un atribut sensible, mentre que l'equitat grupal compara mètriques de rendiment entre categories demogràfiques. Totes dues perspectives són fonamentals per construir sistemes d'IA responsables, però la seva relació en el món visual continua sent un repte obert.
A Q2BSTUDIO, empresa de desenvolupament de programari i tecnologia, observem que les organitzacions necessiten traduir aquests principis en pràctiques operatives. Un sistema amb biaix pot danyar la marca, generar exclusions i provocar incompliments normatius. Per això, en crear programari a mida, incorporem avaluacions d'equitat des de l'etapa de disseny, abans d'escalar a entorns productius. La pregunta no és únicament si el model encerta, sinó si encerta de manera consistent per a totes les persones.
La dificultat d'avaluar la justícia contrafactual en imatges rau en el fet que no sempre és possible obtenir una foto real de la mateixa persona amb un atribut sensible modificat. Per exemple, capturar la mateixa identitat amb característiques sexuals secundàries diferents és complicat. Per resoldre-ho, es construeixen datasets sintètics amb editors d'alta qualitat i anotadors humans. Aquestes eines generen versions alternatives de cada imatge, cosa que permet mesurar si el classificador manté la decisió davant d'un canvi contrafactual.
La justícia contrafactual se centra en la causalitat: si canviem un atribut sensible i mantenim la resta constant, la predicció no hauria de variar. L'equitat grupal, en canvi, se centra en la distribució: les taxes d'error, precisió o selecció haurien de ser similars entre grups. Aquesta distinció és crucial perquè un sistema pot complir una sense complir l'altra. En taules de dades, els factors de confusió són més fàcils de controlar; en imatges, la informació visual és densa i conté molts senyals indirectes.
L'evidència empírica mostra que, en dades tabulars, assolir la justícia contrafactual tendeix a afavorir l'equitat grupal. Però en classificació d'imatges la relació s'inverteix: un model pot ser contrafactualment just i, alhora, incórrer en desigualtats grupals. La causa és l'existència d'atributs latents que correlacionen amb l'atribut sensible, però no són causats per ell. Per exemple, si en modificar el gènere també canvia la longitud del cabell a les dades, el model pot fer servir el cabell com a pista indirecta per prendre decisions discriminatòries.
Per construir datasets d'avaluació contrafactual es parteix d'imatges reals i s'hi apliquen transformacions realistes. El procés inclou control de qualitat humà per garantir que l'edició no introdueixi artefactes artificials. Un cop validats, aquests conjunts permeten comparar la predicció original amb la modificada. Si el classificador canvia la seva sortida després de la modificació, hi ha evidència que la decisió depèn de l'atribut sensible o de les seves correlacions.
Aquest fenomen té implicacions pràctiques. Una empresa pot validar internament que el seu model és just des d'una perspectiva contrafactual, però fallar davant d'un client o un regulador que analitza mètriques grupals. Els equips de tecnologia necessiten solucions que redueixin la dependència d'aquests atributs no causals. Una proposta és la destil·lació de coneixement contrafactual, una tècnica que transfereix el comportament d'un professor just a un estudiant, ensenyant-li a ignorar correlacions espúries. Aquest enfocament no només millora l'equitat, sinó que també obliga el sistema a aprendre representacions més sòlides i generalitzables.
En la destil·lació de coneixement contrafactual, un model professor entrenat per ser just des del punt de vista contrafactual guia un estudiant. L'estudiant aprèn a partir de les prediccions del professor i de la pèrdua estàndard de classificació. D'aquesta manera, el sistema final no té accés directe a atributs problemàtics i es veu forçat a trobar característiques invariants. Aquest procediment redueix la influència de l'atribut latent G i ajuda que la justícia contrafactual es tradueixi en equitat grupal.
En la pràctica, integrar aquestes tècniques en un producte requereix combinar IA, MLOps i una infraestructura adequada. Q2BSTUDIO acompanya els seus clients en el desenvolupament de solucions completes: programari a mida, desplegament en cloud AWS/Azure, auditories de ciberseguretat sobre els pipelines de dades i quadres de comandament en BI/Power BI per monitoritzar l'equitat de manera contínua. L'avantatge de comptar amb un proveïdor integral és que l'equitat deixa de ser una anàlisi puntual i es converteix en un procés de millora contínua.
També fem servir agents d'IA que actuen com a assistents d'auditoria per revisar volums d'imatges i alertar sobre possibles desviacions en la distribució d'atributs protegits. Combinats amb un entorn cloud AWS/Azure, permeten executar proves massives sense alentir el desenvolupament. Amb Power BI, els resultats es presenten en panells executius, on el comitè d'ètica o el consell directiu pot prendre decisions informades.
La intersecció entre justícia contrafactual i equitat grupal és especialment rellevant per a sectors com el financer, sanitari o assegurador, on les decisions automatitzades tenen conseqüències directes en la vida de les persones. Un prestador que fa servir models de visió per validar documents ha d'assegurar-se que els seus algorismes no discriminen per raó de gènere o origen ètnic. Una asseguradora que analitza fotografies de vehicles necessita saber si els seus sistemes apliquen criteris idèntics a perfils diversos. En tots aquests casos, la combinació de mètriques contrafactuals i grupals ofereix una visió més completa del risc ètic.
A més, la relació amb el núvol i l'analítica és clau. Emmagatzemar i processar datasets d'imatges en cloud AWS/Azure permet escalar les avaluacions d'equitat a milions d'exemples. Amb BI/Power BI, els responsables de producte poden visualitzar el rendiment del model per segment demogràfic i detectar tendències problemàtiques abans que afectin els usuaris. La ciberseguretat també hi intervé: les dades biomètriques i les imatges personals són informació sensible que exigeix xifratge, control d'accés i traçabilitat. La maduresa tecnològica d'una empresa no es mesura només per la seva precisió, sinó per la seva capacitat d'operar amb integritat.
En conclusió, la justícia contrafactual i l'equitat grupal no són conceptes intercanviables. En l'àmbit dels classificadors d'imatges, s'han d'avaluar conjuntament i amb eines específiques que considerin la complexitat de les dades visuals. Els avenços en edició d'imatges i destil·lació de coneixement ofereixen un camí prometedor per conciliar totes dues mètriques. Per a una empresa de desenvolupament de programari i tecnologia, l'oportunitat és convertir aquests avenços en solucions comercials que generin confiança. A Q2BSTUDIO treballem perquè cada client no només disposi de models precisos, sinó de sistemes d'IA transparents, alineats amb el seu propòsit i amb les expectatives de la societat.
