En l’entorn actual de la intel·ligència artificial aplicada a sectors crítics com la salut, la fabricació o la logística, la transparència dels models predictius s’ha convertit en un requisit ineludible. No n’hi ha prou que un sistema d’IA ofereixi bones mètriques de precisió; cal que les seves decisions puguin ser compreses i, sobretot, justificades. És aquí on les explicacions contrafactuals prenen protagonisme: permeten entendre quins petits canvis en les dades d’entrada modificarien la predicció del model, oferint una via intuitiva per validar-ne el comportament. No obstant, quan treballem amb sèries temporals –seqüències de valors ordenats en el temps– la generació d’aquests contrafactuals topa amb un problema fonamental: les modificacions s’apliquen sobre punts individuals o finestres de temps, cosa que sovint resulta en mutacions difícils d’interpretar per un expert humà.
Per superar aquesta limitació, un grup d’investigadors ha proposat ConceptCF, un mètode que opera sobre conceptes humans interpretables extrets de la mateixa sèrie temporal. En lloc de retocar valors solts, ConceptCF descompon el senyal en components semànticament significatius, com l’escala, la freqüència o la tendència. D’aquesta manera, l’explicació contrafactual s’expressa en termes com “augmentar l’escala del moviment” o “reduir la component d’alta freqüència”, un llenguatge molt més proper al de l’analista. L’algorisme subjacent utilitza un enfocament evolutiu, concretament un algorisme genètic, per buscar les combinacions de modificacions conceptuals que minimitzen la distància al punt de decisió desitjat, mantenint la versemblança i la proximitat a la dada original. Les avaluacions realitzades davant de cinc mètodes competidors mostren que ConceptCF assoleix o supera l’estat de l’art en mètriques clau com validesa, confiança, proximitat, esparsitat i plausibilitat.
Aquest avenç té implicacions directes en la pràctica empresarial. Quan una empresa desplega models d’IA per a tasques com el manteniment predictiu de maquinària, la detecció de fraus en transaccions financeres o la monitorització de pacients a l’UCI, la capacitat de generar explicacions basades en conceptes facilita l’auditoria dels models, la depuració de biaixos i la comunicació amb parts interessades no tècniques. A més, s’integra de forma natural amb sistemes de Business Intelligence, ja que els contrafactuals conceptuals poden representar-se com a dashboards visuals que mostren “què passaria si” modifiquéssim una variable conceptual determinada.
Per a una empresa com Q2BSTUDIO, especialitzada en el desenvolupament d’aplicacions a mida, la incorporació de tècniques com ConceptCF en els seus projectes d’intel·ligència artificial representa un valor diferencial. En construir solucions de programari personalitzades per a cada client, és possible dissenyar mòduls d’explicabilitat que s’adaptin al domini específic del negoci, ja sigui mitjançant la descomposició de sèries temporals o mitjançant la integració d’algorismes genètics personalitzats. El nostre equip d’enginyers treballa habitualment amb arquitectures cloud tant a AWS com a Azure, cosa que permet escalar aquests processos de cerca contrafactual fins i tot sobre grans volums de dades històriques. Si la vostra organització cerca millorar la transparència dels seus models predictius, podeu contactar-nos per explorar com aplicar aquestes idees en el vostre programari a mida.
La ciberseguretat és un altre àmbit on aquest enfocament resulta prometedor. Els sistemes de detecció d’intrusions basats en sèries temporals de trànsit de xarxa poden beneficiar-se d’explicacions contrafactuals que indiquin, per exemple, “si es redueix la taxa de paquets sospitosos en un 10%, l’alerta deixaria d’activar-se”. En operar sobre conceptes, l’explicació resulta més robusta davant d’atacs d’evasió que manipulen punts individuals. Q2BSTUDIO ofereix serveis de ciberseguretat i pentesting que inclouen la validació de models d’IA, assegurant que les decisions no es basen en correlacions espùries sinó en relacions causals genuïnes. Així mateix, l’automatització de processos mitjançant agents IA s’enriqueix amb aquestes capacitats explicatives, ja que els sistemes autònoms poden reportar els seus raonaments en termes comprensibles per als supervisors humans.
Des del punt de vista tècnic, la descomposició de sèries temporals en conceptes com escala i bandes de freqüència no és trivial. Existeixen múltiples tècniques (descomposició estacional, transformada wavelet, anàlisi espectral) i l’elecció depèn del domini. ConceptCF ofereix un marc flexible que pot adaptar-se a diferents tipus de senyal. En la pràctica, les empreses que implementen solucions de BI i Power BI poden connectar aquests resultats a panells interactius on els usuaris explorin escenaris contrafactuals sense necessitat de coneixements avançats de programació. Q2BSTUDIO desenvolupa integracions a mida que connecten els outputs de models d’IA amb eines de visualització, facilitant l’adopció per part d’equips de negoci.
Un aspecte crític és la mesura de la qualitat de les explicacions. Les mètriques utilitzades en l’estudi –validesa (que el contrafactual realment canviï la predicció), confiança (del model en la nova predicció), proximitat (proximitat a l’original), esparsitat (nombre de conceptes modificats) i plausibilitat (realisme de la dada generada)– són essencials per garantir que les explicacions siguin útils. En projectes d’aplicació a mida, aquestes mètriques han de ser calibrades amb el client, ja que l’equilibri entre esparsitat i plausibilitat pot variar segons el context. Per exemple, en un entorn clínic, una modificació que afecti un únic concepte (com la freqüència cardíaca) pot ser més acceptable que en un entorn financer on es requereix modificar diversos indicadors simultàniament.
Q2BSTUDIO ha incorporat aquests principis en la seva metodologia de desenvolupament. En construir solucions cloud-native a AWS o Azure, els equips poden desplegar pipelines de generació contrafactual com a microserveis, exposant APIs REST que els sistemes de BI consumeixen. Això permet actualitzar els models i les seves explicacions de forma contínua, mantenint la traçabilitat. A més, la naturalesa evolutiva de l’algorisme genètic encaixa perfectament amb arquitectures serverless, on es poden llançar múltiples generacions de cerca en paral·lel sense gairebé cost d’infraestructura.
En conclusió, ConceptCF representa un pas endavant cap a una IA més explicable i fiable, especialment en l’àmbit de les sèries temporals. Les empreses que desitgin adoptar aquest tipus de tecnologia necessiten un soci tecnològic que entengui tant els fonaments algorítmics com les necessitats del negoci. A Q2BSTUDIO combinem experiència en intel·ligència artificial, desenvolupament d’aplicacions a mida, ciberseguretat, cloud computing i Business Intelligence per oferir solucions completes. Convidem els lectors a explorar com la generació de contrafactuals basats en conceptes pot transformar la manera en què els seus equips confien i actuen sobre les dades.
